最近，我去了纽约市的公共图书馆，这是我最喜欢的地方之一，能看到查尔斯达尔文（Charles Darwin）的数百封原始信件、著作和沉思录。这位著名的英国科学家喜欢写作，他的好奇心和观察能力跃然纸上。
除了提出进化论，达尔文还研究了人和动物的表情和情感。他在写作中讨论了情感的科学性、普遍性和可预测性，并用夸张的表情勾勒出了人物形象，这些都能在图书馆看到。
这个话题引发了我的思考。
最近，当每个人都对 ChatGPT、通用人工智能和机器人取代人类工作的未来感到愤怒时，我注意到监管机构一直在加大对人工智能和情绪识别的警告力度。
情绪识别，指的是通过对视频、面部图像或录音的人工智能分析来识别一个人的感受或精神状态。
这个想法并不复杂。例如，人工智能模型可能会分辨出咧开的嘴、眯起的眼睛、后仰的头和收缩的脸颊，并将这些表情和动作识别为大笑，从而得出受试者是快乐的的结论。
但在实践中，情绪识别会变得非常复杂。有人认为，这是人工智能经常产生所谓的“伪科学”例子，危险且具有侵入性。
某些隐私和人权倡导机构，如欧洲的 European Digital Rights and Access Now，呼吁全面禁止情绪识别技术。
虽然欧洲议会在 2023 年 6 月批准的欧盟人工智能法案（EU AI Act）并不是一项全面禁令，但它禁止在警务、边境管理、工作场所和学校中使用情绪识别。
与此同时，一些美国立法者也已经瞄准了这一特定领域，因为它似乎是最有可能落实的人工智能监管措施之一。
美国参议员罗恩怀登（Ron Wyden）是领导相关监管工作的议员之一，他最近赞扬了欧盟应对这一问题的能力，并警告说，“你的面部表情、眼球运动、语调和走路方式都可以被用来判断你是谁，或者你未来会做什么，这是很可怕的。尽管如此，仍有数百万美元正被投入到基于‘虚伪科学’的情绪检测人工智能技术的开发之中。”
但为什么这是最令人担忧的问题？对情绪识别的恐惧有多少充分的依据？在这个领域的严格监管真的会损害积极的创新吗？
少数几家公司已经在销售这项技术，用途多种多样，尽管它尚未广泛部署。例如，Affectiva 一直在探索如何使用分析人们面部表情的人工智能技术来确定汽车司机是否疲劳，并评估人们对电影预告片的反应。
其他公司如 HireVue，则将情感识别作为筛选最有潜力的求职者的一种方式，尽管这种方法面临诸多非议。
美国华盛顿智库信息技术与创新基金会副主席丹尼尔卡斯特罗（Daniel Castro）在电子邮件中告诉我：“我大体上赞同允许私营公司开发这项技术。它有一些重要的应用，比如让盲人或视力较弱的人更好地理解周围人的情绪。”
但这项技术的其他应用更令人担忧。几家公司正在向执法部门出售软件，用于确定是否有人在撒谎，或者标记可疑行为。
（来源：AI 生成）
由欧盟赞助的一个名为 iBorderCtrl 的试点项目使用了一种情绪识别技术，作为其管理边境口岸的多种技术的一部分。其网站描述称，这套自动欺骗检测系统（Automatic Deception Detection System）可以“通过分析目标的非语言微动作，来量化其欺骗海关官员的可能性”。不过，它也承认“其效果存在科学争议”。
此外，中国也在尝试部署情绪识别技术。比如，一些学校尝试用该技术来衡量学生的理解力和表现。
总部位于比利时布鲁塞尔的欧洲数字权利组织的高级政策顾问埃拉雅库博斯卡（Ella Jakubowska）告诉我，她还没有听说情绪识别“有任何可信的用例，除了用来监控目标” 。
更重要的是，有证据表明情绪识别模型并不准确。情绪是复杂的，就连人类都可能无法准确识别他人情绪。
得益于有了更多更好的数据以及计算能力的提高，该技术在近年来有所改进，但不同系统之间的准确性差异很大，这取决于系统的目标是什么，以及系统所用的数据质量。
卡斯特罗告诉我：“这项技术并不完美，尽管这可能与计算机视觉的局限性无关，更多的是因为人类的情绪复杂，取决于文化和背景，而且本身也不精确。”
这让我联想到达尔文。这个领域存在本质上的矛盾，即科学是否能够准确地定义情绪。随着情绪科学的不断进步，我们可能会看到情绪计算的进步，也可能不会。
这有点像人工智能现在的状态。这项技术正处于一个被极度炒作的时期，它可以让世界变得更可知，以及让人类想法更加能够被预测。
或许正如人工智能专家梅雷迪思布鲁萨德（Meredith Broussard）所问的那样：一切都能提炼为一道数学题吗？
作者简介：泰特瑞安莫斯利（Tate Ryan-Mosley）是《麻省理工技术评论》的高级技术政策记者。在从事新闻工作之前，她是大公司新兴技术战略的顾问。2012 年，她曾是凯洛格国际研究所的研究员，专门研究冲突和战后发展。
支持：Ren
