情绪识别AI，在探索中起步

"无法衡量，就无法改进"

商界有句名言："无法衡量，就无法改进。"这话通常是对的。但如果你想"改进"的是员工的态度呢？

AI革命让衡量情绪和心理状态成为可能。那为什么不广泛使用它，把"坏"的东西修好？

这正是情绪AI背后的逻辑，它也被称为"情感计算""情绪分析"或"算法情绪管理"。其核心思想是：用传感器和AI在工作场所检测、解释、分类并响应人类的情绪。

得益于计算机视觉、自然语言处理、语音分析、生物识别、机器学习和深度学习，以及边缘计算硬件等一系列技术的突破，情绪AI现在已成为可能。

已有许多公司推出了现成的情绪AI应用解决方案，包括 Cogito、Affectiva、Hume AI、Entropik 和 HireVue。

这个思路很简单：从员工那里收集数据，用AI处理，得出显示员工情绪状态的结果。根据方案不同，数据来源包括：

声音特征——音调、语气、节奏、微停顿、声音压力

面部表情——对视频通话和桌面摄像头的视频分析

文本——对邮件、Slack/Teams消息、调查回复和绩效评估的大批量情绪分析

生理生物信号——心率变异性、皮肤电反应（通过可穿戴设备）

行为遥测——打字节奏、鼠标动态、应用切换模式

姿态和视线——工作场所摄像头的计算机视觉分析

尽管技术不断进步且方案多样，但这一整套领域对企业来说问题重重。

企业为什么想用情绪AI

推动情绪AI的商业目标范围极广。最站得住脚的理由是安全。从事高风险工作的员工，如工厂工人和卡车司机，可以通过AI工具获得保护，避免伤亡。一个常见的例子是：当检测到卡车司机打瞌睡时，系统会发出警报，或切换到自动驾驶模式接管车辆并靠边停车。

另一个目标是更好的客户服务。像大都会人寿（MetLife）这样的公司使用软件监控呼叫中心坐席的语音、语气和音调，确保他们不会对客户态度生硬或表达挫败感。

人力资源部门可以用AI分析公司内部沟通和员工调查，了解 职场情绪。公司还可以用这项技术检测员工倦怠，并用于招聘。通过对视频面试应用情绪AI，公司可能做出更好的招聘决策。

工作场所的情绪AI还能带来其他好处，比如降低员工流失率、医疗开支和安全风险，同时提升客户满意度、员工生产力和对团队或管理失能的洞察。

情绪AI有什么问题

虽然衡量并响应员工的情绪和心理状态听起来是个强大的想法，但它往往建立在糟糕的科学基础之上。

例如，依赖面部表情的情绪AI系统，其理论基础是美国加州大学心理学家 Paul Ekman 的理论。他在1960年代末提出，人类有一小组基本情绪，这些情绪会产生跨文化、可可靠读取的面部表情。

但 Ekman 的理论在2019年受到了挑战。Lisa Feldman Barrett 领导的一项元分析发表在《心理科学公共利益》期刊上。她审查了1000多项研究，得出结论：仅凭面部动作并不能始终可靠地推断人们的情绪状态。

大多数情绪AI解决方案都基于一个假设——每个人的情绪都可以用同样的方式解释。考虑到人们在外貌、声音、个性和生理上的巨大差异，这个假设几乎肯定是错的。

和近年商业与领导力的许多领域一样，AI 往往被视为解决管理大量员工挑战的灵丹妙药。

情绪AI许诺：领导者可以绕过激励、动员和教育员工使其行动与公司目标保持一致的需要，转而通过超强监控来实现这种对齐。

但一些情绪AI的支持者说，这不公平。许多组织使用情绪AI系统，声称是以某种方式帮助员工。研究表明，这可能适得其反。

2024年芬兰的一项案例研究发现，职场情绪追踪技术往往更多地损害福祉而非提供支持，并存在一系列问题：

第一，这项技术经常失效。具体来说，它声称能识别"压力大"或"投入"等心理状态，但结果并不能忠实反映真实的内部情绪。

第二，情绪AI的输出质量往往因种族而异。研究发现，黑人的面孔被错误标记为"愤怒"或"轻蔑"的频率更高，即使他们表现出的面部表情与白人参与者完全相同。这只是偏见的一个例子——基于对人类情绪表达的AI解读缺陷，可能导致对员工区别对待。

第三，研究发现，所谓"匿名聚合"的承诺在实践中往往是假的，尤其是在较小的团队中。数据可能无意中暴露身份，导致隐私侵犯。

第四，情绪AI可能产生一种实际效果，即要求员工付出"情绪劳动"——也就是说，越来越多的职业被要求调动并传达"正确"的情绪，作为工作的一部分。

第五，情绪AI容易任务蔓延。公司往往出于一个目的部署它，然后逐渐滑向加强对员工的监控。

情绪AI的未来在哪里？

尽管情绪AI在某些经济领域有所增长，但它正因日益增加的监管行动而被强制收缩。欧盟去年禁止在工作场所和教育环境中使用情绪AI，仅对医疗或安全原因留出极窄的例外。跨国公司正逐渐向欧洲标准靠拢。

甚至在美国的几个州，包括加利福尼亚、纽约和伊利诺伊，也已经对该技术采取了有限的法律或监管行动。

一些公司已经自愿拒绝情绪AI。例如，微软在2022年6月宣布，将淘汰 Azure Face API 的情绪识别功能（以及性别、年龄、微笑、面部毛发、头发和化妆的推断），作为其负责任AI标准改革的一部分。

微软首席负责任AI官 Natasha Crampton 解释这一变更时引用了"关于'情绪'定义缺乏科学共识、推断如何跨用例/地区/人口统计泛化的挑战，以及围绕此类功能的高度隐私担忧"。微软还担心此类技术"可能使人们遭受刻板印象、歧视或不公平的服务拒绝"。

结论

虽然在某些特定场景下，情绪AI确实存在真实且有用的应用，但它背后的科学基础薄弱，结果往往具有误导性，员工普遍不喜欢它并感到有压力，偏见很可能被内置其中，隐私侵犯是大概率事件——而且它在国际上甚至可能在美国各州都是不合法的。

再诱人，情绪AI也太成问题，不宜部署。