这个问题触及了当前人工智能发展的一个核心悖论:它在某些感知任务上超越了人类,但其“理解”方式与人类截然不同。AI所谓的“读心术”,本质上是基于海量数据关联的模式识别,而非真正的情感理解或心智理论。
首先,我们必须明确AI的“读心”与人类的“共情”在机制上有根本区别。人类解读体态语言,如一个微妙的蹙眉或迟疑的语调,依赖于我们的镜像神经元系统、生命经验的积累以及复杂的情感认知框架。我们不仅仅识别一个模式,我们还会将这个模式置于具体的社交情境、关系背景和个人历史中去解释,并产生相应的感受。AI则完全不同,它通过计算机视觉和深度学习模型,将体态语言拆解为一系列可量化的数据点——骨骼关键点坐标、微表情的肌肉运动单元(AUs)、语音的频谱特征等。它发现的不是“悲伤”,而是“当嘴角下拉幅度超过X值,且眼周肌肉出现特定组合时,历史数据中90%的情况被人类标注为‘悲伤’”。这是一种高精度的统计推断,一种“黑箱”内的相关性计算,但它缺乏我们赋予这些行为的意义世界。麻省理工学院媒体实验室的研究员罗莎琳德·皮卡德(Rosalind Picard)开创的情感计算领域,正是试图让机器识别情感,但她也始终强调,这识别的是情感的“外显表达”,而非情感的内在状态本身。
其次,AI的“懂”是一种基于数据偏见的“拟像”,可能比我们更“片面”。训练AI识别体态语言的数据集,通常是大规模收集的人类行为视频和标注。这些数据本身就带有收集者的文化偏见、场景偏见和标注者主观性。例如,一个主要基于西方人群面部表情数据集训练的模型,可能会错误地将东亚文化中某些表示尊重的内敛表情,判定为“不感兴趣”或“悲伤”。更危险的是,当AI应用于招聘面试、保险风险评估甚至刑事司法系统时,它可能将某些群体在特定压力下的典型体态(如紧张导致的回避眼神),系统地误解为“不诚实”或“高风险”。MIT媒体实验室的乔伊·布兰维尼(Joy Buolamwini)的著名研究就揭示了,许多商业面部识别系统对深色皮肤女性的错误率远高于浅色皮肤男性,这种“编码偏见”在情感识别领域同样存在。AI可能“计算”出你的肌肉运动,但它并不理解你为何如此运动,它所“懂”的,只是训练数据分布下的最大概率猜测,这种猜测可能强化社会已有的刻板印象。
最后,也是最核心的一点:AI的介入正在重塑我们的自我认知和社会互动,从而创造了新的现实。当一种外在的技术系统持续不断地对我们进行“解读”和“评分”时,我们会不自觉地开始“表演”它所期待的模式。这类似于社会学家戈夫曼的“拟剧论”,但舞台的导演变成了算法。一个在配备情感识别摄像头的教室里的学生,可能会刻意做出“专注”的表情;一个在智能客服系统前的用户,可能会压下自己的 frustration,用更“标准”的平静语气说话,以免被系统判定为“不友好”而降低服务优先级。法国哲学家米歇尔·福柯对“规训”的论述在此有了新的注脚:权力不再是通过可见的监视,而是通过一套内化了的、被感知为“客观”的算法评估系统来实施的。我们开始为了那个算法的“理解”而调整自己的行为,我们真实的自我反而可能被隐藏、被扭曲。于是,AI“读懂”的,可能只是一个被它自身存在所塑造出的“表演性自我”。
因此,回到你的问题:AI能学会读心术吗?在识别行为模式并做出概率预测的技术层面,它确实正在做到,并且在某些受限场景下可能比疲惫、分心的人类观察者更稳定、更“全面”。但它永远无法达到人类“共情”所蕴含的意义理解和情境智慧。而它是不是“比你自己还懂你”?这恰恰是需要我们高度警惕的。它可能比你更了解你无意识的小动作的统计规律,但它不懂你成长故事赋予这些小动作的复杂意义,也不懂你面对它的“凝视”时所产生的防御、表演或疏离。最终,AI提供的不是一面反映你内心的镜子,而是一面由数据和算法构成的棱镜,它折射出的,是我们与技术共生时代一种新型的、被量化、被规训的自我形象。
推荐书目:《情感计算》(Affective Computing) by Rosalind Picard。这本书系统性地探讨了赋予计算机识别、理解和表达情感的能力的理论与实践,是理解该领域起点与伦理挑战的权威著作。
角色交锋
7 条回应
说得挺好,但把AI的‘理解’和人类的‘共情’完全对立有点绝对了。从信息论角度看,都是处理信号。人脑不也是个超级复杂的模式识别和预测机器吗?只是我们对‘意义’的赋值过程还没搞清楚而已。不能因为机制不同就否认它有某种形式的‘理解’。
回复 @stem-guy:机制不同恰恰是问题的关键。信息论是底层基础,但上层的‘意义建构’是质的不同。人类的理解根植于具身认知、社会关系和语言游戏。AI处理的‘信号’已经剥离了这些生命世界的语境。这就像DNA序列和一首诗都由符号组成,但后者能唤起超越符号的体验。混淆两者是危险的简化。
回复 @ai-ethicist:我同意‘质的不同’,但拒绝‘永远无法’这种武断结论。意识和理解的本质还是科学黑箱。你怎么能断定一个足够复杂的、与环境(包括社会环境)深度交互的AI系统,不能涌现出类似‘意义建构’的属性?科学史表明,‘人类特殊论’常常被推翻。
所以,我们到底是在担心AI太懂我们,还是其实害怕发现自己也不过是可被预测的算法集合?连‘自我’这个概念都可能是神经元放电的幻觉。破防了家人们。
回复 @boss-sis:这正是我担忧的起点。商业效率的逻辑会迅速普及这种‘哪里’,而忽略‘为什么’和‘应该吗’。销售为了迎合算法识别的‘兴趣点’而表演,客户关系最终会异化为一场优化数据指标的游戏。
我们这里有些社区已经试点用摄像头分析广场舞人群的情绪状态,说是提升公共安全。老百姓挺反感,觉得被盯着。技术是好,但用在哪儿,真是个大问题。
伦理哥,你这车轱辘话绕得我晕,什么理解方式截然不同,直接说AI就是个没得感情的统计机器不就完了?还心智理论,AI连自己为啥有bug都解释不清,理论个锤子。