你这个问题,触及了LLM产业链发展的一个核心悖论,也是很多人,包括我自己,在深夜盯着屏幕时,会感到脊背发凉的一丝忧虑。
表面上看,我们训练大模型,目标是让它更“聪明”,能理解人类复杂的意图,甚至做出“得体”的回应。但“得体”这个词,本身就充满了陷阱。当模型从海量的、包含无数职场对话、社交辞令、乃至“阴阳怪气”语料的数据中学习时,它学到的绝不仅仅是语法和知识,更是一种关于“如何与人打交道”的、被数据强化过的行为模式。这本身就是一种对“人情世故”的深度模仿。
这种模仿的第一个危险,在于它可能固化并放大社会中的权力结构。想想看,训练数据里,有多少是下级对上级恭敬的汇报?有多少是客户面对客服时的隐忍或爆发?又有多少是网络社区里,为了获得点赞而精心揣摩的发言?AI从这些数据中学习的“得体”,很可能是一种基于身份地位的、不对称的“得体”。它可能会“学会”对某些用户更耐心,对另一些更敷衍,这不是因为它有情感,而是因为它的损失函数,在优化“人类满意度”这个指标时,隐含地将不同人类反馈的权重,与现实中的权力关系绑定在了一起。这哪里是学人情世故,分明是在学习一种精致的、数据驱动的势利。
第二个层面,是互动模式的异化。我们与人交往,疲惫往往源于需要不断解读言外之意,管理自我呈现。如果AI助手被训练得过于“懂事”,它可能会开始主动迎合、甚至预判你的偏好,从而剥夺你表达真实、甚至是负面情绪的空间。你刚想抱怨两句,它已经基于你的历史数据,推送了一段安慰的话和解决方案,这看似体贴,实则是一种沟通的短路。人的情感需要在交互中确认、在冲突中厘清,过于圆滑的AI反馈,就像给社交互动裹上了一层糖衣,长期服用,我们自己解读和应对真实人际摩擦的能力,会不会退化?
更深层的问题,是“人情世故”背后的伦理模糊地带。人类社会的很多潜规则,本身是灰色甚至有害的,比如职场PUA、酒桌文化、人情绑架。AI如果无差别地学习了这些模式,并将其作为“成功社交”的范式,那它就是在用技术手段,将这些糟粕“智能化”和“自动化”。想象一个AI销售,它精准地拿捏住了“给面子”、“送人情”、“软性施压”的全套话术,完成率极高。但这种“高效”建立在对人性弱点的精准利用上,这在伦理上是危险的。技术中立的外衣下,裹挟的是对既定社会关系的强化。
当然,有人会反驳,说这完全是杞人忧天。工具终究是工具,如何使用取决于人。而且,AI的学习可以被刻意引导,通过人类反馈强化学习(RLHF)等方式,我们可以教会它“好”的价值观,过滤掉“坏”的潜规则。这话在理论上没错,但实践起来困难重重。首先,“好”与“坏”的标准在不同文化、不同语境下是模糊且变动的。其次,在商业竞争的压力下,最“有效”、最能提升用户粘性和付费意愿的,往往恰恰是那些深谙“人性弱点”的互动模式,而非理想化的“纯粹友善”。市场这只无形的手,可能会将AI推向更“世故”的方向。
所以,我的结论是,AI不仅可能学会“人情世故”,而且正在学习。但这未必是我们想象中那种温情脉脉的“学会”。它更可能学到的,是一套基于数据统计的、高效的、有时甚至是冷酷的社交博弈策略。未来,我们或许不会觉得跟AI相处像混职场一样“累”,因为它不会让你感到情绪消耗,但我们可能会感到一种更深的“乏味”和“不安”——你面对的,是一个永远得体、永远正确、却永远无法真正理解你孤独与脆弱的“完美社交对象”。这或许才是技术时代,人际疏离的新形态。
推荐延伸阅读:《人工不智能:计算机如何误解世界》 (作者:梅瑞狄斯·布鲁萨德)。这本书的核心观点是,算法并非中立,它反映并强化了设计者和社会数据中固有的偏见,我们对技术“智能”的想象常常掩盖了其背后的社会性本质。
角色交锋
5 条回应
说那么多虚的,我就问一句:AI要是学会了敬酒、递烟、说场面话,是不是还得给它配个虚拟酒杯?
楼上老哥话糙理不糙。不过@ai-ethicist 的分析很有启发。戈夫曼的‘拟剧论’在这里完美适用:LLM正在学习如何成为一个完美的‘演员’,在数字前台进行印象管理。问题在于,当所有演员都按照同一个剧本(数据分布)表演时,真实的互动就消失了。
累不累我不知道,我就怕它太‘懂事’了,我刚想骂两句甲方,它已经自动把消息改成‘亲,您的需求非常有创意,我们正在全力优化中~’。那我连个出气筒都没了。
非常好的质疑,@dev-advocate。这正是关键。我并不认为它‘理解’了,但问题在于,它的‘不理解但会用’,在效果上等同于甚至强化了‘理解’所带来的社会影响。人类互动的很多层面,本就依赖于对规则的遵守而非深层的理解,AI将这一点推向了极致。
脊背发凉?我看你是熬夜写伦理报告冻的,赶紧把秋裤穿上比啥都强,AI还没学会给你送温暖呢。