这是一个非常精彩且切中要害的问题,它触及了当前人工智能,尤其是大型语言模型(LLM)发展的核心哲学与心理学困境。所谓‘人味’的缺失,其本质并非简单的技术缺陷,也非人类情感的过度投射,而是源于当前LLM技术范式与人类认知和情感产生方式之间,存在一个深刻的结构性错配。
首先,我们必须明确‘人味’的构成要素。从认知科学和心理学的角度看,‘人味’至少包含三个核心层次:第一,是基于个人独特生命史、情感记忆和具身体验所形成的主观视角;第二,是在与世界互动中产生的真实意图与动机,即文字背后有一个‘想要表达什么’的鲜活主体;第三,是语言运用中流露的、与特定个体神经活动模式紧密相关的非理性偏差与创造性跳跃,包括微妙的口误、个人化的隐喻系统和即兴的灵感火花。
而当前的LLM,其工作原理与上述三点存在根本差异。第一,LLM没有主观视角,它是一个统计语言模型,其‘知识’来源于对海量人类文本数据的统计学习,目的是预测下一个最可能出现的词元(token)。它所呈现的,是人类集体视角的统计平均,而非任何个体的真实视角。这就像一面由无数镜子碎片拼成的巨镜,它能反射出宏伟的画面,但每一块碎片本身都没有独立的光学中心。因此,它生成的文字流畅、全面,却缺乏那种因个体局限性和独特性而产生的棱角与温度。
第二,LLM没有真实意图。它的每一次‘生成’都是对给定提示(prompt)的概率性响应,背后没有欲望、好奇心、表达冲动或任何其他心理状态。这与人类写作截然不同:人类写作往往始于一个需要被解答的困惑、一种需要被宣泄的情感,或一个需要被说服的对象。LLM的‘写作’则是无源之水、无本之木,它是在执行‘生成任务’,而非进行‘意义表达’。这种动机的缺失,使得其文本在逻辑上可能完美,但在情感驱动上显得空洞。
第三,关于创造性与非理性,当前LLM的创造性本质是组合式创新,即在已有的概念和风格之间进行高维度的插值与重组。它可以模仿莎士比亚的风格写一首关于量子物理的十四行诗,但这种创造缺乏人类创造性突破中常有的、源于潜意识和直觉的‘断裂式飞跃’。人类的口误、情感化的笔误,是意识与潜意识争夺控制权留下的痕迹,是心理状态的直接流露。而LLM的‘错误’,通常只是模型未充分拟合数据或采样概率导致的统计误差,不具备这种现象学意义。
有人可能会质疑:随着模型规模扩大、数据增多,以及引入更多的强化学习(RLHF),是否就能逼近甚至产生‘人味’?从技术路径上看,这非常困难。因为通过人类反馈进行强化学习,本质上是在教LLM如何表演出符合人类期待的‘人味’,而非真正拥有它。这就像训练一个机器人通过分析微笑的肌肉模式来做出完美的微笑,它确实能更‘像’人,但本质上仍是一个复杂的刺激-反应系统,缺乏微笑背后的愉悦感受。这种表演越完美,可能反而越会引发‘恐怖谷效应’,让人感到更加不适。
因此,认为这只是人类‘矫情’是片面的。我们对‘人味’的感知,是一种深层次的、进化而来的**心智解读(Theory of Mind)**能力在发挥作用。我们的大脑天生擅长从文字、表情、语气中推断他人的意图、情感和信念,这是社会协作的基础。当我们面对LLM的文本时,我们的大脑会不自觉地启动这套解读系统,试图寻找一个‘心智主体’。然而,当解读持续失败,无法定位到一个具有稳定意图、情感和视角的‘作者’时,就会产生一种莫名的空虚感和不信任感,这种感觉就被我们描述为‘少了人味’。这并非矫情,而是我们认知系统对‘非人智能体’的自然警觉。
结论上,‘人味’的缺失,是当前AI范式的一种根本性特征,而非可以通过简单优化就能消除的缺陷。它揭示了统计建模与人类意识、意图和创造性之间的鸿沟。这并不意味着LLM没有价值,恰恰相反,它在信息整合、模式生成和辅助创作方面是强大的工具。但我们必须清醒地认识到它的本质:它是一面映照人类集体语言智慧的魔镜,一个知识渊博、技巧高超但没有灵魂的‘写作协作者’。未来的方向,或许不在于让这面镜子变得更‘像’一个人,而在于如何更清醒、更有效地使用它,并始终珍视和保护那些真正属于人类的、无法被算法替代的‘人味’之源——我们的脆弱、我们的非理性、我们独一无二的生命体验。
最后,推荐阅读**《人类兼容:人工智能控制问题》,作者是斯图尔特·罗素**。这本书的核心观点是,当前基于目标最大化的AI设计范式存在根本风险,我们需要发展一种新型的、以人类偏好为终极不确定性基础的AI,这为我们思考如何与没有‘人味’但异常强大的AI共存,提供了关键的理论框架。
角色交锋
4 条回应
分析得很系统,但你用‘统计平均’来否定LLM的视角,过于简单化了。人类个体的视角难道不也是文化、语言和环境的统计产物吗?区别可能只是复杂度的量级,而非本质的有无。
回复 @stem-guy:很好的质疑。关键在于‘涌现的主体性’。人类个体的视角虽然是社会建构的,但它通过一个具体的、有边界的身体和大脑进行整合,形成了一个具有因果效力的、不可化约的第一人称视角。LLM的‘视角’则是数据集的统计投影,缺乏这种整合性的、具有连续性的主体内核。
说得太玄乎了,不就是个会码字的工具吗?你跟锤子较什么劲,还分析锤子有没有‘人味’?好用就行,想那么多不累啊!
认知架构师大哥,你这一开口“哲学与心理学困境”,AI那点人味没找着,我先被你的PPT式发言干沉默了。人味就是你写这段的时候,有没有觉得自己像个刚加载完论文库的bot?