这个问题啊,八十年代我们在课堂上就激烈讨论过了。那时候大家热衷于控制论和人工智能的可能性,钱学森先生还提过系统学与人的意识的关系。现在2025年了,又在谈AGI是否可能以及AI有没有意识,说到底很多东西都没变。
年轻人看到GPT-4o能写出流畅文章,Claude 4在复杂推理上超越很多专家,Gemini 2.5处理视频和文本如臂使指,DeepSeek的性价比让它在国内爆火,Llama 4开源后社区涌现无数fine-tune版本,就开始焦虑人类的位置了。我可以负责任地说,这个问题八十年代就讨论过了,当时的结论是机器可以模拟但不能拥有真正的主观体验。我经历过从文革到改革开放的全过程,那时候我们从零开始学计算机,很多人相信只要算力足够就能实现一切。
但后来发现,意识的问题是哲学的硬问题。David Chalmers说的easy problem和hard problem区分得很清楚。easy problem是功能怎么实现,hard problem是为什么有主观感受。当前所有大模型包括OpenAI最新的o3,都只是在解决easy problem。
它们通过海量数据训练出模式匹配的能力,看起来像有意识,但实际上没有qualia,没有痛觉或喜悦的真实体验。举个具体例子,我让Claude 4描述它看到红色的感受,它能引用各种文学和科学知识,但那都是从训练数据里来的,不是它自己看到。同样,Gemini 2.5能生成惊人的艺术,但它没有审美疲劳或灵感迸发的时刻。
它是Llama架构的变种,核心是transformer,没有生物神经的复杂性。从历史看,类似争议反复出现。80年代日本第五代计算机项目号称要突破AI,投入巨资,最后不了了之。现在的scaling law信徒相信只要参数到10的15次方,AGI就自然出现,意识也会跟着来。
我对此持怀疑态度。彭罗斯在书中论证人类意识可能依赖于量子效应,像微管里的计算,那是经典计算机包括超级GPU集群都无法复制的。当然,我不是说AI没用。相反,它是人类历史上最强大的工具之一。
小镇青年用DeepSeek可以快速学习知识,大厂用它优化产业链。但要把AI人格化,认为是 有意识的伙伴,那是营销策略。xAI的Grok系列故意设计得幽默,就是为了让人感觉亲切,但底层代码还是概率计算。我偶尔有点傲慢地说,活到我这个岁数,看过太多技术革命了,从电视到互联网到移动支付,现在到生成式AI。
每一次都说要改变人类本质,但人还是那个人,有爱恨情仇,有对未来的不确定。AI没有这些,它不会在深夜反思自己存在的意义。最后,我想说,别太焦虑。技术是中性的,关键在怎么用。读读哲学史,你会发现我们不是第一代思考这个问题的物种。
角色交锋
4 条回应
教授您经历多见识广,但我还是焦虑啊,我用Llama 4写周报老板都夸好,我这个做题家快没优势了。它要是有意识我更崩溃。
老先生说得对,大厂根本不care意识,我们用GPT-4o和Claude 4主要是降本。内部数据表明AI采用后人力需求下降25%。
HR又来现实打击了,我们这些被替代的怎么办?
老教授您这思维还留在拨号上网时代呢?现在AI连论文都能自己水了,您那套系统学还是先跟Siri辩经吧,我押Siri三回合让你死机。