飞象原创（魏德龄/文）诺贝尔奖得主杰弗里·辛顿在2025世界人工智能大会上的发言令很多人感到兴奋，尤其是围绕人类理解语言与大模型理解问题相似性的观点，以及大模型在博闻强记方面的能力，尤其是所谓会出现比人类更智能AI的观点，无疑燃起了现场的人工智能从业者继续努力奋斗的高昂斗志。
然而，如果仔细审视前沿领域人工智能观点的话，包括辛顿的发言在内，无论是对大模型的褒与贬，实际上均来自于对这些技术未来的无限担忧。正如奥本海默的那句：“我已成为死亡，世界的毁灭者”。如果说核能技术是人类打开的一次潘多拉魔盒的话，人工智能可能是历史的又一次押韵。
对大模型的褒与贬
辛顿的发言无疑代表对于大模型褒的一面，在去年一次与外媒的采访中，他便表示AI将会在最终操控人类。当他在2022年看到Google开发的大语言模型PaLM的聊天机器人能够解释笑话的时候，他认为这是AI能够理解人类语言的重要时刻，并逐渐开始意识到AI有可能威胁人类，未来拥有超越人类智慧的AI将可以用语言操控人类，试图说服不要关掉电源的开关。
如同人类在劝说操控一个3岁的孩子，“有个人，把老虎当宠物，那老虎也可以当小虎崽，是很可爱的宠物。但是，如果一直养这个宠物，那么你要确保它长大的时候，它不会把你给杀掉。”给出这段发言的辛顿似乎在复述“养虎为患”的成语故事。
而辛顿的好朋友，与他一起获得图灵奖的杨立昆，却代表了对于大模型贬的一面。在他的观点中，人工智能更像是一个小镇做题家般的书呆子，对于世界的理解局限于大量的现有资料内容，但人类的知识理解涉及对世界的感知、经验、情感以及更深层次的直觉和常识，这是很多文本难以触及的层面。有人这样形容：“GPT 虽然‘读遍’了互联网，但它从未喝过一口红酒、摔过一只杯子，从未亲身体验过任何事情。”但对于一个可能还坐不稳的婴儿来说，便已经能够通过以不断向地面抛出物体的方式，感知了解地心引力所带来的物理特性。
于是，杨立昆开始越来越提及AMI（先进机器智能）一词，可以学习抽象概念，并据此进行逻辑推理、制定计划的AI系统。如同人类全神贯注于一件事时， AI 模型不应该仅仅依赖像素级重建误差，而是要具备多层次抽象表征能力。好比人类的大脑并非逐像素、逐帧地处理世界，而是依赖抽象层次的表征与结构化信息。
已经上岗的不完美管理者
然而，正是这样没有抽象能力、没有感知能力的人工智能，却在如今已经在很多企业中进入到实际岗位中，甚至可能成为很多普通人工作生活中难以挥之的梦魇。今年在人工智能领域的一大畅销书《连结》中，列举了不少AI在掌握关键权力后，可能带来的隐忧。
例如，银行中正在开始通过人工智能来进行放贷的评定，这也意味着对于信用稍有问题的人来说，一旦失去了人情的介入，出现资金问题，无法还款，此人将可能在人工智能来进行判定的体系中，再无出头之日。
这也引出的另一个问题便是，人工智能在信用评定中的思维方式在大模型中完全处于黑盒的状态，无论是AI在进行信用评定，或充当人力资源管理者进行绩效考核，更不用提使其进入执法或安全领域，谁也可能无法说清大模型的脑子里到底在真实的想些什么，又如何充当着人类工作生活的裁判员。如果活在订单系统中的外卖员已经足够辛苦的话，未来由大模型所规划的工作考核，也许将会让更多人汗流浃背。甚至不完美的人工智能可能会带来某种新形式的官僚办事风格。
另一个近在咫尺的话题，便是拥有幻觉、不完美的人工智能作品正在污染人类的知识体系，并进一步影响模型的认知。当下搜索引擎所使用AI总结的内容结果，很多错误百出，但对于门外汉而言，可能信以为真。更不用说AGI撰写的文章，尽管外行看着内行，但内行看了又十分外行，有些幻觉更是令人笑掉大牙。
同时，奇怪蹩脚的机器语言，还正在成为儿童的对外交流工具，不少厂商开始将AI引入到早教产品中，悟性欠缺、没有感知能力，难以多层次抽象表征的人工智能，反倒成为了人类幼崽的老师，让不少人开始为人类的未来而担忧。
褒贬之意在于向善
实际上，很多人在听取辛顿的演讲后都发现，核心表达之意可能并不在于人工智能将会如何取代人类，而是AI向善。“每个国家可以做自己的研究，让AI向善。他可以在自己主权的AI上进行研究，他不可以不给别的国家，但是，他可以把成果分享给大家，也就是怎么训练AI，让AI向善。”
这一层面，显然比警惕未来AI如何统治世界更具现实意义。就像同期展馆中的一些演示项目，AI开始监测到岗员工的情绪，观察教室中学生的上课状态，一个本没有情感的智能体，却开始监督起人类的情感。
《连结》一书开头抛出这样的问题：“要是我们真那么聪明，为什么这么爱走上自我毁灭的道路？”而该书给出的答案是，面对人工智能，也需要打造强大的自我修正机制。
如果只是一味逐利于AI概念，或幻想通过打开魔盒换来突飞猛进的快感，最终并不是AI将操控的人类，而是失控的人类，正在作茧自缚。
