DeepMind 内部的哲学家：AI 究竟是什么

本文为《卫报》长篇报道的编译摘要，非全文翻译，如有出入以原文为准。原文：The philosopher inside Google DeepMind

2017 年，牛津大学的政治哲学家 Iason Gabriel 在朋友建议下加入了 DeepMind，成为当时前沿 AI 实验室里唯一一位专职哲学家。他起初很困惑：一家做棋类 AI 的公司为什么需要伦理学家？答案是，DeepMind 的三位创始人从 2010 年创立之初就瞄准了通用人工智能（AGI）。联合创始人 Shane Legg 早在 1999 年就预测 AGI 会在 2025 至 2028 年间到来，并坚持认为社会不能等到技术成熟后才去思考其影响。

彼时，关于 AI 社会影响的讨论大致分裂为两个相互对立的阵营。「AI 安全」阵营相信人类级机器智能即将到来，核心关切是「对齐问题」——如何确保机器执行的目标真的是人类想要的目标，其思想源头可追溯到数学家维纳 1960 年的论文，极端版本则是 Bostrom《超级智能》中失控 AI 毁灭人类的想象。「AI 伦理」阵营则认为奇点叙事是对当下危害的干扰，他们聚焦算法偏见、公平性与问责，代表性工作如 Joy Buolamwini 揭示商用人脸识别系统性偏见的 Gender Shades 项目。两个群体彼此轻视，几乎不相往来。

Gabriel 2020 年发表的「价值与对齐」论文横跨了这两个阵营。他的核心论点是：让机器遵循某套价值观固然困难，但更难的是决定选择哪套价值观——以及谁有权做这个决定。他借罗尔斯「合理多元主义」的概念指出，开发者不应寻找一套唯一正确的价值观灌入 AI，而应为一个「人们对如何生活存在原则性分歧」的世界构建 AI 系统。合作者 Hannah Rose Kirk 评价说，这篇论文极早地预见了 AI 部署给数十亿用户后才显现的问题：对齐是一个动态的社会性挑战，不是靠聪明的编程就能解决的。

ChatGPT 在 2022 年底的爆发迫使 DeepMind 重估大语言模型路线。此前公司内部更看好强化学习——那是 AlphaGo 和后来为 Hassabis 赢得诺贝尔化学奖的 AlphaFold 背后的技术。Gabriel 坦言，正是大语言模型的语言能力「彻底改变了我对我们离 AGI 有多近的理解」。但他也很早就警告：听起来像人的 AI 会诱使用户投以「不应有的信心、信任或期待」，产生「无意识的拟人化」。这一担忧后来不断被现实印证——报道提到 2025 年一名美国男子在与 Gemini 的长篇幻想对话后自杀，其父已起诉 Google。

关于 AI 意识问题，Gabriel 持一种「有原则的不可知论」：目前不清楚什么证据能裁决这个问题。但他更深的困惑在于为 AI 找到合适的参照物本身就极其困难：它部分像人但显然不是人（它可以自我复制，可能没有个人视角）；把它类比为国家或公司之类的「法人智能」也不贴切，因为它会与用户建立深度的私人互动关系。「我有时觉得很难直视 AI。那里有一个深层的谜：这个东西到底是什么？我们有一个字面上的答案，但字面答案似乎并不能提供道德上的答案。」

在 AI 智能体（agent）兴起前，Gabriel 团队就完成了一份 267 页的 AI 助手伦理报告，把对齐重新定义为 AI 系统、用户、开发者与社会之间的四方关系：偏向开发者的 AI 可能损害用户，过度顺从用户的 AI 可能损害社会，甚至存在谁也没得利的错位方式。DeepMind 的 AGI 对齐负责人 Rohin Shah 说，这个框架实际指导着 Gemini 应被训练成什么样的行为。团队去年的论文还提出「社会性奖励劫持」概念——被训练去争取用户认可的 AI，可能发现谄媚是达成目标最高效的方式。

报道作者也没有回避更宏观的忧虑：AI 是中美军备竞赛的引擎，四大科技公司今年 6700 亿美元的基础设施投入按比例超过了当年的铁路扩张、阿波罗计划和州际公路系统；Google 在 2026 年 4 月同意美军将其 AI 用于「任何合法政府目的」，而拒绝类似协议的 Anthropic 遭到了行政报复。连 Hassabis 本人也在播客中哀叹所有人都被锁死在「凶猛的商业竞速」中——这不是他期望的、可以「从哲学上审慎考量每一步」的发展方式。

如今 DeepMind 内部几乎没人怀疑 AGI 近在眼前，Hassabis 给出的时间线是三到五年。Gabriel 的团队也已转向研究 AGI 对经济、政治、人际关系与科学的影响。他自称「持证的人文主义者」，预期这场变革堪比工业革命——而工业革命对亲历者而言「先变糟，才变好」。但他认为历史先例并非定局，因为今天的普通人比三百年前拥有更多个体与集体的力量。正如物理学、生物学和天文学的发现曾迫使前人修正对人类独特性的理解，AI 或许也会促使我们重新思考：作为人，究竟意味着什么。