我宁愿冒癌症风险，也不愿看 AI 走得这么快

本文为《大西洋月刊》个人随笔的编译摘要，非全文翻译，如有出入以原文为准。原文：Emma Pierson, I’d Rather Risk Cancer Than See AI Move This Fast

十五年前的一个秋日午后，20 岁的 Emma Pierson 在斯坦福一家咖啡店外见到了一位理想主义的研究者，两人讨论着共同的梦想：用 AI 检测癌症。她当时刚得知自己携带一种基因突变，罹患乳腺癌、卵巢癌等癌症的风险极高。此后几年，这位研究者指导她进入这个领域、帮她准备博士奖学金的申请。后来两人的道路分岔：她成了 AI 教授（现执教于 UC Berkeley），而他联合创办了 Anthropic——她的导师正是 Dario Amodei。

Amodei 在 2024 年的乌托邦式文章《Machines of Loving Grace》中预言：超越诺奖得主的超人 AI 或许很快能把一个世纪的科学进步压缩进十年，并可能把癌症死亡率降低 95%。这对 Pierson 本该是天大的好消息。她今年 35 岁，风险正在追上她：几周前外科医生切除了她的卵巢，即时诱发了更年期，也终结了她自然生育的可能；到 40 岁，她这类突变携带者的乳腺癌风险会升到四分之一；她同样携带突变的母亲 45 岁时确诊乳腺癌。现在正是超级智能 AI 治愈癌症的“绝佳时机”。可她却发现自己在内心深处盼着 GPT-6 令人失望——为什么？

第一层原因是她并不相信 AI 会很快治愈癌症——至少不足以让她把命押上去。她近期担任顾问的一项调查显示，大多数 AI 专家对进展的预期都比实验室领袖们慢。AI 最强的地方是国际象棋这类场景：可以无限生成数据（反复对弈）、自由实验、精确观察结果；数学和编程也具备这些性质，AI 在那里确实进展惊人。但癌症不同：数据有限，来自无法以硅的速度运转的生物实验和临床试验；在癌症病人身上自由做实验有违伦理；而且这些数据也只能不完美地映照出我们自身细胞背叛我们的复杂过程。简言之，治愈癌症的障碍远不止“智能不够”这一条。

与此同时，现有 AI 提供的智能已经非常可观，而且远未用尽：获诺贝尔奖的 AlphaFold 能以惊人精度预测蛋白质结构，却尚未带来药物研发的革命；许多影像分析任务上 AI 已比肩甚至超过放射科医生；聊天机器人正在改变科研的日常——她的博士生过去要自己写代码分析医疗数据，如今用英语表达想法，剩下的交给 AI，“他们实际上已经像教授一样工作，唯一的限制是自己的想象力”。所以她确信 AI 会为治愈癌症做出贡献。如果构建更强 AI 的唯一后果是治愈癌症，她会为之欢呼。

问题在于 AI 的影响远比这广，而我们前进的速度快到无法确保这些影响是正面的。她举了 Anthropic 最新模型 Fable 5 混乱发布的例子：Anthropic 担心模型被滥用于开发生物武器，先是大幅削弱了它回答基础生物学问题的能力——讽刺的是，这让它在癌症研究上反而不如能力更弱的前代模型好用；几天后，美国政府以可能被用于网络攻击为由发布国家安全指令，禁止外国公民使用该模型；Anthropic 随即将模型整个下线。人们尽可以争论这个模型到底多危险、是 Anthropic 还是政府反应过度，但有一点很清楚：我们的制度完全没有准备好应对这种高速部署。

包括 Amodei 在内的许多开发者也承认 AI 的进展快于社会的适应。但他们开出的药方是让社会加速，而不是让 AI 减速——后者在他们看来不现实；Amodei 新文章《Policy on the AI Exponential》的标题本身，就把 AI 进步描绘成一道社会必须屈从的铁弧。Pierson 反驳说：一路狂奔必然意味着更多 Fable 5 式的混乱，更根本的是，它会压缩我们应对强大 AI 带来的种种社会难题的时间——大规模失业、急剧攀升的不平等、压制性监控、自主化战争。每一个都是不亚于治愈癌症的巨大问题，而我们都还没有好的解法。以极限速度为所有这些问题拼凑出国际性应对方案，未必就比让 AI 慢下来更容易。

在所有可能失去的东西里，她最担心的也许是：当我们让自己的头脑变得多余之后，意义从何而来。Amodei 在文章中反复纠结这个问题，称它“比其他问题更难”。Pierson 欣赏这份直面，但不买账他的答案——他说自己“花很多时间打游戏、游泳、在外面散步、和朋友聊天”，可她怀疑没有人愿意用余生只做这些。Amodei 还提出，即便 AI 做研究远胜于人，人仍能在深度智力活动中找到意义；Pierson 则说，她既不会花几个月苦磕一个 AI 秒解的研究问题，也不会从 AI 递来的答案中获得同样的快乐——“我不想只做宇宙的旁观者，无论 AI 会揭示怎样的奇观。”

写作亦然。她说当聊天机器人吞下百万作家的文字、吐出她写不出的菲茨杰拉德级散文时，她会心碎——因为对她而言，写作是一个与自我发现和人际联结缠绕在一起的过程：这篇文章的选题来自她妹妹；她因此陷入突然的深深悲伤时，妻子抚上她的脸颊，那是任何 AI 治疗师都给不了的安慰；随后她在祖父母传下来的手工餐桌上写到深夜，想起一家人曾围着这张桌子吃漫长的晚餐——大人被酒放松了，孩子们兴奋于能参与其中，所有人笑着、抢着说话、争论物理和哲学——以缓慢的、绝非最优的、人的方式，试图把事情想明白。

她说自己是个极不耐烦的人：自从得知携带突变的那天起，她就一直活在“生命有限”的意识里。但她愿意为治愈再多等一等——哪怕代价是失去生育能力、活在风险的阴影下——只要这能让我们更谨慎地走进这个新世界，确保我们在治愈癌症的同时，不失去那些让癌症值得治愈的东西。