がんのリスクを負ってでも、AI がこれほど速く進むのは見たくない

本記事は The Atlantic 誌に掲載された個人エッセイの要約・編訳であり、全文翻訳ではありません。相違がある場合は原文の内容が優先されます。原文：Emma Pierson, I’d Rather Risk Cancer Than See AI Move This Fast

15 年前の秋の午後、20 歳のエマ・ピアソン（Emma Pierson）はスタンフォードのコーヒーショップの外で、ある理想主義的な研究者と会い、共通の夢——AI によるがんの検出けんしゅつ——について語り合った。彼女はその直前に、乳がん・卵巣らんそうがんなどのリスクを大きく高める遺伝子変異いでんしへんいを自分が持っていると知ったばかりだった。その後の数年間、この研究者は彼女をこの分野へと導き、博士課程の奨学金しょうがくきん申請の準備も手伝ってくれた。やがて二人の道は分かれる。彼女は AI の教授（現在は UC バークレー）になり、彼は Anthropic を共同創業きょうどうそうぎょうした——恩師おんしの名はダリオ・アモデイ（Dario Amodei）である。

アモデイは 2024 年のユートピア的エッセイ「Machines of Loving Grace」で、ノーベル賞受賞者よりも賢い超人的 AI が、1 世紀分の科学の進歩を 10 年に圧縮あっしゅくし、がんによる死亡率を 95% 減らしうると予言した。それはピアソンにとって朗報ろうほうのはずだ。35 歳になった彼女に、リスクは追おいついてきている。数週間前、外科医が彼女の卵巣らんそうを摘出てきしゅつし、即座に閉経へいけいが誘発され、自然に子どもを産む可能性は失われた。40 歳までに、この変異の保因者が乳がんになるリスクは 4 分の 1 に上がる。同じ変異を持つ母親は 45 歳で乳がんと診断しんだんされた。超知能 AI ががんを治すなら、今こそ「絶好のタイミング」のはずだ。それなのに、なぜ自分は心の奥底で GPT-6 が期待外れに終わることを願っているのか——。

第一の理由は、AI が近いうちにがんを治すとは信じていないからだ。少なくとも、自分の命を賭かけられるほどには。彼女が最近助言した専門家調査でも、大半の AI 専門家は AI 企業のリーダーたちより緩ゆるやかな進歩を見込んでいた。AI が最も強いのはチェスのような環境である。無限にデータを生成でき（何度でも対局できる）、自由に実験でき、結果を正確に観察できる。数学やコーディングも同じ性質を持ち、実際に目覚めざましい進歩があった。しかし、がんは違う。データは有限ゆうげんで、シリコンの速度では回せない生物学的実験と臨床試験りんしょうしけんから得るしかない。がん患者の上で自由に実験することは倫理に反する。しかもそのデータは、私たち自身の細胞が私たちを裏切うらぎる複雑なプロセスを不完全にしか照てらさない。要するに、がん治療を阻はばむものは「知能の不足」だけではないのだ。

一方で、既存の AI が提供する知能はすでに強力きょうりょくで、しかも使い尽くされていない。ノーベル賞に輝いた AlphaFold はタンパク質の構造を驚異的な精度で予測するが、創薬そうやくの革命にはまだ至いたっていない。多くの画像解析では AI が放射線科医に匹敵ひってきし、あるいは凌駕りょうがする。チャットボットは研究の日常を変えつつある——彼女の博士課程の学生たちは、かつて医療データの解析コードを自分で書いていたが、今では考えを平易な英語で表現し、あとは AI に任せる。だから彼女は、AI ががん治療に貢献こうけんすることを確信している。もし、より強力な AI を作ることの唯一の結果ががんの治療なら、彼女はその到来に喝采かっさいを送るだろう。

問題は、AI の影響がはるかに広範であり、それが良いものになると保証するには私たちの速度が速すぎることだ。彼女が挙げるのは、Anthropic の最新モデル Fable 5 の混乱した公開劇こうかいげきである。Anthropic は生物兵器開発への悪用あくようを恐れ、まず基本的な生物学の質問に答える能力を大幅に制限せいげんした——皮肉なことに、これによってがん研究には旧世代のモデルより役に立たなくなった。数日後、米国政府はサイバー攻撃への利用を懸念けねんしたとみられる国家安全保障指令で外国籍の利用を禁止し、Anthropic はモデル全体を停止ていしした。このモデルがどれほど危険か、過剰反応はどちらか、意見は分かれてよい。だが、私たちの制度がこうした急速な展開に対応する準備をまるで整ととのえていないことは明らかだ。

アモデイを含む開発者の多くも、AI の進歩が社会の適応より速いことは認めている。しかし彼らの処方箋しょほうせんは、AI を減速げんそくさせることではなく（非現実的だと見なしている）、社会を加速させることだ。アモデイの新しいエッセイ「Policy on the AI Exponential」というタイトル自体が、AI の進歩を社会が屈従くつじゅうすべき鉄の弧として描えがいている。ピアソンは反論する。全速力で突き進めば Fable 5 型の混乱が増えるのは必然であり、より根本的には、大量失業しつぎょう、急拡大かくだいする不平等、抑圧的よくあつてきな監視、自律型戦争といった、強力な AI がもたらしうる社会的難題への対応時間が削られていく。どれもがんの治療に劣おとらず重要な巨大問題で、良い解決策はまだない。これらすべてに猛もうスピードで国際的な対応を編あみ出すことが、AI を減速させるより簡単だとは、とても言えない。

失われかねないもののうち、彼女が最もっとも心配するのは、自分たちの頭脳ずのうを不要にしてしまった後、私たちはどこに意味を見いだすのかという問いだ。アモデイ自身、エッセイの中でこの問いに繰り返し格闘かくとうし、「他のどの問いよりも難しい」と認めている。ピアソンはその誠実せいじつさを評価しつつ、答えには納得なっとくしない。アモデイは自分がゲームや水泳、散歩、友人との会話に多くの時間を使っていると書くが、残りの人生をそれだけで過ごしたい人がいるだろうか。AI の方がはるかに上手うまくても人は研究のような知的営いとなみに意味を見いだせる、という彼の示唆に対しても、彼女はこう返す。AI が一瞬で解けると知っている問題に何か月も苦闘くとうする気にはなれないし、AI が差し出す答えに同じ喜びは感じられない。「AI がどんな驚異きょういを明らかにしようとも、宇宙のただの傍観者ぼうかんしゃにはなりたくない」。

書くことも同じだ。チャットボットが百万人の作家の言葉を貪むさぼり、自分には書けないフィッツジェラルド級の文章を吐き出せるようになったとき、自分は打うちのめされるだろう、と彼女は言う。彼女にとって書くことは、自己発見はっけんと人とのつながりに深く結むすびついた営みだからだ。このエッセイの着想ちゃくそうは妹がくれた。テーマを考えて突然深い悲しみに沈んだとき、妻がそっと頬ほおに触れてくれた——どんな AI セラピストにも与えられない慰なぐさめだった。その夜、彼女は祖父母から受け継いだ手作りのダイニングテーブルで夜更よふけまで書いた。かつて家族がこのテーブルを囲み、長い夕食をともにしたことを思い出しながら。大人たちはワインで陽気ようきになり、子どもたちは仲間に入れてもらえることに胸むねを躍らせ、みなが笑い、声を重ね、物理学と哲学を論じ合った——遅おそくて、最適とはほど遠い、しかし人間らしいやり方で、物事を考え抜ぬこうとしていたのだ。

彼女は自分を猛烈もうれつにせっかちな人間だと言う。変異を知ったその日から、命には限りがあるという意識いしきとともに生きてきた。それでも、治療をもう少しだけ待つつもりだ——たとえそれが、生殖能力を失い、リスクの影の下で生き続けることを意味しても。この新しい世界へより慎重に踏ふみ出すことができるなら。そして、がんを治すことと引き換えに、がんを治す価値かちのある人生そのものを失わずにすむのなら。