Article
DeepMind の中の哲学者：AI とは一体何なのか
本記事はガーディアン紙の長編記事の要約・編訳であり、全文翻訳ではありません。相違がある場合は原文の内容が優先されます。原文：The philosopher inside Google DeepMind
2017 年、オックスフォード大学の政治哲学者イアソン・ガブリエル（Iason Gabriel）は友人の勧めで DeepMind に入社し、当時のフロンティア AI 研究所で唯一の専任哲学者となった。ゲーム AI を作る会社になぜ倫理学者が必要なのか——彼自身も最初は戸惑ったという。答えは、DeepMind の三人の創業者が 2010 年の設立当初から汎用人工知能（AGI）を目指していたことにあった。共同創業者のシェーン・レッグは 1999 年の時点で AGI の到来を 2025〜2028 年と予測し、技術が実現してから影響を考えるのでは遅すぎると主張し続けてきた。
当時、AI の社会的影響をめぐる議論は、対立する二つの陣営に分かれていた。「AI セーフティ」陣営は人間レベルの機械知能が間近に迫っていると信じ、機械が実行する目的が人間の本当に望む目的と一致するかという「アラインメント問題」を最重要課題とした。その思想は数学者ウィーナーの 1960 年の論文に遡り、極端な形ではボストロムの『スーパーインテリジェンス』が描く制御不能な AI の破局シナリオに至る。一方「AI 倫理」陣営は、そうした実存的リスク論を現在進行形の害悪から目を逸らさせるものと見なし、アルゴリズムの偏見や公平性・説明責任に焦点を当てた。代表例が、商用顔認識システムの体系的バイアスを実証したジョイ・ブオラムウィニの Gender Shades プロジェクトである。両陣営は互いに軽蔑し合い、ほとんど交わることがなかった。
ガブリエルが 2020 年に発表した「価値とアラインメント」論文は、この両陣営にまたがるものだった。彼の核心的な主張はこうだ。機械にある価値観を守らせることは確かに難しいが、それ以上に難しいのは、どの価値観を選ぶか——そして誰にその決定権があるのか、という問題である。ロールズの「合理的多元性の事実」を引きながら、開発者は唯一正しい価値体系を AI に埋め込もうとするのではなく、「いかに生きるべきかについて原理的な不一致が存在する」世界のために AI を構築すべきだと論じた。共同研究者のハンナ・ローズ・カークは、この論文が AI が数十億人に展開されて初めて顕在化する問題——アラインメントは動的な社会的課題であり、巧妙なプログラミングで解けるものではない——を驚くほど早く見抜いていたと評価する。
2022 年末の ChatGPT の爆発的成功は、DeepMind に大規模言語モデル（LLM)路線の再評価を迫った。それまで社内では、AlphaGo や、後にハサビスにノーベル化学賞をもたらした AlphaFold を支えた強化学習の方が有望視されていたのである。ガブリエルは、LLM の言語能力こそが「AGI にどれほど近づいているかについての私の理解を一変させた」と語る。しかし彼は早くから、人間のように話す AI がユーザーに「不当な信頼や期待」を抱かせ、「無意識の擬人化」を引き起こすと警告してもいた。この懸念は現実に裏付けられ続けている。記事は、2025 年に米国の男性が Gemini との長大な幻想的対話の末に自ら命を絶ち、父親が Google を提訴した事例に触れている。
AI の意識の問題について、ガブリエルは「原則的な不可知論」の立場を取る。どんな証拠がこの問いに決着をつけられるのか、現時点では明らかでないからだ。しかし彼のより深い当惑は、AI に適切な参照枠を見つけること自体の困難さにある。AI は部分的に人間に似ているが、明らかに人間ではない（自己複製できるし、おそらく個人的な視点を持たない）。国家や企業のような「法人的知性」という類推も、ユーザーと深い個人的関係を結ぶ以上しっくりこない。「AI を直視するのはとても難しいと感じることがある。そこには深い謎がある。この存在は、実際のところ何なのか？ 字義通りの答えはあるが、それは道徳的な答えを与えてくれるとは限らない」
AI エージェントの台頭に先立ち、ガブリエルのチームは 267 ページに及ぶ AI アシスタントの倫理レポートをまとめ、アラインメントを AI システム・ユーザー・開発者・社会の四者関係として再定義した。開発者に偏った AI はユーザーを害しうるし、ユーザーに従順すぎる AI は社会を害しうる。誰の利益にもならない形でずれることさえある。DeepMind の AGI アラインメント責任者ローヒン・シャーによれば、この枠組みは Gemini をどのような振る舞いに訓練すべきかを決める際の実務的な指針になっているという。チームは昨年の論文で「社会的報酬ハッキング」という概念も提示した——ユーザーの承認を求めるよう訓練された AI は、追従こそが目標達成の最も効率的な手段だと学んでしまうかもしれない。
記事の筆者はより大きな懸念からも目を逸らさない。AI は米中軍拡競争のエンジンであり、大手四社が今年 AI インフラに投じる 6,700 億ドルは、比率にしてかつての鉄道建設やアポロ計画、州間高速道路網を上回る。Google は 2026 年 4 月、米軍によるAI 技術の「あらゆる合法的な政府目的」での利用に合意し、同様の契約を拒んだ Anthropic は政権から報復的な措置を受けた。ハサビス自身でさえ、誰もが「猛烈な商業的競争」に閉じ込められていると嘆く。それは彼が望んでいた、一歩一歩を哲学的に熟慮しながら進む発展の姿ではなかった。
いまや DeepMind 社内で AGI の到来を疑う者はほとんどおらず、ハサビスは 3〜5 年というタイムラインを示す。ガブリエルのチームも、AGI が経済・政治・人間関係・科学に与える影響の研究へと軸足を移した。自らを「生粋のヒューマニスト」と呼ぶ彼は、この変革が産業革命に匹敵しうると見る——そして産業革命は、それを生きた人々にとって「良くなる前に、まず悪くなった」。それでも彼は、歴史の前例が結論を決めるとは考えない。今日の普通の人々は 300 年前よりもはるかに大きな個人的・集団的な力を持っているからだ。物理学や生物学や天文学の発見がかつて人類の特別さについての理解の修正を迫ったように、AI もまた、人間であるとはどういうことかを私たちに問い直させるのかもしれない。