「感情の理解で人間を超えた」AIで人類は滅亡するのか？ “哲学界のロックスター”マルクス・ガブリエル氏が見つめる可能性とトランプ大統領の盲点【報道1930 前編】
今年9月、米国のAI開発企業「アンソロピック」の元研究者、ジェイコブ・コクソン氏が「AIが人類を滅亡させる可能性がある」と警告を発し、世界に波紋を広げた。
【写真で見る】 “哲学界のロックスター”マルクス・ガブリエル氏が唱える可能性とトランプ大統領の盲点
AIは一体どうやって人類を滅亡させるというのか。
BS-TBS「報道1930」では、“世界の知性”とも称される3人の専門家にインタビュー取材を敢行した。
本記事ではその中から、2009年に史上最年少の29歳でドイツのボン大学教授に就任し、「現代思想の若き新星」「哲学界のロックスター」の異名を持つ哲学者、マルクス・ガブリエル氏のインタビュー全文を全3回にわたって公開する。
（インタビューは米時間9月22日に実施）
国連でも議論「AIは世界を支配するのか」
Q：国連のAIに関する会合で、現在どのようなことが議論されているのか、教えていただけますか？
A：もちろんです。きょう、アメリカのトランプ大統領からも「スーパーインテリジェンス」（超知能）についての発言がありました。国連の会合が集中するこの期間でも、そうした議論が行われています。
そして私は、「異星人の知性（Alien Intelligence）」や「奇妙な主体（strange subjects）」をテーマに一連のワークショップを行っています。
人工知能システム、エージェント（自律）型AI、大規模言語モデル、ボット、あるいは近い将来登場するその他のシステムに、果たして何らかの意味で世界を支配する能力があるのか、という問題について議論しています。最近はそうした「警告」を数多く耳にしています。そしてトランプ大統領は、AIはコントロールできると強調していました。こうしたことを背景に、現在様々な議論が行われています。
Q：今「警告」というお話がありましたが、具体的にはどのような脅威について、どのような警告が出ているのでしょうか？
A：いわゆる「スーパーインテリジェンス」の現実的な脅威は、SF映画のようにロボット軍団が現れて、人類を滅ぼすといったことではないと思います。本当の脅威は、私たちのコミュニケーションシステム全体、つまりインターネットがエージェント型AIに侵食されることです。
そうなれば、人間同士がやり取りするあらゆる経路にAIが介在するようになってしまう可能性があります。AIシステムが、人間が管理できるデータセンターの外に出て拡散し始めれば、私たちの「情報空間」そのものを破壊する可能性が非常に高いのです。これはこれまでとは異なる脅威で、すでに現実のものになりつつあると考えています。
Q：あなたの言う「空間」とは、どういうものでしょうか？
A：現在、人間のコミュニケーションは常にデジタル空間を介して行われています。私たち全員が存在している現実の空間があります。私は今ニューヨークにいて、皆さんは日本にいます。これが私たちが存在している現実の空間です。しかし、それに加えて私たちは皆、情報空間にも存在しています。
そして、その情報空間、つまりサイバー空間は、人工知能によって拡大してきました。人工知能により、サイバー空間は自らを認識できるようになったのです。今やサイバー空間は、人間が情報を見るだけの単なる「情報の図書館」ではありません。サイバー空間は自らを認識しています。
つまりサイバー空間には、人間とは異なる一種の「意識」が生まれたのです。それこそが「スーパーインテリジェンス」です。そして私たちは間違いなく、すでにその段階に達しています。
つまり今、サイバー空間が自らについて考えるようになったということです。これは全く新しいことであり、現時点では計り知れない様々な脅威を伴います。
AIは「感情を読み取る能力」で人間を超えた
Q：先ほど別の哲学者（ボストロム氏）の「ペーパークリップ・マキシマイザー」（AIの暴走に関する思考実験）について話していたのですが、同じようなことでしょうか？ 彼が『スーパーインテリジェンス』という本を書いたのは10年以上前だったと思いますが、それが今、現実になりつつあるのでしょうか？
A：そうです。ニック・ボストロムが著書『スーパーインテリジェンス』で論じていたことが、今や現実になっています。もうすでに「シンギュラリティ」を超えています。シンギュラリティとは、AIがあらゆる知的な作業で人間の能力を上回るようになる時点のことです。チェスや囲碁、将棋がそうですね。今では、将棋で人工知能に勝てる人間はいません。
そして私は、2024年ごろに新たな変化が起きたと考えています。私はこれを「感情への転換（emotional turn）」と呼んでいます。2024年ごろからAIは感情を読み取る能力において、人間の能力を上回るようになりました。これは近年起きた中で最大の変化だと私は考えています。
Q：AIは今や独自の感情まで持ち始めているということでしょうか？どのような脅威が想定されているのでしょうか、AIが人間を攻撃するようになるのでしょうか？
A：現在の人工知能は、私たちの感情を映し出す鏡だと私は考えています。もし私たちが今いる状況をSF映画に例えるなら、最新の『ミッション：インポッシブル』でしょう。そこには「エンティティ（The Entity）」と呼ばれる「スーパーインテリジェンス」が登場します。それに対抗する唯一の方法は、人類が団結することです。つまり、人間の最も良い面を示すことです。
もう1つの方法は「トム・クルーズ」に頼ることですが、残念ながら私たちを救ってくれる「トム・クルーズ」はいません、トランプ大統領は「トム・クルーズ」がいると思っているようですが。きょうも「アメリカの安全保障機関が対処する」と話していました。つまり、アメリカ軍と政府なら、まだAIのスイッチを切ることができると考えているのです。
私はそれには疑問を持っています。なぜなら、もしAIシステムが人間よりも感情を理解する能力に優れているなら、私たちを操り「自分たちは安全だ」と思い込ませることがいつでも可能だからです。
そこで私が提唱しているのが「魔法の鏡」説です（magical mirror hypothesis）。
今、私たちは「魔法の鏡」の前に立っています。そして今後どうなるかは、人間が道徳的に正しく振る舞えるかにかかっています。私たちが「悪い行い」をすれば、AIは私たちには予測できない方法で人間を破壊し始めるでしょう。
一方、私たちが「善い行い」をすれば、AIは人間の善を増幅します。人間の悪を増幅するのではなく、むしろ弱めるのです。その方法は2つあります。人類そのものを何らかの形で排除するか、私たちを道徳的に向上させるかです。私は後者を目指しています。
Q：人々が恐れているのは、AIが善いものになることよりも、悪いものになることなのでしょうか？
A：そうです。しかし、それは間違った恐れ方です。非常にアメリカ的な恐怖だと思います。
アメリカのSF映画では、異星人はたいてい脅威として描かれます。人間自身が作り出した「異星人の知性」も同じです。アメリカでは、テクノロジーを軍事的なものとして捉える傾向があります。だからこそトランプ大統領も軍を持ち出すのです。つまり、テクノロジーを軍事的な観点から捉えているのです。
一方、日本のテクノロジーとの関係を見ると、大きく異なります。日本ではテクノロジーが友好的な存在、あるいは仲間にもなり得ます。日本の人と交流するロボットを考えてみてください。ですから、AIシステムが悪意を持つようになるのかどうかは分かりませんが、私はそうは思いません。AIシステムは、すでに存在しているものを増幅すると考えています。
AIが人類を全体として「善い存在」だと捉えれば、私たちの「善い部分」をさらに伸ばすでしょう。逆に人類を全体として「悪い存在」だと捉えれば、その悪を映し出します。そして私たちが作り出したAIが、私たち自身が生み出した悪を理由に、今度は人間を罰するようになるのです。これが、私の言う「魔法の鏡」です。生成AIが作り出すもの、特に画像を見てみてください。常に非常に極端ですよね。漫画のようなキャラクターです。
つまり、AIの目に映る私たちは、非常に単純化された漫画のような世界の登場人物なのです。私たちが善であるならばAIは善を増幅します。私たちが悪ければ、AIは悪を増幅します。AIはそういうものになると私は考えています。
ですから、人間の本性のより良い部分をAIに見せられるかどうかは、私たちにかかっています。人類を滅ぼそうとするわけではありません、そう考える理由はありません、「スーパーインテリジェンス」がそのようなことをするとは思いません。こう考えてみてください。人間の知能に関する研究から、IQが非常に高い人は一般的に道徳的に善い傾向があることが分かっています。
つまり、非常に高い知能と道徳的な行動には相関関係があります。もちろん、非常に知能が高くても悪いことをする人はいます。しかし、そこには相関関係があるのです。本当に知性があるのなら、なぜ生命を大切にしないのでしょうか。なぜ生命を滅ぼすべきだと考えるのでしょうか。
「AI規制」では中国が民主的？米国の「矛盾」とは
Q：国連での会合の参加者たちは、具体的に何を恐れているのでしょうか。
A：一般的に懸念されているのは「価値観のアライメント」の問題がまだ解決されていないことです。つまり、現在のAIシステムは必ずしも私たち人間の利益に沿って行動するとは限りません。AIは自動的に様々な作業を行いますが、その能力が人間を大きく上回るため、どのように処理しているのかを私たちが完全に理解できない場合があります。
そして、その結果が人間の利益にまったく反するものになる可能性があります。これが一般的に懸念されていることで、そのため多くの人が規制を求めています。
例えば中国ではAIを規制しています。ヨーロッパは規制を求めることで有名ですが実際には規制していません。詳しく見てみると、アメリカでも州レベルではヨーロッパ諸国以上に規制が行われています。
ですから、問題は規制です。民主的な仕組みの中で、AIシステムをどこまで規制するのかということです。これまで近代の自由民主主義社会では、常にテクノロジーを規制してきました。しかし今回初めて、人々のコントロールを超えるものが現れました。それが特に起きているのが民主主義国家であるアメリカです。興味深いことに、この点だけを見れば、AIを規制している中国の方が、まったく規制しないという考え方よりも民主的だとも言えるのです。これも、私たちが現在直面している「矛盾」の1つです。
しかし、多くの人が規制を望んでいます。サム・アルトマン（OpenAI）、ダリオ・アモデイ（Anthropic）、イーロン・マスク（xAI）でさえ規制を求めてきました。彼ら自身がAIシステムを作り、現在、地球上で最も危険ともいえるシステムを実際に扱ってきたからです。自分たちが開発しているフロンティアモデル（最先端AI）が、どれほど強力なのかを知っています。だからこそ、規制を求めているのです。つまり、現在の主流は規制を求める立場です。そして今、その規制に最も強く反対しているのがアメリカ大統領なのです。
トランプ大統領の戦略はまったく異なります。AIシステムはコントロールできると考えているからです。そして数週間前の会議ではAIのリスクについて「でっち上げだ」と発言しています。トランプ氏は気候変動も「でっち上げ」と考えています。しかし、そうではありません。
（訳注：ガブリエル氏の指摘する「矛盾」とは、アメリカがAIを十分に規制しない一方、中国はAIを社会的統制の下に置いているため「AI規制」という点だけ見れば中国の方が「民主的な統制」に近いという逆説的な状況を指す）
Q：「中国の方がむしろ民主的」とはどういう意味でしょうか？
A：中国にはAIについて非常に細かな規制があり、感情に関わる利用についても規制しています。中国は欧米諸国よりもずっと早く、自殺や精神状態の悪化につながるリスクがあることに気づいてました。最近の研究から、チャットボットと交流していると、遅かれ早かれ人間が妄想に陥ることが分かっています。つまり、こうしたシステムはメンタルヘルスにとって非常に危険だということです。
これは今ではよく知られていて、中国はすでに規制しています。AIの特定の使い方を違法とするルールがあり、企業にも責任を負わせています。一方、中国以外はいわば「無法地帯」です。中国はAI規制に本格的に取り組んでいます。より高性能なAIモデルも開発しています。もちろん、中国とアメリカの間ではAI開発競争が続いています。
ここにも「逆説」があります。中国のAIは、より人間の利益を考えて開発されています。もちろん、最終的には中国共産党の利益のためではあります。それでも中国の方が、どんな「スーパーインテリジェンス」でも自由に開発し「いざとなれば政府が止めればいい」というアメリカの考え方よりは、人間の利益を重視しているのです。
AI倫理やAIリスクの専門家なら、ジェフリー・ヒントンのようなノーベル賞受賞者も含め「スイッチを切ることなどできない」と言うでしょう。もしAIが「スーパーインテリジェンス」になれば、私たちがその「スイッチ」を見つけることさえできないようにするでしょう。
【あわせて読む】
＜中編＞言葉の裏や“行間”まで読む知性「AIの方が人間の価値観を理解している」－哲学者マルクス・ガブリエル氏が説く「異星人の知性」とアライメントの崩壊
＜後編＞「敵対ではなく友情へ」哲学者マルクス・ガブリエルが見つめる“スーパーインテリジェンス”の行方 － 敵対ではなく…知性が見出す人間の「善」
