「敵対ではなく友情へ」哲学者マルクス・ガブリエルが見つめる“スーパーインテリジェンス”の行方 － 敵対ではなく…知性が見出す人間の「善」【報道1930 後編】
今年9月、米国のAI開発企業「アンソロピック」の元研究者、ジェイコブ・コクソン氏が「AIが人類を滅亡させる可能性がある」と警告を発し、世界に波紋を広げた。
【写真で見る】“哲学界のロックスター”マルクス・ガブリエル氏
AIは一体どうやって人類を滅亡させるというのか。
BS-TBS「報道1930」では、“世界の知性”とも称される3人の専門家にインタビュー取材を敢行した。
本記事ではその中から、2009年に史上最年少の29歳でドイツのボン大学教授に就任し、「現代思想の若き新星」「哲学界のロックスター」の異名を持つ哲学者、マルクス・ガブリエル氏のインタビュー全文を全3回にわたって公開する。
（インタビューは米時間9月22日に実施）
AIとの「共生」－ 可視化される人間の“善”
Q：AIとの未来は、AIと戦ったり、ただ規制したりするのではなく、もっと友好的に共存していくということでしょうか？
A：その通りです。
Q：AIに私たちを支えてもらうことも含めて、ということですね。
A：その通りです。これは、現代の日本哲学や中国哲学で広く見られる考え方でもあります。日本語では「共生」です。中国語では「共生（gongsheng）」と言います。つまり、共に生きるということです。東京大学の哲学者、中島隆博氏は、これを「共に成り行くこと（human co-becoming）」と呼んでいます。つまり「共生」とは、単に一緒に存在するだけではなく、「共に変わり、共に成っていく」ということです。私たちは、自分たちが作り出したAIシステムと、新しい形で共存していく必要があります。AIとの関係は「敵対」ではなく「友情」であるべきです。それが、私たちがこれから進むべき方向だと考えています。
Q：何が「悪」で何が「善」なのか、AIはどうやって判断するのでしょうか？
A：善と悪という客観的な価値は、人間の行動そのものに組み込まれています。なぜなら、人間は社会的な哺乳類だからです。人間という動物は、愛がなければ存在できません。それは単に性的な生殖という意味ではありません。人間の赤ちゃんは、世話を受けなければ死んでしまうことが分かっています。食べ物を与えるだけでは十分ではありません。人間は、カロリーを与えておけば生きられる機械ではありません。だから私たちは、互いを大切にします。それが愛です。人間は互いの間にある程度の愛がなければ存在できません。だから人間の行動を全体として見れば、善の方が上回っているのです。そしてAIは、人類が存在できている理由すなわち「善」を見つけ出すでしょう。しかし私たち一人ひとりには、それが見えません。人類全体の姿を捉えることができないからです。
そうしたパターンを見つけるには、ビッグデータが必要です。この考え方には、心理学、行動経済学、進化論などからも根拠があります。つまり、人類がこれまで生き延びてきたのは、全体として善の方が上回っているからだと考える科学的な根拠があるのです。もし人間が悪いだけの存在なら、戦争や大量虐殺が絶えず起きているはずです。しかし、現実はそこまで悪くありません。
もちろん、人間は多くの過ちを犯します。悪も存在します。それでも全体としては、善が悪を上回っているはずです。そしてAIは人間の行動の中から、そうしたパターンを見つけ出すでしょう。それによって私たちも、人間の善とは何なのかを知ることができます。私のような一個人には人類全体についてそのような判断をすることはできません。私が道徳的に適切な判断をできるのは、限られたことについてだけです。人類全体や国家全体について判断することはできません。だからこそAIは、そうしたパターンを見つける手助けができます。善と悪は、人間の行動の中に隠れているからです。私たちには到達できないどこか別の世界に存在しているわけではありません。それが私の考えです。
「倫理的なAIシステム」とは
Q：AIを規制しようとしている人たちもいますが、ご自身の考え方を今この段階でAIの世界に取り入れる必要があるのでしょうか、AIが先に進んでしまう前に、今やらなければならないということでしょうか？
A：その通りです。今すぐ取り組む必要があるという点を指摘してくださって、ありがとうございます。私たちは文字通り『ミッション：インポッシブル』の映画のような選択を迫られていると思います。「倫理的知性」を持つAIを開発し、それによって私たち自身をより良くしていくのか、それとも、最終的に私たちを滅ぼすようなAIを作ってしまうのか。そのどちらかです。従来の「価値観のアライメント」や「問題が起きたらAIのスイッチを切ればいい」という考え方を進めていけば、必ず人間の利益に反するAIを作ることになります。それは間違った選択ですが、私たちは今まさに、その選択をしようとしています。
一方、私が提案しているように人間をより良くするAIを目指すなら、AIは私たちの利益になるだけでなく、私たち自身をより良くしてくれます。その方向に進めば、私たちはこの状況を乗り越え、むしろ今より良くなれるでしょう。そのためには、社会や人類そのものをさらに大きく変えていく必要があります。それが進むべき道です。私が提案する方向に進まなければ、私たちは破滅すると本気で考えています。それが私の提案です。
Q：「倫理的なAIシステムを作る」とはどういうことでしょうか？すでにAIの中にあるような感じもしますが。
A：はい、100%すでにAIの中にあります。ただ、社会全体として、そのような使い方をしていないのです。私が思い描く未来では会話型AIが身近にあり、いつでも対話できるようになります。そして、そのAIには「人間を道徳的により良くする」という役割があります。AIを自分の感情や他人の感情をより深く理解するために使う人もいれば、爆弾を作ったり、人を操ったりするために使う人もいるかもしれません。もし倫理的なAIが誰かが人を操ろうとしていることに気づけば、その欲求自体を乗り越えられるよう手助けします。規制中心の現在のやり方では、AIは「それには協力できません」と答えます。つまり、誰かがAIを悪い目的に使おうとすると、今のAIは「それはルールに反するのでできません」と答えることが多いですよね。
しかし私のモデルでは、AIが「なぜその人がそうしたいのか」を理解し、その欲求そのものを乗り越える手助けをします。それが「倫理的知性」です。AIとやり取りするたびに、人間が少しずつより良くなっていくのです。
OpenAIやAnthropic、さらにイーロン・マスクのxAIなど、世界の主要なAI企業の中にも開発の減速を求めているところがあります。実際、数年前にも、現在そうした企業で働いている人たちを含む多くの専門家が、イーロン・マスクも含め、AI開発の一時停止を求める声明に署名しました。この考え方は以前からあり、繰り返し出てきています。トップクラスの開発者の中にも、AI開発の結果が悲惨なものになると考え、警告を発している人たちがいます。トランプ大統領は、AIを基本的には「データセンターを中心とした経済」として捉えています。AIを物理的なインフラの問題として考えているのです。しかし開発者たちは、AIシステムには社会的、精神的、そしてスピリチュアルな危険さえもあると考えています。今ここで行われているのは、まさにそうした議論です。ですから、ソフトウェア開発者や大手AI企業の中には、現在作られているAIは危険すぎるとして、開発を遅らせる、あるいは一時停止することさえ求める声があります。
Q：AIは人間を助けることができるので、開発を遅らせる必要はないという考えですね。
A：その通りです。開発を遅らせる必要はありません。必要なのは、正しい方向に開発することです。今の私たちは、何を目指すのかという目的もないまま、経済全体を含め、あらゆるものを作り続けています。私たちには今、目指すべき共通の目標がありません。人類には、みんなが向かっていける目標が必要です。その目標は人間の生きる条件をより良くすること以外にはあり得ません。ほかに人類全体で合意できるものはないでしょう。
だからこそ、人間に共通して必要なものは何かを見極め、それをより良くしていく必要があります。それしか道はありません。そうでなければ、目標のないまま闇雲に開発を進めることになります。まさに、ジェフ・ヒントンのようなノーベル賞受賞者を含むトップクラスの開発者たちが警告しているリスクを、生み出すことになります。
Q：考え方の前提には、基本的に「人間は善い存在だ」という考えがあるようですが、悪い目的で使う人の行動からAIが悪いパターンを学んでしまうのではないでしょうか？誰がAIを使うかを完全に規制することはできません。
A：だからこそ、AIシステムは私たちと一緒にサイバー空間に存在している、という点が重要なのです。ここでは分かりやすく、主にインターネットのことだと考えてください。厳密にはサイバー空間はインターネットより広いものですが、私たちはその空間を通じてコミュニケーションしています。もしそのサイバー空間の大部分を善いAIが占めていれば、一部に悪いAIが存在しても大きな害にはなりません。
私は、人類が完璧だと言っているわけではありません。人間は完璧にはなれません。歴史に終わりがあるわけでもありません。私たちは、今より良くなることを目指すことしかできないのです。悪はなくなりません。ただ、善と悪のバランスを見たときに、悪が善よりも小さな領域にとどまる必要があります。
本当の脅威はサイバー空間全体が善ではなく、悪の方向に傾いてしまうことです。
だからこそ、AIの世界で善いAIを主流にしなければなりません。ここで「私たち」と言っているのは、人類全体のことです。人類は、倫理的知性を持つAIの方が、悪いAIよりも大きな影響力を持つサイバー空間を作らなければなりません。それが目標です。
今問われる「人間のあり方」
Q：私たち普通の人間には、未来のために何ができるのでしょうか。
A：まず私たち一人ひとりが、自分たちが置かれている状況を認識することです。
事の重大さに気づくことです。私たちは今、これまでとは根本的に違う状況にいるのだと理解する必要があります。それはAIに仕事を奪われるからではありません。状況は、ある意味それよりもずっと深刻です。問題は、これから人間がどんな存在になっていくのか、ということだからです。仕事や労働、経済、政治といった問題は、すべてこの根本的な問いから派生するものです。
私たち一人ひとりが、まず「人間はこれからどうあるべきか」を考える必要があります。そして日本のような民主主義社会では、こうした考え方が政治やビジネスにも影響していくでしょう。私たちは一人ひとり、それぞれ違う形でAIと関わりながら倫理的に共生することを学んでいきます。それは個人としてもできることです。
ただ、これからは自分自身を守る方法も変えていかなければなりません。メンタルヘルス、公正さ、人との関わり方といった問題は、これまで以上に重要になります。「異星人の知性」のようなシステムが私たちを分析しているからです。
Q：哲学は「私たちは何者なのか」といった大きな問いを考える学問ですよね。
そうした哲学の考え方は、AIと向き合ううえでも役立つのでしょうか？
A：AIと本当に向き合うために必要なのは、哲学です。だからこそ今、シリコンバレーをはじめとするAI開発の現場で、哲学が非常に重視されています。これまで以上に重要になっています。そしてAI研究や開発の現場にいない人たちも、その重要性を理解する必要があります。そもそも「人工知能」という考え方そのものに、哲学的な歴史があります。そして今、人類が直面しているこの大きな変化に向き合うために、最も有効なのが哲学なのです。人類がただ生き延びるだけでなく、より良くなっていくために、今もっとも重要なのが哲学だと思います。
Q：あなたが私たちにとってのトム・クルーズになれるのではないでしょうか、大きな使命がありますね。
A：哲学者である私が、この「ミッション：インポッシブル」における皆さんのトム・クルーズになれるかもしれません（笑）ただ、それだけではありません。日本を代表する経営者の一人で、NTT会長である澤田純氏が、このような問題を扱った非常に優れた哲学の本を書きました。私が手がけるシリーズから出版する予定です。また、このテーマについて、日本のトップクラスの経営者とも何度も非常に良い議論をしてきました。皆さん、この問題をよく理解しています。日立製作所の東原敏昭会長も、なぜ経営に哲学が必要なのかについて、とても素晴らしいインタビューをされています。ですから、経営トップの間でも、こうした意識は高まっています。でも、皆さんのトム・クルーズになれるなら喜んで！
【あわせて読む】
＜前編＞「感情の理解で人間を超えた」AIで人類は滅亡するのか？ “哲学界のロックスター”マルクス・ガブリエル氏が見つめる可能性とトランプ大統領の盲点
＜中編＞言葉の裏や“行間”まで読む知性「AIの方が人間の価値観を理解している」－哲学者マルクス・ガブリエル氏が説く「異星人の知性」とアライメントの崩壊
