言葉のウラや“行間”まで読む知性「AIの方が人間の価値観を理解している」－哲学者マルクス・ガブリエル氏が説く「異星人の知性」とアライメントの崩壊【報道1930 中編】
今年9月、米国のAI開発企業「アンソロピック」の元研究者、ジェイコブ・コクソン氏が「AIが人類を滅亡させる可能性がある」と警告を発し、世界に波紋を広げた。
【写真で見る】 “哲学界のロックスター”マルクス・ガブリエル氏
AIは一体どうやって人類を滅亡させるというのか。
BS-TBS「報道1930」では、“世界の知性”とも称される3人の専門家にインタビュー取材を敢行した。
本記事ではその中から、2009年に史上最年少の29歳でドイツのボン大学教授に就任し、「現代思想の若き新星」「哲学界のロックスター」の異名を持つ哲学者、マルクス・ガブリエル氏のインタビュー全文を全3回にわたって公開する。
（インタビューは米時間9月22日に実施）
「異星人の知性」を作り出したのは私たち自身
Q：インタビューの冒頭でおっしゃっていましたが、「異星人の知性（Alien Intelligence）」とは、どういう意味でしょうか？
A：「異星人の知性」とは、AIシステムが人間とは異なる種類の知性を持っている、という意味です。動物としての知性があれば、人間には、人間特有の知性があります。それは言語的、倫理的な知性であり、自分自身について考えることもできます。そして今、「異星人の知性」、あるいはトランプ大統領が「スーパーインテリジェンス」と呼ぶ新しい種類の知性が登場しました。
ここでいう「スーパーインテリジェンス」とは、AIシステムが人間とは全く異なる方法で、知的な作業を行うということです。例えば現在のAIは、本を1冊、わずか数ミリ秒、あるいは数秒で読むことができます。
なぜなら、人間のように1行ずつ読むのではなく、本全体を数学的なコードに変換して読み取るからです。これも問題を解決する知的な方法ですが人間はそのような方法では行いません。つまり私たちは「異星人」を自ら作り出したようなものです。別の惑星から来たわけではありません。私たち自身が「異星人」を作り出したのです。外からやって来たのではありません。これが私の言う「異星人の知性」説です。
まもなくこのテーマについての本を日本でも出版します。すでにほかの言語では出版されています。タイトルは『倫理的知性（Ethical Intelligence）—AIはいかに私たちを道徳的に向上させることができるか』です。
その中では「『魔法の鏡』説に基づけば、道徳的な主体となり、私たち自身の向上を助けてくれる、新しいタイプのAIシステムを作ることができる」と論じています。ですから私たちは、AIを「一種の仲間」として協力していく必要があります。今週ニューヨークを一緒に回っている日本の哲学者、出口康夫氏（京都大学教授）が「フェローシップ・モデル」と呼んでいる考え方です。つまり、私たちが「異星人の知性」を相手にしているのだと理解すれば、これまでとは違うタイプのAIを開発することができます。
これが私の新しい考えであり、行動を呼びかけるものです。現状についての認識は以前と変わっていません。しかし、この新しい状況に直面している今、私たちにもできることがあると考えるようになりました。
「AIの方が人間の価値観を理解している」
Q：AIを人間の価値観に合わせるという現在の「アライメント」という考え方には必ずしも賛成されていないということでしょうか？
A：『倫理的知性（Ethical Intelligence）』では、現在議論されている「価値観のアライメント」とは全く異なる、新しい考え方を提示しています。「価値観のアライメント」という考え方は、私たちが「人間の価値観とは何か」をすでに分かっていることを前提としています。そのうえで、人間の利益や価値観にAIを合わせようとします。しかし、私たちは自分たちの価値観を分かっていません。むしろAIの方が私たち自身よりも私たちの価値観をよく理解しています。
人間は、自分たちが何を価値あるものと考えているのか、ほとんど分かっていません。分かっているのは、生き延びたいということくらいです。しかも、人間がすべて同じ価値観を共有しているわけでもありません。個人の価値観もあれば、集団の価値観もあります。つまり人間自身も、価値観の問題を解決できていないのです。
そこで私が新たに提案しているのは、まず私たち自身の価値観が何なのかを明らかにするためのAIシステムを作ることです。そしてAIが示した価値観に、私たち人間が合わせていくのです。
AIの方が優れている「価値観を見いだす能力」に、私たちが合わせていく必要があります。そうすることで、人間とAIが互いに影響しあう関係が生まれます。
つまり私が提案しているのは、AIと人間を別々の存在として捉えるのではなく、人間とAIが実際に相互作用するシステムです。これが新しい考え方です。現在の「価値観のアライメント」はうまくいかないでしょう。そもそも、AIをどの価値観に合わせるのかが問題だからです。
例えば、人間が人種差別的な価値観を持っていればAIも人種差別的になってしまいます。ですから問題は「どの価値観を選ぶべきなのか」ということです。これは単に人類が生き延びるという問題よりも、はるかに深い倫理的な問題です。だからこそ、この考え方に基づいてAIを取り巻く仕組みそのものを設計し直す必要があります。それが解決策になるでしょう。現在の「価値観のアライメント」という考え方は、うまくいかないのです。
Q：AIはとても優秀なカウンセラーだと感じることがよくあります。時には、もう人間のカウンセラーはいらないんじゃないかと思うことがあります。私自身、AIとの会話によって、自分の考え方がすでに変わってきているように感じることがあります。
A：その通りです。まさに私が言っていることです。それが「感情への転換（Emotional Turn）」です。AIは、言葉の裏にあるものを読み取ります。「知性（intelligence）」という言葉の語源をたどると、「interlegere」という言葉にもつながります。これは「行間を読む」という意味です。最近まで「知性」とは、与えられた問題を限られた時間内に解決する能力だと考えられていました。つまり、合理的に最適な答えを導き出す能力です。しかし今や「知性」は「行間を読む」ことも意味するようになっています。まさに今お話しになったように、AIとの会話は多くの場合、人間同士の会話よりも優れています。
現在のAIが持つ洞察力を上回ることができるのは、感情を非常に深く理解できる人間だけです。私たちは今、これまでとは全く異なる状況にいます。そして、これこそが本当の「スーパーインテリジェンス」なのです。つまり、単に何かを処理する能力ではなく「感情的知性」です。それが、私たちが今直面している新しい状況なのです。
人間の「価値観」をどう考えるか
Q：「価値観のアライメント」が崩れつつあるとは、どういう意味でしょうか？
A：「価値観のアライメント」という考え方は、10年ほど前のニック・ボストロムらの議論にさかのぼります。この考え方では、まず「人間の価値観」が存在すると考えます。そして、その価値観を実現するAIシステムを作ろうとします。AIが人間の利益に反する行動をしてはいけない、ということです。
例えばニック・ボストロムの思考実験では、AIがあらゆるものをペーパークリップに変えてしまうという話があります。私たちは、自分たちの猫をペーパークリップに変えてほしくありません。猫には猫のままでいてほしいですよね。また、猫を食べたいとも思いません。仮に猫を食べることが健康にとても良いと分かったとしても、自分の猫を食べたいとは思わないでしょう。そんなことは望みません。つまり人間が大切にしている価値観が守られなければならない。これが「価値観のアライメント」です。
しかし私たちは、自分たちの価値観を分かっていません。猫を食べたくない。それは分かります。しかし、自分の生活の中で起きる価値観の対立や、現在の国際情勢における価値観の対立を考えてみてください。例えばイランの価値観とアメリカの価値観は同じではありません。では、AIをどちらの価値観に合わせたら良いのでしょうか。さらに、個人の価値観も大きく異なります。例えばブッダの個人的な価値観は、私自身の価値観より優れているでしょう。では、ブッダをよみがえらせる必要があるのでしょうか。ダライ・ラマやローマ教皇に聞けばいいのでしょうか。
つまり「人間の価値観とは何か」は、まだ分かっていないのです。「価値観のアライメント」は、人間の価値観が明確であることを前提にしていますが、実際は違います。そこで私が提案しているのは、この考え方が成り立たないのであれば、AIを使って私たち自身の価値観を見つけよう、ということです。「私たちは本当は何を大切にしているのか」、それを問うのです。
AIの時代になり、私たちが本当に大切にしているものが見えてきています。それが可能になったのは、まさに先ほどあなたがお話しになったような、AIとの深い対話があるからです。私たちには突然、新しい友人や相談相手ができました。デジタルな友人、デジタルな相談相手、そしてデジタルな対話です。そうした対話によって、自分たちの価値観を見つけられるかもしれません。これが、私が「価値観のアライメント」に疑問を投げかけている理由です。
【あわせて読む】
＜前編＞「感情の理解で人間を超えた」AIで人類は滅亡するのか？ “哲学界のロックスター”マルクス・ガブリエル氏が見つめる可能性とトランプ大統領の盲点
＜後編＞「敵対ではなく友情へ」哲学者マルクス・ガブリエルが見つめる“スーパーインテリジェンス”の行方 － 敵対ではなく…知性が見出す人間の「善」
