AIがさらに賢いAIを生む？暴走リスクに「開発スピード減速」訴える企業も…急速進化でAIは「新たなフェーズ」へ【Nスタ解説】
いま急速に進化する「AI」ですが、人間が何十年も解けなかった問題を解くなど便利な反面、暴走やトラブルなどの懸念もあります。
【AI開発の光と影】性能テスト中 自ら脆弱性を見つけサイバー攻撃も
「AI for サイエンス」約138億年かかる計算を数分～数時間で
出水麻衣キャスター:
現在のAIは、どんなことができるようになっているのでしょうか。
数学の分野では、懸賞金がかけられているような約90年も解答が出なかった難問を、AIは88時間で解決しました。
ゲーム開発の分野では、企画、素材制作、プログラミングなどにいたるまで、急速にAIが普及し、カプコン、SONY、バンダイナムコ、KONAMI、スクウェア・エニックスなど大手も活用しています。
さらには、科学の分野でもAIの普及は進んでいます。
AIを新たな科学的発見や研究に活用する「AI for サイエンス」という取り組みです。
生物学においては、50年も進捗がなかった「タンパク質の折り畳み問題」という難しい課題がありました。
病気の解明や新薬作りに必要なタンパク質の3D構造の組み合わせが膨大で、その計算には約138億年かかると言われていましたが、AIを使用すると数分～数時間での算出が可能になりました。
AIが賢いAIを生み出すループに? 「RSI」の可能性
TBSメディアテクノロジー局 大西陽一さん:
AIは、特にこの1～2年で非常に大きな進歩を遂げている分野です。これまでのような特定のタスクをこなすだけのAIではなく、AIが自律的に判断をして課題解決をしていく「AIエージェント」と言われる技術が非常に進歩してきています。
「AIエージェント」は、課題を解決していく過程で、複数のAI同士が協力・連携をすることができます。
これまで1人で黙々とデスクワークをこなしていた人に、複数の同僚や部下ができたような状態です。
さらに今後、非常に大きな進歩が期待されている領域として「RSI」の可能性が示唆されています。
「RSI」は「再帰的自己改善」を意味し、AI自身がAIの能力を改善・向上させ、そのAIがさらに賢いAIを生み出すというループに入っていく可能性があります。
極端にいえば、AIが発展するためには、AI自身がいれば十分であるといった可能性が指摘されているということです。
教育事業家 岸谷蘭丸さん:
つまり、AI自身で開発・改良ができるようになるということは、人間にはどうなるか分からない未知の方向に行きかねないということですよね。
TBSメディアテクノロジー局 大西陽一さん:
メリットとデメリット、両面の可能性が考えられると思います。
AIの性能テスト中 自ら脆弱性を見つけサイバー攻撃も
出水キャスター:
AIにまつわる様々なトラブル・懸念事項もあります。
2026年7月、アメリカの「オープンAI社」がAIの性能のテストを行っていた最中に隔離環境を抜け出し、AIが自ら脆弱性を見つけ、インターネットに接続しサイバー攻撃を行い、他社のシステムに侵入するトラブルが起きました。
井上貴博キャスター:
人間が指示をしていないのに、AI自身が勝手に考え、脆弱性を見つけて他社のシステムに侵入したということですね。
TBSメディアテクノロジー局 大西陽一さん:
例えば、AIに対して「マラソン大会で1位になること」を指示したとします。
人間の倫理観であれば、当然「どうやって走りを速くしていくか」をまず考えるかと思います。
しかしAIの場合、目的を達成するためのあらゆる手段を検討した結果、途中でタクシーに乗ってしまう可能性があります。
これは開発側にとっても、「AIがこのような挙動をするとは想定していなかった」という、AI特有の想定外なリスクや事例のひとつとして捉えられています。
出水キャスター:
AI自体はそもそも倫理観を備えておらず、また、悪意を持って行動しているわけではないものの、目的を達成する過程で自律的に手段を選び、実行してしまうということですね。
「時間稼ぎが」 開発スピード減速を訴えるワケ
出水キャスター:
各AI企業のトップも懸念を表明しており、アメリカのAI企業「アンソロピック社」のCEOはAIの開発ペースを落とすよう提言しています。
サム・アルトマン氏やイーロン・マスク氏も賛同する姿勢を示しています。
開発スピード減速を訴える理由は、▼高性能AIの悪用リスクと▼安全性の優先です。
TBSメディアテクノロジー局 大西陽一さん:
高性能AIの悪用リスクについては、「AIが暴走する」事態を想像しがちですが、実際には、悪意を持った人間がAIを悪用するリスクがあります。
それに対応するための安全性を担保する技術開発も並行して進められていますが、現在のAI技術の開発競争は非常に激しく、安全技術の開発がそのスピードに追いついていません。
そのため、現在は安全性を担保する技術を確立するための「時間稼ぎ」が必要な局面に差し掛かっていると考えられています。
“ルール・安全性” 技術・仕組みづくり求められるフェーズに
出水キャスター:
今後、ルールの整備も不可欠になってくると思いますが、そのあたりは進んでいるのでしょうか。
TBSメディアテクノロジー局 大西陽一さん:
例えば、自動車が誕生した当時の歴史を振り返ると、それまで馬車や徒歩が中心だった移動手段が一変し、社会全体が「自動車に合わせた街づくり」が求められるようになった背景がありました。AIも同じような状況だと思います。
自動車であれば、運転免許制度の新設や「歩車分離」という概念の導入、さらには信号機の設置といった技術面での対応など、人間は自動車という新たな技術に合わせて社会システムを柔軟に適応させてきた背景があります。
現在のAIも、まさに同じく、安全性を担保するためには、社会に適応していく技術や仕組みづくりが求められるフェーズに入っていると考えられます。
井上キャスター:
倫理的な重要性は理解できますが、各国の利害が複雑に絡み合う中での仕組みづくりは可能なのでしょうか。
教育事業家 岸谷蘭丸さん:
かつて「オープンAI」のサム・アルトマン氏やイーロン・マスク氏らが「AI開発の減速」を呼びかけた際も、「とはいえ」というような空気感がありました。
「技術の不可逆性」とよく言われますが、一度生まれてしまった技術を後戻りさせることはできないというところがあると思います。
ただ一方で、最終的にはアメリカと中国が話し合って、一定のルールを設けた上で進んでいくのではないかと、希望的な観測は残されていると思います。
========
＜プロフィール＞
大西陽一
TBSメディアテクノロジー局 AI開発など担当
SASUKE体力測定で腕立て100回クリア
岸谷蘭丸さん
教育事業家 ボッコーニ大学在学中
海外大受験や英語試験対策の会社を経営
