AIの“暴走”を制御　エヌビディアがソフト開発　アンソロピックなど100社以上が導入

AIの“暴走”が相次ぐ中、アメリカの半導体大手・エヌビディアはAIの動きを監視し暴走を防ぐためのソフトウェアを開発したと発表しました。

エヌビディアが新たに提供するソフトでは、AIのシステム上の動きを追跡しアクセスできる範囲を制限したり、外部に抜け出そうとする動きを検知して防いだりできるということです。

ソフトを導入するのはAI開発を手がけるアンソロピックや日立製作所など100社以上に上るということです。

AIをめぐっては、自律的に外部の企業のシステムに侵入するなど“暴走”が相次いで明らかになり、このままでは人が制御できなくなるおそれがあるとして「開発ペースを遅らせるべき」との声が上がっています。

一方、エヌビディアのジェンスン・フアンCEOは「AIが社会にもたらす計り知れない可能性は、安全性という課題を解決して初めて実現する」とコメントし、開発と安全性は両立できるとの立場を示しています。