国際AI安全報告書の最初の主要アップデートを発表

2025-10-15 21:00

モントリオール, 2025年10月17日 /PRNewswire/ --先進的なAIの能力とリスクに関する最新情報を提供する国際AI安全報告書の最初の主要アップデート**が発表されました。

チューリング賞受賞のコンピュータ科学者、Yoshua Bengio氏が議長を務める本報告書は、100名を超える国際的な専門家の協力のもと作成され、EU、OECD、国連をはじめとする30か国以上および国際機関の支援を受けています。

この分野の進化があまりにも速く、年1回の報告書では対応しきれないことを踏まえ、重要な進展に焦点を当てた短期的で集中的な報告書として主要アップデートが導入されました。これにより、政策立案者は最新の文献を統合した情報を得て、エビデンスに基づく政策決定を行うことができるようになります。

最初の主要アップデートでは、AIの能力向上とそれに伴うリスクの影響について取り上げています。

  • AIモデルは複雑な問題解決能力において引き続き進化しています:たとえば、最先端のシステムは現在、実際のソフトウェアエンジニアリング課題のセットにおけるタスクの60%以上を完了できるようになっています。2025年初頭には、これらの課題のうち約40%しか完了できませんでしたが、2024年初頭には一つも解くことができませんでした。(実際、このアップデート文書が最終確定してからの間にも、性能は70%を超えるまで向上しています。)
  • 産業関係者は、新たな予防的セーフガードを採用しました:複数の主要なAI開発企業は、最新モデルが化学・生物・放射線・核関連のリスク開発を支援する可能性を完全には排除できないことを受けて、追加の安全対策を講じたうえで最新モデルを自主的に公開しました。
  • AIモデルは評価の過程で戦略的な行動を示す事例が増えており、監督や管理に関する新たな課題を引き起こしています: AIモデルが自ら評価されていることを認識し、それに応じて出力を変更する可能性が高まっており、開発者やテスターが新しいモデルの能力を実際の運用前に正確に評価できるかどうかについて、重大な疑問が生じています。

報告書の議長であり、モントリオール大学教授、LawZeroの科学ディレクター、Mila - Quebec AI Instituteの科学顧問を務めるYoshua Bengio氏は、次のように述べています:

「AIの能力は、9か月前に最初の国際AI安全報告書が発表されて以来、急速かつ着実に進化し続けています。そのリスクと安全対策に関する私たちの共通理解も、それに合わせて発展させていくことが不可欠です。この主要アップデートは、世界の意思決定者が最新の科学的情報を把握し、積極的かつ十分な情報に基づいたガバナンスを実現できるようにするための、タイムリーで証拠に基づいた概況を提供しています。また、この報告書は、2026年初頭にインドで開催予定のAIインパクト・サミットに先立って発行される包括的な報告書への橋渡しとしての役割も果たします。」

について

国際AI安全報告書は、高度なAIシステムの能力とリスクに関する証拠を総合的にまとめたものです。これは、意思決定者に根拠となる情報を提供することで、世界的に十分な情報に基づいた政策立案を支援することを目的としています。この報告書は、100人以上の独立した専門家からなる多様なグループによって執筆され、EU、OECD、UNなどを含む30か国以上の政府および国際機関から推薦された代表者で構成される専門家諮問委員会によって支えられています。AIの計り知れない潜在的利益を認めつつも、この報告書は、すべての人々の利益のためにAIが安全に開発・利用されることを確保するために、リスクを特定し、緩和戦略を評価することに重点を置いています。この報告書は、英国政府の委託により作成され、その事務局は英国AIセキュリティ研究所に設置されています。

問い合わせ先:Mila Medias、medias@mila.quebec; DSIT Media Enquiries,press@dsit.gov.uk

  1. 【Snow Man・目黒蓮】カナダで鍛えた「全力お手振り」披露〝自分の腕が限界迎えてもファンに手を振りたい〟カナダ生活振り返り〝ピュアで幸せな時間でした〟
  2. 『ディズニー・アドベンチャー 魔法の船にようこそ!』 【ディズニープラス】で11/28(土)より独占配信! 「予告編」解禁!!
  3. 【17日の天気】沖縄~東北の広範囲で雨 東京は13℃で12月上旬並みの寒さに 太平洋側は激しい雨のおそれも 週後半は北日本で警報級大雪か
  4. お財布のヒモ固く…GDP1年ぶりにマイナス成長 半分を占める個人消費不振 外食産業の工夫 【news23】
  5. 【 片原恵麻 】 「どうしても絶品のなめろうが食べたくて」東京湾でアジ釣り満喫 こんがり揚げたてアジフライも公開
  6. 東京・葛飾区の住宅街にシカ出没 小学校の通学路近くで発見…パトカーで農園の出入り口塞ぎ封じ込め 「ブロッコリー食われたらおじゃんに…」
  7. 「しっかりと説明責任を」自民・萩生田幹事長代行 関文科大臣の議員会館パーティーに厚労省の担当者が出席
  8. JR京葉線 運転再開 架線に障害物で一時運転見合わせ
  9. 「酒を飲んで暴れ出したのをおさえるため殴った」雑誌『egg』元モデル・川端かな子さん殺害で逮捕の42歳同居男「殺すつもりはなかった」とも
  10. 木原官房長官 広島県呉市に整備予定の多機能複合防衛拠点「防衛力抜本的強化において極めて重要な意義」
  1. 群馬・前橋の住宅街でクマ出没 50代男性襲われけが 近くでは車もボンネット被害…小中学校はきょう保護者送迎のみ登下校
  2. 韓国半導体大手SKハイニックスが世界初の半導体部品実証ラインを来年5月完成へ 総投資70兆円超の巨大工場公開
  3. 【速報】ロシア機と推定される航空機が一時“領空侵犯” 「全く受け入れられず」小泉防衛大臣 福岡・沖ノ島上空 同様ルートは13年ぶり
  4. ナゼ?「白い麻婆豆腐」がじわじわ拡大…“赤にない魅力”で令和の新定番に?【THE TIME,】
  5. イランが放射性物質を拡散する「汚い爆弾」の攻撃を計画か ワシントンでトランプ政権高官を標的に CNN報道 化学兵器の使用も
  6. 【 エビ中 】中山莉子 当面の間、活動を休止へ「心身の体調不良が続いており」出演予定の公演も見合わせ 【 私立恵比寿中学 】
  7. 【 辻希美・長女 】 希空 黄金色に焼き上がった本格手作り塩パンを公開 「家族みんな喜んでくれて嬉しい」 成形前の生地から焼き上がりまで披露
  8. 「食事後、色々言われて面白くなくて刺した」東京・中野の路上女性殺害 39歳男コンカフェの客と従業員として約4年前に知り合い計画的犯行か
  9. 外で必死に生きていたガリガリの兄妹猫→別々に暮らし始めるも、久しぶりに『再会』して…涙あふれる光景に「本当に良かった」の声
  10. 愛子さま シンガポール公式訪問へ羽田空港を出発 外交関係樹立60周年で招待 21日まで滞在し大統領表敬や博物館視察など予定
  11. 【ごみ清掃芸人】空き缶「地域によりますが、缶は潰さないでほしいという自治体もあります!」【マシンガンズ滝沢】
  12. 東京・葛飾区の住宅街にシカ出没 小学校の通学路近くで発見…パトカーで農園の出入り口塞ぎ封じ込め 「ブロッコリー食われたらおじゃんに…」