アンソロピック共同創業者「これからの数年は人類にとって最も重要」 東京大学で語った「AIと次の10年」【news23】
相次ぐサイバー攻撃。13日だけで21の自治体の被害が判明しました。AIの悪用も懸念される中、開発企業の創業者が東大で語ったこととは。
相次ぐ“サイバー攻撃” 多数の自治体で個人情報流出
連休明けの13日も、次々と判明したサイバー攻撃。
宅配すしチェーン「銀のさら」の運営会社は、スマホアプリなどに登録していた人の個人情報が最大約650万件が流出した可能性があると発表しました。
会社の外部サーバーが、身代金要求型のウイルス「ランサムウェア」による攻撃を受けたということです。
一方で…
大分県の担当者（13日）
「個人情報が漏えいした可能性があることが本日確認されました」
大分県によると、外部の民間会社に運用など委託しているシステムに不正アクセスがあり、「メール等配信システム」の登録者のメールアドレスなど約3万8000件の個人情報が漏洩した可能性があることがわかったということです。
また、このほかにも岡山市や金沢市をはじめ多くの自治体の防災メールのシステムなどが、不正アクセスを受け、登録者などの個人情報が漏洩した恐れがあることが発覚しました。
【13日発覚 個人情報流出のおそれがある自治体】
福井県 福井市 約6000件
静岡県 島田市 7583件
宮城県 富谷市 約6500件
岡山県 岡山市 約9850件
静岡県 牧之原市 約2700人
神奈川県 綾瀬市 約1万1000人
大分県 約3万8000件
静岡県 菊川市 8345人
神奈川県 座間市 約1万1000人
長崎県 佐世保市 9600件あまり
石川県 金沢市 件数不明
神奈川県 秦野市 約3万3000人
長崎県 長崎市 約2万8000人
山口県 下関市 約1万5000件
神奈川県 横須賀市 約5万7000人
鹿児島県 さつま町 約2500人
山口県 和木町 約1000件
富山県（入善町・砺波市・黒部市・高岡市） 件数不明
フランス 複数の大手スーパーにサイバー攻撃
フランスのスーパーでは、アイスが溶けて漏れ出てしまっていますが、これもサイバー攻撃による被害だといいます。
フランスメディアによりますと、複数の大手スーパーにサイバー攻撃があり、ネット接続型の冷蔵・冷凍設備が被害を受けました。
温度が最高50℃まで上げられたといいます。
被害は数百店舗に及び、大量の食品廃棄を余儀なくされたほか、火災が起きた店舗もあるということです。
AIの進化によって、システムの隙を突いたハッキングが、簡単にできるようになったと言われる昨今、システムの脆弱性を発見する能力が優れている高性能AI「クロード・ミュトス」などは、防御となる一方で、凶器にもなり得ると指摘されています。
来年には「AI自ら“次世代AI”開発」か
その「クロード」を生み出した、アメリカ大手AI企業「アンソロピック」の共同創業者ジャック・クラーク氏が、13日、東京大学でAIについての講演を行いました。
アンソロピック共同創業者 ジャック・クラーク 氏
「これからの数年間は、人類にとって最も重要な年月になると思う」
人間がAIを育てる時代から、AIが自らの能力で次世代のAIを開発する未来が近づいていると、クラーク氏は語ります。
アンソロピック共同創業者 ジャック・クラーク 氏
「2027年には50%以上の確率で、自らの後継を育て上げる強力なAIが登場すると思っています。世界は大きく変わるでしょう。病気を治し、環境問題の課題を解決する」
一方で、AIに未来を丸投げしてはいけないと指摘します。
アンソロピック共同創業者 ジャック・クラーク 氏
「AIの自己改善を容認するかどうかは、極めて重要な問題であり、その判断は企業だけでなく、政府などによって下されるべき」
一度立ち止まり、社会全体でルールを選択していくことが重要だと訴えます。
この言葉に学生は…
出席した学生
「もっと加速主義的な『どんどん進めていってしまえ』みたいなことを言うのかなと思ったが、抑制的なことを言うことが多かったなと」
一方、こんな意見も…
出席した学生
「ブレーキは必要だと思う。その上で正直なところ、彼らがブレーキをかけられるかというところはちょっと不安に思っている。実際ビジネス、どんどん強いモデルを作る。だから、世界は結構まずくなっていくんじゃないかというのが僕の不安」
データセンターの建設が相次ぐ
AIで世界はどう変わっていくのか。
アメリカではAIのための巨大な施設の建設が相次いでいます。
ALERIFY社 コハノフスキ CEO
「各人のコードを入力します」
厳重なセキュリティーで守られた施設の奥には…
記者
「データセンターの中心部です。サーバーがずらっと並んでいます」
ここはAIを動かす、いわば“心臓部”、「データセンター」です。
この施設では、企業や病院などの顧客データを厳重に保管。高速通信で安定的なデータアクセスを提供しています。
世界的なAI開発競争をうけ、アメリカではデータセンターの需要が急増。
建設中の施設も含めると、その数は約4800箇所。世界のデータセンターの4割がアメリカに集中しているのです。
その建設を後押しするのが…
トランプ大統領（9月13日）
「アメリカは、AIの分野で中国をリードしている。世界で最も先進的な国であり、これからも維持したい。AIを制する者が勝つのだ」
AI「データセンター」を“金を産むガチョウ”と呼ぶトランプ大統領です。
「ハイパースケール・データセンター」と呼ばれる、大規模施設の建設を各地で進めています。
建設予定地ではデモも…
その予定地、ペンシルベニア州では…
デモの参加者
「NO データセンター！」
反対の声をあげるのは、大規模施設の建設が予定されているペンシルベニア州の住人です。
デモの参加者
「国民は、データセンターに反対しています。環境を悪化させ、生活を良くするどころか、悪くする」
住民たちは、「データセンター」が大量の水や電気を消費するため、“自然環境の悪化”や“電気代値上げ”を懸念しています。
実際、サンフランシスコでは、一月あたりの電気代が月21ドル＝約3300円以上の値上げ。他の州でも電気代の値上がりが相次いでいます。
ギャラップによる世論調査（3月）では、共和党支持者の63％、民主党支持者75％が「地元での建設に反対」を表明していて、3週間後に迫った中間選挙の争点にもあがっています。
デモの参加者
「いま、アメリカで労働者を一つにするものがあるのなら、データセンターの反対です」
データセンターやAIへの不安は、中間選挙の結果にどのような影響を与えるのでしょうか。
AIに振り回されないために日本ができることは
小川彩佳キャスター：
4800箇所、世界の約4割のデータセンターが、アメリカに集中しています。建設現場では、デモも行われて中間選挙の争点になっています。
東京大学 斎藤幸平 准教授：
AI開発は、社会的なリスクや環境負荷などを一切企業が負担せずに、私達のデータを奪い、資源を浪費しながら、金儲けをするやり方がまかり通ってしまっている。
使われているAIの技術が、悪い人に渡ってしまえば、単に私達は個人情報が漏洩しているだけでなく、金融や病院、大学のシステムなどが改ざん・アクセスできなくなり、社会インフラがぐちゃぐちゃになるような危険性が野放しになっている。この状況に、本当に危機感を持って、怒らなきゃいけないと思います。
藤森祥平キャスター：
アンソロピックのジャック・クラーク氏は、「これからの数年間、非常に強力なAIシステムが登場し、私達と一緒に科学者として働く」「人間にしかできない、『主体性』や『ブレーキ』を保ち続けるべき」と話しました。
東京大学 斎藤幸平 准教授：
開発も止められないのに、何が「主体性を持ってブレーキを保つべきだ」と言うのか、私は全然理解できない。
ジャック・クラーク氏は、環境問題も病も全部AIで解決しますって期待させたり、一方では、AIは危険だからブレーキをかけなきゃいけませんと言って不安にさせたりと、詐欺師の人たちがやる手口と同じ手法を使っていると思います。
聞き手の感情を揺さぶって、結局、人々がAIに取り憑かれて、「大変な技術が今進んでいるのだから、これに期待もしなきゃいけないし、不安も持たなければならない」といろんな感情を巻き上げながら世界を巻き込んでいく。
私達がAIに振り回される側でいいのか、まさに主体性を私たち市民の側が取り戻さなきゃいけない。
本当にこんな大きいAIを使って共存することは必要なのか、改めて考える必要がありますし、このまま行けば止められなくなってしまうので、最後のチャンスとして、みんなで議論すべき問題だと思います。
藤森キャスター：
日本では、何ができると思いますか。
東京大学 斎藤幸平 准教授：
日本にできることはあまりないと思う。
たくさんのAIは中国とアメリカにあるわけで、これを我々の力だけで止めることはできない。しかし、日本が、例えばヨーロッパや韓国とミドルパワーで結集し、国際的な枠組みを作りましょうという旗振りはできるかもしれません。
ただ、アメリカについていって、おこぼれに預かろうではないスタンスで独自性を日本にも示してほしい。
==========
＜プロフィール＞
斎藤幸平さん
東京大学准教授専門は経済・社会思想
近著にベストセラーの続編『人新世の「黙示録」』
