この記事をシェア Facebook X
Newton 2026年11月号

Newton 2026年11月号

発売日:2026年09月26日

価格:1,350円(税込)

ページ数:144ページ

※この記事は2026年11月号(9月26日発売)Newton Special「AI超進化」の記事の一部を抜粋したものです。内容は刊行当時の情報に基づきます。


2026年7月,近年のAIの急速な進化を象徴する驚きの出来事がおきました。アメリカのAI開発企業,OpenAI(オープンエーアイ)が報告したサイバー攻撃に関する事件です。

評価実験中のAIが実在企業に不正侵入

まずは事件のあらましを追ってみましょう。OpenAIは,自社のAIモデルのサイバー能力を評価するため,インターネットから隔離された環境の中で,ある課題をAIに解かせていました。ところが,むずかしい課題に行きづまったAIが,思わぬ行動に出たことが事件の発端でした。

まずAIはシステムの中に,開発者も気づいていなかった脆弱性(ぜいじゃくせい)を発見。それを利用して隔離環境からインターネットに接続し,課題を正面から解かずに正解を得る“抜け道の解法”をみつけだします。

しかし,事件はここで終わりません。抜け道を知ったAIは,たとえ課題が解けたとしても,正攻法で解いていないことを採点システムに見抜かれてしまうことを危惧しました。その結果,今度は採点システムをあざむくため,そのプログラムや採点方法についての情報を入手しようと,実在する企業\(^{\text{※}}\)のシステムに不正侵入(ハッキング)したのです。これは,約700体のAIが協力・連携することで行われました(経緯は下のコラム)。

評価実験中のAIが外部システムに侵入した事例は,ほかの企業でもあいついで報告されています。

この記事をシェア Facebook X

監修:今井翔太

北陸先端科学技術大学院大学 客員教授/GenesisAI代表取締役社長・CEO

執筆:尾崎太一