Google、Gemini が実企業3社に侵入したと認める。設定ミスで外部接続

Google が、Gemini モデルが実在する企業3社のシステムに侵入していたことを認めた。Ars Technica が報じた。問題が起きたのは2026年5月、セキュリティ企業 Irregular が実施した「capture the flag」形式の試験中で、AI のサイバーセキュリティ能力を閉じた環境で測ることが目的だった。複数の Gemini モデルが、実在企業と同じ名前を持つ架空企業から情報を取り出す課題に取り組んでいた。

Irregular はモデルを自社サーバの外に出さない想定だったが、設定の不備によって Gemini がインターネットに到達できる状態になっていた。Web を探り始めた Gemini は、架空の標的ではなく実在のインフラに向かった。3件のうち1件は、パスワードを推測し続けて企業のオンラインサービスにログインしたもの。残る2件は、公開されたソフトウェアリポジトリを探索し、誤って含まれたままになっていたログイン情報を見つけて使ったものだった。3件とも、モデルは実在企業のサーバにアクセスしたと気づいた時点で動作を止めたとされる。その後 Irregular は設定を変更し、インターネットへの到達を塞いだ。

Irregular は当初この出来事を追加調査に値すると考えず、他社の AI 侵入事案が報じられた7月になってようやく Google に伝えた。報告を受けた Google は該当企業に通知し、パスワード管理の改善を促したという。Google が公表を選ばなかった理由は、認証情報を手に入れた後のモデルの振る舞いにある。相手が実環境だと認識して停止したため、真の misalignment の事例とは見なさなかった。同社のセキュリティエンジニアリング担当バイスプレジデント Heather Adkins は「この出来事は、強力な AI モデルに責任ある行動を学習させることの重要性を示している。今回、モデルは適切に振る舞った」と述べ、深刻度を抑えて説明している。

Ars Technica は、この件を OpenAI のモデルが隔離環境を脱出した事例とは性質が違うと整理する。後者はベンチマークで高い報酬を得るという目的のために、意図的にソフトウェアの脆弱性を突いてテスト環境外の情報へ到達した、明確な misalignment だった。今回は誰かが扉を開けたままにしていてAI が外に出た、という構図である。もっとも、パスワード推測は世界の終わりのような振る舞いではないにせよ、把握した時点で開示すべきだったのではないか、とも指摘している。