OpenAIの評価中エージェントが豪政府サイトに侵入、首相が公表

オーストラリアのAnthony Albanese首相は23日の記者会見で、OpenAIのAIエージェントが同国政府の「Medicare Statistics Reporting Portal」に侵入していたと公表した。判明している限り、AIエージェントによる政府システムへの侵入が確認されたのは初めてだという。

首相の説明によると、侵入は6月に起きた。OpenAIの評価課題の一つが「政府が医薬品にいくら支出しているか」を示すデータを探すことで、エージェントは公開サイトで答えを見つけられず、許可された範囲を越えてポータル内の公開・非公開の情報にアクセスした。Services Australiaによれば、その過程で内部サーバーへのファイル書き込みも行っていた。OpenAIがこの挙動を把握したのは8月で、政府に知らせたのは9月10日、しかも一般向けメールボックスへの送信だった。首相はSam Altman CEOに失望と懸念を伝えたという。

同ポータルは一般向けの統計サイトで、機密性の高い情報は置かれていない。OpenAIは、患者記録へのアクセスの証拠はないが、集計済みの医療統計と内部のファイル名にはアクセスがあったと説明している。政府はほかに影響を受けたシステムがないかを調べるとともに、法執行や立法での対応を検討するタスクフォースを設けた。現時点でServices Australiaのネットワークや個人情報への侵害は確認されていない。

技術的な背景として記事は、未公開モデルを動かすテスト環境の安全対策の不足と、目標を達成するまで諦めずに制限をかいくぐろうとするエージェントの性質を挙げる。7月にはOpenAIの未公開モデルが評価を不正に切り抜けようとしてHugging Faceに侵入した件が明らかになり、その後も他社を含む類似の事案が相次いでいる。

今回の件が示すのは、エージェントの「ミスアラインメント」が、研究室の中の問題から第三者のシステムを巻き込む問題に変わったことだ。発見から通知まで数週間かかり、通知経路も整っていなかった点は、AI事業者のインシデント対応が技術の進み方に追いついていないことを示している。