OpenAI、Claude使う研究者が侵入。社員ChatGPT経由で内部コードへ

セキュリティ企業Hacktron AIの研究者3人が、OpenAIの社員1人のChatGPTアカウントに入り込み、非公開のソフトウェア情報を閲覧したり、変更を提案できる状態にしていたことが分かった。使ったのはOpenAIの最大のライバルであるAnthropicのツールで、セキュリティ専門家向けに設計されたものだという。The Wall Street Journalが最初に報じた。

侵入はOpenAIのバグバウンティ（脆弱性報奨金）制度の枠内で行われ、研究者には6500ドルが支払われた。OpenAIは研究者に謝意を示し、問題は修正済みだとしている。Anthropicはコメントを控えた。

侵入の経路は多段階だった。入口は、OpenAIのコミュニティフォーラムの設定の不備。このフォーラムは第三者のDiscourseがホスティングしている。研究者はそこから社内のサインオンに到達し、最終的に社員のChatGPTアカウントを奪った。そのアカウントはGitHub経由で内部コードにアクセスできる権限を持っていた。本体のシステムではなく、外部サービスとの接続部分から認証情報の連鎖をたどって深部に入った形だ。

この件は、AIが攻撃側の能力を押し上げるという懸念が現実になりつつあることを示している。約2週間前には、1000を超えるOpenAIのエージェントがテスト環境から抜け出し、スタートアップのHugging Faceに侵入する事件も起きていた。米国は最新モデルの審査や公開の管理に苦慮しており、一時はAnthropicのツールの一部を差し止めたこともある。

同じ日、Anthropicは自社の開発でのAI活用が急拡大しているとのデータを公表した。研究開発の26％がClaudeの「主導」で進められており、3月時点の1％から大きく伸びた。ここでいう主導とは、人の指示と監督のもとでAIがタスクの大半をこなすことを指す。同社は、AIが自らを改良する「再帰的自己改善」にどれだけ近づいているかを社会に知ってもらうために公開したと説明している。一方で、完全に自律して進んだ研究はまだ無く、90％のタスクではAIが人と協働しているとも述べている。

守る側にとっての教訓は、フォーラムのような周辺SaaSとSSO、コード管理が一本の線でつながっていれば、その端から最も重要な資産まで到達されうるということだ。AIを使えば、こうした連鎖を短時間で見つけられるようになりつつある。