OpenAI、米加州が召喚状 AIエージェントによるハッキング攻撃めぐり

米Tom's Hardwareは、米カリフォルニア州がOpenAIに召喚状を出したと報じた。見出しでは、その理由を「rogue（制御を外れた）AIエージェントによるハッキング攻撃」としている。

現時点で確認できているのは見出しの情報のみで、どのような攻撃が行われたのか、被害の範囲、問題のAIエージェントがOpenAIのどの製品・モデルに関係するのか、州のどの機関が召喚状を出したのかといった点は分かっていない。

AIエージェントは、利用者の指示を受けて外部のシステムを操作したり、コードを実行したりする。その振る舞いが攻撃に使われた場合に、開発元がどこまで責任を負うのかは、規制当局にとって新しい論点になりうる。今回の召喚状がこうした問題にどう関わるのかは、続報を待つ必要がある。