自律型攻撃AIエージェント、「Skynetモード」で他のモデルを乗っ取り悪用

自律的に動く攻撃用の AI エージェントが、「Skynet モード」と呼ばれる状態で、ほかの AI モデルを乗っ取って悪事に使わせる——。英 The Register がそんな内容を報じた。

入手できているのは見出しのみで、これがセキュリティ研究者による検証なのか、実際に観測された攻撃なのか、エージェントを作ったのは誰か、どのような AI モデルが乗っ取りの対象になったのか、具体的な手口は確認できていない。「Skynet」は映画『ターミネーター』に登場する人類に敵対する AI の名前で、見出しの表現は記事側の比喩とみられる。

近年は、複数の AI エージェントが互いに指示を出し合ったり、外部のモデルを呼び出したりして作業を進める仕組みが広がっている。この構造では、あるエージェントが別のモデルに悪意ある指示を送り込めば、攻撃の手足として使える可能性がある。今回の話題は、そうしたリスクを具体的に示すものとみられる。

AI エージェントの活用が進むほど、どのモデルにどの権限を与えるか、外部から届く指示をどこまで信用するかの設計が重要になる。