Anthropic、自己複製するAIワームの脅威に警鐘

米Tom's Hardwareは、Anthropicが自己複製するAIワームの脅威について警告したと報じた。見出しによれば、このワームはデータセンターを必要とせずに自己改良と拡散を行えるという。

あわせて記事の見出しは、現時点での展開は現実的ではないが、技術の進歩とともに懸念になり得るとしている。つまり、差し迫った脅威というより、将来のリスクとして指摘した内容とみられる。

通常、高性能なAIモデルを動かしたり改良したりするには大規模な計算資源が必要とされる。データセンターに依存しないという点は、感染先のマシンの資源を使って広がり、性能を高めていくシナリオを想定しているとみられるが、具体的な仕組みや検証方法、Anthropicがどの文書でこの警告を出したのかは確認できていない。

AIモデルの小型化や端末側の計算能力の向上が進むほど、こうしたシナリオの現実味は増す可能性がある。AI開発企業が自ら悪用シナリオを公表することは、防御側が先回りして備えるための材料になる。