Anthropic、中国の人気AIモデルに「Mythos級」ハッキング能力と指摘

Tom's Hardwareによると、Anthropicは中国の人気AIモデルが「Mythos級」のハッキング能力を持つと主張している。

入手できた材料は見出しと記事URLのみで、対象となったモデルの名前、どのような試験でハッキング能力を測ったのか、どの程度の攻撃が可能と判断したのかは確認できていない。URLの表記からは、フロンティアAIのレッドチーミング（攻撃者の立場での安全性評価）の報告書で、オープンウェイトのAIモデルは安全対策が弱いと指摘する内容とみられる。「Mythos」は、Anthropicが高度なサイバー能力を持つとしている自社モデルの呼称とみられる。

オープンウェイトのモデルは重みが公開されるため、誰でも手元で動かし、改変できる。提供元のサーバーを経由しないので、悪用を防ぐ仕組みを後から加えにくい。高いハッキング能力を持つモデルがこの形で広まれば、攻撃に使われるリスクを提供元が抑えられないという懸念につながる。

一方で、Anthropicは競合する立場にあり、評価の妥当性は第三者による検証も含めて見ていく必要がある。オープンウェイトのモデルをどう扱うかは、AI規制の議論でも焦点の1つになるとみられる。