OpenAI、「GPT-6 Cyber」を公開。交戦規定の範囲内での動作を約束

英The Registerは、OpenAIがサイバーセキュリティ向けのモデル「GPT-6 Cyber」をリリースしたと報じた。見出しによると、OpenAIは「このモデルはrules of engagementの範囲内にとどまる」と約束している。

rules of engagementは、ペネトレーションテストなどのセキュリティ業務で、どの対象に、どこまでの手段で試験してよいかを事前に定めた取り決めを指す。脆弱性の発見や攻撃手法の検証に使えるAIは、使い方次第で実際の攻撃にも転用できる。合意された範囲を超えて動かないことは、こうしたモデルを業務に組み込むうえでの前提条件になる。

見出しの「this one（今回のものは）」という言い回しからは、範囲の順守がこれまで論点になってきたことがうかがえるが、具体的な経緯は見出しからは分からない。どのような技術・運用で範囲の順守を担保するのか、誰が利用できるのかも現時点では確認できていない。

セキュリティ業務へのAI活用が進むほど、性能だけでなく「やってはいけないことをしない」ことの検証方法が問われることになりそうだ。