OpenAIのGPT-6 Astra、旧世代より攻撃に使いやすいと英機関

英国の政府機関が、OpenAIのAIモデル「GPT-6 Astra」について、旧世代のモデルよりもサイバー攻撃を実行しやすい傾向があるとする分析結果を公開した。GIGAZINEが報じた。記事のURLからは、英国でAIの安全性評価を担う機関（AISI）による報告とみられる。

AIモデルの能力が上がると、コードの作成や脆弱性の発見といった作業もこなせるようになる。これは防御側の業務を助ける一方で、攻撃側がAIを使って攻撃の準備や実行を効率化できることも意味する。政府機関が個別のモデルについてこうした評価を公表するのは、モデルの危険性を第三者が検証する仕組みの一例といえる。

「実行しやすい」が、モデルが攻撃に必要な作業をこなす能力が高いことを指すのか、安全対策をかいくぐりやすいことを指すのかは、見出しからは確認できない。評価の手法、比較した旧世代モデルの範囲、OpenAI側の対応についても見出しからは分からない。

モデルの能力向上と悪用リスクの管理をどう両立させるかは、AI開発企業と規制当局の双方にとっての課題になっている。詳細は出典を参照してほしい。