Anthropic、蒸留攻撃の対策を発見。データ抽出を90〜99%削減

Anthropicが、蒸留攻撃に対して効果のある対策を見つけたと発表した。敵対組織によるデータ抽出を90〜99%削減できたという。

蒸留（ディスティレーション）は、性能の高いモデルの出力を教師データとして別のモデルを学習させる手法だ。正当な用途もあるが、他社のモデルに大量の問い合わせを送り、その応答を集めて自分たちのモデルの性能を引き上げることに使われると、開発投資へのただ乗りになる。今回の発表はこれを「攻撃」と捉え、抽出されるデータを大きく減らせたとしている。どのような方法で検知・抑止するのか、通常の利用者への影響はあるのかは、今回の材料からは分からない。

90〜99%という幅は、条件や攻撃の種類によって効果が変わることを示しているとみられる。モデルの出力そのものを守る技術は、モデル開発の競争力を保つうえでの論点になりつつある。