OpenAI、モデル学習中のネット接続を遮断 Anthropicはまたも謝罪

OpenAI が、AI モデルを学習させている間、インターネットへの接続を無効にする対応をとった。同じ記事の中で、Anthropic が改めて謝罪したことも報じられている。The Register が伝えた。

入手できているのは見出しのみで、OpenAI が接続を遮断した理由、対象となるモデルや学習の工程、いつから実施しているのかは確認できていない。Anthropic の謝罪についても、何についての謝罪なのか、誰に向けたものなのかは不明だ。見出しの「another（また）」という表現から、Anthropic にとって謝罪は今回が初めてではないとみられる。

学習中のモデルが外部のネットワークにつながっていると、意図しない外部への通信やデータの持ち出し、外部からの干渉といったリスクが生じうる。モデルが自らツールを使って行動する能力を高めるにつれ、学習環境を外部から切り離すことは、安全対策の一つとして重視されているとみられる。

AI 開発の最前線にいる 2 社が、そろって安全や品質の面で対応を迫られている構図であり、開発の速さと管理の厳しさのバランスが改めて問われている。