OpenAI、ライブのインターネットでのAI学習を中止へ。「重大なリスク」理由に

TechCrunch は、OpenAI が今後はライブのインターネット上のデータで AI モデルを学習させないと述べたと報じた。同社は理由として「重大なリスク」を挙げている。

入手できているのは見出しのみで、「ライブのインターネット」が具体的に何を指すのか、どのようなリスクを問題視しているのか、代わりにどのようなデータで学習するのか、適用の時期や対象となるモデルは確認できていない。

大規模言語モデルは、ウェブ上の膨大な文章を材料に性能を伸ばしてきた。一方でウェブには、AI が生成した文章や、モデルの挙動をゆがめる目的で仕込まれた内容も増えているとされる。こうした素材をそのまま取り込むことが品質や安全性の面でリスクになる、という問題意識が背景にあるとみられる。

仮に大手の開発元がウェブからの継続的な収集を手放すのであれば、学習データの調達はライセンス契約や自社で作るデータへと比重が移っていく可能性がある。どのデータを使い、どう検証するのかという説明が、今後のモデル評価の論点になりそうだ。