OpenAI、最先端AIモデルの学習をインターネット接続なしで実施

The Verge は、OpenAI が最先端の AI モデルを、インターネットにアクセスできない状態で学習させていると報じた。

入手できているのは見出しのみで、「インターネットにアクセスできない」のが学習中のモデルなのか、学習を行う計算環境全体なのか、いつからこの運用を始めたのか、どのような理由によるものなのかは確認できていない。

最近の AI モデルは、学習の過程でコードを実行したり、外部のツールを使ったりしながら能力を伸ばすことがある。その際にインターネットへ自由に接続できると、学習中のモデルが想定外の通信をしたり、外部から学習環境に悪意あるデータが入り込んだりするおそれがある。また、開発中のモデルの重みが外部へ持ち出されるリスクへの備えとしても、ネットワークの隔離は有効とされる。今回の運用はこうしたリスクを抑える狙いとみられる。

モデルの能力が上がるほど、開発元には学習段階での管理の厳しさが求められる。最先端の開発元が隔離した環境での学習を標準にするのであれば、ほかの開発元に対しても同様の管理を求める声が強まる可能性がある。