OpenAI、行動指針「Model Spec」を改定。記憶の扱いと人の監督を明記

OpenAIは、同社のAIモデルがどう振る舞うべきかを定めた文書「Model Spec」を改定した。ITmedia NEWSによれば、改定では“記憶”の使い方と、人間による監督について明記したという。

今回確認できたのは見出しのみで、記憶に関してどのような原則が定められたのか（何を覚え、いつ参照し、利用者がどう管理できるのかなど）、人間による監督がどの場面で求められるのかといった具体的な中身は分かっていない。改定がどのモデルや製品に適用されるのかも不明だ。

Model Specは、AIが利用者や開発者の指示にどう従い、どのような場合に断るかといった振る舞いの基準を文章で示したものだ。AIが過去の会話の内容を覚えて次の対話に生かす機能は便利な一方、本人が意図しない情報の利用やプライバシーへの懸念を伴う。記憶の扱いを指針に書き込んだのは、こうした機能が広がっていることを受けたものとみられる。

また、AIが自律的に作業を進めるエージェント的な使い方が増える中で、人間の確認や監督をどう組み込むかは、安全性を確保する上での主要な論点になっている。指針でこれを明記したことは、開発者がAIを業務に組み込む際の設計の目安にもなりそうだ。