OpenAI、AIの振る舞いを定める「Model Spec」を更新

OpenAIは、自社のAIモデルの振る舞いに関する指針「Model Spec」を更新したと公式ブログで発表した。見出しでは、より有能で、より有益なAIを目指すための改訂だと位置づけている。

今回確認できたのは見出しのみで、具体的にどのルールが追加・変更・削除されたのか、ChatGPTやAPIで提供されるどのモデルにいつから反映されるのかは分かっていない。

Model Specは、AIが利用者や開発者の指示をどう優先するか、どのような依頼に応じ、どこで断るかといった行動原則をまとめた文書だ。モデルの学習や評価の拠り所にもなるため、改訂はそのままモデルの応答の傾向に反映されうる。見出しが「より有能で」と掲げていることから、モデルの能力向上に合わせて、より多くの作業を任せる前提で原則を見直した可能性があるとみられる。

AIの振る舞いの基準を文書として公開することは、利用者がモデルの挙動を予測し、問題があったときに指針と照らし合わせて検証できるようにする意味を持つ。改訂内容の詳細を確認したい。