OpenAI、安全性担当の従業員が退社し警鐘。社外へ懸念を発信

OpenAIで安全性の分野に携わっていた従業員が退社し、懸念を公に訴えている。米The Vergeが報じた。

AI開発企業の安全性部門は、新しいモデルが悪用されたり想定外の振る舞いをしたりするリスクを評価し、公開前の対策を検討する役割を担う。その内部にいた人物の発言は、社外からは見えにくい開発現場の優先順位を知る手がかりになる。

今回の人物が具体的に何を「警告」しているのか、在籍中にどのような仕事をしていたのかは、見出しからは確認できない。製品化のスピードと安全性評価にかける時間との間の緊張が背景にあるとみられるが、これは推測の域を出ない。

OpenAIのモデルは企業の業務システムや一般向けサービスに広く組み込まれており、同社の安全性への姿勢は利用者や規制当局の関心事になっている。退社した従業員の主張の中身と、それに対する同社の説明が今後の焦点になる。詳細は出典を参照してほしい。