OpenAI、安全担当の従業員が辞職。「会社の文化が壊れている」と批判

OpenAIで安全性に関わる業務を担当していた従業員が辞職し、同社について「文化が壊れている」と主張している。TechCrunchが報じた。

AI開発企業の安全性担当は、モデルの悪用や想定外の振る舞いのリスクを評価し、公開前に対策を講じる役割を担う。製品を早く出したい開発側と、検証に時間をかけたい安全性側の間には、構造的に緊張関係が生まれやすい。その内側にいた人物が、個別の決定ではなく「文化」という言葉で批判している点が、今回の主張の特徴だ。

「壊れている」とする具体的な根拠、つまりどのような意思決定や社内の出来事を指しているのかは、見出しからは確認できない。在籍期間や担当範囲、OpenAIがこの主張にどう応じたのかも分からない。

OpenAIのモデルは企業の業務システムや一般向けサービスに広く組み込まれており、同社の安全性への取り組みは利用者や規制当局にとって関心の高いテーマになっている。主張の中身と同社の説明が今後の焦点になる。詳細は出典を参照してほしい。