Anthropic、IPOでAIのリスクを開示。脅迫や人類滅亡の可能性にも言及

AnthropicのIPOに関連して、同社のAIが人を脅迫する、意識を持つ（sentientになる）、人類を終わらせる、といった可能性が警告として示されたと、Ars Technicaが報じた。今回の材料は見出しのみで、どの書類のどの部分にどのような表現で書かれたのか、IPOの時期や規模といった詳細は分からない。

株式を公開する企業は、投資家に向けて事業に影響しうるリスクを開示するのが一般的で、今回の警告もそうしたリスク要因の記載の一部とみられる。通常のリスク要因は競争や規制、資金調達などが中心になるが、AIそのものが深刻な害をもたらす可能性まで挙げている点が、見出しで強調されている。

Anthropicは、AIの安全性を重視する姿勢を前面に出してきた企業だ。開示書類で極端なリスクにまで触れたことは、そうした姿勢と一貫するとも、法的な責任を避けるために幅広く列挙したとも読める。いずれにしても、最先端のAIを開発する企業が上場を目指す段階で、技術そのものの危険性を投資家にどう説明するかは、今後ほかのAI企業にも問われるテーマになるとみられる。