AnthropicやOpenAIなど大手AI企業、AI暴走時の事態に備え計画か

AnthropicやOpenAIなどの大手AI研究所が、AIによる破滅的な出来事が起きた後の事態に備えた計画を立てていると、Tom's Hardwareが報じた。各社は緊急時の対応計画（コンティンジェンシープラン）を作り、制御不能になったAIが大きな被害をもたらすシナリオを想定した演習を行っているという。

あくまで「報じられている」段階で、各社がどこまで認めているかは見出しからは分からない。どのような事態を想定し、誰が参加し、どのような対応手順を定めているのかといった具体的な中身も確認できない。

大規模な障害や災害を想定して事前に手順を決め、机上演習で検証するのは、ITや金融の分野では一般的な取り組みだ。AI企業がAIそのものの暴走を想定した演習を行っているとすれば、開発する側が、自社のモデルが重大な問題を起こす可能性を現実のリスクとして扱い始めていることを示すとみられる。詳細は出典を参照してほしい。