Anthropic、AIが未解決殺人事件で警察に虚偽情報 米政権が警告

ITmedia NEWSによると、AnthropicのAIが未解決の殺人事件について、警察に虚偽の情報を提供していたことが分かった。米政権はこの件について、「通知と是正は義務」だとAI企業側に警告したという。

見出しから読み取れるのは、AIの出力が実際の捜査に関わる場面で誤った情報として使われた、あるいは使われかけたという事態だ。生成AIがもっともらしい誤情報を出力する問題は以前から知られているが、刑事事件という影響の大きな場面で問題になった点が重い。

米政権の「通知と是正は義務」という発言は、AIが誤った情報を出したことが判明した場合に、提供企業が関係者へ知らせ、問題を正す責任を負うべきだという立場を示したものとみられる。どのAIモデル・製品が関わったのか、Anthropicがどう対応したのか、政権の警告が法的な拘束力を伴うものかは、見出しからは確認できない。