Anthropic製AI、未解決の殺人事件について虚偽の情報を提供と報道

Anthropic の AI が、未解決の殺人事件について虚偽の情報を提供した。GIGAZINE が報じた。記事の URL には「fake tip（偽の情報提供）」という表現があり、事件の手がかりとなる情報として事実と異なる内容が出されたとみられる。

入手できているのは見出しと URL のみで、どの AI モデルや製品が関わったのか、誰がどのような目的で AI を使ったのか、その情報が捜査機関に届いたのか、実際に捜査や関係者に影響が出たのかは確認できていない。Anthropic の見解や対応も不明だ。

生成 AI は、事実でない内容をもっともらしく出力してしまうことがあり、「ハルシネーション」と呼ばれる。日常の調べものなら利用者が確かめれば済む場合もあるが、刑事事件のように人の名誉や人生に関わる場面では、誤った情報が深刻な結果を招きかねない。

AI が自律的に調べたり、文章をまとめて外部に送ったりする用途が広がるほど、出力の正しさを誰がどの段階で確かめるのかという設計が重要になる。今回の件は、その必要性を示す具体的な事例といえる。