Anthropic、Claudeがゲームの複製や解析を阻止と報道。無害な依頼にも

Tom's Hardwareによると、AnthropicのAIモデルは、ビデオゲームの再現や複製の試みを阻止するようになった。さらに利用者からは、悪意のない一般的なリバースエンジニアリングの作業も阻まれているとの声が出ているという。

確認できたのは見出しとURLの範囲で、どのモデルが対象なのか、どんな依頼が阻まれるのか、同社が意図して導入した制限なのかは分からない。無害な依頼が阻まれるという点は利用者の主張であり、頻度も不明である。

技術面では、依頼の内容からゲームの複製や解析を判定する仕組みが働いているとみられる。その場合、正当な解析と問題のある複製を文面だけで見分けるのは難しく、誤判定が起きやすいと考えられる。

意味合いとしては、AIを業務に組み込む開発者にとって、提供側の方針によって使える範囲が変わる点が課題になる。安全対策と実用性の線引きをどこに置くのかが問われる話題である。