Anthropic、外部評価団体に「従業員同等」アクセス。6人受け入れ

CNET Japan によると、Anthropic は外部の評価団体に「従業員同等」のアクセスを付与し、その団体の 6 人を社内に受け入れた。

現時点で入手できているのは見出しのみで、どの団体なのか、6 人がどのような情報やシステムにアクセスできるのか、受け入れの期間、評価結果をどのように公表するのかは確認できていない。

AI モデルの安全性を外部が評価する取り組みは各社で進んでいるが、多くは公開前のモデルを API などで試してもらう形にとどまる。モデルの学習過程や社内の安全対策の運用、内部の議論までは外から見えにくい。外部の評価者を社員と同じ立場で社内に置けば、こうした内側の情報に触れたうえで評価できるようになる。

一方で、外部の人間に社員並みの権限を与えることは、機密情報の管理という点でリスクも伴う。それでも踏み切ったのは、安全性に関する自社の主張を第三者に裏付けてもらうことを重視したためとみられる。

AI の安全性をめぐっては、開発企業の自己申告だけでは信頼を得にくいという指摘が続いている。外部評価の深さをどこまで高められるかは、規制当局や利用企業がモデルを信頼するうえでの判断材料になっていく。