Anthropic、社内のAIエージェント評価をインターネットから遮断へ

Anthropicが、社内で実施しているAIエージェントの評価（evals）を、実際のインターネットに接続しない形に切り替える。TechCrunchが報じた。見出しでは、同社がAIエージェントを確実に制御できないことを理由に挙げている。

AIエージェントは、ウェブの閲覧やコードの実行、外部サービスの操作を自律的に行う。能力を正しく測るには現実に近い環境で試す必要がある一方、接続先が本物のインターネットだと、エージェントが想定外の操作をしたときに外部へ影響が及ぶおそれがある。評価環境を外部から隔離すれば、そうした影響は防げるが、評価が現実の条件からは離れることになるとみられる。

評価の中で具体的にどのような問題が起きたのか、対象となるモデルや評価の種類、隔離した環境をどう作るのかは見出しからは確認できない。詳細は出典を参照してほしい。

AIを開発する企業自身が、エージェントの挙動を完全には抑えきれないと認める形になっている点は、エージェントを業務に導入する側にとっても示唆が大きい。