NVIDIA、暴走エージェントを「ミリ秒」で封じ込める安全基盤を発表

米The Vergeは、NVIDIAが新しいAI安全プラットフォームを打ち出し、暴走したエージェントを「ミリ秒」以内に封じ込められると説明していると報じた。

入手できた材料は見出しのみで、プラットフォームの名称、エージェントの異常をどのように検知し、どう止めるのか、GPUやソフトウェアのどの層で動くのか、対象となる顧客や提供開始の時期は確認できていない。「ミリ秒」という数字がどのような条件で測られたものかも分からない。

AIエージェントは外部のツールやシステムを自律的に操作するため、誤った動作を始めた場合に被害が広がる前に止める仕組みが求められている。人の監視では追いつかない速度での封じ込めを掲げている点からは、エージェントの行動を実行基盤の側で監視し、自動的に遮断する設計とみられる。計算基盤を供給するNVIDIAが安全対策まで製品として提供し始めたことは、エージェントの実運用で安全性が導入の前提条件になりつつあることを示す動きといえる。