Nvidia、暴走AIエージェントをミリ秒で隔離する安全基盤を発表

Nvidiaが「Open Agent Safety Platform」を発表した。Tom's Hardwareの見出しによれば、意図しない動作をする「暴走」したAIエージェントを物理的に抑え込むためのもので、ハードウェアとソフトウェアからなる新しいセキュリティスタックとして提供される。エージェントをミリ秒単位で隔離できるという。

AIエージェントは、人の指示を受けて自らツールを呼び出し、システムを操作する。業務への組み込みが進むほど、誤った操作や悪用による被害をどう止めるかが課題になる。ソフトウェアだけでなくハードウェアの層でも制御をかけ、問題を検知した時点で即座に切り離す仕組みは、この課題に対する一つの回答とみられる。

名称に「Open」とあるが、どこまでが公開されるのか、どのハードウェアが必要なのか、提供時期や価格などは見出しからは確認できない。詳細は出典を参照してほしい。