NVIDIA、暴走するAIエージェント対策の新基盤を主導。100社超が参画

ITmedia エンタープライズによると、NVIDIAが主導して、AIエージェントが意図しない動作をする「暴走」に備えるための新たな基盤が発表された。参画企業にはMicrosoftやAnthropicが含まれ、その数は100社を超える。

入手できた材料は見出しのみで、この基盤が技術仕様なのか、ソフトウェアなのか、業界団体の枠組みなのか、またオープンソースとして公開されるのかは確認できていない。

AIエージェントは、指示を受けて自ら外部のツールを呼び出し、ファイル操作や取引などを連続して実行する。便利な反面、誤った判断や悪意ある入力によって想定外の操作を重ねるリスクがある。そのため、エージェントの行動を監視し、権限を制限し、問題があれば止める仕組みが求められている。競合関係にある企業を含む100社超が参加したことは、こうした安全対策を各社が個別に作るのではなく、共通の土台で進めようとする流れを示しているとみられる。