NVIDIA、AIエージェントをテストから本番まで守る安全基盤を発表

NVIDIAは、AIエージェントをテストから展開まで保護するためのプラットフォーム「Open Agent Safety Platform」を立ち上げたと発表した。

入手できた材料は見出しのみで、プラットフォームが具体的にどのような機能（評価、監視、行動の制限など）を備えるのか、既存のNVIDIA製品とどう関係するのか、名称の「Open」がオープンソースを意味するのか、提供開始の時期や利用条件は確認できていない。

AIエージェントは、モデルが外部のツールやシステムを操作して自律的に作業を進める仕組みで、誤った操作や想定外の振る舞いへの対策が導入の課題になっている。開発時のテストから運用までを一貫して扱う安全対策の基盤を打ち出したことは、エージェントの安全性が製品として提供される領域になりつつあることを示すものとみられる。