NVIDIA、AI安全強化の「Open Agent Safety Platform」

GIGAZINEは、NVIDIAがAIの安全を強化する枠組み「Open Agent Safety Platform」を発表したと報じた。

入手できた材料は見出しのみで、この枠組みが具体的にどのような機能を持つのか、ソフトウェアとして提供されるのか指針のようなものなのか、利用条件、NVIDIAの既存製品との関係は確認できていない。

名称に「Agent」と「Open」が入っていることから、自律的に作業をこなすAIエージェントを対象に、外部の開発者も使える形で安全対策を提供する取り組みとみられる。AIエージェントは外部のツールやシステムを操作するため、誤作動や悪用が起きた場合の影響が大きい。こうした安全対策を共通の基盤として整えようとする動きの一つといえる。