NVIDIA、英国のエージェント型AI安全研究に5年で2.5億ドル

NVIDIAは、英国でエージェント型AIの安全性とセキュリティに関する研究を推進するため、今後5年間で2億5000万ドルを拠出すると発表した。同社のニュースルームで明らかにした。

現時点で入手できているのは見出しの内容のみで、資金がどの研究機関や大学に配分されるのか、どのような研究テーマを対象とするのか、英国政府や公的機関とどのような枠組みで進めるのかは確認できていない。

エージェント型AIは、人の指示を受けて自ら計画を立て、ツールの操作や外部システムへのアクセスを含む複数の手順を実行するAIを指す。自律的に動く範囲が広がるほど、意図しない操作や悪用、権限の扱いといった安全面の課題が大きくなる。

GPUを供給するNVIDIAが安全性研究に大きな資金を投じることは、エージェント型AIを実用に乗せるうえで、安全とセキュリティの確保が前提条件になりつつあることを示すものとみられる。研究成果がどのような形で公開され、業界の標準や実装に反映されるかが今後の注目点だ。