NVIDIA、フィジカル AI の安全基盤 Halos を解説。ロボットにも拡張

NVIDIA が、フィジカル AI（物理世界で動く AI）の安全性について、階層ごとに担保する必要があるとする解説を公開した。前提は規模の見通しである。2035年までにレベル3〜5の自動運転車が4900万台導入され、2026年から2035年の間に約6000万台の産業用ロボットが配備されるという予測を引く。これらの機械が人と共有する空間に入っていく以上、安全もその規模に合わせて拡張しなければならない、という主張である。同社の定義では、フィジカル AI の安全とは、AI の判断が物理的な動作に変わったときに安全に振る舞うことを証明することであり、ハードウェアから運用環境、ライフサイクルまでにまたがる。

新しい安全モデルが要る理由として4つの変化を挙げる。道路や工場、倉庫は静的なゾーン分けや柵では制御しきれず、自律システムは変化する状況を知覚し、想定外の際に安全な状態へ到達する必要がある。AI の振る舞い自体にも固有の保証が要り、従来の機能安全と並べて設計時・実行時・検証時のガードレールで評価する必要がある。ISO/IEC TS 22440 のような標準が AI 固有のリスクに対応し始めている。さらに、更新で挙動が変わる以上、重要な変更には追加の安全テストが要り、大規模な検証には実世界のテストに加えてシミュレーションと合成データ生成が不可欠になる。

同社の答えが Halos である。フィジカル AI 向けの最初かつ唯一のフルスタック安全システムだと位置づけ、原則は自動運転とロボティクスで共有しつつ、標準とエビデンスはドメインごとに持つ。自動運転向けには、レベル4 向けのフルスタック車両プラットフォームである Hyperion が土台にある。OS には ASIL-D 認証の DriveOS を基盤とする統一ソフトウェア基盤を置き、Halos Core と Halos Middleware がシステム分離、監視、決定論的な通信を支える。安全ケースの証拠を作る Halos Safety Evaluation Framework も含まれる。

ロボティクス側の中核は IGX だ。アクセラレーテッドコンピューティングと機能安全を、専用の Functional Safety Island とともに1つに統合した産業グレードのモジュールで、IEC 61508 や ISO 13849 に沿うシステムを支える。Halos Core for IGX が障害検出や監視・報告の基盤を担う。Halos AI Systems Inspection Lab は、安全・サイバーセキュリティ・AI 安全の要件を反復可能な検査に変え、第三者機関による認証に備える。エコシステムには Einride のほか、PlusAI、Sony、Valeo、Wayve などが参加している。