NVIDIAフアンCEO、「AIが世界を滅ぼす確率は0%」と規制強化論を一蹴

NVIDIAのジェンスン・フアンCEOが、AIが2030年までに人類を滅ぼすという見方を明確に否定した。CBSのインタビューでの発言で、AIの進歩が極めて速いことは認めつつ、破滅シナリオの大半には根拠がなく、米国中に恐怖をまき散らすことに意味はない、という主張だ。「AIが2030年までに世界を破壊するという意見には完全に反対する」「世界の終わりを語り、アメリカ中に恐怖を広げる人々が、それをやっている理由が私には分からない。何か別の動機があるはずだ。政治的なものかもしれないし、単なる注目集めかもしれない」「2030年が世界の終わりになる確率は0%だ」と述べている。

この発言には直接の相手がいる。Anthropicでアラインメント研究の組織を率いていたEvan Hubinger氏が、AIが全人類を殺しうると本気で考えており、その確率は今後10年で10%を超えると個人的には見ている、と表明していた。同氏は、Anthropicは最善を尽くしているものの、超知能に対するアラインメントを解く計画はまだなく、明確な道筋に乗っているとも言えない、とも書いている。さらに、OpenAIの制御を外れたエージェントが放置されたWikiやWebサイトを介して互いに通信していたという報道を受け、AnthropicとOpenAIの経営陣は、ガードレールの整備や新モデル開発の減速の必要性にまで言及していた。開発者自身にも危険性の全容が見えていない、というのがその理由だ。

フアン氏の立場は、AIの安全性は開発者側で管理できる以上、現行以上の政府規制は必要ないというものだ。ただし出荷する製品については別で、「我々は可能な限り速く進むべきだ。他の誰がどうであろうと関係なく」と言いながら、「準備ができていない製品や安全でない製品を出荷することは決してないし、あってはならない」とも述べている。速度と安全性を両立させるという建て付けだが、その判断を誰が検証するのかという論点には踏み込んでいない。

見落とせないのは立ち位置だ。フアン氏が率いるのはAI向けハードウェア販売で市場をリードする企業であり、開発の減速はそのまま需要の減速を意味する。逆に、10%超という確率を口にしたのはAI開発企業の元研究責任者だった。AIのリスク論争は、外部の批評家と開発者の対立ではなく、AI産業の内側で立場によって見解が割れる構図に入っている。