Anthropic提唱の「ペース調整」、業界は本気か。詳細の乏しさに疑問符

AIの安全性と減速をめぐる議論が続いている。Anthropicのダリオ・アモデイCEOが「ペース調整（pace the frontier）」の計画を公表した一方、NVIDIAのジェンスン・フアンCEOはドナルド・トランプ大統領の主張に公然と同調した。TechCrunchのポッドキャストで、Kirsten Korosec氏、Sean O'Kane氏、Anthony Ha氏が、アモデイ氏やOpenAIのサム・アルトマンCEOといった経営者が本当に減速を望んでいるのかを議論している。

計画の大枠として語られているのは三つだ。第一に、独立した第三者の評価者がAnthropicやOpenAIのような企業の内部に入り、AIの安全対策とインシデントを監視すること。第二に、民主主義国の主要AI企業が安全基準と制限について協調すること。第三に、国際的な協調の枠組み。ただし、いずれも細部は曖昧なままだという。

O'Kane氏は、計画が詳細に乏しいと指摘する。なぜ危険やリスクがあると考えるのかという主張の部分にも、減速が何を意味するのかという部分にも、具体性が足りないという見立てだ。同氏はもともと、これらの企業はそもそも減速できる構造になっていないとして、減速には向かわないと見ていた。

Ha氏が引っかかったのは、業界の多くがかなり素早くこの案に集まった点だ。アモデイ氏がブログ記事を公開する前から、同種の案を投稿する人が出ていたという。これらはAI安全性コミュニティで以前からくすぶっていた提案であり、アモデイ氏が独力で考えたものではない、というのが同氏の理解だ。コンセンサスができたこと自体は前向きに見える一方、それが本物の減速に向かうステップなのかには懐疑的になる、と述べている。Korosec氏はここで、コンセンサスは良いものにもなるがカルテル形成の始まりにもなりうると指摘した。

既存の規制と自由市場の働きだけで十分なセーフガードになりうるか、という問いに対するO'Kane氏の答えは否定的だ。「今の連邦政府は、広く言っても規制の執行に熱心には見えない。この分野に限って言えばなおさらだ」。加えて「この市場を動かしているのが消費者の選択だとは、とても言えない。どこかの企業が本当にまずいことをしたら解約が増える、というような話にはなっていない」とも述べている。

反発の側では、フアン氏の動きが取り上げられた。注目度の高いカンファレンスの壇上で大統領からの電話を受けたことについて、Ha氏はフアン氏が業界と政権をつなぐ最も有用な仲介者の一人であることの表れだとみる。一方でKorosec氏は「少し演出めいていた」とし、NVIDIAがAIのペースを落とさず進めることで大きな利益を得るという事実を際立たせた、と評した。