米中、AIの緊急連絡ホットラインを提案。自律AIによる衝突拡大を防ぐ

米国と中国が、AIに関する事態を報告し合うためのホットラインの設置を提案した。Tom's Hardwareが報じた。制御を失ったAIモデルが暴走するリスクに備えるとともに、自律システムの行動が攻撃と誤解され、衝突が急速に拡大するのを防ぐ狙いがある。

提案は、週末にニューヨークで行われたスコット・ベッセント米財務長官と何立峰・中国副首相の協議を受けたものだ。両者は、トランプ大統領と習近平氏が国家安全保障に関わるAIの安全の仕組みを話し合うよう提案した。検討されている通知の仕組みには、世界のどこかで見つかった制御不能なAIについての警告や、自国の自律システムが攻撃と誤解されかねない行動を取ったときに相手国へ知らせることが含まれる。習近平氏は9月24日にワシントンを訪問する予定だ。ベッセント氏は、2か月後に両国がAIの安全性について追加の協議を行うことも明らかにした。

両国が避けたいのは、AIで動く自律型の兵器が、人間の判断を経ずに挑発に反応する事態だ。兵器には物理的な攻撃をするものだけでなく、AIによるサイバー攻撃の能力も含まれる。一方の反応が相手側のAIシステムのさらなる反応を招き、人間が介入できない速さで本格的な衝突に発展するおそれがある。

ただし、議論はまだ始まったばかりだ。ホットラインの提案も大枠にとどまり、中国が通知の仕組みにどこまで前向きかは分かっていない。米国のAI企業からはAI開発の速度を落とすべきだとの声も出ているが、中国は、それが自国のAI開発を妨げるために使われかねないとして慎重だ。専門家の中には、両国の信頼関係が乏しいことから、確かな合意には懐疑的な見方もある。それでも、AIの直接の兵器化、AIの安全に関する基本原則、重要インフラへの攻撃の防止といった点では、合意の余地があるとみられている。米下院民主党のロー・カンナ議員は、自己改良を繰り返すAIの禁止や、生物兵器・核兵器への自律システムの利用の排除を、首脳会談で最初に取り組むべき課題に挙げた。