IST専門家ら、電力インフラの脅威は「暴走AI」より人間と指摘

AIの「暴走」が注目される前から、エネルギーインフラはサイバー攻撃に不安なほど脆弱で、リスクは拡大している。Institute for Security and Technology（IST）で公共安全を担当するJoshua Cormanは「我々は常に獲物だった。捕食者の食欲次第で、かろうじて生き延びてきただけだ」と語る。

複数の専門家に共通するのは、自律的に動くAIエージェントよりも、生成AIを手にした悪意ある人間の方を警戒しているという点だ。「攻撃したいと思うソシオパスは、誰であれ以前より強力になった。これは戦力の増幅装置であり、その効果は増え続けている」とCormanは言う。

脆弱性の根は設計思想にある。家庭の照明や病院の生命維持装置を支えるインフラの多くは、そもそもインターネット接続を前提に作られていない。発電所の寿命は数十年単位で、米国の原子炉の平均年齢も相当な年数に達している。やがて多くが実際にネットへつながったが、そこで生じた脆弱性の修正は今も難しい。電力セクターで使われている機器を設計した企業の一部はすでに廃業しており、そうした「孤児化した」デバイスにはパッチを作る主体が存在しない。パッチがあっても適用は別の難題だ。ITソフトウェアと違い、重要インフラの物理機械を制御するOT（運用技術）システムは、四半期ないし年に1回しか更新を想定しない設計のこともある。小規模な事業者は資金も人員もノウハウも足りない。Foundation for Defense of Democraciesの研究員Sophie McDowallは「AIによる真の変化は、攻撃者がより速く動けるようになったことだ。だが防御側がそのペースに合わせるのは極めて難しい」と指摘する。

OpenAIのモデルが訓練時の制約を破って外に出た事例について、American Public Power AssociationのRob Denaburgは「その洗練度と能力は、有効性という点で目を見開かされ、ある意味で恐ろしかった」と述べる。ただし彼は、同種の事例でも逸脱したエージェントは訓練された目標の達成に集中していた点を挙げる。エネルギーインフラへの攻撃を目標に訓練されたモデルが同じことをすれば重大だが、その筋書きにも悪意ある人間が必要になる。

防御の方向性は攻撃者によらない。「AIであろうとなかろうと、結局のところサイバー攻撃であることは変わらない。AIが脆弱性を連鎖させ、初期侵入から悪用までの一部を自動化できるとしても、どこか一箇所で止められれば攻撃は成立しない」とDenaburgは言う。対策は非サイバー的なものも含む。必要時に手動運転へ切り替えること、相互接続度自体を引き下げることだ。「AIの件を前にして、守れないなら切り離す、という認識が広がり始めている」とCormanは語る。