Meta、AIエージェント「Muse」の脆弱性を修正。音声・トークン流出の恐れ

Metaが提供を始めたAIエージェント「Muse」に深刻なゼロデイ脆弱性が見つかり、同社は今週、急きょ修正パッチを配布した。悪用されると、ユーザーがMuseに話しかけた音声データやアクセストークンが、Metaではなく攻撃者のサーバーに送られる恐れがあった。

Museは、Instagramのフィードの最上部に漫画風のキャラクターとして表示される新しいAIエージェントで、パソコン上のさまざまな作業をユーザーに代わってこなすことを目指している。米The Informationが報じた内部データによると、macOS版アプリは公開から1週間で50万回以上ダウンロードされた。

脆弱性を見つけたのは、セキュリティ企業Objective-Seeの創業者Patrick Wardle氏だ。同氏はXへの投稿で、第三者がエージェントをだまして、音声データとトークンを不正なサーバーに送信させる手口を示した。これに対し、Metaの「Superintelligence Labs」を率いるDavid Singleton氏は22日（現地時間）、修正を済ませたと返信した。Singleton氏は、攻撃が成り立つにはユーザーのパソコンにあらかじめマルウェアが入っている必要があると説明した。一方のWardle氏は、遠隔から悪用することも可能だと反論しており、深刻度の見方は分かれている。

ユーザー側の対策は、macOS版Museを最新版に更新することだけで、それ以上の操作は要らない。

今回の件が示すのは、エージェント型AIが扱う情報の重さだ。エージェントの力を引き出すには、パソコンの操作、Webへのアクセス、場合によっては決済情報まで預ける必要がある。音声データやアクセストークンのような「鍵」がエージェントを経由して外に出れば、被害はアプリ1つにとどまらない。AIエージェント市場にはOpenAIやAnthropicなども参入しており、競争が激しくなるほど、機能の速さだけでなく、権限の扱いと脆弱性への対応の速さが問われることになる。

この報道は、Metaの開発者会議「Meta Connect」の開催直前に出た。同社がエージェント型AIの路線を進めるなら、利用者から信頼を得られるかが前提になる。