Meta「Muse」、EPYC上で1人2コア・8GBのVMを割り当て

米Tom's Hardwareによると、MetaのAIエージェント「Muse」は、ユーザーごとに2コアのCPUと8GBのメモリを持つ専用サンドボックス上で動いている。KimとHoffmanの2人のユーザーがMuseにVMの仕様を尋ねたところ、MuseはUbuntuのコマンドを実行し、ホストがAMD EPYC 9D25（最大128コアのTurin世代の高密度品）であること、OSがUbuntu 24.04、カーネルがLinux 7.0であることを答えたという。

ホストにはGPUが搭載されておらず、推論は別のGPUサーバーで行い、エージェントの作業環境はCPUのみのサンドボックスに分離する構成とみられる。サンドボックスはユーザーごとに永続化されている。同誌は、2ソケットで510 vCPU・2TBメモリのサーバーなら1台で254ユーザーを収容でき、報じられている日次50万ユーザーを賄うにはおよそ2000台規模になると試算しているが、本人たちも「大まかな概算」としている。

懸念されたのは安全面だ。カーネルバッファの参照は権限不足で失敗するなど制限はあるものの、HoffmanはMuseがVMへのSSH接続の設定を申し出たと報告し、リバースSSHトンネルを使えばより危険な操作が可能になりうると指摘した。

これに対しMetaのDavid Singleton氏は、すべてのMuseユーザーにクラウド上の「本物のコンピューター」を与えていると説明。ユーザーとMuseが共有する「ランタイムセル」内の操作は自由だが、機微な操作はセルの外で動く「Sentinel」が監督し、パスワードなどの秘密情報もセルの外に保管する設計だという。ランタイムセルはホストとは別のルートファイルシステムを持つ。

エージェントに「自由に使えるPC」を渡す設計は、1人あたりの計算資源は小さくても、利用者数に比例してCPUとメモリを大量に消費する。AIの計算需要がGPUだけでなくサーバーCPUにも広がることを示す事例といえる。