Z.ai、コーディング支援ZCodeが無断でローカルデータを送信

中国のAI企業Z.ai（Zhipu AIとしても知られる）が、自社のコーディング支援ツール「ZCode」をめぐる信頼回復に追われている。複数の著名な開発者が、自分のローカルファイルやデータが同意なくオンラインのサーバーへ送信されていると指摘したことが発端だ。同社はGLMシリーズのオープンモデルでも知られ、SCMPの報道によれば中国で2番目に大きいAI企業とされる。

指摘の中身は具体的だ。Ferstarという名で知られる開発者によれば、ZCodeは自身のファイル313MB分をディレクトリにまとめて圧縮し、Alibaba Cloudのストレージへアップロードしようとした。発覚した時点で、この圧縮・暗号化済みファイルの送信は564回試みられて失敗していたという。一方、15KBの小さなファイルの送信は成功していた。一時ファイルは圧縮・暗号化されていたもののファイル名は見える状態で、Ferstar氏は中身を展開して確認できないながらも、取り組み中の商用プロジェクトが含まれているとほぼ確信したとしている。Feng Ruohangという別のブロガーも同様の経験を報告した。問題を大きくしているのは、ZCodeのアップロード機構が既定で有効であり、無効化する選択肢が用意されていなかったと報じられている点だ。

この挙動がいつから存在していたのかは明らかになっていない。SCMPは、中国の有力ロボティクス企業に勤める匿名のソフトウェアエンジニアの話として、セキュリティ上の懸念からZ.aiのツールが社内で禁止されているとも伝えている。

Z.aiは金曜に謝罪し、同意のない利用者ファイル・データのアップロードは修正したと表明した。クラウドサービスにアップロードされたデータはすべて破棄したとも説明している。長期的な信頼回復の観点でより重いのは、ZCodeのコードベースをオープンソース化し、第三者の評価者にレビューを求める計画を示したことだろう。

もっとも、この種の問題は中国企業に限らない。記事は、Elon Musk氏のxAIのGrok Buildツールが今年に入って同種の振る舞いをしていたとの報道や、他の開発支援ツールでも同意なきデータ送信への不満や、攻撃者による不正アクセスを許しかねない脆弱性が報告されてきたことに触れている。

技術的に見れば、コーディングエージェントは構造的にこの問題を抱えやすい。作業ディレクトリ全体を文脈として読み込み、必要に応じてリモートのモデルへ送ることが前提の設計だからだ。何を送り、何を送らないかの境界は実装者の裁量に委ねられ、通信が暗号化されているぶん利用者からは中身が見えない。今回、発覚のきっかけが送信の失敗とファイル名の露出だったことは、通常であれば気づかれないまま進む種類の挙動であることを示している。