これにより、莫大な開発費をかけることなく米国トップクラスのAI機能を自社モデルに組み込もうとした
アンソロピック、アリババを告発。クロードの能力を抽出する大規模な「敵対的蒸留」キャンペーンを主導
- Anthropic Accuses Alibaba Of Running Major “Adversarial Distillation” Campaign To Extract Claude Capabilities
アンソロピック（Anthropic）がホワイトハウスや米上院議員に対し、中国のアリババグループ（Alibaba Group）が「敵対的蒸留（Adversarial Distillation）」と呼ばれる手法を用いて、AIモデル「Claude」の高度な機能を不正に抽出していると告発しました。
アリババ側は2万5000近くの不正アカウントを使い、ソフトウェア開発や自律型エージェントなどの高度な機能に関して2880万回に及ぶやり取りを組織的に行ったとされています。これにより、莫大な開発費をかけることなく米国トップクラスのAI機能を自社モデルに組み込もうとしたと指摘されています。
この動きを受けて、米国のAI開発企業（アンソロピック、OpenAI、グーグル）は規約違反となる蒸留行為の情報を共有する連携を強めており、米議会でも規約違反の中国企業をブラックリスト化する法案などの法整備が進められています。
敵対的蒸留（Adversarial Distillation）の概要
AIにおける「蒸留」とは、性能の高い大型モデル（教師モデル）が出力したデータを使って、別のモデル（生徒モデル）を効率的に訓練する手法です。
今回の「敵対的蒸留」は、利用規約を破って大量のダミーアカウントからシステムに負荷をかけるようなプロンプト（指示文）を送り、モデルの核心的な思考プロセスや高度な推論能力のデータを組織的・大量に引き出す行為を指します。
これにより、自社でゼロから数千億円規模の研究開発費や計算資源を投じることなく、米国の最先端AIと同等の能力を持つモデルを低コストで複製することが可能になります。
背景にある米国政府と中国企業の動向
米国政府はAI技術の流出を国家安全保障上のリスクと捉えており、対策を強化しています。
議会では、米国のAIモデルの出力を不正に利用して競合システムを訓練した中国企業に対し、制裁やブラックリスト入りを科す法案が審議されています。
一方のアリババ側は、今月に入り米国防総省から「中国人民解放軍を支援する企業」のリストに追加されたばかりであり、アリババ側はこの指定の取り消しを求める訴訟を起こすなど、対立が深まっています。
コメント