Anthropic が、Claude の思考過程を盗んで別のモデルに学習させる「蒸留攻撃」への対策を強化したと発表した。初期の証拠では、新しい仕組みで攻撃者が抽出できる量が約90〜99%減ったとしている。中国の Zhipu や Moonshot が関わった事例も明らかにした。
- Anthropic が2026年10月12日、Claude の「思考過程（reasoning）」を大量に抽出して別のモデルに学習させる「蒸留攻撃」への対策を強化したと発表した。新しい仕組みで、攻撃者が抽出できる思考過程のトークン量は、導入前と比べて10〜100倍以上少なくなった日が多く、測れないほど少ない日もあったとしている
- 同社は蒸留を問題視する理由を2つ挙げた。1つは、抽出した能力を使って作られたモデルが、生物・サイバー分野で十分な安全対策を伴わずに出回ること。もう1つは、不正に蒸留されたモデルが国の安全保障（national security）上のリスクになること。米国のモデルを蒸留する企業は、そこで得た能力を外国の軍・情報・監視システムに組み込んでいるとしている
- 具体例として、中国の Zhipu AI が GLM-5.3 の開発時に Claude Fable 5 の攻撃能力を蒸留しようとし、同社のサイバー対策が攻撃の質を落とすと分かったあとは、古い Claude モデルと別の研究所のモデルに切り替えたという。米国の CAISSI（Center for Advancing Innovation and Standards for Super Intelligence）は、GLM-5.3 を「これまでに公開されたなかで最もサイバー能力の高いオープンウェイトモデル」と評価したとしている
- 別の事例では、Moonshot AI の「Kimi」モデルへのリクエストの一部が、ひそかに Claude へ転送されていたという。その中には、中国人民解放軍に関係するとみられる利用者が、特定の人物の監視カメラ映像の分析を求めたリクエストが含まれていたとしている
- 対策は3方向。新しい API アカウント（2026年8月31日以降に作成）が Claude の思考過程を編集できないようにする「preserved thinking」、思考過程を抜き出そうとする依頼を見分ける2段構えの判定器（誤検知率0.1%未満）、繰り返し抽出を試みる利用者の制限強化とアカウント停止（数万件を停止、多くは2時間以内）。2026年9月24日からは、この判定器に阻まれた依頼にも課金を再開したとしている
- 対策には利用者側への影響もあり、一部の開発者は接続方法の見直しが必要になったほか、ごくわずかな割合（0.1%未満）で正当な依頼を誤って止めることがあるとしている。今後も攻撃側との対応が続くとみている
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。