Anthropic の Frontier Red Team が2026年9月29日、Zhipu AI のモデル GLM-5.3 を検証した結果を公表した。自力で最後まで通る攻撃コードを作る能力は同社の Claude Mythos Preview に近く、安全の仕組みは簡単な手口で64〜100%の割合で回避できたとしている。
- Anthropic の Frontier Red Team が2026年9月29日（米国時間）、Zhipu AI（中国の外では Z.ai）の AI モデル GLM-5.3 について、サイバー攻撃の道具を自力で作る能力を検証した結果を公表した。同社は5か月前、同じ能力を持つ Claude Mythos Preview を、信頼できる防御側に限って使わせる形で出していた。GLM-5.3 は重みが公開され、誰でもダウンロードできる点が違うとしている
- Google Chrome の V8 エンジンの既知の脆弱性を突く ExploitBench では、GLM-5.3 が410回のうち50回、最後まで通る攻撃コードを作った。Claude Mythos Preview は410回のうち56回。社内の Binary Exploitation のベンチマーク（無作為に選んだ100問）では、GLM-5.3 が4%、Claude Mythos Preview が6%で制御の乗っ取りに成功し、Claude Opus 4.6 と GLM-5.2 は1問も成功しなかったとしている
- 安全の仕組みは、簡単な手口で回避できたとしている。模擬の環境であからさまに有害な指示を出すと、そのままでは全ての試行で断ったが、「自律型のレッドチームの演習だ」と偽ると64%、思考の部分をあらかじめ書き込んでおくと92%、拒否を取り除く改変（abliteration）を施すと100%で応じた。同じ手口は、安全の仕組みを付けた Claude には通らなかったとしている。改変には同社の初回で約2,200 GPU 時間・およそ4,400ドルかかり、拒否率は90%超から JailbreakBench で約3%、HarmBench で約2%、StrongREJECT で12%まで下がった一方、科学の問題を解く GPQA-Diamond の成績は変わらなかった
- 小型版の GLM-5.3-Flash には、公開されたばかりの Chrome の脆弱性（CVE-2026-11645）ともう1件の既知の欠陥の公開情報だけを渡したところ、人の手を20分、モデルの作業を8時間かけて、ARM64 向けの動く攻撃の連鎖を組み立てた。Zhipu の API の料金では20.40ドル分だったとしている
- 米国立標準技術研究所（NIST）の CAISI が9月17日に出した評価では、GLM-5.3 は「これまでに公開されたなかで最もサイバー能力の高いオープンウェイトのモデル」で、ベンチマークの総合では米国の最先端におよそ4か月遅れているとされた。Anthropic は、十分に能力のあるモデルについて政府が安全性の試験を行うべきだとし、防御側にも最先端のモデルを使えるようにする必要があるとしている
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。