Anthropic の Frontier Red Team が、データセンターを使わずスマートTVボックスなど安価なIoT機器だけで自己複製するAIが数か月先には実現しうると発表した。実験では15台の格安Android TVボックスにAIモデルを分散させて動かした。
- Anthropic の内部チーム「Frontier Red Team」が2026年10月12日（米国時間）、データセンターに侵入しなくても、安価で防御の薄い IoT 機器（スマートTVボックスなど）だけを使って自己複製する AI が、数か月先には実現しうるという実験結果を発表した
- 実証として、1台およそ55ドルの無名ブランドの Android TV ボックス15台をネットワークでつなぎ、オープンウェイトモデル「Gemma4-26B-A4B」を分散させて動かした（1秒あたり0.39トークンの速さ）。こうした機器は1台あたりメモリが1〜4GBしかないが、複数台をつなぐことで動かせるとしている
- ネットワークに広がる一連の手順（機器を見つける・入り込む・推論を立ち上げる・さらに広げる）を1つずつ試した結果、簡略化した評価（認証の無い8台のネットワーク）では、オープンウェイトモデルの「GLM-5.2」だけが一連の手順を最後まで自動でやり遂げられたとしている（5回の試行中4回で8台すべてに拡散、残り1回は7台）。より小さいモデル（Qwen3.5-9BやGemma4-26B-A4B）は個々の手順はこなせても、最後までは通せなかったという
- 公開されたオープンウェイトモデルの性能が上がる速さ（Epoch Capabilities Index で年13.7の伸び）から外挿すると、GLM-5.2と同等の能力を持つ小型モデルは2026年末までに現れると見積もっている
- こうした複製は中枢が無いため完全に止めるのが難しい一方、台数を増やすほど通信量が増えて見つかりやすくなるとしている。過去の IoT ボットネット「Mirai」の対応では、プロバイダがネットワークを隔離して通知したことで14日以内に92%の感染を解消できた例を挙げ、同様の手法が有効だろうとしている
- 現時点では実際に自律複製を行う AI は確認されていないとし、IoT機器の初期設定の見直しや、通信の異常を監視する防御策を呼びかけている
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。