OpenAI が2026年9月30日、自社モデルの保護された推論を抜き出そうとする組織的な活動を7月に見つけ、7月28日までに止めたと公表した。中核となる一群は Kimi を開発する Moonshot AI に関係する個人によるものだと見ているとしている。
- OpenAI が2026年9月30日（米国時間）、自社モデルの「保護された推論」を抜き出そうとする組織的な活動を見つけて止めたと公表した。保護された推論とは、モデルが課題を解くまでの内部の記録で、取り出されると最終的な答えには出さない情報が見え、モデルの能力を再現する手がかりになるとしている
- 暗号化の突破やデータベースへの侵入、保存された利用者の会話への直接のアクセスはなかったとしている。手口は、ある会話で暗号化された推論をコピーし、別の会話のモデルにそれを復号して書き出させるなど、モデルとのやり取りを操作して、隠れた推論を要求した側に見える形で再現させるものだった
- 活動は7月1日に少ない量で始まり、7月24日と25日に急増して、4,000人を超える利用者から16,000件の要求があった。関連する手口は15,000人を超える利用者の集まりにも及び、7月28日までに完全に止めたとしている。この数は試みた回数で、成功した回数とは限らないと注記している
- 観測した実行者が全て同じ主体かははっきりしないとしたうえで、中核となる一群については、Kimi を開発する Moonshot AI に関係する個人によるものだと見ているとしている
- 対応として、不正なアカウントの停止・制限、登録と基盤の管理の強化、監視の拡大を行い、他人の暗号化された推論を再生して中身を取り戻せる経路を塞いだ。この弱点は OpenAI のモデルに特有のものではないとして、Frontier Model Forum と政府の情報共有の経路を通じて、他の開発元や公的機関と調べた内容を共有したとしている
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。