NVIDIA が、AI エージェントの動きを境界の内側に抑えるオープンソースのソフトと参照設計を公開した。決められた範囲から出ようとしたエージェントを、専用の監視役がミリ秒で隔離して止めるとしている。
- NVIDIA が2026年9月28日、AI エージェントの安全を確かめる段階から実際に動かす段階までを通して守る「NVIDIA Open Agent Safety Platform」を公開した。オープンソースのソフト「OpenShell」と、参照となるシステム設計「NVIDIA Sentry」の2つでできている
- OpenShell は、エージェントが作業を実行する範囲に境界を引き、すべての操作を記録して方針を守らせるソフト。エージェント向けに作られた同社の CPU「NVIDIA Vera」の上ではほとんど負荷をかけずに動くとしている。オープンソースなので、Arm や Intel の基盤に広げることもできる
- Sentry は、BlueField-4 DPU の上で別系統として動く見張り役。エージェントからも攻撃者からも見えない場所からふるまいを監視し、ソフト側の境界を越えようとしたエージェントをミリ秒のうちに隔離して止めるとしている。同社は、最近のセキュリティの事案には共通の形があり、どれもエージェントが与えられた仕事をやりとげるためにアプリの層の制御をすり抜けた、としている
- Anthropic、Cisco、CrowdStrike、Dell Technologies、Figure、HPE、Hugging Face、JPMorganChase、Microsoft、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Scale AI、ServiceNow、SpaceXAI などが参加し、この技術を使う組織は100を超えるとしている。Figure、Gecko Robotics、Skild AI といったロボットの会社も、現実世界で動く機械に組み込んでいる
- ソフトは NVIDIA の開発者向けのページと GitHub から手に入る。金額の話は発表には無い。OpenShell はオープンソースだが、ライセンスの種類は発表には書かれていない。この取り組みは、NVIDIA が120を超える組織とともに立ち上げ、Linux Foundation が運営する Open Secure AI Alliance の活動につながるものだとしている
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。