Anthropic が、最先端 AI の独立した評価で Accenture と組むと発表した。社外から見るのではなく、社員と同程度の権限で社内に入って評価する「組み込み型の評価者」を置く試みで、体制づくりに双方がそれぞれ5年で最低10億ドルを投じる見込みだとしている。
- Anthropic が2026年9月18日（米国時間）、最先端 AI の独立した評価で Accenture と組むと発表した。Accenture 側は AI を専門とする事業 Faculty が率い、モデルの評価とレッドチーム、アラインメントの評価、安全の仕組みの検証を行う
- 体制づくりのため、Anthropic と Accenture はそれぞれ今後5年で少なくとも10億ドルを投じる見込みだとしている
- 「組み込み型の評価者」は、これまでの社外の評価者と違い、AI 企業の内部で社員と同程度の権限を持って働く。学習の途中でモデルができていく様子を見て、どう作りどう出すかを決める判断を追い、社員に直接話を聞ける。会社が安全の約束を守っているかを確かめ、見落としを指摘し、出来事を報告する役割だとしている。評価者を置いても会社の責任が減るわけではなく、確かめられる形にするためだとも書いている
- 何をどこまで見せるか、見つけたことをどう報告するかの基準はまだ無く、資金の出し方も決まっていない。長期的には共同の基金か政府の資金が望ましいとしつつ、どちらも今は無いため、当面は Anthropic が Accenture の作業に直接お金を出す。METR をはじめとする非営利の評価団体とも、それぞれの資金で一部を試すことを話し合っているという
- この提携は独占ではない。Accenture はほかの AI 開発元とも同じように働き、Anthropic も別の評価者を今後発表するとしている
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。