OpenAI が、ChatGPT を使って身元を隠した「偽の実体」を運営していたロシア発・イラン発の2つの工作を禁止したと発表した。ロシア発の工作は、影響力を1〜6段階で測る自社の尺度でカテゴリー5にあたり、報告を始めて以来この段階に達した工作は初めてだとしている。
- OpenAI が2026年10月8日、ChatGPTを使って身元を隠した「偽の実体」を運営していた2つの工作を禁止したと発表した。ロシア発の「Dark Clark」とイラン発の「Bogus Bylines」で、いずれも従来の手口とAIを組み合わせ、地政学的な主張を標的の地域に送り込んでいたとしている
- ロシア発の工作は、ラテンアメリカで架空の人物「Mia Clark」を使い、「Social Research Center」という偽の研究団体を運営していたとしている。ウクライナの評判を落とすことや、アルゼンチン・ボリビアなど各国の国内政治に影響を与えることを狙っていたという。OpenAIは独自の評価指標「IO Breakout Scale」（影響力の大きさを1〜6段階で測る）で、この工作をカテゴリー5と評価した。報告を始めて以来、同社が禁止した工作でカテゴリー5に達したのは初めてだという
- イラン発の工作は、7つの架空の「記者」の人物を使い、米国・イラン間の対立について約100本の長文記事を世界各地の中小のオンラインメディアに売り込んでいたとしている。こちらはカテゴリー4と評価された
- OpenAIは、これまでに確認した30件の偽情報工作を比較し、ソーシャルメディアだけでなく実在の報道機関に記事を掲載できた工作ほど影響力が大きい傾向があると指摘している。今回の2件はいずれも主流メディアへの掲載に成功しており、それが高い評価につながったとしている
- 両工作とも関係当局に情報を提供済みとしている。OpenAIは、工作の運営者が内部報告書の作成にもAIを多用していたとし、実際の効果を誇張する計算方法を使っていたケースもあったと指摘している
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。