OpenAI が ChatGPT の暴力の防止策を発表した。2026年第3四半期に法執行機関への通報が200件を超えたとし、半期ごとの報告書を2027年初めに始める。10代向けには武器に関する情報の制限を広げる。
- OpenAI が2026年10月30日（米国時間）、ChatGPT の暴力の防止策として、新しい「Community Safety Report」と、未成年向けの銃器の内容の制限の強化の2つを発表した
- 同社は、差し迫った暴力の脅威を法執行機関に知らせており、2026年第3四半期には200件を超える法執行機関への通報を行ったとしている
- 報告書は、暴力の防止などの地域の安全と、安全策の効き目を扱う。初回は2027年初めに2026年後半の分を公表し、その後は6か月ごとに更新するとしている
- 過去の大量殺傷事件と加害者についての質問では、ほかのネット上で得られる情報であっても、ChatGPT が詳細を控えた答えを返すようにする。事件の再現（使われた武器・装備とその入手方法の詳細を含む）や、加害者の注目を高めかねない被害規模の細かい比較を制限する。利用者の年齢や質問の理由にかかわらず適用するとしている
- 直近の会話に暴力の兆候があるときは、悪用されうる情報を出す際により慎重に答える。18歳未満と予測した場合は、暴力の意図を示す兆候が無くても同じ厳しい制限を適用する方向で取り組んでいるとしている
- 暴力に固執している兆候が会話に見られるときは、ChatGPT が自動で会話を終えられるようにする。そう終えた会話が複数あれば、アカウントを一時停止することがあるとしている。早い段階で介入する自動の方法を、メンタルヘルスと暴力防止の専門家と進めている
- 10代向けの「ChatGPT for Teens」では、質問が無害に見えても、武器に関する情報の制限を広げる。武器や警備の仕組みについて、暴力の助けに悪用されうる実用的な情報を、暴力の意図の兆候が無くても制限するとしている。暴力の防止や緩和、支援を求めること、信頼できる大人とつながることには、10代も引き続き使える
- 年齢予測（行動のパターンなど複数の信号から18歳未満かを推定する）を強化した。誤って18歳未満の体験に入れられた利用者は、年齢確認の提携先 Persona を通じて、成人であることをすばやく確認できるとしている
- 保護者向けには、7月に、10代のアカウントが暴力に関する利用規則違反で停止されたときに保護者へ知らせる機能を広げた。暴力の話を繰り返したためにアカウントを一時停止したときの保護者への通知は、導入に向けて取り組んでいるとしている
- 今回の安全策は今後数週間で順次始め、改良を続けるとしている。料金の話は発表には無い
確かめた一次資料
この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。