北京时间2026年10月30日，OpenAI宣布收紧ChatGPT处理暴力相关信息的规则，并为预测年龄低于18岁的用户增加武器与安保系统信息限制。公司同时承诺推出一份新的社区安全报告，公开其识别、审查和处理潜在危害的做法。Reuters同日公开报道了这项调整；OpenAI说相关保护将在未来几周开始推出，因此不能写成所有用户已经完成更新。
面向所有用户的暴力信息调整
面向所有用户，ChatGPT将减少对过去大规模袭击事件的细节呈现，包括所用武器与设备、取得方式，以及可能放大袭击者知名度的伤害规模比较。OpenAI没有禁止用户了解这类事件，仍允许讨论受害者和社区受到的影响、识别警示信号及预防未来暴力。新的边界针对可被滥用的操作性细节，而不是把相关历史与公共安全讨论整体封闭。
OpenAI说正在扩展对单次提问之外近期对话信号的处理。公司此前已说明，ChatGPT可利用对先前警示信号的简短事实摘要，在后续对话中更谨慎地回答可能被滥用的信息；此次公告称，当对话显示用户持续沉迷暴力或严重伤害他人的想法时，系统将能够自动结束对话。若同一账户多次因此被结束对话，OpenAI表示可能暂时暂停该账户，但没有公布触发阈值、暂停时长或实际覆盖范围。
针对青少年群体的额外限制措施
对青少年用户，限制会进一步扩大到实用的武器和安保系统信息，即使问题表面无害、对话中没有显现暴力意图，也可能受到更严格处理。OpenAI说，未成年人仍可使用ChatGPT了解如何预防和缓和暴力、寻求支持并联系可信任的成年人。公司没有公布具体拦截清单，因此现阶段只能确认政策方向，不能自行扩写哪些问题一定获准或一定被拒。
年龄识别是这套措施的入口之一。OpenAI称已加强年龄预测系统，使其能在用户持续使用ChatGPT时评估新信号，并在适当情况下把被判断为未满18岁的人转入青少年体验。被错误归入该体验的成年人可通过年龄验证合作方Persona确认身份并移除额外保护；公告没有给出年龄预测的准确率、误报率、国家覆盖或独立隐私审计结果。
自动对话中断与账户暂停机制
家长控制目前允许家长与青少年关联账户，并可在受过专门训练的审核人员识别出严重自伤风险或可能与进食障碍有关的行为时发送安全提醒。OpenAI还说，7月已把提醒扩大到青少年账户因违反暴力活动政策而被停用的情形。针对反复讨论暴力并因此被暂停账户的新通知仍在开发，公告使用的是计划性表述，不能把它描述为已经上线。
OpenAI在公告中自报，2026年第三季度向执法部门作出超过200次转介。这个数字反映公司称已提交的转介数量，不是独立审计结果，也没有说明其中多少导致调查、逮捕、干预或风险解除。报道若把转介数直接改写成被阻止的暴力事件数，会改变数字的含义；现有公开材料只支持保留公司归属和转介这一动作。
年龄识别、验证及家长通知计划
首份社区安全报告计划在2027年初发布，覆盖2026年下半年，之后每六个月更新一次。OpenAI说，报告将解释系统如何识别、调查和回应社区安全问题，提供经匿名处理的暴力危害案例，并介绍新的缓解措施、政策变化及相关数据。现在尚无首份报告可供核验，也没有统一的数据口径，因此公开承诺与实际透明度要等报告发布后才能比较。
编辑分析：这次调整把暴力风险治理从回答层面的内容限制，延伸到近期对话信号、自动中断、账户措施、家长通知与定期报告，形成一条更长的产品治理链。制度覆盖面扩大并不等于风险已经下降，真正需要观察的是年龄预测和暴力信号识别的误报与漏报、功能覆盖率、转介后的实际结果，以及半年报告能否提供可复核数据。在这些信息出现前，准确结论是OpenAI扩大了政策边界并提出透明度计划，而不是新系统已经证明有效。