OpenAI 近日正式宣布，将在未来几周内全面升级并加强 ChatGPT 对暴力相关内容的限制，同时针对未成年人用户推出更加严格的武器和安全系统信息防护机制。
此次政策调整的核心，在于对高风险对话采取更果断的干预手段。根据新公布的措施，如果系统检测并评估用户的对话显示出持续聚焦于暴力或严重伤害他人想法的倾向，ChatGPT 将具备主动结束对话的能力。更为严厉的是，若用户因这类问题被系统多次终止对话，其账号将面临被暂停使用甚至直接封禁的处罚。
在具体的内容过滤边界上，原有政策一如既往地禁止提供任何帮助用户策划或实施暴力行为的操作指导。而在此次调整中，限制范围进一步扩大到了历史层面——模型针对“过去大规模袭击事件及其实施者”相关问题的回答细节将被大幅缩减，甚至直接选择拒绝回答。具体受限内容不仅涵盖了重现袭击过程所涉及的武器、装备及其获取途径，还包括限制用户查询旨在放大袭击者知名度的伤害规模详细比较。需要注意的是，这一系列限制适用于全体用户，不区分年龄段与提问目的，即便是成年用户在进行相关查询时也将受到相同的约束。
除了面向所有用户的通用限制外，针对被识别为未满18周岁的青少年群体，OpenAI 进一步加码了精细化保护。系统将针对性地限制可能被用于实施暴力的武器和安全系统的实用信息，即便相关提问表面上看起来并未直接显露暴力意图，该项保护也会自动触发。不过，OpenAI 强调，青少年依然可以正常通过 ChatGPT 寻求帮助，例如学习如何预防或缓和暴力，或是获取与可信赖成年人取得联系的有效指导。
为了确保青少年保护机制的精准落地，OpenAI 引入了改进后的年龄预测机制。该机制能够结合用户的日常行为等多维度信号，持续对账号是否属于未成年人进行动态评估，并在适当时机自动匹配相应的保护措施。如果用户的账号不幸被系统误判为未成年人，也可以通过主动提交身份信息的方式进行验证与调整。
OpenAI 日前宣布，未来几周为 ChatGPT 升级暴力内容管控：对话若持续围绕暴力或严重伤害他人，模型可主动结束；同一账号多次因此被切断，可能被封号。此前已禁止提供策划或实施暴力的指导，此次是把“主动切断”纳入执行，从被动拒答转向主动干预，不再只靠用户自行收手。
OpenAI宣布，自12月起，ChatGPT Plus、Pro和Business套餐的部分使用额度将在ChatGPT与Codex间共享，推动Work智能体融入ChatGPT主交互界面。用户对话、编程及智能体任务将逐步纳入统一额度管理，按Token计量，消耗取决于模型和任务复杂度，复杂任务更高；即时对话等场景亦受关注。
11月1日消息，OpenAI、谷歌、微软与Anthropic将共同采用新标准，让网站主能在现有robots.txt中一次性声明“拒绝AI抓取”，不必逐家协商。该机制由Anthropic的Kevin Kelley提交IETF。此前robots.txt只用于告知搜索引擎，今后可统一管理AI爬虫，方便内容方拒绝被“薅”内容。
OpenAI正酝酿一场面向华盛顿与选民的公关攻势。据Axios，公司拟在周二美国中期选举结束后启动大规模宣传，由首席全球事务官克里斯·莱汉操盘。他视中期选举为2028年总统大选“预告片”，认为AI将成竞选核心议题。在监管与舆论收紧下，OpenAI欲抢先定义叙事，打一场防御战。
OpenAI拟在中期选举后调整公关战略，考虑将“数据中心”全面更名为“AI计算园区”，以缓解社会舆论和电力资源争议。其首席全球事务官克里斯·莱恩称，AI或成2028年美国总统选举关键议题。公司正酝酿系列政策提案，借重新命名基础设施凸显对地方经济的贡献。
关注 “悠AI” 更多干货技巧行业动态
相关文章
