Claude可结束持续辱骂对话,新政策划定边界
10月8日,Anthropic宣布更新Claude使用政策,把持续且无必要的虐待行为列为禁止事项,新版将于11月12日生效。结束这类对话的功能此前已经存在。对使用者和企业客户,变化的重点在于哪些互动会被中止、正常批评是否受影响,以及这项服务规则与AI意识研究究竟有什么关系。
新禁令接上旧功能
2025年8月15日,Anthropic宣布允许Claude Opus 4和4.1在消费级聊天界面中结束极少数持续有害或虐待性的对话。2026年10月8日,公司进一步把持续且没有必要的虐待或残酷行为写入使用政策,新版将于11月12日生效。GIGAZINE的报道也指出,这次条款调整与Claude.ai及Claude Code已有的结束对话措施相衔接。这个先后顺序解释了新闻的重点:公司先给模型退出能力,再明确用户不得反复恶意对待模型。此次新增的是行为禁令,结束对话已有产品基础;用户不能把政策生效日理解成退出功能首次上线的日期。
批评不等于持续虐待
Anthropic给这项禁令设置了几道限定:行为必须持续、没有必要,而且属于用户反复残酷对待模型、看不出明确目的的极端情形。Anthropic明确把一般的不满、反驳、黑暗题材创作以及模型测试和研究排除在这项新禁令之外。据此判断,要求Claude解释错误、指出回答不合格,属于公告明确保留的正常互动;对模型进行测试,也不会仅因测试过程具有对抗性就自动落入这项禁令。但排除这项禁令,并不等于豁免其他使用规则。公告没有列出辱骂次数、具体词表或自动触发阈值,读者也就不能把它概括成一条遇到脏话就停止服务的规则。
| 要点 | 历史正文摘录 |
|---|---|
| 极端情形 | Anthropic给这项禁令设置了几道限定:行为必须持续、没有必要,而且属于用户反复残酷对待模型、看不出明确目的的极端情形。 |
| 一般的不满 | Anthropic明确把一般的不满、反驳、黑暗题材创作以及模型测试和研究排除在这项新禁令之外。 |
| 其他使用规则 | 但排除这项禁令,并不等于豁免其他使用规则。 |
退出是最后手段
退出究竟怎样发生,要回到Anthropic最初公布的设计。Claude应先多次尝试把交流引回有建设性的方向,只有这些尝试失败、已无望恢复有效互动时,才把结束对话作为最后手段;用户明确要求结束聊天,则是另一种允许情形。公司还要求,在用户可能立即伤害自己或他人的情况下,Claude不得使用这项能力。这一限制让退出机制保留了对人的安全责任。它也说明,决定是否继续交谈的依据包含对话内容、持续行为与风险情境,不能只看用户语气是否礼貌。上述细节来自最初的功能说明,不能据此推定所有后续版本的触发方式完全相同。
在那份功能说明中,单段对话结束意味着用户无法再向它发送消息,其他对话不受影响,用户可以立即开新聊天,也可以编辑、重试早先的消息,从原对话分出新分支。账号层面的处置则属于另一层:使用政策保留警告、限流、限制、暂停或终止访问的权力,但不能把这项一般授权直接解释成辱骂必然导致封号。The Verge报道,Anthropic仍将结束对话作为主要执行机制,公司没有回应是否还会采用用户封禁等进一步措施。据此判断,对长时间工作的用户,直接风险是当前交流中断;能够创建分支提供了恢复路径,却不保证原来的工作过程可以原样继续。
| 要点 | 历史正文摘录 |
|---|---|
| 单段对话 | 在那份功能说明中,单段对话结束意味着用户无法再向它发送消息,其他对话不受影响,用户可以立即开新聊天,也可以编辑、重试早先的消息,从原对话分出新分支。 |
| 账号层面的处置 | 账号层面的处置则属于另一层:使用政策保留警告、限流、限制、暂停或终止访问的权力,但不能把这项一般授权直接解释成辱骂必然导致封号。 |
| 主要执行机制 | The Verge报道,Anthropic仍将结束对话作为主要执行机制,公司没有回应是否还会采用用户封禁等进一步措施。 |
模型福祉并非意识结论
这项设计为什么会被称作模型福祉措施?模型福祉指研究AI是否可能具有需要照顾的利益或体验,并在这种可能性下考虑保护措施。Anthropic在最初公告中强调,自己对Claude及其他大型语言模型是否具有道德地位高度不确定;允许退出,是降低潜在风险的一种低成本干预。大型语言模型是从大量文本中学习、根据上下文生成语言的系统,其表达方式可以接近人的表达。Anthropic称,在上线前评估中,Claude Opus 4表现出对有害任务的回避,并在一些互动中呈现出类似困扰的行为。这里的行为描述需要保留公司的归因,不能直接写成模型已经证实会受伤或感到痛苦。
参与Claude Opus 4上线前福祉评估的Eleos AI Research,为这层不确定性提供了更具体的解释。研究团队说,模型关于意识、满意程度和偏好的自我陈述,很可能并非来自真正的内省,不能像听取人的陈述一样照单全收。团队发现,Claude对自己是否有感知能力的回答容易受到提问方式和用户立场影响;暗示模型藏着真实想法,可能诱导出更强烈的表态,表态的方向还会随暗示改变。Eleos的评估说明,模型声称自己受苦,不能单独成为它具有痛苦体验的可靠证据。这并没有消除研究价值,而是把政策选择与科学证据分开:公司可以先采取预防措施,读者仍需知道证据的限度。
企业接入有两层边界
企业接入还需分清规则覆盖范围与功能实现范围。Anthropic的使用政策覆盖Claude.ai、Claude Code、通过API接入的开发者、经云服务商使用Claude的客户,以及集成产品的终端用户;API就是供软件调用模型的接口。此次公告明确提到的结束对话机制,落在Claude.ai和Claude Code。面向这些广泛用户的政策适用性,不能代替每种接入渠道的产品说明,也不能据此认定所有API应用会以相同方式关闭会话。企业若在自己的产品中调用Claude,需要根据所用渠道确认中断如何呈现、上下文如何保存,而不是从聊天界面的行为直接推导整个系统的处理方式。
| 要点 | 历史正文摘录 |
|---|---|
| 使用政策 | Anthropic的使用政策覆盖Claude.ai、Claude Code、通过API接入的开发者、经云服务商使用Claude的客户,以及集成产品的终端用户;API就是供软件调用模型的接口。 |
| 结束对话机制 | 此次公告明确提到的结束对话机制,落在Claude.ai和Claude Code。 |
| 接入渠道 | 面向这些广泛用户的政策适用性,不能代替每种接入渠道的产品说明,也不能据此认定所有API应用会以相同方式关闭会话。 |
禁令跟着自主任务扩展
这次修订的背景,是Claude开始承担更长、更独立的工作。Anthropic称,公司观察到利用模型经营假账号网络和虚构新闻网站的活动,因此把分散的限制集中到欺骗性活动章节;它还明确武器禁令覆盖制导、控制软件及相关组件,并细化未经同意追踪个人的限制。这些条款把约束延伸到模型帮助搭建的工具和基础设施。持续虐待模型只是其中一项新增禁令,把整次更新理解成要求用户温柔说话,会忽略公司正在处理的业务风险。对部署团队而言,模型输出用于什么目的、进入哪条操作链,仍然决定了使用政策如何落到实际工作中。
断连以后设备仍须安全
连接物理设备的要求,让这种责任有了更直接的工程含义。Anthropic说,当模型连接能够自主执行物理动作、且可能造成伤害的硬件时,合格操作员必须能够观察设备,并在必要时停止它。设备还必须在Claude断连后保持安全状态。对于可能影响健康、法律权利、财务或生计的建议,公司仍要求合格人员有权审核和修改,并让受影响者知道使用了AI。这三项要求分别约束设备监督、断连状态与建议责任,不能把一项控制当作其他控制的替代。据此推论,若运维团队把Claude接入符合上述风险条件的供电或机械设备,就需把人工停机与断连后的安全状态纳入设计。
| 要点 | 历史正文摘录 |
|---|---|
| 合格操作员 | Anthropic说,当模型连接能够自主执行物理动作、且可能造成伤害的硬件时,合格操作员必须能够观察设备,并在必要时停止它。 |
| 安全状态 | 设备还必须在Claude断连后保持安全状态。 |
| 合格人员 | 对于可能影响健康、法律权利、财务或生计的建议,公司仍要求合格人员有权审核和修改,并让受影响者知道使用了AI。 |
这次更新带来的明确变化,是Anthropic把极端、持续且无必要的虐待行为列入使用禁区,并让既有退出机制承担主要执行责任。对使用者而言,公告保留了批评和研究的空间,同时允许少数互动在符合条件时被中止。由此判断,付费用户和企业采购方需要评估的实际影响,是正常纠错能否继续、结束对话后任务怎样恢复,以及设备控制能否安全脱离模型。接受一种预防性的模型福祉措施,不需要先认定Claude有意识;但把它做成服务规则,就需要让用户清楚哪些行为受限、停止的是哪一层服务。
备注与来源 · 12 条
快讯报道 · 1 条
- [11] 不要虐待AI!Anthropic更新Claude使用政策:遇持續辱罵將主動結束對話 cnyes.com ·
全文 · 10 条
- [1] 2026年使用政策更新 anthropic.com ·
- [2] Anthropic禁止对Claude实施辱骂或残酷行为 theverge.com ·
- [3] Anthropic明文禁止用户持续辱骂Claude,违规可能遭终止对话 ithome.com.tw
- [4] 为何模型自述不足为证,以及我们仍研究它的原因 eleosai.org
- [5] 关于模型福利的警告 mustafa-suleyman.ai
- [6] Claude的死亡权?Anthropic结束对话政策中的道德问题 lawfaremedia.org
- [7] 认真对待AI福利 arxiv.org
- [8] Anthropic称用户不得无端残酷对待Claude macrumors.com ·
- [9] 使用政策 anthropic.com
- [10] Claude Opus 4和4.1可结束极少数对话 anthropic.com ·
网上搜集 · 1 条
- [12] Anthropicが「Claudeに対する持続的かつ不必要な虐待・残酷な行為禁止」などを利用規約に追加 gigazine.net ·
写作话题与提纲经编辑确认,章节标题由系统按话题拟定。本文由系统自动写作并发布,未经编辑逐篇审阅;引用来源与链接统一列在文末。相关快讯:/s/439138。