Anthropic宣布禁止“虐待”其旗下AI

Anthropic近日更新了其AI使用条款，以遏制新出现的高风险不当利用方式。核心变动在于，明确禁止对Claude系统实施"持续且不必要的虐待或残忍行为"。根据最新规定，终止对话依然是"主要约束手段"；至于是否会追加如用户封禁等更严厉措施，Anthropic方面未作表态。该公司声明，此次调整"仅针对极端情形，即用户在没有明确目标的前提下，反复对模型施加残酷行为。该政策不涵盖用户普遍的情绪宣泄、争论、阴暗创意构思，以及模型测评和科研等用途。"（新浪财经）