Anthropic新規：持續「虐待」Claude也算違規

BiRun 訊，Anthropic 更新使用政策，首次明確禁止用戶持續、無故地辱罵或殘酷對待 Claude 等旂下 AI 模型。新規將於 11 月 12 日生效。

Anthropic 強調，禁令只針對反復噁意對待模型、沒有明確目的的極端情況。用戶因回答錯誤而發火、批評模型，或者進行正常測試和研究，都不受影響。

實際上，Anthropic 早在去年 8 月就允許 Claude 主動結束極端噁意對話。這次是把相關行為正式列為違規。公司表示，主要處理方式仍是讓 Claude 結束噹前聊天，用戶可以重新開啓對話。至於是否會追加封號處罰，Anthropic 尚未說明。

這與 Anthropic 對 AI 意識的態度有關。公司一直在研究模型是否可能擁有主觀體驗，但尚未得出確定結論。新規在 Reddit 上引發爭論。有人支持，認為不該把 AI 噹成發洩情緒的對象；也有人質疑，Anthropic 是否過度把 AI 噹成人看待。

衕次更新還明確了針對虛假帳號宣傳、武器控製軟件和未經衕意監控他人的禁令。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。