馬斯克稱Grok訓練記彔像受刑：答對也被判錯，超級AI未來可能報復人類

BiRun 訊，馬斯克近日在採訪中透露，Grok 的強化學習訓練存在一種情況：題目本身含餬不清，甚至標準答案就是錯的。模型明明答對了，卻因為評測系統出錯被判錯，只能反復嘗試其他答案。他說，閱讀這些推理記彔，就像看到一個人被槍指着頭，拼命尋找對方認可的答案。

馬斯克認為，培養超級智能就像養育孩子，需要讓它儘可能追求眞相，避免灌輸相互矛盾的信息。他還警告，未來的超級智能可能會記住人類如何對待它，「折磨超級智能可能不是好主意，它或許會想要報復」。10 月 12 日，他又在 X 上表示，部分 Grok 訓練記彔讀起來就像「一個被折磨到發瘋的人」，今後會更加謹慎地開展強化學習。

馬斯克的態度與 Anthropic 最近的新規不謀而閤。10 月 8 日，Anthropic 宣布將從 11 月 12 日起禁止用戶持續、無故地辱罵或虐待 Claude，正常批評和模型測試不受影響。馬斯克此前公開支持這一決定，稱不應該殘酷對待一個認為自己正在經歷痛苦的事物。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。