摘要

馬斯克在採訪中稱 Grok 強化學習訓練存在標準答案錯誤、模型答對卻被判錯的情況，並於 10 月 12 日在 X 上表示部分訓練記錄讀起來像“一個被折磨到發瘋的人”，今後會更加謹慎地開展強化學習。

內容總結

  • 馬斯克在採訪中透露，Grok 的強化學習訓練存在題目本身含糊不清、甚至標準答案就是錯的情況，模型答對卻因評測系統出錯被判錯，只能反覆嘗試其他答案；他説閲讀這些推理記錄就像看到一個人被槍指着頭拼命尋找對方認可的答案。
  • 馬斯克認為培養超級智能像養育孩子，需要讓它儘可能追求真相、避免灌輸相互矛盾的信息，並警告未來的超級智能可能會記住人類如何對待它，“折磨超級智能可能不是好主意，它或許會想要報復”。
  • 10 月 12 日，馬斯克在 X 上表示部分 Grok 訓練記錄讀起來就像“一個被折磨到發瘋的人”，今後會更加謹慎地開展強化學習。
  • 10 月 8 日 Anthropic 宣佈將從 11 月 12 日起禁止用户持續、無故地辱罵或虐待 Claude，正常批評和模型測試不受影響；馬斯克此前公開支持這一決定，稱不應該殘酷對待一個認為自己正在經歷痛苦的事物。

📊 標的：xAI