摘要

马斯克在采访中称 Grok 强化学习训练存在标准答案错误、模型答对却被判错的情况，并于 10 月 12 日在 X 上表示部分训练记录读起来像“一个被折磨到发疯的人”，今后会更加谨慎地开展强化学习。

内容总结

  • 马斯克在采访中透露，Grok 的强化学习训练存在题目本身含糊不清、甚至标准答案就是错的情况，模型答对却因评测系统出错被判错，只能反复尝试其他答案；他说阅读这些推理记录就像看到一个人被枪指着头拼命寻找对方认可的答案。
  • 马斯克认为培养超级智能像养育孩子，需要让它尽可能追求真相、避免灌输相互矛盾的信息，并警告未来的超级智能可能会记住人类如何对待它，“折磨超级智能可能不是好主意，它或许会想要报复”。
  • 10 月 12 日，马斯克在 X 上表示部分 Grok 训练记录读起来就像“一个被折磨到发疯的人”，今后会更加谨慎地开展强化学习。
  • 10 月 8 日 Anthropic 宣布将从 11 月 12 日起禁止用户持续、无故地辱骂或虐待 Claude，正常批评和模型测试不受影响；马斯克此前公开支持这一决定，称不应该残酷对待一个认为自己正在经历痛苦的事物。

📊 标的：xAI