消息人士称,这封信是导致奥特曼被解雇的董事会的一系列不满的因素之一,其中也包括了还没有了解后果就将先进技术商业化的担忧。路透社无法查看这封信的副本。写这封信的工作人员也没有回应置评请求。

文章称,OpenAI 正在开发一套名为 Q*(发音为 Q-Star)的通用人工智能 (AGI) 系统。 OpenAI 将 AGI 定义为在最具经济价值的任务中超越人类的自主系统,与只能解决有限数量运算的计算器不同,AGI 可以概括、学习和理解。

据说,这套系统已经具备了小学级别的数学思考能力。

研究人员在给董事会的信中指出了人工智能的能力和潜在危险,但没有具体说明信中提到的具体安全问题。计算机科学家长期以来一直在讨论高度智能的人工智能所带来的危险,例如他们是否会认为只有毁灭了人类才符合人工智能的利益。

via 常岩CY的微博