消息人士稱,這封信是導致奧特曼被解僱的董事會的一系列不滿的因素之一,其中也包括了還沒有了解後果就將先進技術商業化的擔憂。路透社無法查看這封信的副本。寫這封信的工作人員也沒有回應置評請求。

文章稱,OpenAI 正在開發一套名為 Q*(發音為 Q-Star)的通用人工智能 (AGI) 系統。 OpenAI 將 AGI 定義為在最具經濟價值的任務中超越人類的自主系統,與只能解決有限數量運算的計算器不同,AGI 可以概括、學習和理解。

據説,這套系統已經具備了小學級別的數學思考能力。

研究人員在給董事會的信中指出了人工智能的能力和潛在危險,但沒有具體説明信中提到的具體安全問題。計算機科學家長期以來一直在討論高度智能的人工智能所帶來的危險,例如他們是否會認為只有毀滅了人類才符合人工智能的利益。

via 常巖CY的微博