近日，來自微軟和清華大學的研究人員發佈了一篇論文，提出了 RetNet。

該論文宣稱：Retentive Network（RetNet）是大語言模型領域 Transformer 的繼任者。

至於該模型的實際運行結果，可參見：網頁鏈接

大家覺得：Transformer 會被很快替代嗎？

#新能源汽車##42how##Transformer#

via 42號車庫的微博