近日,来自微软和清华大学的研究人员发布了一篇论文,提出了 RetNet。

该论文宣称:Retentive Network(RetNet)是大语言模型领域 Transformer 的继任者。

至于该模型的实际运行结果,可参见:网页链接

大家觉得:Transformer 会被很快替代吗?

#新能源汽车##42how##Transformer#

via 42号车库的微博