「大模型是 AI 的操作系统,向上会支持更多的 API、插件,向下会和软硬件更好地适配,会针对大模型的训练,降低训练成本、提高训练效率、提高推理效率,就会有很多硬件来适配大模型。

曾经行业认为,全世界只需要 5 台大型机就够了,后来出现了从大型机到 PC 的转变和发展,让计算机真正走进千家万户。

大模型也会是这样。现在需要巨大的算力进行训练,需要比较高的成本进行推理,也很难部署到像手机这样的端侧设备上。

但将来大模型和底层芯片更好适配之后,可能会让推理成本成千上万倍的降低。将来就有可能把大模型装在到手机芯片上。这就类似从大型机发展到 PC。」

—— 华为云人工智能领域首席科学家田奇

via 于欣烈的微博