「大模型是 AI 的操作系統,向上會支持更多的 API、插件,向下會和軟硬件更好地適配,會針對大模型的訓練,降低訓練成本、提高訓練效率、提高推理效率,就會有很多硬件來適配大模型。
曾經行業認為,全世界只需要 5 台大型機就夠了,後來出現了從大型機到 PC 的轉變和發展,讓計算機真正走進千家萬户。
大模型也會是這樣。現在需要巨大的算力進行訓練,需要比較高的成本進行推理,也很難部署到像手機這樣的端側設備上。
但將來大模型和底層芯片更好適配之後,可能會讓推理成本成千上萬倍的降低。將來就有可能把大模型裝在到手機芯片上。這就類似從大型機發展到 PC。」
—— 華為雲人工智能領域首席科學家田奇
via 於欣烈的微博