格隆匯7月19日|月之暗面旗下大模型Kimi K3採用線性注意力機制,引發市場對英偉達、HBM以及網絡設備需求可能受到削弱的擔憂。不過,半導體研究機構SemiAnalysis近日給出了截然不同的判斷:K3龐大的參數規模和推理架構需求,不僅不會削弱高端AI硬件需求,反而可能進一步強化對英偉達高端GPU、HBM以及高速互聯設備的需求。
SemiAnalysis指出,K3參數規模超過2.8萬億,模型權重容量超過1.5TB HBM。即便在相對有限的用户併發場景下,KV緩存仍需要大量卸載至CPU DDR5內存及NVMe存儲,HBM空間並不會出現明顯富餘。更重要的是,月之暗面此前透露,K3的高效推理部署需要至少64顆芯片組成的大規模擴展域架構。這一硬件需求與英偉達GB200/GB300 NVL72等機架級AI系統的設計方向高度匹配。
SemiAnalysis認為,市場此前將線性注意力理解為“削弱GPU需求”的邏輯存在偏差。真正的影響可能恰恰相反:更高效的模型架構降低了AI推理成本,將推動更多應用落地,進而刺激GPU、HBM、DRAM以及網絡基礎設施的長期需求。