2025年，国产AI芯片领域异常活跃。DeepSeek的出现带动了AI应用的广泛普及，算力需求逐渐从训练转向推理。华为等国内厂商迅速响应，支持DeepSeek并快速部署，进一步激发了市场对国产算力的热情。
同年8月，DeepSeek发布新一代模型DeepSeekV3.1，并强调该模型针对即将发布的下一代国产芯片设计。业内分析认为，这一格式能够更好地适配国产芯片，通过算法创新弥补硬件不足，提升性能。这再次点燃了投资者对国产芯片厂商的热情。寒武纪因支持FP8计算，股价一度超过贵州茅台，单月涨幅高达100%。
国产AI芯片在推理侧迎来明显机遇。随着开源大模型的成熟与普及，预训练环节已形成相对稳定的市场格局，而终端应用落地催生了推理算力需求，推动AI推理芯片行业进入爆发式增长阶段。预计2025年中国AI推理芯片市场规模将增长至3106亿元。国内聚焦推理的厂商以华为、寒武纪和沐曦股份为代表。
龚明德分析称，国内各厂商积极拓展CSP ChatBOT应用服务，并寻求与自身互联网业务整合或边缘AI推理应用发展。整体而言，国内在边缘AI推理领域具有较大发展潜力。
英伟达吸纳其“挑战者”Groq的动作也体现了推理侧的重要性。2025年12月，Groq宣布与英伟达就其推理技术达成非独家许可协议，核心团队成员将加入英伟达，共同推进授权技术的升级与规模化应用。Groq研发的LPU推理速度可达英伟达H100的5至18倍。
