云天励飞推进推理芯片研发，采用3D堆叠存储架构

根据5月11日披露的投资者关系活动记录表，云天励飞透露了其正在研发的推理芯片的技术路径和核心亮点。该芯片基于GPNPU架构设计，具备多项关键技术特性。

首先，该架构具备接近通用图形处理器（GPGPU）级别的编程灵活性，重点针对国内芯片生态中“易用性”不足的行业痛点，提供对主流CUDA等开发生态的兼容性与迁移支持，从而降低用户在模型部署与迁移过程中的技术门槛。

其次，芯片内核在推理效率与能效比方面进行了深度优化，展现出出色的能效表现，有助于在推理端实现更高的性价比。

第三项关键技术为3D堆叠存储架构的引入。该架构通过垂直堆叠方式实现存储单元的集成，显著提升了内存带宽并降低了访问延迟，从而有效突破“内存墙”瓶颈，进一步增强模型推理的处理能力。

此外，云天励飞还采用了“算力积木”架构。这一设计理念延续了公司在过去五年中对国产工艺的持续探索，旨在通过模块化方式组合下一代芯片，构建机架级的高性能超节点系统，以支持万亿乃至十万亿参数规模的MoE（Mixture of Experts）大模型推理任务。

公司表示，通过上述技术路线的整合与优化，其最终目标是大幅降低单Token的计算成本，推动大规模人工智能模型在更多应用场景中实现高效、经济的部署，从而加快大模型技术的普及与规模化落地。

查看全文

作者最近更新