云天励飞推进推理芯片研发，引入3D堆叠存储技术

云天励飞于近期公布了最新的投资者关系活动记录，披露了其正在研发中的推理芯片技术路线。据披露，该芯片以GPNPU架构为核心，融合了多项创新设计，旨在提升性能、能效和易用性。

该芯片的四项主要技术特点包括：首先，具备类GPGPU的通用编程能力。针对当前国内芯片在开发环境兼容性方面的挑战，GPNPU架构强化了对主流计算生态（如CUDA）的兼容与迁移支持，从而简化用户模型部署及迁移过程。

其次，芯片的NPU内核在能效方面进行了深度优化。通过聚焦推理任务的效率与能耗比，实现了在推理端更高的性价比，满足复杂AI模型对低功耗和高性能的双重需求。

第三项亮点是引入了3D堆叠存储架构。该技术通过垂直堆叠存储单元，显著提升了内存带宽，同时减少了数据访问延迟，有效突破了传统架构中“内存墙”的限制，从而显著提高推理速度。

最后，该芯片还采用了“算力积木”架构。云天励飞延续过去数年在国产工艺上的探索经验，通过模块化设计方式，支持构建更高密度的超节点系统，以满足当前MoE（Mixture of Experts）架构下万亿乃至十万亿参数级别大模型的推理需求。

云天励飞表示，通过上述技术路径的实施，其目标是大幅降低大模型推理过程中的单Token成本，推动AI技术在更广泛场景下的落地，提升其普惠性与可扩展性。

查看全文

作者最近更新