英伟达推出以GPU为核心的服务器平台，其市值已突破万亿美元
techmonitor
NVIDIA推出了一种新的服务器设计平台，名为MGX。该平台在台湾的Computex大会上发布，公司声称该平台提供以GPU为核心的架构，系统工程师可以据此构建各种面向人工智能和高性能计算的服务器。这是该公司一系列专注人工智能举措的最新进展，这些举措也推动了其市值突破万亿美元大关。NVIDIA表示，其MGX平台提供多种尺寸和冷却方式，并以GPU为核心。（图片由NVIDIA提供）经济各个领域中人工智能的快速崛起，部分得益于OpenAI推出的ChatGPT的成功，这带来了对基于GPU计算能力不断增长的需求。为应对日益增长的需求，NVIDIA表示需要一种新的架构。MGX可提供100种服务器变体，早期采用者包括华硕、技嘉、QCT和Supermicro。NVIDIA承诺，与现有平台相比，其MGX可将新系统开发时间缩短三分之二，仅需不到六个月，并将成本降低四分之三。NVIDIA的GPU产品副总裁Kaustubh Sanghani表示：“企业在构建符合其特定业务和应用需求的数据中心时，正寻求更多加速计算选项。我们创建MGX，目的是帮助组织推动企业人工智能，同时为他们节省大量时间和资金。”该平台从经过优化的加速计算系统架构开始。工程师随后可以选择最符合其需求的处理单元。NVIDIA解释称，该平台也构建为可跨数据中心和云平台运行。转向以GPU为中心的计算。NVIDIA已经从人工智能革命中获利，目前最受欢迎的模型大多数都使用NVIDIA硬件进行训练。NVIDIA的A100 GPU及其近期推出的继任者H100，被世界各地的AI实验室成千上万地抢购。上周，NVIDIA报告了创纪录的季度收入，并预计当前季度收入将比预期高出40亿美元。消息发布后，NVIDIA的股价大幅上涨，今日市场在假日周末后开盘时，其市值首次突破万亿美元大关。在Computex的主题演讲中，NVIDIA首席执行官黄仁勋表示，现有的以CPU为中心的服务器无法胜任容纳多个GPU和网络接口卡（NIC）的任务。他告诉与会代表，现有设计无法应对NVIDIA加速器产生的大量热量。如何在混合云中实现两全其美 企业网络安全的关键在于纵深防御 2023年的网络安全是一个双速系统MGX架构支持风冷或水冷，并提供多种外形规格，更可持续且可定制。它提供1U、2U和4U机箱选项，并可与任何NVIDIA GPU、NVIDIA新推出的Grace Hopper CPU或采用Intel x86架构的任何CPU配合使用。查看所有通讯订阅我们的通讯，获取数据、见解和分析，由《Tech Monitor》团队提供，点击此处订阅。黄仁勋表示，CPU时代正在结束。他指出，CPU性能的提升已趋于停滞，我们正进入由GPU和加速器辅助计算主导的新时代。他表示，新架构可减少训练大型语言模型所需的努力。他举例说，目前一个包含960台服务器的系统，成本为1000万美元，消耗11GWh的电力来训练大型语言模型（LLM）。相比之下，使用新架构的两台配备NVIDIA GPU的MGX服务器，成本仅为40万美元，即可完成相同任务，仅消耗0.13GWh的电力。他表示，一个花费3400万美元、由172台NVIDIA服务器组成的系统，可训练150个大型语言模型，并使用与当前960台服务器的CPU系统相同的电力。这一切均由对人工智能日益增长的需求所驱动，黄仁勋将人工智能描述为一种均衡器，也是“结束数字鸿沟”的方式。他指的是人工智能生成代码的能力，并解释道：“毫无疑问，我们正处于一个新的计算时代。每一个计算时代都能实现之前无法实现的不同事情，人工智能当然符合这一特征。” 阅读更多：为什么谷歌的人工智能超级计算突破不会影响NVIDIA 本文主题：人工智能，NVIDIA
查看全文
作者最近更新
评论0条评论