AMD 是否正在缩小与英伟达在人工智能领域的差距？
techmonitor
由AMD制造的人工智能芯片的性能几乎可以与Nvidia的行业领先产品相媲美。根据Databricks旗下的AI软件公司MosaicML最新研究，AMD的技术在训练大型语言模型和执行其他高强度AI任务时，可达到Nvidia性能的80%。MosaicML将AMD的MI250与Nvidia的A100进行了对比，并让它们训练了不同规模的大型语言模型（图片来源：Jimmy Tudeschi / Shutterstock）目前，Nvidia在训练AI模型方面占据主导地位，这些模型被用于运行ChatGPT和Midjourney等产品。这些产品的成功以及对计算能力的需求，使Nvidia的估值达到1万亿美元，同时引发了GPU的短缺。MosaicML最近对AMD的MI250进行了测试，并将其与Nvidia的A100进行对比。这两款产品都比各自厂商最新型号落后一代，但它们在训练大型语言模型时都能“即插即用”，AMD芯片的性能约为Nvidia的80%。该研究团队训练了参数数量从10亿到130亿不等的模型，这些模型与企业用于提供AI驱动工具（如搜索和大数据集摘要）的应用类似。这些模型是在由四个GPU组成的一个节点上训练的，结果显示MI250的吞吐量达到了A100的80%。此外，MI250在每秒浮点运算能力和内存方面略有优势，据MosaicML称，这使得每个GPU上可以训练出更大的模型。MosaicML计划在更大规模的GPU集群上进行更大规模模型的测试，以确认AMD系统在扩展性方面的表现，同时与大型云服务商合作进行相关实验。他们还计划创建推理基准，并使用扩散模型等其他模型在两套系统上进行测试，从而覆盖更广泛的选择。虽然这些芯片并不是各自公司最顶级的产品，但它们都在数据中心和AI模型训练中被广泛使用。MosaicML表示，新的机器学习训练硬件对于“在Nvidia供应紧张的情况下增加计算能力”是必要的。MosaicML指出，AMD的性能提升与该公司去年发布的软件新版本相关，这款软件可以与开源AI软件PyTorch协同工作。MosaicML首席技术官唐涵林表示，AMD对MI250的进一步软件更新将使其在年底前达到与Nvidia A100相当的性能。他说，AMD在软件方面表现出色，使它能够弥补硬件性能的差距，并赶上甚至超越Nvidia。唐还表示，从AMD切换过来不需要修改代码库或重新编写大型语言模型，并相信“它们基本上可以互换”。内容来自我们的合作伙伴：数字化能源电网的安全挑战；电影奖励的重新需求：柯达的遗产；填补可持续发展技能缺口对ESG的重要性唐表示，AMD并没有出资进行这项研究。他的公司开发的软件旨在帮助企业更容易地创建AI模型，并在内部进行训练，而不是依赖OpenAI或其他大型AI实验室的工具。他说进行这项研究是为了表明，除了Nvidia之外，还有其他选择。查看所有通讯订阅我们的通讯由The Tech Monitor团队为您带来数据、洞察和分析订阅地址：https://www.thetechmonitor.com他说：“总体而言，我们对AI训练硬件的未来市场充满信心。更多优质的选择意味着更多的计算能力供应，更多的市场价格竞争，最终为希望训练自有模型的用户带来更低的成本。”上周，Databricks宣布以13亿美元收购MosaicML，作为其更广泛战略的一部分，旨在建立一个由企业级开源AI模型构成的生态系统。两家公司都提供工具，帮助在大型数据集上运行的AI算法变得更小、更便宜，而MosaicML的软件将用于增强Databricks的产品线。这份报告发布之际，英特尔上周宣布了其长期计划，准备从2025年开始在AI芯片领域与Nvidia和AMD竞争。该公司正在调整战略，专注于开发可以与Nvidia和AMD硬件竞争的产品。上周，英特尔宣布其Falcon Shores芯片将配备288GB的内存，并支持8位浮点计算，这对训练AI模型至关重要。英特尔还声称，其Ponte Vecchio AI芯片的性能优于Nvidia的H100。尽管Ponte Vecchio芯片的发布有所延迟，但它将成为阿尔贡国家实验室最新超级计算机的核心，预计今年内完成交付。阅读更多：法国致力于成为欧洲的AI之都本文涉及的主题：AI，AMD，NVIDIA
查看全文
作者最近更新
评论0条评论