Meta推出了开源的、gpu不可知的AITemplate开发工具
techmonitor
Meta 开源了一套名为 AITemplate 的人工智能工具，使开发者在使用不同 GPU 时无需牺牲速度和性能。这是 Meta 最新推出的一系列开源人工智能项目之一，包括广受欢迎的 PyTorch 框架。Meta 一直积极开源其 AI 项目，其中包括 PyTorch。据 Meta 的工程师表示，该新工具基于 PyTorch 框架，使用时在使用英伟达的 A100 AI GPU 上的代码运行速度可比现有 PyTorch 方法快 12 倍，而在 AMD 的 M1250 上则可快 4 倍。其对开发者的最大好处在于，可以在运行机器学习计算时轻松切换处理器。目前，为了充分利用针对 AI 优化的 GPU，开发者必须将代码写入特定的硬件中，这使得在其他显卡上运行相同代码变得困难。Meta 表示，AITemplate 将作为一个芯片之上的分层，不会影响性能，同时允许轻松切换，而不会绑定到特定芯片。**公司情报**查看所有报告 查看所有数据洞察 该工具专门用于推理，这是机器学习算法在训练了大量数据后，需要根据接收到的请求快速做出判断的情况。这在分类任务中有所应用。Meta 的工程师在一篇博客中解释道：“目前，AI 从业者在选择高性能 GPU 推理方案时，灵活性非常有限，因为这些方案集中在特定平台和封闭的黑盒运行时上。”“为某一技术供应商的 GPU 设计的机器学习系统必须完全重新实现，才能在其他供应商的硬件上运行。”“这种缺乏灵活性也使得这些解决方案的代码迭代和维护变得困难，因为复杂的运行时环境存在硬件依赖。”随着开发者希望尝试新的建模技术，以及企业寻求更高级别的自动化，加速 AI 开发的解决方案正变得越来越重要。根据 Forrester 的一份新报告，AI 行业未来两年的增长速度将比整个软件市场快约 50%。**来自我们的合作伙伴的内容**零售商面临日益增长的网络安全威胁 基于云的解决方案将是全球压力和中断后重建供应链的关键 如何将安全性融入 IT 运营中该报告发现，到 2025 年，AI 软件收入的复合年增长率将达到 18%。现成的和平台型 AI 软件支出将从 2021 年的 330 亿美元增加到 2025 年的 640 亿美元。**数据、洞察和分析将直达您手中** 查看所有简报 由 The Tech Monitor 团队提供 订阅我们的简报 点击此处订阅 Forrester 分析师 Michael O'Grady 表示：“当 AI 变得主流时，企业需要在技术基础设施、AI 实践与流程、商业模式以及人才管理（包括公民数据科学家工具的民主化）等方面管理其复杂性。” **Meta 及其 AI 开源工具包**为了满足这一日益增长的需求，开发者正在寻找更快的新概念迭代速度，以及降低成本的方法，其中包括转向开源工具包。Meta 的团队表示：“尽管专有软件工具包如 TensorRT 提供了定制的方式，但它们通常不足以满足这一需求。”“此外，封闭的专有解决方案可能使快速调试代码变得更加困难，从而影响开发的敏捷性。” Meta 表示，他们创建了 AITemplate 来解决这一问题，并将其开源以促进持续开发，满足社区需求。它是一个统一的推理系统，支持 AMD 和 NVIDIA GPU 的独立加速后端，并计划未来扩展到其他硬件。“我们还计划将 AITemplate 扩展到其他硬件系统，包括 Apple M 系列 GPU，以及来自其他技术提供商的 CPU，”Meta 的工程师透露。“除此之外，我们正在研发将 PyTorch 模型自动降级的功能，为 PyTorch 提供另一个现成的推理方案。”基准测试显示，它在许多广泛使用的 AI 模型中，包括卷积神经网络、Transformer 和扩散模型，均能实现接近硬件本地张量和矩阵核心的性能。“我们使用 AIT 实现了在 NVIDIA GPU 上比 PyTorch 的即时模式快 12 倍，以及在 AMD GPU 上快 4 倍的性能提升，”Meta 的博客文章写道。“我们的项目提供了许多性能创新，包括先进的内核融合，这是一种将多个内核合并为单一内核以提高运行效率的优化方法，以及针对 Transformer 模块的高级优化。这些优化通过显著提升 NVIDIA 张量核心和 AMD 矩阵核心的利用率，实现了目前最先进的性能。”**阅读更多：欧盟人工智能新规呼吁将“通用型”AI 纳入监管** **本文主题：AI、Meta、开源**
查看全文
作者最近更新
评论0条评论