微软与高通合作开发“设备端”人工智能模型

微软与芯片制造商高通公司正在为搭载Windows 11操作系统的骁龙处理器开发新的“本地”人工智能模型，这可能会为本地及离线访问生成式人工智能功能（如图像和文本生成）铺平道路。这一举措正值微软确认将其基于GPT-4的Copilot人工智能系统引入Windows 11之际。高通表示，其“本地”版本的Stable Diffusion模型目前参数数量为10亿，未来将超过100亿。（照片由高通公司提供）在微软Build开发者大会上公布的这款高通离线AI模型旨在通过将部分计算转移到边缘设备，从而减少对云服务提供商的负担，并降低生成式人工智能的成本。该公司表示，这将使生成过程“更具可负担性、可靠性以及隐私性”。同时在Build大会上宣布的还有微软Copilot AI系统与其全线产品（包括Windows 11和Microsoft 365）的更紧密集成。Copilot AI将嵌入Windows侧边栏，并以类似Bing AI聊天的方式运作。用户可以在操作系统内输入问题或要求它完成任务，如更改桌面背景。此外，Bing搜索功能以及浏览网页的能力也将加入OpenAI的ChatGPT，而目前ChatGPT基于的是固定数据集，而非实时源数据。尽管这些模型目前仍依赖于互联网连接和通过微软Azure平台提供的昂贵云服务，但未来版本可能更加本地化。高通正在开发一款名为“AI Stack”的软件，与骁龙处理器集成，以实现更可扩展的基础AI模型。该公司表示，这将使设备制造商和开发者能够分发人工智能应用，而无需依赖云服务提供商。高通骁龙的AI优势“要使生成式人工智能真正普及，大部分推理操作需要在边缘设备上执行，”高通公司产品管理高级副总裁Ziad Asghar表示。预计AI系统将来仍会采用云与本地设备处理相结合的混合方式，但加入本地设备处理将更具成本效益。高通表示，其AI引擎在处理工作负载方面的效率高于GPU或CPU，从而使其能够在小型、轻薄设备上运行，包括手机、笔记本电脑和平板电脑。高通展示了在搭载Windows 11的设备上开发生成式AI的一整套工具，其中包括Stable Diffusion文本生成图像AI模型。目前一个拥有超过10亿个参数的版本已经在“本地”成功运行，并且该公司已经规划了拥有超过100亿个参数版本的路径。高通还在努力将大语言模型带到边缘设备。来自我们的合作伙伴的内容如何在混合云中实现两全其美企业网络安全的关键在于纵深防御2023年的网络安全是一个双速体系微软Windows硅和系统集成公司副总裁帕万·达夫卢里表示：“要让AI扩展到广泛设备和应用场景中，云和设备的处理都是必不可少的。”他补充道：“通过将微软在云AI领域的领导地位与Windows平台的能力，与高通技术在本地AI方面的专业知识相结合，我们将加速生成式AI体验的实现。”查看所有时事通讯订阅我们的时事通讯数据、洞察与分析直接送达由《Tech Monitor》团队提供在这里注册能够在本地运行的AI模型并不是什么新鲜事物。有一个庞大的开源开发者社区正在使用泄露的Meta LlaMA大型语言模型的版本，并尝试在旧笔记本电脑上运行它们。其他团队正在构建文本转语音和文本生成图像的模型，但这些模型通常具有较大的文件体积，或需要较好的显卡支持。高通公司正致力于创建更无缝和高效的解决方案。分析师公司CCS Insight的首席执行官Geoff Blaber指出：“高通和微软在硅芯片方面密切合作已经有一段时间了，这是‘众所周知’的事。”他补充说：“推动这一合作的原因不仅在于高通在基于ARM架构CPU的性能和能效方面的能力，还在于其在AI加速方面的路线图。”他继续说道：“随着Windows Copilot的发布，很明显微软正将AI融入其所有工具和平台的核心，因此对底层硅芯片有非常具体的要求。”Blaber还指出：“如果微软在工具和平台中使用生成式AI的愿景完全依赖云，它将无法实现规模扩展。这将耗费巨大成本，效率低下，用户体验也会大打折扣。我们将看到AI在本地设备、云端以及两者的混合环境下运行。目前，生成式AI在主流Windows硬件上尚不可行，但这正是Windows生态系统的明确优先方向和前进路线。这正是微软与高通密切合作的真正基础。”微软通过Build大会加强AI产品阵容Build是微软的开发者大会，AI是其许多新产品的核心。新的Azure AI Studio将使用户更容易将外部数据源集成到通过Azure云提供的OpenAI API中。OpenAI的API也将向平台用户更广泛地开放。开发人员将能够创建插件，将其工具、数据和服务整合到任何运行Copilot的微软产品中，包括Windows和Office应用程序。这些插件是OpenAI为ChatGPT开发的插件标准的结果，这意味着为ChatGPT构建的插件也将在所有微软产品（包括Teams）中使用。“开发人员现在可以使用一个平台来构建适用于消费者和企业场景的插件，包括ChatGPT、Bing、Dynamics 355 Copilot（预览版）和Microsoft 365 Copilot，”微软发言人表示。目前ChatGPT付费用户可用的插件，如OpenTable、Wolfram Alpha和Klarma也将被加入Bing。作为回报，微软也将向ChatGPT添加自己的Bing搜索功能。“现在，回答将基于搜索和网页数据，并包含引用，这样用户可以直接在聊天中了解更多，”微软表示。在大会上还推出了一款名为Fabric的AI驱动分析平台，面向企业级数据。这将现有的Power BI、Data Factory和Synapse等工具整合为一个产品。阅读更多：戴尔借助Azure、RedHat和VMware推出新Apex云平台本文主题：人工智能、微软、高通