Gartner提出三大核心要素，助力企业有效部署大语言模型

5月26日至27日，Gartner将在上海举办2026大中华区高管交流大会。届时，分析师团队将深入解析正在塑造AI基础设施未来的关键技术趋势。

根据Gartner的最新预测，预计到2028年，中国70%的大型企业将建立完善的大语言模型治理框架，用于AI基础设施的部署。相比之下，2025年这一比例尚不足10%。

研究副总裁周玲指出：“中国在生成式AI能力方面正加速发展，涵盖大语言模型、软件生态、硬件升级等多个层面。根据2025年Gartner对CIO和技术高管的调研结果，中国企业计划在生成式AI和AI领域的技术投资将分别增长40.3%和33.3%。这将有力推动相关技术的进一步普及与应用。”

尽管大语言模型在AI基础设施中的部署潜力巨大，但其在生产环境中的实施仍面临诸多挑战。企业必须协调技术、运维与治理等多方面因素，确保模型性能达标的同时，兼顾数据安全与法规遵从。为此，Gartner总结出三大关键要素，助力企业实现大语言模型的高效与安全部署。

构建全面的部署战略

大语言模型在AI基础设施上的成功落地，需要企业制定系统化、可执行的部署战略。该战略应包括对AI环境的适配评估、场景驱动的架构设计、技术实现路径的优化，以及对监管要求的全面遵循。

“在部署大语言模型时，企业应围绕整体AI战略制定部署计划，”周玲表示，“这涉及识别高价值的应用场景，评估通用模型与行业专用模型的适用性，并推动业务与AI团队协同制定商业方案、基础设施规划、数据管道设计和定制化部署指导。”

制定稳健的部署治理流程

为确保大语言模型在AI基础设施中的顺利运行，I&O（基础设施与运营）部门需建立完善的治理流程，涵盖资源管理、持续监控及快速响应机制。

“治理流程的构建至关重要，”周玲强调，“应包括对部署环境与架构的科学评估、优化硬件及容器化技术的部署，以及对基础设施进行实时监控与可观测性管理，从而全面提升I&O团队在AI环境中的部署能力。”

推动跨职能团队紧密合作

由于大语言模型的部署复杂度较高，涉及业务、法律、安全、AI与数据等多个职能领域，因此企业需在项目初期就建立跨部门协作机制。通过设立涵盖法务、安全、数据工程、数据科学、产品管理、软件开发及高层代表的AI治理委员会，确保大语言模型的实施既合规又高效。

“治理委员会应在项目初期就促成关键利益相关方的沟通，就风险评估、合规标准和运营规范达成共识，”周玲指出，“同时，还应定期组织跨部门会议，确保信息透明、决策科学，并通过培训和文档建设强化治理能力。”

更多相关内容可参考Gartner报告《大语言模型在AI基础设施中的部署指南》。

Gartner——全球领先的AI评估与洞察机构

Gartner是企业C级高管和技术提供商在制定AI战略、推动核心业务优先事项过程中不可或缺的合作伙伴。凭借独立且客观的洞察，Gartner为客户的决策提供有力支持，帮助企业充分释放AI的价值。

目前，已有众多C级高管通过Gartner的AskGartner AI工具，探索AI在各自业务中的应用场景。依托2500余名商业与技术专家、6000余份研究洞察以及1000多个AI应用案例，Gartner已成为全球AI领域最具权威性的研究机构。更多详情请访问官网。

Gartner 2026大中华区高管交流大会

在2026年Gartner大中华区高管交流大会上，分析师将分享深度洞察与高价值连接，聚焦技术领导力、高管协作和职业发展，助力企业领导者应对关键挑战，加速业务增长。大会定于5月26日至27日在上海举行。更多会议动态和信息，请访问Gartner 2026大中华区高管交流大会官网。

关于Gartner——基础设施与IT运营领导者领域

Gartner为基础设施与IT运营领导者（Gartner for Infrastructure & IT Operations Leaders）提供研究支持，协助I&O负责人重新定义其在企业中的价值创造方式。更多信息请访问 Gartner官网。

如需获取更多新闻与洞察，请访问Gartner新闻中心。

关于Gartner

Gartner（纽交所代码：IT）致力于为企业提供可操作的客观洞察，助力企业在关键业务优先事项上做出明智决策，取得卓越成果。了解更多内容，请访问 Gartner中文官网。

查看全文

作者最近更新