高通徐晧谈AI趋势：混合AI灵活分配负载，5G提供高效连接
感知客
9月5日，在2023年中国国际服务贸易交易会成果发布活动中，高通公司发布人工智能白皮书《混合AI是AI的未来》实体版。高通公司中国区研发负责人徐晧博士在发布活动现场发表演讲，详细解析AI发展现状和未来趋势，深入阐述混合AI架构的领先优势，并指出5G在混合AI中的作用。
徐晧首先介绍了AI已经被广泛应用，不过之前的AI一般用来处理指定的工作，例如智能手机上的身份识别、相片处理，5G手机的信号增强；智能家居的智能音箱对话；智能汽车的语音识别，以及L2、L3、L4级别的辅助驾驶等。近年来有新的重要的趋势，ChatGPT以前所未有的流行速度，让大家认识到生成式AI的能力，并对AI的发展产生深远影响。徐晧也指出目前生成式AI面临的一个主要困难，高昂的计算成本导致生成式AI无法满足海量用户的需求。他也给出了一个解决方法，将一部分AI转移到终端侧执行，用混合式AI架构，将终端与云端的资源、能耗以及算力进行最优分配。
徐晧解释，混合AI，是包括云端、边缘云和终端的统一架构。在混合式AI的架构下，需要大量算力的大规模的模型训练仍留在云端进行，模型推理可以分布在终端和边缘进行。只要推理任务能够在终端完成，就放到终端来执行；如果不能在终端完成，就通过5G或其他网络，将数据推送到云端进行计算，并返回结果。
也就是说，未来生成式AI主要是在终端侧运行。对于哪些负载适合放在终端侧运行，徐晧认为，10亿级参数的AI就放在终端侧执行，例如只要1亿参数就能运行的语音识别就适合在终端侧运行，10亿参数级的图像生成AI也适合放在终端侧。百亿及百亿参数以上规模的超大模型，就放在云端运行。高通在今年年初，就成功的在一台高通骁龙5G手机上运行10亿参数规模的Stable Diffusion生成式AI模型，这次服贸会的现场也有该项演示。徐晧还展示了另一项终端侧AI成果，将参数量提升50%，现场进行15亿参数的ControlNet演示。
在分享的最后，徐晧希望能与更多产业的更多合作伙伴，用5G、AI、XR等基础技术，共同推动数字经济向前发展。
查看全文
评论0条评论