联发科全球端侧AI生态加速：天玑9300和8300芯片支持Google大语言模型Gemini Nano！
最近，世界移动通信大会（MWC 2024年)展示了一系列先进的通信技术，尤其是生成人工智能技术。随着生成人工智能技术的普及，终端人工智能技术也得到了迅速的推广。与云人工智能相比，终端人工智能在保护用户隐私、无网络、高速、低延迟等方面具有明显的优势。
在展会上，联发科专注于支持SDXL Turbo（Stable Diffusion XL Turbo）文本到图像的生成引擎、Diffusion视频生成技术、端侧生成AI技能扩展（ LoRA Fusion）创新人工智能技术。联发科还首次展示了优化的meta Llama 2生成式AI应用，充分发挥了天竺的作用 在硬件加速引擎的加持下，9300和8300芯片的独立AI处理器APU可以在终端侧生成文章和摘要。 终端AI手机应用的发展离不开联发科等头部芯片厂商带来的先进硬件和软件技术。移动芯片的生成AI能力决定了手机终端AI能力的上限。联发科作为边缘终端AI技术的行业龙头，早就前瞻性地布局了终端生成AI技术，并在终端AI芯片能力上下了很大功夫。联发科天竺9300旗舰移动芯片独立AI处理器APU拥有业内第一款移动AI计算能力，并通过AI开发平台NeuroPilot构建了丰富的AI生态，因此，Androidid可以在行业中首次实现支持、Google Gemini Nano、meta Llama 2、百度文心一言，百川，vivo蓝心大模型Bluelmm、OPPO AndesGPT等众多全球先进的AI大模型。 早在去年，联发科就联合百度推出了飞桨与文心大模型硬件生态共创计划，共同推动了联发科硬件平台与飞桨与文心大模型的适应。 联发科还使用新一代meta开源语言模型Llama 2、联发科AI处理器APU、人工智能开发平台NeuroPilot建立了完整的端侧人工智能计算生态，加快了智能手机、物联网、汽车、智能家居等边缘设备的应用开发。经过全面的适应和优化，天竺9300和天竺8300芯片已经支持meta Llama 大模型应用70亿参数。
近日，联发科再次宣布，天竺9300和8300已针对谷歌 Gemini Nano大语言模型优化芯片和算法的适应性。联发科和谷歌还计划推出APK，可以在天鸡9300和8300上运行，以帮助开发者和OEM制造商部署谷歌 Nano应用，加速端侧AI应用落地。 不仅如此，联发科还与手机厂商深入合作，推动生成人工智能在手机端的应用。联发科已经与vivo携手vivo X100系列手机落地端侧70亿参数大语言模型，在端侧实验环境中运行130亿参数模型。在天竺9300芯片强大的人工智能算力和软件技术的支持下，用户可以体验vivo 人工智能蓝心大模型具有超能语义搜索、超能问答、超能写作、超能创图、超能智能交互等多种实用的生成人工智能功能。 联发科还与OPPO合作，打造轻量化大模型端侧部署方案，共同推动大模型能力在端侧落地，共同开启“AI手机”新时代。在先进生成型AI能力的加持下，天竺9300芯片，OPPO AndesGPT大语言模型实现了更好的性能和更快的速度。基于天玑9300芯片的优秀人工智能计算能力，OPPO Find X7在AI-Benchmark排行榜上获得了业界第一名的AI性能，并为用户带来了AIGC消除、AI通话摘要等多种手机功能。 联发科天竺9300和天竺8300芯片对世界主流大模型的支持，不仅将有效促进终端人工智能生态的改善和应用创新，还将帮助手机制造商生成的人工智能技术出海，使“人工智能手机”惠及世界各地更多用户。
天鸡9300集成联发科第七代AI处理器APU 790，性能和能效显著提高，生成人工智能处理速度是上一代的8倍，图片可以在1秒内生成。天竺9300在联发科混合精度INT4量化技术和内存硬件压缩技术的支持下，最高支持终端运行330亿参数AI大语言模型。APU 790还支持NeuroPilotot技术，生成AI模型端侧的“技能扩展” Fusion，利用行业先进的LoRA技术，赋予基础大模型更全面的能力，满足端侧AI用户个性化体验的需求。天竺8300率先支持同级产品生成人工智能，最高支持100亿参数人工智能大语言模型，加快端侧人工智能体验向主流市场普及。 全球更多的手机用户将体验生成人工智能的魔力和魅力，这是联发科全力推动端侧人工智能能力演变和普及的结果。通过芯片架构创新、软硬件协调和生态创新的努力，加快人工智能手机时代的到来。我们相信，在全生态系统的共同努力下，一个全新的移动“智能”时代即将到来，科幻电影般的全场景智能生活将成为现实。
查看全文
作者最近更新
-
押宝中高端电子烟！共达电声发布MEMS微压差气流传感器传感地图
03-22 16:43 -
温度传感器安装时常见的错误传感地图05-08 09:14
-
新华社报道：我国科学家在这一核心传感器件获突破传感地图2024-11-11
评论0条评论