7月6日至8日,2023世界人工智能大会(waic)在上海举行。本届大会以“智联世界 生成未来”为主题,聚焦ai前沿技术和产业发展。高通公司连续第六年参会,并参与多场论坛,从技术研究、应用部署和产业赋能等多个角度,描绘了混合ai赋能的智能未来。同期,第二代骁龙8的高通ai引擎获得大会最高奖项——sail奖(卓越人工智能引领者奖);高通还在现场带来了其强大终端侧ai赋能的生成式ai用例技术演示。
推动5g ai边缘侧创新,夯实智能未来发展基础
高通技术公司首席商务官jim cathey在大会首日全体会议——产业发展论坛上表示:“5g对于一个更加智能的世界至关重要。凭借卓越的性能、可靠性和容量,5g正在向智能手机之外的更多领域扩展,实现万物互联,成为数字经济的关键基础设施。同时,5g还助力ai扩展至更多边缘侧终端,不仅推动了智能的规模化扩展,还能够使在边缘侧生成的情境相关数据与云端近乎实时地共享。”
高通技术公司首席商务官jim cathey发表演讲
作为终端侧ai领导者,高通公司投入ai研发已超过15年,构建了强大的边缘侧ai技术、布局和规模化优势。高通技术公司全球副总裁兼高通ai研究负责人侯纪磊博士表示:“凭借一系列基础研究,以及跨ai应用、模型、硬件与软件的全栈终端侧ai优化,我们的持续创新让公司始终处于终端侧ai凯发app的解决方案的最前沿。”
侯纪磊博士特别指出,高通的ai凯发app的解决方案旨在提供最佳能效,让ai无处不在。高通ai引擎作为公司多年全栈ai优化的结晶,能够以极低功耗提供业界领先的终端侧ai性能,赋能当前和未来的用例。此外,可扩展的技术架构让用户能够采用一个高度优化的ai软件栈,即可在不同终端和模型上进行工作,以强大的灵活性和稳健性应对未来的ai技术发展。
高通技术公司全球副总裁兼高通ai研究负责人侯纪磊博士发表演讲
赋能生成式ai规模化扩展,混合ai是ai的未来
采用混合ai或仅在终端侧运行ai,能够在全球范围带来成本、能耗、性能、隐私、安全和个性化优势。随着生成式ai的飞速普及和计算需求的日益增长,混合处理的重要性空前突显。高通认为,要真正推动生成式ai成为主流,并发挥其最大潜能,必须采取混合ai架构。近期,高通公司发布白皮书《混合ai是ai的未来》,详细阐述了公司的混合ai愿景。
高通技术公司产品管理高级副总裁兼ai负责人ziad asghar在演讲中表示:“为实现生成式ai的规模化扩展,ai处理的重心正在向边缘转移。混合ai架构在云端和边缘终端之间分配并协同处理ai工作负载,能够实现更强大、更高效且高度优化的ai。我们正在引领混合ai愿景的实现,通过无线连接、高效计算和分布式ai融合云端和终端,释放生成式ai的无限潜力。”
高通技术公司产品管理高级副总裁兼ai负责人ziad asghar发表演讲
高通的ai能力已赋能一系列广泛的产品,包括手机、汽车、xr、pc、物联网设备等,搭载骁龙和高通平台的已上市用户终端数量已达到数十亿台。据ziad介绍,高通正在将更多生成式ai用例向边缘侧迁移,目前,参数超过10亿的ai模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。不久的将来,拥有100亿或更大参数的生成式ai模型将能够在终端上运行,推动生成式ai的普及。
技术哺育行业生态,打造开放凯发app未来
高通作为5g、ai、xr等创新技术的领导者,致力于以行业领先的软硬件综合凯发app的解决方案,加速元宇宙和xr生态系统的发展。高通技术公司高级副总裁程立新在演讲中表示:“5g、ai和xr,是构建元宇宙的三大基础技术。利用我们在5g和终端侧ai领域的强大技术优势,高通公司正在加速5g、ai和xr技术的融合,构建智能网联边缘,推动打造更沉浸、更智能的xr世界。”
高通技术公司高级副总裁程立新发表演讲
生成式ai能为元宇宙内容建设带来巨大前景。生成式ai有潜力在未来普及3d内容创作,比如赋能内容创作者使用如文本、语音、图像或视频等各种类型的提示,生成3d物体和场景,并最终创造出完整的虚拟世界。此外,内容创作者将能够利用文本生成文本的大语言模型,生成类人对话,这些进步都将变革用户在xr设备上创造和体验沉浸式内容的方式,构建开放、个性化的元宇宙未来。
引领业界ai创新,树立行业技术新标杆
高通以开创性的技术创新,持续引领终端侧智能体验的发展。第二代骁龙8移动平台的高通ai引擎,荣获了世界人工智能大会最高奖项——sail奖(卓越人工智能引领者奖)。高通ai引擎能够为终端侧ai推理加速提供卓越性能和能效,并支持丰富ai用例创新,提升用户体验。高通ai引擎实现软硬件一体,硬件侧采用异构计算架构,其关键核心hexagon处理器拥有一系列创新,如提供专用供电系统,支持微切片推理、int4精度、transformer网络加速等。
第二代骁龙8移动平台的高通ai引擎荣获sail奖(卓越人工智能引领者奖)
凭借高通ai引擎的全栈ai能力和优化手段,高通已经率先将生成式ai能力带到了终端侧,并在waic上进行了技术展示,让广大参会者见证了强大终端侧ai将如何助力生成式ai在终端侧实现无限潜力。
其中,全球首个运行在android手机上的stable diffusion终端侧演示,能够在15秒内执行20步推理,完全在手机上处理超过10亿参数模型。这是智能手机上最快的推理速度,媲美云端时延,且用户文本输入完全不受限制。目前,高通已经将这一用例扩展至骁龙计算平台赋能的pc产品。此外,高通还带来了全球最快的手机上的controlnet终端侧演示,该模型拥有15亿参数,在这项演示中,只用不到12秒即可在移动终端上生成ai图像,无需访问任何云端,便能提供高效、有趣、可靠且私密的交互式用户体验。
