引领ai创新 高通ai引擎荣获waic 2023卓越人工智能引领者奖
7月6日，2023世界人工智能大会（waic）在上海正式开幕。本届大会的主题是“智联世界，生成未来”。来自本届waic首日公开消息：第二代骁龙8移动平台的高通ai引擎荣获2023世界人工智能大会顶 级奖项：sail奖——卓越人工智能引领者奖。高通公司全球副总裁侯明娟上台领奖。
第二代骁龙8凭借面向整个平台的开创性ai智能设计赋能了非凡用户体验，树立了网联计算的新标杆，其搭载高通技术公司处理速度最快、最 先进的高通ai引擎，通过软硬件的一系列创新，相较上一代带来4.35倍的ai性能提升和60%的能效提升，从而为越来越多的创新型ai用例和ai增强的用户体验提供强大的性能基础。
高通ai引擎由多个硬件和软件组件组成，用于在骁龙移动平台上为终端侧ai推理加速。它采用异构计算架构，包括高通hexagon处理器、adreno gpu、kryo cpu和传感器中枢，共同支持在终端上快速而有效的运行ai应用程序。其关键核心hexagon处理器拥有一系列创新：提供专用供电系统、支持微切片推理、int4精度、transformer网络加速等，可结合高通ai软件栈和ai studio提供全栈ai能力和优化手段，行业内率先在终端侧支持stable diffusion、controlnet等生成式ai用例，并可与云端协同打造适应大模型时代的混合ai处理框架，助力ai体验创新和生态繁荣。目前，第二代骁龙8移动平台已经可以支持参数超过10亿的ai模型运行。未来几个月内，将有望支持参数超过100亿的模型在终端侧运行，这也将成为基于高通技术的产品的一大差异化优势。
终端侧ai处理可以带来处理时延，隐私和安全，可靠性等优势，并且在生成式ai场景下可以有效分担云端处理的负载，降低成本和能耗，有助于云端协同的混合式ai处理架构的有效部署。高通ai引擎可提供卓越的终端侧ai处理能力，并可跨越智能手机赋能更多边缘移动终端类别，比如笔记本电脑、xr头显、iot设备以及汽车等，引领终端侧ai应用的进一步发展。
据悉，高通深耕ai研发已超过15年，高通ai research在基础研究领域实现突破，并跨终端和行业进行扩展，以赋能智能网联边缘。高通ai research不仅在开展全新ai研究工作，也率先在商用终端上展示概念验证，为在现实世界中的技术规模化应用铺平道路。高通ai research的重要ai研究论文正在影响整个行业，推动高能效ai发展，并与公司所有团队通力合作，将最 新ai发展成果和技术集成到高通产品之中，让实验室研究所实现的ai进步能够更快交付，丰富人们的生活。
在waic现场，高通还带来了stable diffusion、controlnet等生成式ai用例的技术展示。这是全球首个运行在android手机上的stable diffusion终端侧演示，和全球最快的手机上的controlnet终端侧演示。
全球首个运行在android手机上的stable diffusion终端侧演示
全球最快的手机上的controlnet终端侧演示
stable diffusion是一个非常出色的从文本到图像的生成式ai模型，能够基于任何文本输入，在数十秒内创作出逼真图像。其参数超过10亿，迄今为止主要限于在云端运行。高通采用全栈ai优化的方式，通过量化、编译和硬件加速进行优化，使其能在搭载第二代骁龙8移动平台的手机上运行，在15秒内执行20步推理，生成一张512x512像素的图像。这是在智能手机上最快的推理速度，能媲美云端时延，且用户文本输入完全不受限制。目前，高通也已经将stable diffusion这一生成式ai用例扩展到搭载骁龙计算平台的pc产品上。
controlnet图像生成图像模型是一项语言-视觉模型（lvm），拥有15亿参数，能够通过调整输入图像和输入文本描述，更精准地控制生成图像。在这项演示中，controlnet能够在终端侧实现高效交互运行，通过一套跨模型架构、ai软件和神经网络硬件加速器的全栈式ai优化，时延12秒内可完成16步推理，生成ai图像，无需访问任何云端，便能提供高效、有趣、可靠且私密的交互式用户体验。高通ai模型增效工具包、高通ai软件栈和高通ai引擎在此过程中发挥了关键作用。