高通公司出席chinajoy aigc大会,展望终端侧生成式ai新终端新应用-kok手机网页版

kok手机网页版-kok手机网页版登录官网
app
扫描二维码
盛拓传媒旗下网站
kok手机网页版-kok手机网页版登录官网      /           /      动态    /    正文

高通公司出席chinajoy aigc大会,展望终端侧生成式ai新终端新应用

  2024年7月26日,中国国际数字娱乐产业大会(cdec)旗下chinajoy aigc大会于chinajoy期间在上海举行。大会从技术、应用等全生态角度共同探讨了aigc技术下的内容产业新业态和未来发展趋势,聚焦aigc如何助力产业升级、如何提升aigc场景应用、如何促进人机融合等。 

  高通技术公司副总裁兼产品、kok手机网页版的合作伙伴和技术市场全球负责人 mike roberts 在大会上发表了主题演讲。他指出,终端侧生成式ai已经到来,高通公司作为终端侧ai的领导者,在ai领域有着超过15年的投入,借助强大的硬件和软件支持组合、异构计算优势、以及全球范围内的领先边缘侧布局,高通的产品和技术已支持出货超过25亿台ai赋能终端,赋能广泛的行业领域和生成式ai体验,正在推动实现“让智能计算无处不在”。

  以下为演讲全文:

  大家好,很高兴第四次参加chinajoy。我很荣幸代表高通,与大家分享我们正在如何助力让智能计算无处不在。作为终端侧ai的领导者,高通在人工智能领域有着超过15年的投入,拥有行业领先硬件和软件kok手机网页版的解决方案覆盖广泛边缘终端,并且拥有跨npu、cpu和gpu的卓越异构计算能力、领先的软件优化、以及能效。此外,我们还在全球范围内拥有无 与伦比的边缘侧布局和高达数十亿的用户设备数量,覆盖智能手机、pc、汽车、xr、边缘网络设备等等。同时,我们也与微软、谷歌、百川、腾讯、字节跳动等众多生态kok手机网页版的合作伙伴共同推动ai技术的创新和应用。

  生成式ai不仅是不可或缺的个人助手,也在众多领域展现出了巨大的商业价值。预计每年可带来2.6万亿到4.4万亿美元的经济效益,大约相当于2023年上海gdp的5倍。然而,推动生成式ai的规模化发展面临诸多挑战。以成本为例,基于生成式ai的搜索单次推理成本是传统网络搜索的约10倍。目前,我们还处于生成式ai应用的早期阶段,新的应用不断涌现,包括图像和视频创作、文本摘要、对话聊天机器人等。再考虑到未来需要使用ai推理的数十亿用户数,这个总体需求量就会非常惊人。预计2024年至2028年,生成式ai相关的token生成量将增长150 倍,云端的推理需求将超过训练需求。如果还保持当前的ai处理方式,到2030年ai可能会消耗全球3.5%的电力,这足以为上海这样的大城市供电约35年。

  那么我们应如何应对这一挑战?为了实现规模化扩展,ai处理的重心正在向边缘侧转移,最终目标是实现混合ai,让云端和边缘侧终端能够协同处理工作负载,并使用高性能连接来实现更加强大、高效、优化的ai。如果将 20% 的生成式 ai 工作负载转移到终端侧,预计到 2028 年将节省 160 亿美元的计算资源成本。

  让我们分别看看终端侧和云端的ai处理。终端侧主要支持100亿参数级别的大模型。终端侧ai处理具备众多优势,不仅能够提高性能和效率,还能确保隐私和安全性,同时提供即时性、低时延、高可靠性和个性化的用户体验。另一方面,中心云能够支持运行参数超过千亿级别的超大模型。在中心云上,用户可以轻松地对模型进行开发、部署和训练,实现资源聚合和极 致性能。

  基于此,面对各个垂直领域对生成式ai用例日益增长的需求,高通推出了面向计算性能的系统级kok手机网页版的解决方案。提供系统级kok手机网页版的解决方案的理念植根于高通公司的dna之中,也是我们作为一家公司应对诸多挑战的关键。这一kok手机网页版的解决方案包括我们专为生成式ai全新打造的神经网络处理器(npu),同时,我们还将npu与cpu、gpu整合到一起。比如,我们已经在pc端推出的高通oryon cpu,未来还将扩展到手机、汽车等更多终端品类;此外,我们推出了高通adreno gpu,我们在这款定制化gpu上已经投入了超过十年的研发。

  我们针对不同计算需求,策略性地使用适宜的处理器,从而提升系统性能,实现异构计算。异构计算让我们能够实现最 佳应用性能、能效和电池续航。如今,终端侧ai已经广泛应用于各类消费终端和各行各业,包括边缘网络设备、汽车、以及制造车辆的工业机器人等。在此,我想重点谈谈两种主要的终端类型:智能手机和pc。

  我们最 新的第三代骁龙8旗舰移动平台已经赋能诸多手机厂商kok手机网页版的合作伙伴推出了丰富的终端侧ai体验。上个月,我们的kok手机网页版的合作伙伴微软以及其他领先pc厂商,推出了20多款搭载骁龙x elite和骁龙x plus平台的最 新windows 11 ai pc,这些设备已经实现了实时翻译、实时转译、ai照片编辑、文本总结、写作辅助等丰富的ai功能。

  让我们先从智能手机的角度来谈谈这些终端侧ai用例。我们与kok手机网页版的合作伙伴携手在他们推出的旗舰智能手机上,为用户带来了生成式ai功能,将骁龙的ai能力直接呈现给消费者。三星galaxy s24系列借助终端侧ai,以先进的实时翻译功能,将手机通话实时翻译成用户首选语言,打破语言障碍,促进无缝的跨文化交流。此外,oppo find x7 ultra集成了出色的终端侧ai特性,让用户能够将照片中不需要的物体或人物消除,且无需连接互联网。荣耀magic6系列的“智慧成片”功能则能够利用相册中的照片和文本提示生成视频。

  接下来,让我们聊聊pc领域的应用。 在pc方面,我们与djay pro等众多公司展开了合作。djay pro是一款全球领先的混音应用,经过我们双方的合作优化,现在可以在骁龙x elite的npu上运行,让用户能够利用neural mix实时分离和操作人声、乐器、鼓等不同音轨。

  现在,让我们将目光转向汽车制造商和其他服务提供商,他们可以根据需求提供特性升级和新服务。中国的汽车市场有着全球领先的发展速度。在网联汽车中使用生成式ai服务,能够赋能我们的kok手机网页版的合作伙伴打造全新特性,扩展他们的产品,并为驾驶员和乘客提供更佳体验。网联汽车能够支持各种软件定义特性和服务,也将重新定义出行体验。

  高通还在引领终端侧ai在物联网领域的应用。一个具体的用例是工厂车间,工厂车间中数据处理的低时延至关重要,因为即使是最微小的错误也需要即刻关注。通过多模态ai助手,我们可以使用视觉、文本和语音处理为工厂车间的工人提供实时帮助。

  我们还提供了高通ai软件栈这一全面的统一kok手机网页版的解决方案,以支持广泛的垂直领域和kok手机网页版的合作伙伴。高通ai软件栈旨在帮助开发人员优化和部署ai模型,它集成了我们自主的高通神经网络处理sdk、以及模型压缩和量化工具——高通ai模型增效工具包(aimet)。

  综上所述,凭借强大的硬件和软件支持组合,高通的产品和技术已支持超过25亿台ai赋能终端的出货。随着我们不断缩小云端和终端侧ai之间的差距,未来这一数字将继续快速增长。最后,非常欢迎大家来到chinajoy骁龙主题馆e4参观体验。谢谢大家!

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系kok手机网页版登录官网,本站将会在24小时内处理完毕。
0人已赞

关注kok手机网页版

kok手机网页版-kok手机网页版登录官网
网站地图