2024年7月26日 ，让智我国国际数字文娱工业大会(CDEC)旗下ChinaJoy AIGC大会于ChinaJoy期间在上海举办 。算无大会从技能、处不侧运用等全生态视点一同探讨了AIGC技能下的高通内容工业新业态和未来开展趋势 ，聚集AIGC怎么助力工业晋级 、展望终端I职怎么进步AIGC场景运用 、业赋怎么促进人机交融等 。让智
高通技能公司副总裁兼产品 、处不侧协作伙伴和技能市场全球负责人 Mike Roberts 在大会上宣布了主题讲演 。高通他指出 ，展望终端I职终端侧生成式AI现已到来 ，业赋高通公司作为终端侧AI的让智领导者，在AI范畴有着超越15年的算无投入 ，凭仗强壮的处不侧硬件和软件支撑组合、异构核算优势 、以及全球范围内的抢先边际侧布局 ，高通的产品和技能已支撑出货超越25亿台AI赋能终端，赋能广泛的职业范畴和生成式AI体会 ，正在推进完成“让智能核算无处不在” 。
以下为讲演全文：
咱们好 ，很快乐第四次参与ChinaJoy 。我很侥幸代表高通 ，与咱们共享咱们正在怎么助力让智能核算无处不在 。作为终端侧AI的领导者 ，高通在人工智能范畴有着超越15年的投入 ，具有职业抢先硬件和软件解决方案掩盖广泛边际终端 ，而且具有跨NPU 、CPU和GPU的杰出异构核算才能 、抢先的软件优化、以及能效 。此外 ，咱们还在全球范围内具有无与伦比的边际侧布局和高达数十亿的用户设备数量 ，掩盖智能手机 、PC、轿车 、XR、边际网络设备等等 。一同，咱们也与微软 、谷歌 、百川 、腾讯 、字节跳动等很多生态协作伙伴一同推进AI技能的创新和运用 。
生成式AI不只是不可或缺的个人帮手 ，也在很多范畴展示出了巨大的商业价值。估计每年可带来2.6万亿到4.4万亿美元的经济效益 ，大约相当于2023年上海GDP的5倍 。但是 ，推进生成式AI的规模化开展面临许多应战。以本钱为例 ，依据生成式AI的查找单次推理本钱是传统网络查找的约10倍。现在 ，咱们还处于生成式AI运用的前期阶段，新的运用不断涌现 ，包含图画和视频创造 、文本摘要 、对话谈天机器人等 。再考虑到未来需求运用AI推理的数十亿用户数 ，这个整体需求量就会十分惊人。估计2024年至2028年 ，生成式AI相关的token生成量将增加150 倍 ，云端的推理需求将超越练习需求 。假如还坚持当时的AI处理方式，到2030年AI可能会耗费全球3.5%的电力 ，这足认为上海这样的大城市供电约35年。
那么咱们应怎么应对这一应战?为了完成规模化扩展，AI处理的重心正在向边际侧搬运 ，最终目标是完成混合AI ，让云端和边际侧终端能够协同处理作业负载 ，并运用高功用衔接来完成愈加强壮 、高效、优化的AI 。假如将 20% 的生成式 AI 作业负载搬运到终端侧 ，估计到 2028 年将节约 160 亿美元的核算资源本钱 。
让咱们别离看看终端侧和云端的AI处理 。终端侧首要支撑100亿参数等级的大模型 。终端侧AI处理具有很多优势 ，不只能够进步功用和功率 ，还能保证隐私和安全性 ，一同供给即时性 、低时延 、高可靠性和个性化的用户体会 。另一方面 ，中心云能够支撑运转参数超越千亿等级的超大模型 。在中心云上 ，用户能够轻松地对模型进行开发 、布置和练习 ，完成资源聚合和极致功用 。
依据此，面临各个笔直范畴对生成式AI用例日益增加的需求 ，高通推出了面向核算功用的体系级解决方案 。供给体系级解决方案的理念植根于高通公司的DNA之中 ，也是咱们作为一家公司应对许多应战的要害 。这一解决方案包含咱们专为生成式AI全新打造的神经网络处理器(NPU) ，一同 ，咱们还将NPU与CPU 、GPU整合到一同 。比方 ，咱们现已在PC端推出的高通Oryon CPU ，未来还将扩展到手机 、轿车等更多终端品类;此外 ，咱们推出了高通Adreno GPU ，咱们在这款定制化GPU上现已投入了超越十年的研制 。
咱们针对不同核算需求 ，战略性地运用适合的处理器 ，然后进步体系功用 ，完成异构核算。异构核算让咱们能够完成最佳运用功用 、能效和电池续航。现在 ，终端侧AI现已广泛运用于各类消费终端和各行各业，包含边际网络设备 、轿车 、以及制作车辆的工业机器人等。在此 ，我想要点谈谈两种首要的终端类型 ：智能手机和PC。
咱们最新的第三代骁龙8旗舰移动渠道现已赋能许多手机厂商协作伙伴推出了丰厚的终端侧AI体会 。上个月 ，咱们的协作伙伴微软以及其他抢先PC厂商 ，推出了20多款搭载骁龙X Elite和骁龙X Plus渠道的最新Windows 11 AI+ PC ，这些设备现已完成了实时翻译 、实时转译、AI相片修改 、文本总结、写作辅佐等丰厚的AI功用 。
让咱们先从智能手机的视点来谈谈这些终端侧AI用例 。咱们与协作伙伴携手在他们推出的旗舰智能手机上 ，为用户带来了生成式AI功用 ，将骁龙的AI才能直接出现给顾客。三星Galaxy S24系列凭仗终端侧AI，以先进的实时翻译功用 ，将手机通话实时翻译成用户首选言语 ，打破言语障碍，促进无缝的跨文化沟通。此外 ，OPPO Find X7 Ultra集成了超卓的终端侧AI特性 ，让用户能够将相片中不需求的物体或人物消除 ，且无需衔接互联网 。荣耀Magic6系列的“才智成片”功用则能够运用相册中的相片和文本提示生成视频 。
接下来 ，让咱们聊聊PC范畴的运用 。 在PC方面 ，咱们与djay Pro等很多公司展开了协作 。djay Pro是一款全球抢先的混音运用，通过咱们两边的协作优化，现在能够在骁龙X Elite的NPU上运转，让用户能够运用Neural Mix实时别离和操作人声 、乐器 、鼓等不同音轨 。
现在 ，让咱们将目光转向轿车制作商和其他服务供给商，他们能够依据需求供给特性晋级和新服务 。我国的轿车市场有着全球抢先的开展速度。在网联轿车中运用生成式AI服务 ，能够赋能咱们的协作伙伴打造全新特性 ，扩展他们的产品 ，并为驾驶员和乘客供给更佳体会 。网联轿车能够支撑各种软件界说特性和服务 ，也将从头界说出行体会。
高通还在引领终端侧AI在物联网范畴的运用 。一个详细的用例是工厂车间 ，工厂车间中数据处理的低时延至关重要 ，由于即使是最细小的过错也需求立刻重视 。通过多模态AI帮手 ，咱们能够运用视觉 、文本和语音处理为工厂车间的工人供给实时协助 。
咱们还供给了高通AI软件栈这一全面的一致解决方案，以支撑广泛的笔直范畴和协作伙伴 。高通AI软件栈旨在协助开发人员优化和布置AI模型 ，它集成了咱们自主的高通神经网络处理SDK 、以及模型紧缩和量化东西——高通AI模型增效东西包(AIMET) 。
综上所述 ，凭仗强壮的硬件和软件支撑组合 ，高通的产品和技能已支撑超越25亿台AI赋能终端的出货 。跟着咱们不断缩小云端和终端侧AI之间的距离 ，未来这一数字将持续快速增加。最终 ，十分欢迎咱们来到ChinaJoy骁龙主题馆E4观赏体会 。谢谢咱们!。