高通“呼朋唤友”推进端侧AI新时代:腾讯混元部署 7B/3B 模型等
创始人
2024-10-22 06:57:27
0

IT之家 10 月 22 日消息,高通公司在今天举办的骁龙峰会上,推出了骁龙 8 至尊版移动平台,这是迄今为止高通最强大且全球速度最快的移动端系统级芯片。峰会首日,高通公司宣布和智谱、腾讯混元合作,共同推动端侧 AI 模型部署和落地。

骁龙 8 至尊版芯片 AI 性能

Hexagon NPU 融合了包含标量(scalar)、向量(vector)和张量(tensor)等 AI 加速器架构,支持 INT4、INT8、INT16 和 FP16 精度,能够利用大型语言模型(LLMs)和大型动作模型(LAMs),以支持全球最大的生成 AI 生态系统。

更多 AI 方面的细节,可以参考IT之家此前文章《骁龙 8 至尊版芯片开启端侧 AI 新时代:Hexagon NPU 性能最高提升 12 倍,全面增强拍照、连接等》。

腾讯混元

骁龙 8 至尊版通过支持基于硬件的 INT4 量化技术,实现腾讯混元大模型 7B 和 3B 版本的终端侧部署,可以大幅提升腾讯混元大模型在终端侧的运行效率,端侧推理实现首个 token 生成时延达到 150ms,解码速率达到超过 30 tokens / 秒

腾讯混元大模型已为腾讯内部超过 700 个业务场景和 C 端应用提供底层技术支持,在骁龙 8 至尊版芯片上部署后,能更好地满足广泛的终端侧业务需求。

例如腾讯手机管家短信智能识别功能通过海量数据结合深度神经网络与预训练,能够更准确地理解短信意图,让短信召回率大幅提高将近 200%,识别准确率提升 20%。

智谱

高通与智谱合作,为骁龙 8 至尊版适配优化 GLM-4V 端侧视觉大模型,支持丰富的多模态交互方式。

GLM-4V 端侧视觉大模型能够实现令人惊叹的处理能力,以超过 70 tokens / 秒的速度在终端侧高速运行。

此外通过与骁龙 8 至尊版进行深度适配和推理优化,终端侧多模态应用 ChatGLM 能够支持三种终端侧交互方式:使用相机进行实时语音对话、上传照片进行对话、上传视频进行对话。

丰富的多模态输入输出方式赋能智能助手 ChatGLM 实现了跨家庭、出行、工作和教育等多个场景的应用,例如:

  • 通过手机摄像头获取穿搭建议
  • 利用视觉信息实现智能导航
  • 通过车内摄像头识别遗留物品
  • 拍摄画作进行风格解析
网易

网易公司和高通合作,基于高通骁龙 8 至尊版芯片,采用一系列 Snapdragon Elite Gaming 特性,并在终端侧带来全新升级的 AI 队友功能,打造创新的《永劫无间》手游体验。

高通技术公司和网易还针对线程调度进行联合调优,并应用骁龙遮挡剔除(Snapdragon Occlusion Culling)等 Snapdragon Elite Gaming 特性,从而打造更加稳定的游戏体验。

在《永劫无间》手游极致画质下,与前代平台相比,骁龙 8 至尊版的平均帧数提升 22 帧,帧率稳定性提升 43%,助力实现更加流畅、稳定的复杂多人竞技场景。

基于骁龙 8 至尊版强大的高通 Hexagon™ NPU,《永劫无间》手游首次将具有 18 亿参数的大语言模型引入终端侧,利用包括软件和工具在内的高通 AI Stack 的全栈优化,打造全新升级的端到端 AI 队友功能。

该功能可以让 AI 队友不仅听懂玩家的语音对战指令并执行,还能够通过语音指导新手游玩;不仅如此,玩家还能够与 AI 队友进行自然的语音交流,获得优质队友的情绪价值。

  • 在终端侧推理可以显著降低网络传输带来的时延,使得首词时延控制在 300 毫秒以内
  • 用户数据无需上传云端,这将大大提升用户的隐私的安全性
  • 将 AI 推理从云端迁移到终端侧,可以充分利用骁龙 8 至尊版强大的终端侧 AI 推理能力,从而降低云端运行成本并降低能耗

相关内容

黄仁勋官宣Alpamayo...
英伟达CEO黄仁勋在X上发文称,今天正式推出Alpamayo 2 ...
2026-08-06 05:55:05
京东开源JoyAI-Vid...
快科技8月5日消息,京东正式开源自研实时流式视频编辑模型JoyAI...
2026-08-05 17:17:32
AI不再用完即忘:华为诺亚...
2026年8月3日,华为诺亚方舟实验室正式开源MindMemOS—...
2026-08-05 17:11:41
京东开源实时流式视频编辑模...
8月5日,京东宣布开源自研的实时流式视频编辑模型JoyAI-Vid...
2026-08-05 17:06:20
韩国启动全民AI成长阶梯项...
2026年8月3日,韩国科学技术信息通信部正式启动全民AI成长阶梯...
2026-08-03 20:27:33
从全民AI入门到创业孵化,...
8月3日,财闻海外资讯消息,韩国科学技术信息通信部正式启动全民AI...
2026-08-03 20:23:33

热门资讯

黄仁勋官宣Alpamayo 2... 英伟达CEO黄仁勋在X上发文称,今天正式推出Alpamayo 2 Super,这是英伟达面向自动驾驶...
“AI小法官”提升法治教育实效 原标题:福建省厦门市康乐第二小学推动人工智能与法治教育融合——“AI小法官”提升法治教育实效 “偷看...
开源证券:给予国邦医药买入评级 开源证券股份有限公司近期对国邦医药进行研究并发布了研究报告《公司信息更新报告:收入稳健增长,动保业务...
京东开源JoyAI-Video... 快科技8月5日消息,京东正式开源自研实时流式视频编辑模型JoyAI-Video-Edit,打破传统视...
AI不再用完即忘:华为诺亚开源... 2026年8月3日,华为诺亚方舟实验室正式开源MindMemOS——一个面向AI Agent的可迁移...
京东开源实时流式视频编辑模型J... 8月5日,京东宣布开源自研的实时流式视频编辑模型JoyAI-Video-Edit。据悉,用户可以一边...
NVIDIA发布新功能分支Un... IT之家 8 月 4 日消息,NVIDIA 当地时间昨日发布了版本号为 610.57.04 的新功能...
开源证券:维持陆家嘴“买入”评... 开源 证券研报指出, 陆家嘴中期业绩大幅增长,租赁现金流入稳中有增。公司2026H1实现归母净利润1...
韩国启动全民AI成长阶梯项目,... 2026年8月3日,韩国科学技术信息通信部正式启动全民AI成长阶梯项目,项目整合全民AI学习馆、全民...