linux办公网
云天励飞：IPU-X6000加速卡已适配超过30个开源大模型，预期能使大模型推理成本大幅度下降
创始人
2024-07-24 20:37:53
0次

经济观察网讯 7月24日，云天励飞在上证e互动平台表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其内置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。（实习记者 李青阳 编辑 李仕静）

成本 推理 参数 平台 模型 实习 预期 云天励 上证 互动 云天 加速卡 大算力 百川智能

上一篇：华洋赛车接待22家机构调研，包括开源证券、浙商证券、西部证券等

下一篇：中国联通发布AI行动计划，加速AI变现

相关内容

“5G+AI”赋能数字人教...
通信世界网消息（CWW）作为全球领先的高端无线蓝牙耳机和无线充电模...
2025-05-12 18:48:03
泌尿系结石诊疗大模型“石说...
工人日报-中工网记者 姬薇 5月10日，清华大学附属北京清华长庚医...
2025-05-12 18:48:02
博拉智算参与打造国内首个具...
近日，重庆市经信委公布了工业和信息化领域“揭榜挂帅”项目(具身智能...
2025-05-12 18:17:35
8秒极速生成！复杂场景图像...
DreamO团队 投稿 量子位 | 公众号 QbitAI 可控图片...
2025-05-12 13:47:57
直击科博会：从“+AI”到...
本报记者郭冀川 5月8日至11日，第二十七届中国北京国际科技产业博...
2025-05-12 11:48:14
原创 ...
海内外大厂大模型研发正在进入新升级周期，为了加速补齐技术短板，腾讯...
2025-05-11 20:16:52

热门资讯

原创 华... 想在竞争残酷的市场中发力，必须要带来一些激进的卖点，但是随着功能特性的提升，硬件也必须要进行给力才可...
Thinkpad T14 AI...
支持 AI 扩图，华为 Pur... 2024-07-28 09:05:02作者：姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神｜《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神｜《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近，各家的AI 9笔记本开始陆续登场，其实大家并不一定非选AI 9 HX 370，主要是这颗CPU...
钉钉正式上线“365会员”，面...
荣耀Magic7 Pro更新了...
AI智能+高效清洁！萤石RS2... 目前扫拖机器人市场的竞争非常激烈，在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...