linux办公网
云天励飞：IPU-X6000加速卡已适配超过30个开源大模型，预期能使大模型推理成本大幅度下降
创始人
2024-07-24 20:37:53
0次

经济观察网讯 7月24日，云天励飞在上证e互动平台表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其内置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。（实习记者 李青阳 编辑 李仕静）

成本 推理 参数 平台 模型 实习 预期 云天励 上证 互动 云天 加速卡 大算力 百川智能

上一篇：华洋赛车接待22家机构调研，包括开源证券、浙商证券、西部证券等

下一篇：中国联通发布AI行动计划，加速AI变现

相关内容

原创 ...
每天 110 万次「一键修复」背后，藏着什么？ 撰文|蓝洞商业 赵...
2026-07-11 22:56:48
如祺出行推出AI数据服务平...
经济观察网 在“Robotaxi+”战略框架下，如祺出行数据业务板...
2026-07-11 22:55:14
本地部署AI热潮来袭，三星...
当OpenClaw龙虾在深夜自动梳理千份合同，当LLM大模型在桌面...
2026-07-11 17:25:59
AI“入侵”短剧， 横店准...
短剧很短，每一集也许就1分钟。短剧的发展很快，快到3年时间足以让行...
2026-07-11 17:24:13
开源模型赢了 Token ...
作者 ｜ 褚杏娟 周一，Decagon CEO Jesse Zh...
2026-07-11 17:19:47
车没上市就维权？小米新车遭...
近日，小米汽车旗下新系列「Skynoma 澎程」正式发布。值得注意...
2026-07-10 23:12:59

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
微软 Azure AI 语音服... IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...
青云QingCloud Kub... 日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
8月20日基金净值：前海开源中... 证券之星消息，8月20日，前海开源中国稀缺资产混合A最新单位净值为1.43元，累计净值为1.43元，...