linux办公网
云天励飞：IPU-X6000加速卡已适配超过30个开源大模型，预期能使大模型推理成本大幅度下降
创始人
2024-07-24 20:37:53
0次

经济观察网讯 7月24日，云天励飞在上证e互动平台表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其内置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。（实习记者 李青阳 编辑 李仕静）

成本 推理 参数 平台 模型 实习 预期 云天励 上证 互动 云天 加速卡 大算力 百川智能

上一篇：华洋赛车接待22家机构调研，包括开源证券、浙商证券、西部证券等

下一篇：中国联通发布AI行动计划，加速AI变现

相关内容

【蚂蚁数科AI原生事业部总...
【蚂蚁数科AI原生事业部总经理王磊：严谨性与“压制幻觉”是金融AI...
2025-12-20 18:46:33
谷歌把AI大模型能力“压缩...
IT之家 12 月 20 日消息，谷歌于 12 月 18 日发布公...
2025-12-20 18:15:20
2025年AI设计工具公司...
随着AI技术与设计产业的深度融合，2025年AI设计工具已从“功能...
2025-12-20 17:46:25
美媒：中国降低全球迈入AI...
美国“欧亚评论”网站12月18日文章，原题：压力下的创新——中国精...
2025-12-20 08:45:24
（港澳台·图文互动）首届香...
（配本社同题文字稿） 12月19日，学生在首届香港国际AI艺术...
2025-12-20 06:16:08
AI无限拉低了普通人造假的...
文 | 镜相工作室，作者丨黄依婷，编辑丨卢枕 在很多人的印象里，...
2025-12-19 17:45:38

热门资讯

原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...
原创 华... 想在竞争残酷的市场中发力，必须要带来一些激进的卖点，但是随着功能特性的提升，硬件也必须要进行给力才可...
Thinkpad T14 AI...