NEO发布最新3D X-AI芯片
创始人
2024-08-21 14:14:49
0

NEO Semiconductor发布了3D X-AI芯片技术,宣称该技术可实现目前HBM存储器方桉百倍的AI 处理能力,同时功耗也可降低99%。

3D X-AI可理解为两项技术的结合,其采用 3D DRAM 技术建构HBM存储器的DRAM Die,以实现更高容量;同时在DRAM Die中引入本地处理器,类似于先前提出的PIM概念。

在前一项技术上,单个3D X-AI芯片包含300层3D DRAM单元,整体容量达128Gb,12层堆叠后可实现192GB的单堆叠容量,允许储存更大的AI模型。

目前的HBM3 (E) 存储器最大单堆叠容量仅有36GB。

后一项技术上,NEO Semiconductor称其每个3D X-AI芯片均配备一层神经回路单元,包含8000 个神经元电路,可直接在3D存储器内部执行AI处理,大幅减少了数据传输至GPU产生的功耗。

NEO Semiconductor预计每层神经回路单元可提供10TB/s的AI处理吞吐量,对于12层堆叠的3D X-AI存储器堆叠而言就是120TB/s,较传统方桉提升了100倍。

由于架构和技术效率低下,当前的AI芯片浪费了大量的性能和功率。

目前的AI芯片架构将数据储存在HBM中,并依靠GPU执行所有计算。这种数据储存和数据处理分离的架构使数据汇流排成为不可避免的性能瓶颈。通过数据汇流排传输大量数据会导致性能受限、功耗飙升。

3D X-AI可以在每个HBM芯片中执行人工智慧处理。这可以大幅减少HBM和GPU之间的资料传输,进而提高性能并显着降低功耗。

相关内容

群贤聚太湖 共话AI赋能“...
6月28日,由无锡市医学会、无锡市预防医学会主办,无锡爱尔眼科医院...
2026-06-29 16:32:20
“AI+”不是简单做加法
眼下,随着高考考生们陆续进入志愿填报阶段,不少家长和考生尝试寻求人...
2026-06-29 16:24:45
都在说缺算力,90% 的 ...
全球最昂贵的浪费,正发生在最聪明的公司里。 作者|宇航猿 编辑|靖...
2026-06-28 21:15:05
Notion宣布关闭Not...
2024年2月,Notion收购了加密邮件与生产力软件初创公司Sk...
2026-06-28 21:10:15
原创 ...
硅谷大佬最近说出了藏在心底的担忧,谷歌前CEO埃里克・施密特在公开...
2026-06-28 21:06:59

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息,作为国产GPU的杰出代表,摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
微软 Azure AI 语音服... IT之家 8 月 23 日消息,微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息,谷歌于 8 月 27 日发布博文,宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前,青云科技宣布开源 Thanos 的企业级发行版 Whizard,为企业带来真正高可用、可扩展、...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具,以帮助您完全卸载...
8月20日基金净值:前海开源中... 证券之星消息,8月20日,前海开源中国稀缺资产混合A最新单位净值为1.43元,累计净值为1.43元,...