探秘全球最大 AI 集群 xAI Colossus：122 天建成
创始人
2024-10-29 19:03:17
0次
IT之家 10 月 29 日消息，科技媒体 servethehome 昨日（10 月 28 日）发布博文，应 xAI 公司邀请，参观了 Colossus 全球最大 AI 训练集群。
IT之家曾于今年 9 月报道，xAI 在 Supermicro 的帮助下，在短短 122 天时间内搭建 10 万张英伟达 H100，而该公司计划未来将再翻倍增加 10 万张 GPU，其中 5 万张为更先进的 H200。
xAI Colossus 配备了英伟达 HGX H100 服务器，每台服务器内含 8 张 H100 GPU，所有服务器都在 Supermicro 的 4U 水冷系统中运行，确保高效散热。
每个机架可容纳 8 台服务器，8 台服务器组成 1 个阵列，意味着每个阵列有 512 个 GPU。Colossus 集群内有超过 1,500 个 GPU 机架，支持高带宽的网络互联。
每个 GPU 配备 400GbE 的网络接口控制器，确保每台 HGX H100 服务器达到 3.6 Terabit 每秒的以太网带宽。
xAI 采用了 Supermicro 的 4U 通用 GPU 系统，这些系统具备先进的液冷技术，提升了散热效率，确保了高性能计算的稳定性。液冷设计使得系统在运行高负荷任务时，能够保持较低的温度，延长设备使用寿命。
此次展示获得了埃隆・马斯克及其团队的特别批准，由于构建全球最大 AI 集群的敏感性，部分内容在视频中进行了模糊处理，Supermicro 赞助了这次巡展，显示出其在行业中的重要地位。
相关内容
热门资讯
2024云栖大会|阿里云升级无...
北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术...
人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2...
#春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37...
2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐
当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
骁龙本这么猛？联想YOGA A...
在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
摩尔线程发布AI算力笔记本MT...
钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
2023年CentOS与Ubu...
CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许...
苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
原创 华...
在2024年这个被誉为"AI元年"的关键时刻，随着生成式AI的流行，各家手机厂商都在积极备战AI手机...