Red Hat收购Neural Magic,致力于跨混合云中实现高性能AI工作负载
创始人
2024-11-19 22:58:38
0

开放源码软件解决方案供应商Red Hat近日宣布,已签署收购Neural Magic的最终协议。Neural Magic为提供能加速生成式AI推论工作负载的软件与算法企业,其在推论性能工程的专业技术及对开源的承诺与Red Hat的愿景一致,致力于在跨混合云环境中的任何一处皆能实现高性能AI工作负载,并满足客户特殊的应用场景和数据。

尽管生成式AI的前景在当今科技领域中已占据主导地位,然而构建具成本效益且可靠的LLM服务,企业需要大量的计算资源、能源,以及专业的运营技能,Red Hat就是希望能够借由vLLM的开源创新赋能更多企业更易于使用生成式AI。vLLM是由社交媒体驱动的开源项目,专注于开放模型服务,支持所有主要模型系列、先进的推论加速研究及多种硬件后端。结合Neural Magic在vLLM项目中的领导地位与Red Hat的混合云AI技术产品组合,将为企业提供一条开放的途径,打造能满足独特需求的AI策略,无论数据位于何处皆可实现。

Neural Magic于2018年自麻省理工学院独立,旨在开发高性能的深度学习推论软件。Neural Magic的技术和性能工程专业加上Red Hat的AI技术产品组合,将驱动Red Hat加速实现AI未来愿景。Red Hat为突破大规模企业级AI的挑战,运用开源创新进一步推动AI变革的力量,包括:

Neural Magic凭借在vLLM领域的专业知识,致力于构建企业级推论堆栈,以协助客户于跨混合云环境中优化、部署并扩展LLM工作负载,且能充分掌控基础架构选择、安全原则和模型生命周期。Neural Magic也构建LLM Compressor进行模型优化研究,其为以先进的稀疏性和量划算法优化LLM的集成式涵式库,此外也维护经预先优化、可运用vLLM即时部署的存放库。

Red Hat AI旨在通过强大的技术协助客户降低AI成本及技能门槛,其中包含:

Red Hat将借由Neural Magic在vLLM技术的领导地位,强化支持LLM部署的AI能力,赋能跨混合云环境中随时随处部署,并提供现成、高度优化且开放的推论技术堆栈。

此交易需经监管机构审查和其他惯例成交条件而定。

相关内容

美团王莆中:让AI更懂餐饮...
10月16日第八届餐饮产业大会上,美团核心本地商业CEO王莆中首次...
2025-10-16 18:15:41
AI、算力、5G或为“进阶...
“要想富,先修路,经济要发展也得先有基础。”潘向东表示,当前经济形...
2025-10-16 17:45:39
DBA的AI自由
最近和客户的交流中遇到几件比较意外的事情,这也让我在未来AI大规模...
2025-10-16 17:14:24
AI影视浪潮正在重构行业边...
文汇报记者 臧韵杰 不久前落幕的第30届釜山国际电影节上,一波AI...
2025-10-16 16:17:32
AI原生手机如何让手机“自...
【大河财立方 记者 陈薇】10月15日晚,荣耀发布了Magic 8...
2025-10-16 14:45:08
原创 ...
最近关于沙特打算用30亿美元购买50架“彩虹-7”的消息在坊间传得...
2025-10-16 14:15:30

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...