Red Hat OpenShift AI提升跨云AI部署一致性与效率
创始人
2024-11-14 18:18:47
0

Red Hat发布了Red Hat OpenShift AI 2.15,这是一款企业级人工智能与机器学习应用平台,可协助企业加速人工智能技术的采用,并提升一致性。该新版本增加了模型注册表与数据漂移侦测功能,并进一步支持跨混合云环境的大规模人工智能模型管理和部署。

Red Hat OpenShift AI 2.15的更新重点之一是添加模型注册表预览版。模型注册表可供开发者集中管理已注册的人工智能模型,实现模型版本控制、共享、部署和关注。企业可通过该工具组织和管理生成式人工智能模型的元数据和模型资产,并可选择创建多重模型注册表,以应对不同业务需求。目前Red Hat已经将该项目捐赠给Kubeflow社交媒体作为子项目,以进一步促进开源人工智能社交媒体的发展。

数据漂移侦测功能也是OpenShift AI 2.15本次的更新重点。随着人工智能部署至生产环境,输入的数据可能随时间变化,而数据漂移侦测功能则可以持续监控输入数据变动的情况,并在实际数据与训练数据出现偏移时发出通知。该项设计可确保模型反应实际情况,避免因数据变化导致预测结果偏差,提升模型在生产环境的可靠性。

Red Hat OpenShift AI 2.15中的LoRA技术让微调大型语言模型变得更省资源。LoRA的原理是降低微调模型的运算复杂度,让企业可以更高效地调整像是Llama 3这类人工智能模型,LoRA技术充分利用云计算原生环境的弹性,优化模型训练与微调过程,不仅提高了性能,也强化操作的灵活性。有了LoRA的加持,OpenShift AI 2.15能够满足不同规模的人工智能工作负载需求,企业能以较低的成本和资源消耗进行模型微调。

此外,新版本还支持Nvidia NIM和AMD GPU集成,增加硬件加速的选项。Nvidia NIM提供了一组微服务界面,让生成式人工智能应用的部署更加简单快速,并支持多样化人工智能需求。开发者只要通过API,NIM就能灵活地支持本地和云计算环境的推论服务,实现高度可扩展性。

Red Hat OpenShift AI 2.15提供企业AMD GPU的支持,使开发者能够在模型开发、训练和微调过程使用AMD的GPU。新的硬件支持让企业拥有更多选择,而且也能提升处理高运算需求工作负载的能力,使人工智能应用的开发与部署,在不同硬件环境更具弹性。

相关内容

一位投资人的硬核观察:被D...
编者按 2025年,腾讯科技联动AI浪潮的创新者,推出“AI未来指...
2025-03-15 22:43:16
FSD神话破灭?小鹏图灵A...
上市7分钟,大定5000台! 25款小鹏G6昨晚发布后就拿下了一个...
2025-03-15 20:43:41
315打假AI,蘑菇物联对...
随着DeepSeek等通用大模型技术的突破,AI在设备预测性维护、...
2025-03-15 20:42:16
“苏小保维权助手”来啦!江...
扬子晚报网3月15日讯(记者 薛玲 马燕)在刚刚结束的两会中,政府...
2025-03-15 18:40:58
龙坤智慧取得基于 AI 大...
金融界 2025 年 3 月 15 日消息,国家知识产权局信息显示...
2025-03-15 17:11:47
佳士得举办全球首个AI艺术...
日前,由著名拍卖行佳士得举行的主题为“增强智能(Augmented...
2025-03-15 16:42:08

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...