Red Hat OpenShift AI提升跨云AI部署一致性与效率
创始人
2024-11-14 18:18:47
0次

Red Hat发布了Red Hat OpenShift AI 2.15,这是一款企业级人工智能与机器学习应用平台,可协助企业加速人工智能技术的采用,并提升一致性。该新版本增加了模型注册表与数据漂移侦测功能,并进一步支持跨混合云环境的大规模人工智能模型管理和部署。

Red Hat OpenShift AI 2.15的更新重点之一是添加模型注册表预览版。模型注册表可供开发者集中管理已注册的人工智能模型,实现模型版本控制、共享、部署和关注。企业可通过该工具组织和管理生成式人工智能模型的元数据和模型资产,并可选择创建多重模型注册表,以应对不同业务需求。目前Red Hat已经将该项目捐赠给Kubeflow社交媒体作为子项目,以进一步促进开源人工智能社交媒体的发展。

数据漂移侦测功能也是OpenShift AI 2.15本次的更新重点。随着人工智能部署至生产环境,输入的数据可能随时间变化,而数据漂移侦测功能则可以持续监控输入数据变动的情况,并在实际数据与训练数据出现偏移时发出通知。该项设计可确保模型反应实际情况,避免因数据变化导致预测结果偏差,提升模型在生产环境的可靠性。

Red Hat OpenShift AI 2.15中的LoRA技术让微调大型语言模型变得更省资源。LoRA的原理是降低微调模型的运算复杂度,让企业可以更高效地调整像是Llama 3这类人工智能模型,LoRA技术充分利用云计算原生环境的弹性,优化模型训练与微调过程,不仅提高了性能,也强化操作的灵活性。有了LoRA的加持,OpenShift AI 2.15能够满足不同规模的人工智能工作负载需求,企业能以较低的成本和资源消耗进行模型微调。

此外,新版本还支持Nvidia NIM和AMD GPU集成,增加硬件加速的选项。Nvidia NIM提供了一组微服务界面,让生成式人工智能应用的部署更加简单快速,并支持多样化人工智能需求。开发者只要通过API,NIM就能灵活地支持本地和云计算环境的推论服务,实现高度可扩展性。

Red Hat OpenShift AI 2.15提供企业AMD GPU的支持,使开发者能够在模型开发、训练和微调过程使用AMD的GPU。新的硬件支持让企业拥有更多选择,而且也能提升处理高运算需求工作负载的能力,使人工智能应用的开发与部署,在不同硬件环境更具弹性。

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...