首个云上AI原生全栈可观测平台来了!
创始人
2024-09-23 09:50:21
0

原标题:首个云上AI原生全栈可观测平台来了!

工人日报-中工网记者 车辉

9月21日,2024云栖大会,阿里云发布全新的AI原生全栈可观测平台,首次实现云上AI大模型从训练到推理再到应用的全链路实时观测、告警与诊断。同时,阿里云可观测产品家族也实现了全新升级,最常用的日志服务SLS相较于自建体系,运维监控综合成本可降低30% 。

AI模型的深入发展,导致了数据处理方式与技术架构的深刻变化,相关应用产生的日志、链路等可观测数据规模呈指数级增长,数据结构复杂度也与日俱增,而AI部署的异构环境、资源及平台也越发多元,都给可观测性的准确、实时、高效与智能化发展带来了巨大挑战。

“以阿里云可观测产品家族为代表的云原生可观测工具,正引领着AI-native可观测加速迈向智能化。企业用户可以像‘搭积木’一样轻松、灵活地构建可观测体系,更高效地管理与观测IT资源与服务,为AI创新夯实技术底座。”阿里云云原生应用平台负责人丁宇表示。

在2024云栖大会上,日志服务SLS、云监控CMS、应用实时监控服务ARMS等阿里云可观测产品家族实现了重磅更新,面向模型训练、推理及应用提供全链路的可观测服务。

在模型训练场景中,云监控CMS与阿里云AI算力产品及平台深度集成,全面采集计算、存储、网络调度等AI基础设施的可观测数据,有效覆盖数据准备、模型开发、训练和部署等环节,确保模型训练全流程可感知、可观测,为企业在AI基础设施的容量管理和可用性保障保驾护航。

在模型推理场景中,可观测性更多聚焦于推理性能提升、模型输入输出的质量优化及资源消耗的有效管理。应用实时监控服务ARMS推出符合 OpenTelemetry标准的自研Python Agent,全面支持通义千问/ LLamaIndex / LangChain等国内外主流框架和模型,采集丰富的指标、链路及持续剖析数据,借助开箱即用的数据可视化大盘与性能诊断功能,确保用户实时掌握模型运行状态及潜在瓶颈,为大模型应用的稳定运行与高效运维提供坚实的基础。

与此同时,日志服务SLS与大模型服务平台百炼深度集成,实现百炼模型API层面的可观测指标全覆盖,并应用于性能观测、稳定性评估、成本管控、安全合规等不同应用场景,帮助企业优化资源配置和业务决策。同时,SLS核心能力大幅提升,扫描性能提升10倍,达到1GB/s以上;处理性能提升至TB级每分钟,单GB处理成本降低60%。此外,SLS推出Elasticsearch兼容方案,相较于自建其综合成本可降30%以上。

据悉,阿里云已为全球80余个国家的百万企业级用户提供高效便捷、安全稳定的可观测服务。茶百道基于ARMS快速建立运维观测与响应能力,故障恢复效率提升50%以上;传音借助Prometheus、Grafana等可观测产品,业务上线效率提高60%;极氪基于阿里云可观测产品推行的应急响应机制与ChatOps协同机制,告警平均恢复耗时缩短50%。

来源:工人日报客户端

相关内容

Cloudflare公测邮...
IT之家 4 月 18 日消息,Cloudflare 于 4 月 ...
2026-04-18 11:15:33
Google正式推出面向m...
谷歌近日正式发布了面向macOS平台的Gemini原生应用程序,用...
2026-04-18 11:13:16
AI应用向好,计算机ETF...
4月13日,AI应用向好,计算机ETF国泰(512720)收涨超1...
2026-04-13 21:58:04
MiniMax M2.7正...
钛媒体App 4月13日消息,MiniMax M2.7在全球正式开...
2026-04-13 21:44:24
奥克股份等成立新公司,含A...
公开资料显示,近日,江苏极拓奥克能源科技有限公司成立,经营范围包含...
2026-04-13 14:02:40
睿尔曼发布全球首个官方 A...
4 月 10 日,睿尔曼智能(RealMan)正式发布全球首个官方...
2026-04-13 13:59:43

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...