我被AI智能体坑了7块9……
创始人
2025-08-26 18:14:00
0次
21世纪经济报道记者 章驰
上周智谱推出最新智能体AutoGLM2.0，竞争秩序场测评实验室二话不说火速安排上实测！
这次的AutoGLM2.0能看到一个独立的“虚拟手机”界面，所有操作都在云端完成，告诉他“帮我点一份鲍师傅”，就立刻开始工作。到了最重要的结账环节时，AutoGLM2.0会归还操作权限，由记者来决定“确认交易”并支付。
但是在测评中，记者发现，智能体“自作主张”地加购了一奶茶优惠券，总价偷偷加了7块9。虽然最终的支付环节还是要自己点，但基于此前丝滑的操作和没有单独提示，记者根本没有注意到这一笔额外的花费。
智谱事后给了我们回应，他表示，模型目前能力还在持续优化迭代，已经将此问题反馈到算法，对于额外添加商品券识别的准确性会持续提升性能。并且，声称AutoGLM2.0是通过工程策略和权限边界来防止“超指令”行为，支付、发布等高风险步骤默认不自动执行。
业界都在说智能体元年已到，智能体和普通AI不一样，它不仅仅是一问一答的聊天，还能调用工具来解决问题完成任务，比如帮忙点外卖、买机票、比价格，赛博未来的现实感越来越强了。
曾经，智能体的工作方式是收到指令后，读取屏幕上的内容，模拟人类操作来完成指令执行。但正因为如此，用户向智能体完全开放了自己手机屏幕上的内容，就带来了很大的隐私风险，因为智能体可以直接看到屏幕上银行卡密码、聊天记录等所有信息。
未来，智能体的价值会越来越大，那花钱的时候，对AI的信任度到底有多少？智能体为人类工作的边界究竟在哪里呢？
相关内容
热门资讯
2024云栖大会|阿里云升级无...
北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术...
人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2...
#春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
摩尔线程发布AI算力笔记本MT...
钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升...
快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
谷歌打磨 Gemini AI ...
IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
微软 Azure AI 语音服...
IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
青云QingCloud Kub...
日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
AMD锐龙AI 9 HX 37...
2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
Macos系统上一款强大的卸载...
App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...