微软副总裁Vik Singh：AI聊天机器人需学会“求助”
创始人
2024-09-02 10:21:33
0次
IT之家 9 月 2 日消息，当地时间 9 月 1 日，据法新社报道，微软公司副总裁 Vik Singh 在接受采访时说，“坦率地说，如今（生成式 AI）真正缺少的能力，即是当模型无法确定（自身答案是否准确）时，能够主动说‘嘿，我不确定，我需要帮助’。”
自去年以来，微软、谷歌及其竞争对手一直在迅速部署如 ChatGPT、Gemini 等生成式 AI 应用，这些应用可以按需生成各种内容，并给用户一种“无所不知”的错觉。尽管生成式 AI 的开发取得了进展，它们仍然会出现“幻觉”或编造答案。
图源 Pexels
Vik Singh 坚持认为，“真正聪明的人”正在努力找到方法，让聊天机器人在不知道正确答案时“承认并寻求帮助”。
与此同时，云端软件巨头 Salesforce 的首席执行官 Marc Benioff 也在上周表示，他看到许多客户对微软 Copilot 的误导性表现越来越感到沮丧。
IT之家获悉，近年来，人工智能蓬勃发展，聊天机器人等应用逐渐普及，人们可以通过简单的指令从这些聊天机器人（例如 ChatGPT）获取信息。然而，这些聊天机器人仍然容易出现“幻觉”问题，即提供错误的答案，有时甚至是危险的信息。造成“幻觉”的原因之一，是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。
相关内容
热门资讯
莫言刷短剧拒绝“套路” 谈AI...
中新社上海8月15日电 (记者 王笈)著名作家莫言时隔6年推出的全新小说集《人呐》，用短的篇幅写出深...
如何面对无故的敌意？| 新黄河...
如何面对无故的敌意？| 新黄河AI晚读（综合编辑：郑楚翘 剪辑：郑楚翘）
字节AI，先慢后快？
文 | 伯虎财经（bohuFN），作者 | 楷楷 一向低调的字节跳动创始人张一鸣，却在近日高调发声...
超级小爱2.0，小米终于把AI...
前两天，看到小米澎湃OS 4 Beta版开启招募，没有发布会，直接上。 卢伟冰在微博上说，这次不开发...
AI女主发美瞳广告“戴着很舒服...
AI短剧女主角发布美瞳广告，引发网友热议。 “方桃子”发布广告引争议 近日， AI短剧《被裁掉的女孩...
卡萨帝发布AI雪茄柜，控湿精度...
2026-08-15 18:35:37 作者：狼叫兽 在雪茄圈，有一个心照不宣的共识：买雪茄容易，养...
黄仁勋出手安抚AI算力市场
本周十分罕见的一大场景就是黄仁勋携手六位华尔街资管巨头，一起为“将AI算力打造为独立资产类别”背书，...
游戏产业进入AI时代，广州为什...
8月14日，广州海珠发布“词元经济八条”。 这份广东首个词元经济专项政策里，游戏、数字文娱被明确列入...
国家超算互联网AI社区已汇聚1...
中新网北京8月15日电 (记者 张素)截至目前，国家超算互联网AI(人工智能)社区已汇聚1700余款...
站稳4000亿港元市值，联想的...
最近一个季度，外界对联想乃至对联想服务器、PC业务的讨论，大多集中在一个问题上，它史无前例营收和净利...