微软发布新工具，检测和纠正 AI 幻觉内容
创始人
2024-09-25 15:50:52
0次
IT之家 9 月 25 日消息，科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。
AI 幻觉
在人工智能领域中，幻觉是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。
该术语源自幻觉的心理学概念，因为它们具有相似的特征。人工智能幻觉的危险之处之一是模型的输出看起来是正确的，而它实际上是错误的。
Groundedness Detection
微软的 Groundedness Detection 类似于谷歌在 Vertex AI 中推出的 Google Search Grounding，主要对比 AI 输出内容和源文件，从而识别没有证据或者幻觉内容。
微软强调，虽然该工具提高了人工智能输出的可靠性，但并不能保证完全准确，只是能提高生成内容与源材料之间的一致性。
当系统检测到一个支持不足的句子时，就会触发一个新的请求，要求一个较小的人工智能模型进行修正，该模型会根据基础文档对句子进行评估。
如果一个句子不包含基础文档中的相关信息，它就会被完全过滤掉。对于包含一些相关内容的句子，模型会对其进行改写，匹配源材料。
IT之家附上官方介绍视频如下：
相关内容
热门资讯
黄仁勋官宣Alpamayo 2...
英伟达CEO黄仁勋在X上发文称，今天正式推出Alpamayo 2 Super，这是英伟达面向自动驾驶...
“AI小法官”提升法治教育实效
原标题：福建省厦门市康乐第二小学推动人工智能与法治教育融合——“AI小法官”提升法治教育实效 “偷看...
开源证券：给予国邦医药买入评级
开源证券股份有限公司近期对国邦医药进行研究并发布了研究报告《公司信息更新报告：收入稳健增长，动保业务...
京东开源JoyAI-Video...
快科技8月5日消息，京东正式开源自研实时流式视频编辑模型JoyAI-Video-Edit，打破传统视...
AI不再用完即忘：华为诺亚开源...
2026年8月3日，华为诺亚方舟实验室正式开源MindMemOS——一个面向AI Agent的可迁移...
京东开源实时流式视频编辑模型J...
8月5日，京东宣布开源自研的实时流式视频编辑模型JoyAI-Video-Edit。据悉，用户可以一边...
NVIDIA发布新功能分支Un...
IT之家 8 月 4 日消息，NVIDIA 当地时间昨日发布了版本号为 610.57.04 的新功能...
开源证券：维持陆家嘴“买入”评...
开源 证券研报指出， 陆家嘴中期业绩大幅增长，租赁现金流入稳中有增。公司2026H1实现归母净利润1...
韩国启动全民AI成长阶梯项目，...
2026年8月3日，韩国科学技术信息通信部正式启动全民AI成长阶梯项目，项目整合全民AI学习馆、全民...