linux办公网
微软发布新工具，检测和纠正 AI 幻觉内容
创始人
2024-09-25 15:50:52
0次

IT之家 9 月 25 日消息，科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。

AI 幻觉

在人工智能领域中，幻觉是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。

该术语源自幻觉的心理学概念，因为它们具有相似的特征。人工智能幻觉的危险之处之一是模型的输出看起来是正确的，而它实际上是错误的。

Groundedness Detection

微软的 Groundedness Detection 类似于谷歌在 Vertex AI 中推出的 Google Search Grounding，主要对比 AI 输出内容和源文件，从而识别没有证据或者幻觉内容。

微软强调，虽然该工具提高了人工智能输出的可靠性，但并不能保证完全准确，只是能提高生成内容与源材料之间的一致性。

当系统检测到一个支持不足的句子时，就会触发一个新的请求，要求一个较小的人工智能模型进行修正，该模型会根据基础文档对句子进行评估。

如果一个句子不包含基础文档中的相关信息，它就会被完全过滤掉。对于包含一些相关内容的句子，模型会对其进行改写，匹配源材料。

IT之家附上官方介绍视频如下：

进行 Vertex 句子 材料 检测 输出 模型 人工智能 工具 内容 Azure 幻觉 微软

上一篇：贝恩乐观预测：到2027年全球AI市场将达万亿美元规模

下一篇：李彦宏：智能体是我最看好的AI应用方向

相关内容

AI 知识付费“出海”：一...
文 | wiwi AI 浪潮里，最先赚到钱的人，未必是最懂 AI...
2026-06-21 14:04:50
阿里合伙人调整：AI科学家...
阿里巴巴（HK09988，股价104.9港元，市值2.01万亿港元...
2026-06-21 12:06:30
【微特稿】挪威将对中小学生...
【新华社微特稿】挪威首相斯特勒19日说，该国将原则上全面禁止小学生...
2026-06-20 20:54:17
原创 ...
国内的从业者还在吵AI短剧到底凉没凉，大洋彼岸已经有人把钱赚麻了。...
2026-06-20 19:54:31
用AI报高考志愿靠谱吗？专...
距离高考成绩发布还有几天时间，从分数公布到志愿填报，很多考生和家长...
2026-06-20 19:54:02
原创 ...
目前 iOS 微信又上线了新功能：小微。 我们进入微信主界面，之前...
2026-06-20 18:26:20

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
微软 Azure AI 语音服... IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...