AI 产品经理,如何理解 RAG 技术?简洁版
创始人
2024-08-16 13:11:34
0

本文将深入探讨增强检索技术的关键步骤、应用领域及其优势与局限性,揭示如何通过这项技术提升模型输出的可信度和专业性,同时确保对最新数据的访问。

一、什么是增强检索

LLMs 外挂一个“LLMs 外挂一个“实时更新的知识库”,使用外部数据提高LLMs的准确性专业性。

二、解决了什么问题

模型误导输出/知识缺乏实效性/垂直领域知识不足

三、应用领域

很通用,问答系统/内容摘要/对话系统/文本生成等

四、关键步骤 1. 在接到输入时,检索一组与之相关的文档或信息片段

  • 对于于这个输入构建一个或多个查询。
  • 这些查询从一个大型的数据存储(如文本数据库或知识库)中检索相关信息。
2. 将这些检索到的信息与输入结合起来,作为生成模型的输入
  • 模型通过一个检索系统(通常是预先训练好的检索模型或者是简单的基于关键词的检索系统)在数据存储中搜索相关的文档/信息片段
  • 返回一组与查询最相关的文档/信息片段,随后被编码为向量形式。通常使用预训练的语言模型(如BERT、RoBERTa等)来完成。
  • 融编码后的文档向量与原始查询的表示被融合,作为生成模型的输入。生成模型(如GPT)然后根据这些信息生成最终的输出文本。
  • 生成模型不仅考虑了原始输入的信息,也考虑了检索到的相关信息。
3. 生成更加准确和信息丰富的文本
  • 生成模型输出的文本被呈现给用户,作为对原始查询的回答或补充信息。
五、优势 1. 成本低,无需模型训练

通过检索现有的知识库,增强模型的回复质量,相比fine-tune的微调模型而言,成本更低,无需对模型进行重新训练。

2. 增强模型输出的可信度

Reg生成的回答可以附带对应的引用来源,用户点击引用来源后,可以查看对应的引用内容,可以随时验证模型回答的准确性,从而增加对模型输出的信任。

3. 增强模型输出的专业性

通过检索知识库中的信息,可以有效减少模型作出错误判断的可能性,并且通过检索知识库加上提示词的优化可以满足不同行业或者客群的定制话需求

4. 能够始终访问最新的数据

知识库可以实时更新便于调用最新的信息和数据,对于实时需要获取信息的领域尤为重要,比如教育医疗和金融领域。

六、局限性

不能根治LLM的本质局限。

不会改变推理能力,模型参数不变,模型固有能力不变,如果模型本身参数不足,在理解和推理上存在固有的缺陷,单纯用Rag技术,也无法提高模型的输出质量。

本文由 @wanee 原创发布于人人都是产品经理,未经许可,禁止转载

题图来自Unsplash,基于 CC0 协议

相关内容

月之暗面Kimi K2发布...
月之暗面今天宣布,正式发布Kimi K2模型,并同步开源。Kimi...
2025-07-12 06:12:21
原创 ...
最近台湾岛内所谓的“经济专家”吴嘉隆提出,台湾当局应效仿以色列“先...
2025-07-11 23:13:00
7月11日广晟有色涨5.5...
证券之星消息,7月11日广晟有色(600259)涨5.57%,收盘...
2025-07-11 18:11:28
可川科技等成立新公司,含A...
人民财讯7月11日电,企查查APP显示,近日,苏州汉汽可川光子科技...
2025-07-11 16:43:13
AI医疗新突破!
最近,微软分享医药领域数据,在疑难医学问题上,AI诊断正确率达85...
2025-07-11 16:42:26
聚焦AI新赛道,elexc...
机器人的发展,正在向两个关键词聚焦:物理AI和具身智能。这是由机器...
2025-07-11 16:42:21

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...