一、什么是增强检索本文将深入探讨增强检索技术的关键步骤、应用领域及其优势与局限性,揭示如何通过这项技术提升模型输出的可信度和专业性,同时确保对最新数据的访问。
LLMs 外挂一个“LLMs 外挂一个“实时更新的知识库”,使用外部数据提高LLMs的准确性专业性。
二、解决了什么问题
模型误导输出/知识缺乏实效性/垂直领域知识不足
三、应用领域
很通用,问答系统/内容摘要/对话系统/文本生成等
四、关键步骤 1. 在接到输入时,检索一组与之相关的文档或信息片段
通过检索现有的知识库,增强模型的回复质量,相比fine-tune的微调模型而言,成本更低,无需对模型进行重新训练。
2. 增强模型输出的可信度
Reg生成的回答可以附带对应的引用来源,用户点击引用来源后,可以查看对应的引用内容,可以随时验证模型回答的准确性,从而增加对模型输出的信任。
3. 增强模型输出的专业性
通过检索知识库中的信息,可以有效减少模型作出错误判断的可能性,并且通过检索知识库加上提示词的优化可以满足不同行业或者客群的定制话需求
4. 能够始终访问最新的数据
知识库可以实时更新便于调用最新的信息和数据,对于实时需要获取信息的领域尤为重要,比如教育医疗和金融领域。
六、局限性
不能根治LLM的本质局限。
不会改变推理能力,模型参数不变,模型固有能力不变,如果模型本身参数不足,在理解和推理上存在固有的缺陷,单纯用Rag技术,也无法提高模型的输出质量。
本文由 @wanee 原创发布于人人都是产品经理,未经许可,禁止转载
题图来自Unsplash,基于 CC0 协议