草木暄
25-03-09 10:42 微博认证:科技博主

#AI创造营# 为什么作为一名 AI 工程师,你需要了解 Agentic RAG?

简单的朴素 RAG 系统很少用于现实世界的应用程序。为了提供正确的行动来解决用户意图,我们总是会在 RAG 系统中添加一些代理性——通常只是一点点。

重要的是不要迷失在流行语和术语中,并理解没有单一的蓝图可以将这种代理性添加到你的 RAG 系统中,你应该适应你的用例。我的建议是思考系统和工程流程。

让我们来探索一下 Agentic RAG 中的一些活动部件:

分析用户查询:我们将原始用户查询传递给基于 LLM 的代理进行分析。在这里:

➡️ 原始查询可以被重写,有时可以多次重写,以创建单个或多个查询以传递到管道中。
➡️ 代理决定是否需要额外的数据源来回答查询。

如果需要额外的数据,则会触发检索步骤。在 Agentic RAG 的情况下,我们可以有一个或多个代理负责确定应该利用哪些数据源,例如:

➡️ 实时用户数据。这是一个非常酷的概念,因为我们可能有一些实时信息,例如用户的当前位置。
➡️ 用户可能感兴趣的内部文档。
➡️ 网络上可用的数据。
➡️ …

如果不需要额外的数据,我们会尝试直接通过 LLM 撰写答案(或多个答案或一组行动)。

对答案进行分析、总结和评估其正确性和相关性:

➡️ 如果代理认为答案足够好,则将其返回给用户。
➡️ 如果代理认为答案需要改进,我们会尝试重写用户查询并重复生成循环。

✅ 还记得我上一篇时事通讯文章中的反思模式吗?这就是。👆

Agentic RAG 的真正力量在于它能够在生成前后执行额外的路由,处理多个不同的数据源以进行检索(如果需要),并在生成正确答案的同时从故障中恢复。

原文:http://t.cn/A6BwTcea http://t.cn/A6BwTftP

发布于 山东