AI Agents 入門課程 · 第 5 課 / 共 18 課

Agentic RAG：自主檢索增強生成

原文：Microsoft AI Agents for Beginners · MIT 授權

什麼是 Agentic RAG？

一句話：Agentic RAG 讓 LLM 不再是「檢索→回答」的一步到位，而是像一位研究員：反覆查詢、評估結果、修正方向、整合工具，直到找到滿意的答案。

傳統 RAG（Retrieval-Augmented Generation）走的是「檢索文件 → 丟給 LLM → 產生答案」的單向流程。Agentic RAG 打破這個模式——LLM 自主規劃下一步，根據檢索品質動態調整策略：查得不好就改查法、資訊不夠就換工具、答案有疑慮就自我修正。整個過程是 LLM 呼叫 → 工具使用 → LLM 再呼叫 → … 的迭代迴圈，而不是預先寫死的路徑。

學習目標

理解 Agentic RAG 的核心概念——LLM 自主規劃檢索策略
掌握迭代式「製作-檢查」迴圈的工作機制
認識 Agentic RAG 如何自主擁有推理過程
了解工具整合、記憶管理和自我修正機制
辨識 Agentic RAG 的邊界與限制
認識治理、透明度和信任的重要性

傳統 RAG vs Agentic RAG

維度	傳統 RAG	Agentic RAG
流程模式	單向：檢索 → 閱讀 → 生成	迭代迴圈：LLM 呼叫 ⇄ 工具使用 ⇄ 評估 ⇄ 修正
推理路徑	人類預先定義（Prompt Chain）	LLM 根據資訊品質自主決定
查詢失敗處理	回傳低品質答案或空結果	自動改寫查詢、切換檢索方式、嘗試其他資料源
工具使用	通常只用向量搜尋	向量搜尋 + SQL 查詢 + API 呼叫 + Bing 搜尋等多工具整合
自我修正	無	內建：重查、診斷工具、請求人類介入

核心機制：自主推理過程

讓系統真正「Agentic」的關鍵差異，在於它自主擁有推理過程（Owning the Reasoning Process）。傳統 RAG 需要人類預先定義「先查 A → 再查 B → 最後整合」的路徑，但 Agentic 系統會在內部自己決定怎麼做。

範例：請 Agent 制定產品上市策略

Agent 不是照著預設腳本跑，而是自主決定：

用 Bing 搜尋取得當前市場趨勢報告
用 Azure AI Search 找出競爭者資料
用 Azure SQL 比對歷史內部銷售數據
透過 Azure OpenAI 整合所有發現，產出一份完整策略
自我評估策略是否有缺口，有的話再觸發新一輪檢索

這五個步驟——精煉查詢、選擇來源、反覆迭代直到滿意——全部由模型自主決定，不是人類預先寫好的。

迭代迴圈、工具整合與記憶

階段	說明
1. 初始呼叫	使用者目標（Prompt）送入 LLM
2. 工具調用	LLM 發現資訊不足，自主選擇工具：向量搜尋（Azure AI Search）、SQL 查詢、API 呼叫等
3. 評估與精煉	審視回傳資料後，判斷是否足夠。不夠 → 改寫查詢、換工具或調整策略
4. 重複直到滿意	迴圈持續，直到 LLM 認定有足夠清晰度和證據來產出最終答案
5. 記憶與狀態	系統跨步驟維持狀態和記憶，記住先前嘗試及其結果，避免重複迴圈，做出更明智的決策

關鍵理解：Agentic RAG 的本質就是「LLM 呼叫 → 工具使用 → LLM 再呼叫」的簡單迴圈。不需要過度複雜的編排框架——一個相對簡單的迴圈就能產出精密且有據可循的輸出。

自我修正機制

Agentic RAG 的自主性也包含強大的自我修正能力。當系統遇到瓶頸——例如檢索到不相關的文件、SQL 查詢格式錯誤——它可以：

機制	行為
迭代重查	不回傳低價值答案，而是嘗試新的搜尋策略、改寫資料庫查詢、或查找替代資料集
診斷工具	呼叫額外的除錯函數，驗證推理步驟或確認檢索資料的正確性。Azure AI Tracing 等工具可實現強大的可觀測性
人類介入備援	在高風險或反覆失敗的情境下，模型會標記不確定性並請求人類指導。人類提供修正回饋後，模型會記住教訓繼續前進

Agentic 的邊界

⚠️ Agentic RAG ≠ AGI（通用人工智慧）

Agentic RAG 的自主能力僅限於人類開發者提供的工具、資料源和政策範圍內。它不能發明新工具，也不能跨出已設定的領域邊界。

限制	說明
領域限定自主	聚焦在已知領域內達成使用者定義的目標，透過查詢改寫或工具選擇來改善結果
依賴基礎設施	能力上限取決於開發者整合的工具和資料。沒有人的介入，無法超越這些邊界
尊重護欄	倫理指南、合規規則和商業政策仍然是最高原則。Agent 的自由永遠被安全措施和監督機制所約束

適用場景

場景	說明
正確性優先環境	合規檢查、法規分析、法律研究——Agent 可反覆驗證事實、查閱多個來源、改寫查詢，直到產出經過徹底審查的答案
複雜資料庫互動	面對結構化資料時，查詢可能常失敗或需要調整——Agent 可自主用 Azure SQL 或 Microsoft Fabric OneLake 精煉查詢
長時間工作流程	隨新資訊浮現而演進的長對話——Agentic RAG 可持續納入新資料，隨對問題空間的理解加深而改變策略

治理、透明度與信任

當系統在推理上越來越自主，治理和透明度至關重要：

面向	做法
可解釋推理	模型提供稽核軌跡：發出了哪些查詢、查閱了哪些來源、走了哪些推理步驟。Azure AI Content Safety 和 Azure AI Tracing / GenAIOps 幫助維持透明度
偏差控制	開發者可以調整檢索策略確保資料源平衡且具代表性，並定期審計輸出以偵測偏差
人類監督	對敏感任務，人類審查仍然不可或缺。Agentic RAG 不取代人類判斷——它透過提供更徹底審查過的選項來增強人類決策

本課重點回顧

Agentic RAG = 迭代式檢索：不是一步到位的「檢索→回答」，而是 LLM 自主規劃、反覆查詢、評估修正的迴圈
自主推理是核心：系統不是執行預設腳本，而是根據檢索到的資訊品質動態決定下一步
簡單迴圈產出複雜行為：「LLM 呼叫 → 工具使用 → LLM 再呼叫」的簡單模式就能產出精密結果
自我修正內建其中：查不到就改查法、格式錯就改寫、高風險就請求人類介入
邊界明確：Agentic RAG 不是 AGI——它的自主性限於開發者提供的工具、資料和護欄之內
治理不可少：可解釋推理、偏差控制和人類監督是負責任部署的三大支柱