註
Azure AI 搜尋服務 可透過 Azure 入口網站、REST API 及 Azure SDK 取得。 它同時也是 Foundry IQ 的基礎,這是一個管理式知識層,能將企業內容轉化為可重複使用、權限感知的知識庫,供 Microsoft Foundry 入口網站中的代理使用。
Important
標記(預覽)的功能、能力或屬性不受服務等級協議涵蓋,也不建議用於生產工作負載,且在正式上架前可能會有所變動或受限。 Azure AI 搜尋服務 預覽條款適用於所有預覽功能,無論是獨立功能還是正式推出功能的一部分。
在Azure AI 搜尋服務中,agentic retrieval 是一種多查詢流程,專為使用者或客服人員在聊天及副駕駛應用程式中提出的複雜問題而設計。 它主要用於 檢索增強生成 (RAG)模式及代理間的工作流程。
代理檢索的作用如下:
可利用基於LLM的查詢規劃(預覽)將複雜查詢拆解成更小、聚焦的子查詢,以更好地涵蓋專有及外部內容。 查詢規劃可以利用聊天歷史來提供更多背景資訊。
並行執行子查詢。 每個子查詢都會語意重新排序,以促進最相關的匹配。
結合最佳結果成整合的回應,供 LLM 依據接地資料來生成答案。
可以連同合併後的內容一併傳回來源參考資料和活動記錄,可讓您只使用接地資料,或將其傳給 LLM 來產生完整答案。
這條高效能的流程幫助你產生高品質的接地數據或聊天應用程式答案,並能快速回答複雜問題。
為什麼要使用代理檢索?
代理檢索支援代理與應用程式的受管理與自訂體驗。 在 Microsoft Foundry 入口網站中,此功能為 Foundry IQ 提供支援,使其成為代理程式的受控知識層。 你也可以透過使用 Azure 入口網站、Search Service REST API 或支援的 Azure SDK,建立自訂的代理式檢索解決方案。
當你想為代理人和應用程式提供最相關的內容,以回答更難的問題,並利用聊天背景、專有內容及外部資源時,請使用代理檢索。
代理式檢索相較於單一查詢管線增加了延遲,但它處理了單一查詢無法處理的查詢複雜度。 例如,它可以處理:
包含多個要求的問題,例如「幫我找一家靠近海灘、提供機場接送,且步行即可到達素食餐廳的飯店。」
這些問題取決於對話中之前的背景。
這些查詢需要重寫、使用同義詞對應及 LLM 生成的改寫,以擴大內容覆蓋範圍。
拼寫錯誤。
架構與工作流程
代理檢索過程的運作方式如下:
工作流程啟動: 你的應用程式呼叫一個知識庫,並執行一個擷取動作,提供查詢和對話歷史。
查詢規劃:在
lowmedium推理過程中,知識庫會將你的查詢和對話歷史傳送給大型語言模型(LLM),由其產生針對性的子查詢。 在minimal的投入程度下,會略過此步驟,並直接向知識來源提出查詢。 推理強度預設為low,並在知識庫中設定。查詢執行: 知識庫會將子查詢傳送到你的知識來源。 所有子查詢同時執行,且可為關鍵字、向量或混合搜尋。 每個子查詢都會進行語意重排序,以尋找最相關的匹配。 引用來源已擷取並保留。
結果綜合: 系統將所有結果合併成統一的回應。 合併後的內容總是會回傳。 原始碼參考與執行活動日誌則為可選。
Components
對於所有能動檢索情境,都需要知識庫及至少一個知識來源。 其他元件則是可選的,且取決於你的配置。
| 組成部分 | 服務 | 角色 |
|---|---|---|
| 知識庫 | Azure AI 搜尋服務 | 協調流程,管理知識來源與查詢參數。 |
| 知識來源 | Azure AI 搜尋服務 | 定義管線中使用的內容。 可以編製索引 (根據服務上的搜尋索引),或為遠端作業 (在查詢時從外部平台擷取內容)。 |
| 搜尋索引 | Azure AI 搜尋服務 | 以語意配置儲存可搜尋內容(文字與向量)。 決定執行哪些查詢類型及適用哪些優化。 僅用於索引知識來源。 |
| 語意排名器 | Azure AI 搜尋服務 | 供代理式檢索管線內部使用,用於根據相關性對結果重新排序(L2 重新排序)。 |
| 碩士學位(LLM) | Azure OpenAI | 能推動多個代理檢索階段:規劃查詢與選擇知識來源(預覽)、摘要網頁結果,以及透過答案綜合產生引用支持的答案(預覽)。 |
整合需求
你的應用程式透過呼叫知識庫並處理回應來驅動管線。 管線會傳回接地資料,讓您將其傳遞給 LLM 以生成答案,或直接在對話介面中使用。 實作細節請參見 教學:建構端對端代理檢索解決方案。
功能可用性
代理式擷取同時支援正式版和預覽版功能。 選擇符合你代理檢索經驗的 Search Service REST API 版本:
使用
2026-04-01REST API 來處理使用一般可用知識來源類型且需極少擷取的生產工作負載。使用
2026-08-01-previewREST API 來預覽知識來源類型與功能,例如基於 LLM 的查詢規劃、答案綜合、非最小檢索推理努力,以及多回合訊息。 請參閱 Azure AI 搜尋服務 預覽版條款。
Azure 入口網站與 Microsoft Foundry 入口網站僅提供所有代理檢索功能的預覽存取。 在任一入口網站建立的物件可能會使用預覽架構,且在你轉到一般可用的 REST API 版本時需要遷移。 關於逐版本的分解與遷移指引,請參見 將代理檢索程式碼遷移至最新版本。
區域供應、限額與計費
在使用代理檢索前,請先檢視其區域可用性、服務限額及計費模式。
區域可用性
代理檢索功能已在選定區域提供。
Limits
知識來源與知識庫有 最大限制 ,並依價格層級及檢索推理努力而異。
計費
代理檢索會從兩個服務中產生費用:
Azure AI 搜尋服務 對子查詢執行及語意排序期間消耗的檢索權杖進行計費。 免費方案(預設)提供每月代幣使用額度。 標準方案在使用完免費津貼後,可按需付費定價。 欲了解更多資訊,請參閱 啟用或停用代理檢索計費。
Azure OpenAI 會針對用於以 LLM 為基礎的查詢規劃和答案合成(預覽)的輸入和輸出代幣收費。 定價總是按使用量計費,且是根據您指派給知識庫的模型來決定。 收費會顯示在您的 Azure OpenAI 帳單上。 關於費率,請參見 Azure OpenAI 價格。
下表比較了經典單查詢管線與代理檢索多查詢管線之間的計費。 在經典流程中,計費元件是 語意排名器。
| 層面 | 經典管道 | 代理檢索 |
|---|---|---|
| 單位 | 基於查詢的 | 基於代幣 |
| 單位成本 | 每次查詢的統一成本 | 每個代幣的變動成本(視推理努力而定) |
| 成本估算 | 估計查詢數量 | 估計代幣使用量 |
| 免費津貼 | 每月免費查詢津貼 | 每月免費代幣額度 |
範例:估算成本
此範例有助於說明查詢規劃與執行的成本估算過程,但無法說明答案綜合。 你的費用可能會更低。 關於目前的費率,請參見 Azure AI 搜尋服務 價格 以及 Azure OpenAI 定價。
為了估算 Azure OpenAI 中即用即付的查詢計劃成本,我們假設 gpt-4o-mini:
- 15美分換100萬個輸入代幣。
- 60美分換100萬個輸出代幣。
- 平均聊天對話的輸入標籤數量為 2,000 個。
- 平均輸出計畫大小為 350 字串。
查詢執行的估計計費成本
要估算代理檢索令牌數量,請先了解索引中平均文件的樣貌。 例如,你可以大致描述:
- 10,000 個區塊,每個區塊是 PDF 的一到兩個段落。
- 每個區塊500個代幣。
- 每個子查詢最多可重新排序 50 個區塊。
- 平均而言,每個查詢計畫包含三個子查詢。
計算執行價格
假設我們進行 2,000 次代理檢索,每個計畫有三個子查詢。 總共大約 6,000 筆查詢。
每個子查詢重新排序 50 個區塊,總共 300,000 個區塊。
平均區塊是 500 個代幣,所以重新排名的總代幣是 1.5 億個。
假設每個代幣價格為0.022,重新排序的總成本為3.30美元。
接著談查詢計畫成本:2,000 個輸入標記乘以 2,000 次代理檢索,等於 400 萬個輸入標記,總共 60 美分。
根據平均350個代幣估算輸出成本。 如果將 350 乘以 2,000 次代理式擷取,會得到總計 700,000 個輸出詞元,總費用為 42 美分。
綜合來看,您會為 Azure AI 搜尋服務中的代理式擷取支付約 $3.30,為 Azure OpenAI 中的輸入詞元支付 60 美分,並為 Azure OpenAI 中的輸出詞元支付 42 美分,因此查詢規劃總計為 $1.02。 整個執行的總費用為 4.32 美元。
控制成本的建議
查看回應中的活動日誌,了解哪些查詢被發送給哪些來源及所使用的參數。 你可以針對索引重新發出這些查詢,並使用公開代幣化工具來估算代幣數量,並與 API 報告的使用量做比較。 然而,問題或回應的精確重建並不保證。 因素包括知識來源的類型,例如公開網路資料或基於使用者身份的遠端 SharePoint 知識來源,這些都可能影響查詢重現。
減少知識來源(索引)數量;整合內容可以降低粉絲出動和代幣數量。
降低推理工作量以減少查詢規劃和查詢擴展 (迭代搜尋) 中的 LLM 使用量。
組織內容,使最相關的資訊能以較少的來源和文件(例如精選摘要或表格)找到。
如何開始
要建立代理式檢索解決方案,你可以使用 Azure 入口網站、Microsoft Foundry(新)入口網站、REST API 或等效的 Azure SDK 套件。
- 快速入門:Azure傳送門中的代理檢索
- 快速啟動:代理檢索 (C#、Java、JavaScript、Python、TypeScript、REST)