註
Foundry IQ(Azure AI 搜尋服務)提供直接的索引與查詢 API,並搭配高階知識來源與知識庫 API 用於受控檢索。 使用 Azure 入口網站、REST API 或 Azure SDK 來設定這些功能,或將代理連線到 Microsoft Foundry 入口網站 中的知識庫。
Important
本文中標示為(預覽)的功能或特性目前處於公開預覽狀態,並受 Microsoft Azure 預覽版補充使用條款的約束。
有關 Foundry IQ(Azure AI 搜尋服務)專屬的預覽條款,請參閱預覽功能。
在 Foundry IQ(Azure AI 搜尋服務)中,代理式檢索是一種多查詢流程,專為使用者或代理在聊天與副駕駛應用程式中提出的複雜問題而設計。 它主要用於 檢索增強生成 (RAG)模式及代理間的工作流程。
代理檢索的作用如下:
可以利用基於 LLM 的查詢規劃,將複雜查詢拆解成更小、聚焦的子查詢,以更好地涵蓋專有及外部內容。 查詢規劃可以利用聊天歷史來提供更多背景資訊。
並行執行子查詢。 每個子查詢都會語意重新排序,以促進最相關的匹配。
結合最佳結果成整合的回應,供 LLM 依據接地資料來生成答案。
可以連同合併後的內容一併傳回來源參考資料和活動記錄,可讓您只使用接地資料,或將其傳給 LLM 來產生完整答案。
這條高效能的流程幫助你產生高品質的接地數據或聊天應用程式答案,並能快速回答複雜問題。
為什麼要使用代理檢索?
Foundry IQ 支援代理程式與應用程式的受管式與客製化代理檢索體驗。 在 Microsoft Foundry 入口網站中使用知識庫。 透過 Azure 入口網站、搜尋服務 REST API 或支援的 Azure SDK 存取相同的擷取功能。
當你想為代理人和應用程式提供最相關的內容,以回答更難的問題,並利用聊天背景、專有內容及外部資源時,請使用代理檢索。
代理式檢索相較於單一查詢管線增加了延遲,但它處理了單一查詢無法處理的查詢複雜度。 例如,它可以處理:
包含多個要求的問題,例如「幫我找一家靠近海灘、提供機場接送,且步行即可到達素食餐廳的飯店。」
這些問題取決於對話中之前的背景。
這些查詢需要重寫、使用同義詞對應及 LLM 生成的改寫,以擴大內容覆蓋範圍。
拼寫錯誤。
架構與工作流程
代理檢索過程的運作方式如下:
工作流程啟動: 您的應用程式以擷取動作呼叫知識庫,並提供查詢與對話歷程。
查詢規劃:在
low和medium努力程度下,配置好的 LLM 會規劃查詢並選擇來源。 Ordinaryminimal跳過模型規劃,搜尋所有候選來源。 明確將投入程度設定在知識庫或請求上,而非假設這是普遍的預設值。 十一月預覽版的 Microsoft Retriever 1 路徑有不同的行為。查詢執行: 知識庫會將子查詢傳送到您的知識來源。 所有子查詢同時執行,且可為關鍵字、向量或混合搜尋。 每個子查詢都會進行語意重排序,以尋找最相關的匹配。 引用來源已擷取並保留。
結果綜合: 系統將保留的結果整合成萃取內容或模型生成的答案。 答案合成無論規劃工作如何,都需要模型。 原始碼參考與執行活動日誌則為可選。
Components
對於所有能動檢索情境,都需要知識庫及至少一個知識來源。 其他元件則是可選的,且取決於你的配置。
| 組成部分 | 服務 | 角色 |
|---|---|---|
| 知識庫 | Foundry IQ | 協調流程,管理知識來源與查詢參數。 |
| 知識來源 | Foundry IQ | 定義管線中使用的內容。 可以編製索引 (根據服務上的搜尋索引),或為遠端作業 (在查詢時從外部平台擷取內容)。 |
| 搜尋索引 | Foundry IQ | 以語意配置儲存可搜尋內容(文字與向量)。 決定執行哪些查詢類型及適用哪些優化。 僅用於索引知識來源。 |
| 語意排名器 | Foundry IQ | 供代理式檢索管線內部使用,用於根據相關性對結果重新排序(L2 重新排序)。 |
| 碩士學位(LLM) | Azure OpenAI | 能規劃查詢、選擇知識來源、摘要網頁結果,並產生有引用支持的答案。 從現有搜尋索引或檔案來源進行一般最小化擷取並不需要聊天模型。 |
整合需求
你的應用程式透過呼叫知識庫並處理回應來驅動管線。 管線會傳回接地資料,讓您將其傳遞給 LLM 以生成答案,或直接在對話介面中使用。 實作細節請參見 教學:建構端對端代理檢索解決方案。
功能可用性
代理式擷取同時支援正式版和預覽版功能。 選擇符合你代理檢索經驗的 Search Service REST API 版本:
GA REST 合約請使用
2026-10-01:最小、低、中等努力;模型支持的規劃與答案綜合;引用;SSE;按請求進行來源控制與限制;活動警告;以及KB CORS。使用輔助用的預覽 API,用於僅限預覽的功能。
2026-11-01-preview新增 Microsoft Retriever 1、命名的 KB 工具、額外的 GPT-6 模型識別碼,以及非同步檔案匯入。auto、擷取預設值、查詢提示及結果處理控制項不屬於2026-10-01。現存的
2026-04-01例子仍保留其較狹窄、最小化的擷取式契約。 現有的 SDK 與入口網站工作流程都有自己的版本邊界;GA 的 REST 合約並未為每個客戶端或匯入功能建立對等。
先從 GA 知識庫的建立 與 檢索開始。 在將現有定義移至不同合約之前,請先檢視 版本特定的遷移變更 。
區域供應、限額與計費
在使用代理檢索前,請先檢視其區域可用性、服務限額及計費模式。
區域可用性
代理檢索功能已在選定區域提供。
Limits
知識來源與知識庫有 最大限制 ,並依價格層級及檢索推理努力而異。
計費
代理式檢索可以包含以下計費元件:
Foundry IQ 對子查詢執行及語意排序時所消耗的檢索權杖計費。 免費方案(預設)提供每月代幣使用額度。 標準方案在使用完免費津貼後,可按需付費定價。 欲了解更多資訊,請參閱 啟用或停用代理檢索計費。
Azure OpenAI 會為用於 LLM 查詢規劃與答案生成的輸入與輸出代幣收費。 定價是現用現付,並根據你指派給知識庫的模型而定。 收費會顯示在您的 Azure OpenAI 帳單上。 關於費率,請參見 Azure OpenAI 價格。
Microsoft Retriever 1(預覽版)的使用情況是透過查詢規劃過程中處理的輸入權杖來衡量。 輸入內容包括使用者的問題,以及在後續規劃時,先前的查詢與文件證據會回傳給模型。 重試與後續規劃回合會新增輸入標記。 輸出代幣是免費的。 此使用方式與 Foundry IQ 擷取權杖及 Azure OpenAI 收費是分開的。 如需更多資訊,請參閱使用 Microsoft Retriever 1。
下表比較了經典單查詢管線與代理檢索多查詢管線之間的計費。 在經典流程中,計費元件是 語意排名器。 本表不包含 Microsoft Retriever 1、Azure OpenAI 及其他服務費用。
| 層面 | 經典管道 | 代理檢索 |
|---|---|---|
| 單位 | 基於查詢的 | 基於代幣 |
| 單位成本 | 每次查詢的統一成本 | 每個代幣的變動成本(視推理努力而定) |
| 成本估算 | 估計查詢數量 | 估計代幣使用量 |
| 免費津貼 | 每月免費查詢津貼 | 每月免費代幣額度 |
範例:估算成本
此範例有助於說明查詢規劃與執行的成本估算過程,但無法說明答案綜合。 你的費用可能會更低。 有關目前價格,請參閱 Foundry IQ 價格與 Azure OpenAI 價格。
使用每百萬代幣的符號費率:
-
R_search:Foundry IQ 擷取與重新排序的權杖費率。 -
R_input以及R_output:所選 Azure OpenAI 模型的輸入與輸出令牌率。 -
R_retriever:當有已發佈速率時,Microsoft Retriever 1 輸入權杖的速率。
請提供價格連結中目前已公布的費率。 有關 Microsoft Retriever 1 價格更新,請參閱「使用 Microsoft Retriever 1」。
若要以 Azure OpenAI 的現用隨用付費方式估算查詢方案成本,請假設gpt-4o-mini:
- 平均聊天對話的輸入標籤數量為 2,000 個。
- 平均輸出計畫大小為 350 字串。
查詢執行的估計計費成本
要估算代理檢索令牌數量,請先了解索引中平均文件的樣貌。 例如,你可以大致描述:
- 10,000 個區塊,每個區塊是 PDF 的一到兩個段落。
- 每個區塊500個代幣。
- 每個子查詢最多可重新排序 50 個區塊。
- 平均而言,每個查詢計畫包含三個子查詢。
計算執行價格
假設您執行 2,000 次代理式擷取,每個計畫包含三個子查詢。 這樣總共大約有 6,000 個查詢。
每個子查詢重新排序 50 個區塊,總共 300,000 個區塊。
平均區塊有 500 個代幣,所以用來重新排名的代幣總數是 1.5 億。
將 1.5 億個重新排序權杖乘以每百萬個權杖的速率即可獲得
150 × R_search。在查詢規劃時,將 2,000 個輸入標記乘以 2,000 個代理檢索次數。 這 400 萬個輸入代幣的成本是
4 × R_input。輸出時,將 350 個代幣乘以 2,000 次代理檢索。 這 700,000 個輸出代幣的成本為
0.7 × R_output。
在此範例中,Azure OpenAI 查詢規劃成本為 4 × R_input + 0.7 × R_output。 包含 Foundry IQ 檢索與重新排序後,合計成本為 150 × R_search + 4 × R_input + 0.7 × R_output。 答案合成電荷是獨立的。
Microsoft Retriever 1 查詢規劃的預估成本
現在假設 Microsoft Retriever 1 負責規劃查詢,而非 gpt-4o-mini。 使用相同的 2,000 個代理式檢索,並假設以下:
- 輸出代幣不收費。
- 每次 agentic retrieval 為 10,000 個輸入權杖。 這個假設的平均包含對話內容,以及在後續規劃過程中重播的任何先前查詢與文件證據。
將 10,000 個輸入標記乘以 2,000 個代理檢索,即可得到 2,000 萬個輸入標記。 當已有公布費率時,規劃成本為
20 × R_retriever。輸出代幣是免費的,所以不需要支付輸出代幣費用。
Foundry IQ 重新排名的成本維持在
150 × R_search,因為擷取代幣是分開計費的。
此情況下的綜合成本為 150 × R_search + 20 × R_retriever。 不要新增 Azure OpenAI 查詢規劃成本,因為在此情況下查詢規劃由 Microsoft Retriever 1 處理。 如果你同時也呼叫 Azure OpenAI 進行答案綜整或外部轉呈,請另行計入這些費用。
控制成本的建議
查看回應中的活動日誌,了解哪些查詢被發送給哪些來源及所使用的參數。 你可以針對索引重新發出這些查詢,並使用公開代幣化工具來估算代幣數量,並與 API 報告的使用量做比較。 然而,你可能無法完全重建一個查詢或回應。 例如,知識來源類型會影響您是否能重現查詢。 公開的網頁資料以及依賴使用者身份的遠端 SharePoint 知識來源是兩個例子。
減少知識來源(索引)的數量。 如果你整合內容,查詢的來源會減少,使用的 token 也會減少。
降低推理工作量以減少查詢規劃和查詢擴展 (迭代搜尋) 中的 LLM 使用量。
組織內容,使最相關的資訊能以較少的來源和文件(例如精選摘要或表格)找到。
如果您使用 Microsoft Retriever 1,請減少規劃期間處理的文件證據數量。 重試和後續規劃回合會增加輸入權杖,因此估算使用量時,請將其納入。
如何開始
要建立代理式檢索解決方案,你可以使用 Azure 入口網站、Microsoft Foundry(新)入口網站、REST API 或等效的 Azure SDK 套件。
- 快速入門:Azure 入口網站中的代理擷取
- 快速入門:代理式檢索(C#、Java、JavaScript、Python、TypeScript、REST)