如何在高需求區域管理 Foundry IQ(Azure AI 搜尋服務)部署

Note

Foundry IQ(Azure AI 搜尋服務)提供直接的索引與查詢 API,並搭配高階知識來源與知識庫 API 用於受控檢索。 使用 Azure 入口網站、REST API 或 Azure SDK 來設定這些功能,或將代理連線到 Microsoft Foundry 入口網站 中的知識庫。

本文將協助您決定,當您偏好的 Foundry IQ(Azure AI 搜尋服務)區域因需求過高而無法使用時該如何處理。 同時也提供選擇替代區域的評估標準。

考慮替代區域及非尖峰時段的部署

當某個偏好的 Azure 區域因需求過高而無法使用時,你有兩個選擇:

  • 部署到其他地區。
  • 在非尖峰時段重試部署。

部署到其他地區。 (推薦路徑)Foundry IQ 可在多個 Azure 區域使用,並具備一致的 API、SDK、SLA 及合規認證。 對於大多數工作負載,同一地理區域內的營運差異幾乎可以忽略不計。 完整評估架構請參閱下節「 選擇替代區域的標準」。

在非尖峰時段重試服務也是一個可行的考慮。 高需求有時是暫時的。 在 UTC 的夜間或週末等低流量時段重試部署,可能在尖峰時段的嘗試失敗時成功。 這個選項並非保證,也無法取代評估其他地區。 如果重試在合理的時間範圍內未成功,就切換到其他區域。

在非尖峰時段重試:

  • 部署時間允許延遲數天。
  • 這種限制很可能是因為區域性疫情暫時激增所致。
  • 你目前不希望有任何建築風格的改變。

選擇替代區域的標準

在選擇替代區域前,請評估以下標準:

  • 網路延遲
  • 合規
  • 可用性區域
  • 功能與型號可用性
  • 資料駐留與主權
  • 定價

網路延遲

如果現有服務(如應用程式或資料庫)仍位於與新 Foundry IQ 部署不同的區域,則它們之間的每次 API 呼叫都會產生跨區域往返時間(RTT)。 對於美國對美國區域對,此時間通常為 26–50 毫秒。 對大多數搜尋工作負載來說,RTT 低於 50ms 的延遲對終端使用者來說是無法察覺的。 將應用程式與 Foundry IQ 服務置於同一區域,完全消除跨區域 RTT 的存在。 關於目前區域間延遲的測量,請參見 Azure 網路往返延遲統計。

合規

Azure 合規認證——包括 FedRAMP High、HIPAA、CJIS、DoD IL2、IRS 1075、PCI DSS 及 StateRAMP——皆在地理層級適用,而非個別區域層級。 同一地理範圍內的所有商業 Azure 區域都採用相同的合規態勢。

欲了解更多資訊,請參閱:

可用性區域

可用性區域(AZ)是 Azure 區域內物理上獨立的資料中心。 當 Foundry IQ 服務在 AZ 支援的區域內有兩個或以上複本時,Azure 會自動將其分發到不同區域,且無需額外成本且無需設定。

當工作負載需要最大可用性與正常運作時間,或是在具文件高可用性需求的受規範產業中運作時,AZ 支援就具有相關意義。 對於開發/測試環境或受多區域災難復原策略保護的工作負載,AZ 支援通常不是阻擋性要求。

有關目前支援 Foundry IQ 可用性區域 的區域清單,請參閱 「具備 可用性區域 的 Azure 區域」。

功能與型號可用性

並非所有 Foundry IQ 功能與 AI 模型在每個地區都能使用。 在選擇替代區域前,請確認你的工作負載所依賴的特定能力可用性,包括用於檢索增強生成(RAG)、語意排名、代理檢索或 AI 豐富流程的任何 Azure OpenAI 或 Azure AI Foundry 模型。

在為 Foundry IQ 選擇替代區域時,請確認同一區域內的模型可用性。 將 Foundry IQ 與 Azure OpenAI 或 Azure AI Foundry 部署在同一區域,可消除跨服務之間的延遲,並簡化合規與資料駐留要求。

欲了解更多資訊,請參閱:

資料駐留與主權

Azure 在同一地理範圍內複製資料以提升韌性。 對於美國地區內所有商業 Azure 區域,靜態資料仍留在美國境內。 此複製符合聯邦、州及受規範產業工作負載中常見的資料駐留要求。

欲了解更多資訊,請參閱:

定價

Foundry IQ 服務價格在同一地理區域內均一致。 在同一地理範圍內選擇其他地區,服務等級的定價不會改變。

有關當前價格,請參閱 Foundry IQ 價格。

移動或還原 Foundry IQ 服務

你可以使用官方腳本和工具備份並還原索引、技能集、索引器和同義詞地圖到任何區域。 此過程既能遷移至替代區域,也能在容量充足時返回原區域。

欲了解更多資訊,請參閱: