Microsoft Foundry 模型目錄向量器(預覽版)

Note

Foundry IQ(Azure AI 搜尋服務)提供直接的索引與查詢 API,並搭配高階知識來源與知識庫 API 用於受控檢索。 使用 Azure 入口網站、REST API 或 Azure SDK 來設定這些功能,或將代理連線到 Microsoft Foundry 入口網站 中的知識庫。

重要

Microsoft Foundry 模型型錄向量器目前處於公開預覽階段,並受 Microsoft Azure 預覽補充使用條款的約束。

有關此功能專屬的預覽條款,請參閱 預覽功能。

有關使用支援的非 Microsoft 模型時適用的術語,請參閱「第三方模型」。

Microsoft Foundry 模型目錄向量化工具(預覽版)可連線到從 Foundry 模型目錄部署的嵌入模型,或連線到 Azure Machine Learning(AML)端點。 你的資料會在模型部署的 地理環境中 被處理。

如果您使用整合向量化功能來創建向量陣列,技能組應包含一個 AML 技能,該技能應指向向量化工具中指定的相同模型。

先決條件

向量器參數

參數依大小寫區分。 你使用的參數取決於 模型提供者是否需要認證。

參數名稱 描述
uri (金鑰驗證所必需) Microsoft Foundry 模型目錄的無伺服器部署的目標 URI,或 AML 線上端點的評分 URI。 僅允許使用 HTTPS URI 方案。
key (用於密鑰身份驗證)模型提供者的 API 密鑰。
resourceId (需要 令牌認證)模型提供者的 Azure Resource Manager 資源 ID。 對於 AML 線上端點,請使用 subscriptions/{guid}/resourceGroups/{resource-group-name}/Microsoft.MachineLearningServices/workspaces/{workspace-name}/onlineendpoints/{endpoint_name} 格式。
modelName 部署在指定 uri 的 Microsoft Foundry 模型目錄嵌入模型名稱。 支援的模型(僅限無伺服器部署)包括:

  • Cohere-embed-v3-english
  • Cohere-embed-v3-multilingual
  • Cohere-embed-v4
region (憑證 驗證可選)模型提供者部署的區域。 若區域與 Foundry IQ(Azure AI 搜尋服務)服務所在區域不同,則為必要。
timeout HTTP 用戶端進行 API 呼叫的超時設定(可選)。 它必須格式化為 XSD「dayTimeDuration」值(ISO 8601 持續時間 值的受限子集)。 舉例來說,PT60S 為 60 秒。 若未設定,則預設為30秒。 逾時可設定為最大230秒,最短1秒。

使用哪些認證參數

Microsoft Foundry 型號目錄向量器提供兩種認證選項:

  • 基於金鑰的驗證。 你提供一個靜態金鑰來驗證向量器對計分請求的認證。 為這個連線設定 uri and key 參數。

  • 基於令牌的驗證。 Foundry 基於樞紐的專案或 AML 線上端點是透過憑證驗證部署的。 Foundry IQ 服務必須在模型提供者上擁有 受控識別 及角色指派。 向量器接著使用 Foundry IQ 服務身份對模型提供者進行驗證,且不需要靜態金鑰。 Foundry IQ 服務識別必須具有 擁有者 或 參與者 角色。 設定參數 resourceId ,如果 Foundry IQ 服務位於與模型提供者不同的區域,請設定該 region 參數。

支援的向量查詢類型

Microsoft Foundry 模型目錄向量器支援哪些向量查詢類型,取決於所設定的 modelName。

嵌入模型 支援 text 查詢 支援 imageUrl 查詢 支援 imageBinary 查詢
Cohere-embed-v3-english X X
Cohere-embed-v3-multilingual X X
Cohere-embed-v4 X X

期望場維度

以 Microsoft Foundry 模型目錄向量器配置的向量場預期場尺寸取決於所設定的 modelName。

modelName 預期尺寸
Cohere-embed-v3-english 1024
Cohere-embed-v3-multilingual 1024
Cohere-embed-v4 256–1536

範例定義

Foundry 模型目錄中建議的型號名稱為基礎模型加上一個隨機的三字母後綴。 你的模型名稱會與此範例中所示的不同。

"vectorizers": [
    {
        "name": "my-model-catalog-vectorizer",
        "kind": "aml",
        "amlParameters": {
            "uri": "https://Cohere-embed-v3-multilingual-hin.eastus.models.ai.azure.com",
            "key": "aaaaaaaa-0b0b-1c1c-2d2d-333333333333",
            "timeout": "PT60S",
            "modelName": "Cohere-embed-v3-multilingual-hin",
            "resourceId": null,
            "region": null,
        },
    }
]

參見