Microsoft Foundry modellkatalógus-vektorizáló (előzetes verzió)

Note

Azure AI Keresés a Azure portálon, REST API-kon és Azure SDK-k keresztül érhető el. Emellett a Foundry IQ-t is támogatja, amely a vállalati tartalmakat újrafelhasználható, engedélytudatos tudásbázisokká alakítja át az Microsoft Foundry portálon található ügynökök számára.

Fontos

Az (előzetes verzióban) megjelölt funkciókra, képességekre vagy tulajdonságokra nem vonatkozik szolgáltatási szintű szerződés, nem ajánlott éles számítási feladatokhoz, és az általános elérhetővé válásuk előtt változhatnak vagy korlátozhatók. Az Azure AI Keresés előzetes verziójú kifejezések az összes előzetes verziós funkcióra vonatkoznak, függetlenül attól, hogy önálló vagy egy általánosan elérhető funkció része.

Az Microsoft Foundry-modellkatalógus vektorizálója (előzetes verzió) az Foundry-modellkatalógusból vagy egy Azure Machine Learning (AML) végpontból üzembe helyezett beágyazási modellhez csatlakozik. Az adatok feldolgozása a Geo-ban történik, ahol a modell üzembe van helyezve.

Ha integrált vektorizálást használ a vektortömbök létrehozásához, a képességkészletnek tartalmaznia kell egy AML-készséget , amely a vektorizálóban megadott modellre mutat.

Előfeltételek

Vektorizáló paraméterek

A paraméterek megkülönböztetik a kis- és nagybetűket. A használt paraméterek attól függenek, hogy a modellszolgáltató milyen hitelesítést igényel, ha van ilyen.

Paraméter neve Leírás
uri (A kulcsos hitelesítéshez szükséges) A kiszolgáló nélküli üzembe helyezés cél URI-ja az Microsoft Foundry-modellkatalógusból vagy az AML online végpontjának scoring URI-jából. Csak a HTTPS URI-séma engedélyezett.
key ( Kulcshitelesítéshez szükséges) A modellszolgáltató API-kulcsa.
resourceId (token hitelesítéshez szükséges) A modellszolgáltató Azure Resource Manager erőforrás-azonosítója. Online AML-végpont esetén használja a subscriptions/{guid}/resourceGroups/{resource-group-name}/Microsoft.MachineLearningServices/workspaces/{workspace-name}/onlineendpoints/{endpoint_name} formátumot.
modelName A beágyazási modell neve a megadott uri telepített Microsoft Foundry modellkatalógusból. A támogatott modellek (csak kiszolgáló nélküli üzemelő példányok esetén) a következők:

  • Cohere-embed-v3-english
  • Cohere-embed-v3-többnyelvű
  • Cohere-embed-v4
region (Nem kötelező a jogkivonat-hitelesítéshez) Az a régió, amelyben a modellszolgáltató üzemel. Akkor szükséges, ha a régió eltér a keresési szolgáltatás régiójától.
timeout (Nem kötelező) Az API-hívást kezdeményező HTTP-ügyfél időtúllépése. XSD "dayTimeDuration" értékként kell formázni (az ISO 8601 időtartamérték korlátozott részhalmaza). Például PT60S 60 másodpercig. Ha nincs beállítva, a rendszer 30 másodperces alapértelmezett értéket választ. Az időtúllépés legfeljebb 230 másodpercre és legalább 1 másodpercre állítható be.

Milyen hitelesítési paramétereket kell használni?

Az Microsoft Foundry modellkatalógus-vektorizálója két hitelesítési lehetőséget biztosít:

  • Kulcsalapú hitelesítés. Statikus kulcsot ad meg a vektorizáló pontozási kérelmeinek hitelesítéséhez. Állítsa be a uri és a key paramétereit ehhez a kapcsolathoz.

  • Jogkivonatalapú hitelesítés. A Foundry hub-alapú projekt vagy az AML online végpont jogkivonatalapú hitelesítéssel kerül üzembe helyezésre. Az Azure AI Keresés szolgáltatásnak managed identitással és szerepkör-hozzárendeléssel kell rendelkeznie a modellszolgáltatón. A vektorizáló ezután a keresési szolgáltatás identitását használja a modellszolgáltatón való hitelesítéshez, statikus kulcsok nélkül. A keresési szolgáltatás identitásának tulajdonosi vagy közreműködői szerepkört kell tartalmaznia . Állítsa be a paramétert resourceId , és ha a keresési szolgáltatás a modellszolgáltatótól eltérő régióban található, állítsa be a paramétert region .

Támogatott vektoros lekérdezéstípusok

A Microsoft Foundry modellkatalógus vektorizálója által támogatott vektoros lekérdezéstípusok a konfigurációban beállított modelName-től függenek.

Beágyazási modell Támogatja a lekérdezést text Támogatja a lekérdezést imageUrl Támogatja a lekérdezést imageBinary
Cohere-embed-v3-english X X
Cohere-embed-v3-többnyelvű X X
Cohere-embed-v4 X X

Várható meződimenziók

A Microsoft Foundry modellkatalógus-vectorsítővel konfigurált vektormező várható mérete a konfigurált modelName függ.

modelName Várt dimenziók
Cohere-embed-v3-english 1024
Cohere-embed-v3-többnyelvű 1024
Cohere-embed-v4 256–1536

Mintadefiníció

Az Foundry modellkatalógusban javasolt modellnevek az alapmodellből és egy véletlenszerű hárombetűs utótagból állnak. A modell neve eltér az ebben a példában láthatótól.

"vectorizers": [
    {
        "name": "my-model-catalog-vectorizer",
        "kind": "aml",
        "amlParameters": {
            "uri": "https://Cohere-embed-v3-multilingual-hin.eastus.models.ai.azure.com",
            "key": "aaaaaaaa-0b0b-1c1c-2d2d-333333333333",
            "timeout": "PT60S",
            "modelName": "Cohere-embed-v3-multilingual-hin",
            "resourceId": null,
            "region": null,
        },
    }
]

Lásd még: