Azure OpenAI-vektorizáló

Az Azure OpenAI vektorizáló egy beágyazási modellt csatlakoztat, amely telepítve van az Ön Azure OpenAI Foundry Modellek erőforrásában vagy a Microsoft Foundry projektben, hogy lekérdezéskor beágyazásokat generáljon. Az adatok feldolgozása a Geo-ban történik, ahol a modell üzembe van helyezve.

Bár a vektorizálókat a lekérdezési időpontban használják, indexdefiníciókban adhatja meg őket, és vektorprofilon keresztül hivatkozhat rájuk a vektormezőkön. További információ: Vektorizáló konfigurálása keresési indexben.

A Azure OpenAI-vektorizáló neve AzureOpenAIVectorizer a REST API-ban. Használja a Indexes – Create (REST API) legújabb stabil verzióját, vagy a funkciót biztosító Azure SDK csomagot.

Előfeltételek

• Azure OpenAI in Foundry Models erőforrás vagy Foundry projekt.

  • A Azure OpenAI-erőforrásnak rendelkeznie kell egy custom altartományral, például https://<resource-name>.openai.azure.com. Ezt a végpontot a Kulcsok és végpont lapon találja a Azure portálon, és használhatja a resourceUri tulajdonsághoz ebben a képességben.

  • A Foundry-projekt szülő erőforrása több végponthoz is hozzáférést biztosít, beleértve a https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.com, és https://<resource-name>.cognitiveservices.azure.com. Ezeket a végpontokat a Azure portál Kulcsok és végpont lapján találja, és bármelyiket használhatja a resourceUri tulajdonsághoz ebben a képességben.

• Egy Azure OpenAI-beágyazásos modell, amelyet az erőforráshoz vagy projekthez telepítettek. A támogatott modellekről a következő szakaszban olvashat.

Vektorizáló paraméterek

A paraméterek megkülönböztetik a kis- és nagybetűket.

Támogatott vektoros lekérdezéstípusok

Az Azure OpenAI vektorosító csak text vektoros lekérdezéseket támogat.

Várható meződimenziók

A Azure OpenAI-vektorizálóval konfigurált mezők várható mezőméretei a konfigurált modelName függenek.

Mintadefiníció

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Teljesítménnyel kapcsolatos ajánlott eljárások

A vektorizáló használata során az alábbi ajánlott eljárásokat kell figyelembe vennie:

• Ha túllépi az Azure OpenAI TPM (Tokens per minute) korlátját, vegye figyelembe a kvóta korlátokra vonatkozó tanácsot, hogy ennek megfelelően kezelje. A Azure OpenAI-példány teljesítményével kapcsolatos további információkért tekintse meg az Azure OpenAI monitorozási dokumentációját.

• A vektorizálóhoz használt Azure OpenAI-beágyazási modell üzembe helyezésének ideális esetben el kell különülnie az egyéb használati esetekhez használt üzembe helyezéstől, beleértve a beágyazási készséget. Ez minden telepítést segít az adott használati esetre szabni, ami optimalizált teljesítményhez vezet, és könnyen azonosítja az indexelőtől és az indexbe ágyazási hívásoktól érkező forgalmat.

• A Azure OpenAI-példánynak ugyanabban a régióban vagy legalább földrajzilag közel kell lennie ahhoz a régióhoz, ahol az AI Search szolgáltatást üzemelteti. Ez csökkenti a késést, és javítja a szolgáltatások közötti adatátvitel sebességét.

• A gyakori 429-es hibakódok elkerülése érdekében fontolja meg a terheléselosztás api Managementen keresztüli implementálását egy terheléselosztási átjáró implementálásával több Azure OpenAI-beágyazási modell üzembe helyezése előtt.

• Ha az kvóták és korlátok dokumentációban közzétett OpenAI TPM (tokenek percenként) limitje nagyobb, mint az Azure alapértelmezett korlátja, nyisson meg egy támogatási esetet az Azure AI Keresés csapattal, hogy a beállítás ennek megfelelően módosítható legyen. Ez segít abban, hogy az indexelési folyamatot ne lassítsa szükségtelenül a dokumentált alapértelmezett TPM-korlát, ha magasabb korlátokkal rendelkezik.

A felügyelt identitás hitelesítésének biztonsági szempontjai

Ha a Azure OpenAI-vektorizáló felügyelt identitáshitelesítést használ, Azure AI Keresés lekér egy Microsoft Entra hozzáférési jogkivonatot az Foundry Tools célközönségéhez (https://cognitiveservices.azure.com), és beleszámítja a megadott resourceUrivégpontra küldött kérelmekbe. A felügyelt identitás hitelesítése akkor érvényes, ha beállítja authIdentity, vagy ha mindkettő apiKeyauthIdentity üres, és a szolgáltatás a rendszer által hozzárendelt identitást használja.

A hivatkozott resourceUri végpont várhatóan a saját Azure OpenAI- vagy Foundry Tools-erőforrás lesz. A támogatott tartományok a következők:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

Azure API Management (APIM) végpontok (*.azure-api.net) is támogatottak. Mivel egy APIM-állomásnév önmagában nem ellenőrizhető a nevéből, Azure AI Keresés ezeket a végpontokat konfigurációs időpontban élő kapcsolat-ellenőrzéssel, nem pedig tartományegyeztetéssel ellenőrzi. Ön a felelős az APIM-végpont és a mögötte található Azure OpenAI vagy Foundry Tools erőforrás közötti kapcsolat konfigurálásáért és fenntartásáért.

Ajánlott biztonsági eljárások

A biztonságos üzembe helyezés fenntartásához kövesse az alábbi eljárásokat:

• Csak a saját és megbízható végpontokra van beállítva resourceUri . A korábban felsorolt Foundry Tools-tartományok előnyben részesítése. Ha APIM-végpontot használ, győződjön meg arról, hogy a felügyelt identitás engedélyezése előtt a saját erőforrásához tartozik. A megbízhatónak látszó gazdagépnév nem bizonyítja a tulajdonjogot.
• Alkalmazza a minimális jogosultság elvét a keresési szolgáltatás által használt felügyelt identitásra. A Azure OpenAI-vektorizálóhoz csak a Cognitive Services OpenAI felhasználói szerepköre szükséges a célerőforráson. Kerülje a szélesebb szerepkörök megadását.
• A hálózati biztonsági szegélyhálózat (NSP) és a privát végpontok vagy a VNet-integráció használatával korlátozhatja, hogy a keresési szolgáltatás mely végpontokat érheti el, és mely forrásokból fogadja a célerőforrás a kéréseket.
• HA APIM-végpontot használ, győződjön meg arról, hogy az átjáró ellenőrzi a bejövő kéréseket, és csak a kívánt háttérrendszernek továbbítja őket. A hozzáférési szabályzatokat rendszeresen át kell tekintenie.
• Inkább a felügyelt identitást részesítse előnyben.apiKey Ha használja apiKey, tárolja és forgassa biztonságosan, és ne ágyazza be a forrásvezérlőbe. A szolgáltatás elutasítja a mindkettőt apiKey és authIdentitya .
• Rendszeresen tekintse át az indexdefiníciókat, a felügyelt identitásszerepkör-hozzárendeléseket és az APIM-konfigurációkat annak ellenőrzéséhez, hogy az értékek, a hozzáférés-vezérlés és az identitásengedélyek naprakészek és megfelelőek maradnak-e resourceUri . Tekintse át a konfigurációs módosításokat a már létrehozott változáskezelési és biztonsági felülvizsgálati folyamatokkal.
• Monitorozza Azure OpenAI és Foundry Tools bejelentkezési naplókat, hitelesítési eseményeket és hozzáférési naplókat váratlan vagy jogosulatlan tevékenységek esetén.
• Távolítsa el a már nem használt vektorizálókat, végpontokat, szerepkör-hozzárendeléseket és API-kulcsokat.

Az indexhez és a vektorizáló konfigurációhoz való hozzáférés korlátozása

Az indexdefiníciókat létrehozó vagy módosító felhasználók a célvégpontot (resourceUri) és a vektorizáló által használt hitelesítési konfigurációt is szabályozzák. Mivel a vektorizáló egy felügyelt identitás jogkivonatot küld az Foundry Tools célközönségének erre a végpontra, korlátozza ezeket az engedélyeket a megbízható rendszergazdák számára, és kövesse a szabványos változáskezelési és biztonsági felülvizsgálati folyamatokat a felügyelt identitás-kompatibilis vektorizálók konfigurálásakor.

Lásd még:

• Integrált vektorizáció
• Vektorizáló konfigurálása keresési indexben
• Azure OpenAI beágyazási készség