Azure OpenAI-vektoriserare

Azure OpenAI vectorizer ansluter till en inbäddningsmodell som distribuerats till din Azure OpenAI i Foundry Models resurs eller Microsoft Foundry projekt för att generera inbäddningar vid frågetillfället. Dina data bearbetas i geo-området där din modell distribueras.

Även om vektoriserare används vid frågetillfället anger du dem i indexdefinitioner och refererar till dem i vektorfält via en vektorprofil. Mer information finns i Konfigurera en vektoriserare i ett sökindex.

Azure OpenAI-vektoriseraren kallas AzureOpenAIVectorizer i REST-API:et. Använd den senaste stabila versionen av Indexes – Skapa (REST API) eller ett Azure SDKs paket som tillhandahåller funktionen.

Förutsättningar

• En Azure OpenAI i Foundry Models-resurs eller Foundry-projekt.

  • Din Azure OpenAI-resurs måste ha en anpassad underdomän, till exempel https://<resource-name>.openai.azure.com. Du hittar den här slutpunkten på sidan Keys och Endpoint i Azure-portalen och kan använda den för egenskapen resourceUri i den här funktionen.

  • Den överordnade resursen i foundry-projektet ger åtkomst till flera slutpunkter, inklusive https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.comoch https://<resource-name>.cognitiveservices.azure.com. Du hittar dessa slutpunkter på sidan Keys och Endpoint i Azure-portalen och använder någon av dem för fältet resourceUri i den här färdigheten.

• En Azure OpenAI-inbäddningsmodell som distribuerats till din resurs eller ditt projekt. För modeller som stöds, se nästa avsnitt.

Vectorizer-parametrar

Parametrar är skiftlägeskänsliga.

Frågetyper för vektorer som stöds

Azure OpenAI-vektoriseraren stöder endast text vektorfrågor.

Förväntade fältdimensioner

De förväntade fältdimensionerna för ett fält som konfigurerats med en Azure OpenAI-vektoriserare beror på den modelName som har konfigurerats.

Exempeldefinition

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Metodtips för prestanda

Följande är några metodtips som du behöver tänka på när du använder den här vektoriseraren:

• Om du når gränsen för Azure OpenAI TPM (token per minut) bör du överväga quota limits advisory så att du kan åtgärda detta. Mer information om Azure OpenAI-instansprestanda finns i dokumentationen Azure OpenAI-övervakning.

• Den Azure OpenAI-inbäddningsmodelldistribution som du använder för den här vektoriseraren bör helst vara separat från distributionen som används för andra användningsfall, inklusive embedding-färdigheten. Detta hjälper varje distribution att skräddarsys efter sitt specifika användningsfall, vilket gör det enkelt att optimera prestanda och identifiera trafik från indexeraren och indexets inbäddningsanrop.

• Din Azure OpenAI-instans bör finnas i samma region eller åtminstone geografiskt nära den region där AI Search-tjänsten finns. Detta minskar svarstiden och förbättrar dataöverföringshastigheten mellan tjänsterna.

• Undvik vanliga 429-felkoder genom att implementera belastningsutjämning via API Management genom att implementera en belastningsutjämningsgateway framför flera Azure distributioner av OpenAI-inbäddningsmodell.

• Om du har en TPM-gräns som är större än standard för Azure OpenAI såsom publicerats i dokumentationen om kvoter och begränsningar, öppnar du ett supportärende med Azure AI-sökning-teamet så att detta kan justeras därefter. Detta hjälper din indexeringsprocess att inte i onödan saktas ned av den dokumenterade TPM-standardgränsen om du har högre gränser.

Säkerhetsöverväganden för hanterad identitetsautentisering

När Azure OpenAI-vektoriseraren använder hanterad identitetsautentisering hämtar Azure AI-sökning en Microsoft Entra åtkomsttoken för Foundry Tools-målgruppen (https://cognitiveservices.azure.com) och inkluderar den i begäranden som skickas till slutpunkten som anges av resourceUri. Hanterad identitetsautentisering gäller när du anger authIdentity, eller när båda apiKey och authIdentity är tomma och tjänsten använder den systemtilldelade identiteten.

Slutpunkten som refereras av resourceUri förväntas vara din egen Azure OpenAI- eller Foundry Tools-resurs. Domäner som stöds är:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

Azure API Management(APIM) slutpunkter (*.azure-api.net) stöds också. Eftersom ett APIM-värdnamn inte kan verifieras enbart från namnet validerar Azure AI-sökning slutpunkterna med en liveanslutningskontroll vid konfigurationstillfället i stället för genom domänmatchning. Du ansvarar för att konfigurera och underhålla relationen mellan APIM-slutpunkten och resursen Azure OpenAI eller Foundry Tools bakom den.

Rekommenderade säkerhetsmetoder

Följ dessa metoder för att upprätthålla en säker distribution:

• Ange resourceUri endast till slutpunkter som du äger och litar på. Föredrar de Foundry Tools-domäner som angavs tidigare. Om du använder en APIM-slutpunkt bekräftar du att den frontar din egen resurs innan du aktiverar hanterad identitet. Ett betrott värdnamn är inte ett bevis på ägarskap.
• Tillämpa principen om lägsta behörighet på den hanterade identitet som används av söktjänsten. Azure OpenAI-vektoriseraren kräver endast Rollen Cognitive Services OpenAI-användare på målresursen. Undvik att bevilja bredare roller.
• Använd nätverkssäkerhetsperimeter (NSP) och privata slutpunkter eller VNet-integrering för att begränsa vilka slutpunkter söktjänsten kan nå och vilka källor målresursen accepterar begäranden från.
• Om du använder en APIM-slutpunkt kontrollerar du att gatewayen validerar inkommande begäranden och vidarebefordrar dem endast till den avsedda serverdelen. Du bör också granska dess åtkomstprinciper med jämna mellanrum.
• Föredrar hanterad identitet framför apiKey. Om du använder apiKeylagrar och roterar du det på ett säkert sätt och bäddar inte in det i källkontrollen. Tjänsten avvisar konfigurationer som anger både apiKey och authIdentity.
• Granska regelbundet indexdefinitioner, tilldelningar av hanterade identitetsroller och APIM-konfigurationer för att bekräfta att resourceUri värden, åtkomstkontroller och identitetsbehörigheter fortfarande är aktuella och lämpliga. Granska konfigurationsändringar via dina etablerade processer för ändringshantering och säkerhetsgranskning.
• Övervaka inloggningsloggar, autentiseringshändelser och åtkomstloggar för Azure OpenAI- och Foundry Tools för oväntad eller obehörig aktivitet.
• Ta bort oanvända vektoriserare, slutpunkter, rolltilldelningar och API-nycklar som inte längre krävs.

Begränsa åtkomsten till index- och vektoriseringskonfiguration

Användare som kan skapa eller ändra indexdefinitioner styr både målslutpunkten (resourceUri) och autentiseringskonfigurationen som används av vektoriseraren. Eftersom vektoriseraren skickar en hanterad identitetstoken för Foundry Tools-målgruppen till slutpunkten begränsar du dessa behörigheter till betrodda administratörer och följer dina standardprocesser för ändringshantering och säkerhetsgranskning när du konfigurerar hanterade identitetsaktiverade vektoriserare.

Se även

• Integrerad vektorisering
• Så här konfigurerar du en vektoriserare i ett sökindex
• Azure OpenAI-inbäddningsfärdighet