Azure OpenAI vectorizer

De Azure OpenAI vectorizer maakt verbinding met een insluitmodel dat is geïmplementeerd in uw Azure OpenAI in Foundry Models resource of Microsoft Foundry project voor het genereren van insluitingen op het moment van de query. Uw gegevens worden verwerkt in de geografische locatie waar uw model wordt geïmplementeerd.

Hoewel vectorizers tijdens query's worden gebruikt, geeft u deze op in indexdefinities en verwijst u ernaar op vectorvelden via een vectorprofiel. Zie Een vectorizer configureren in een zoekindex voor meer informatie.

De Azure OpenAI vectorizer wordt AzureOpenAIVectorizer genoemd in de REST API. Gebruik de nieuwste stabiele versie van Indexen - Maken (REST API) of een Azure SDK-pakket dat de functie biedt.

Voorwaarden

• Een Azure OpenAI in Foundry Models-resource of Foundry-project.

  • Uw Azure OpenAI-resource moet een aangepast subdomein hebben, zoals https://<resource-name>.openai.azure.com. U kunt dit eindpunt vinden op de pagina Keys en Endpoint in de Azure-portal en deze gebruiken voor de eigenschap resourceUri in deze vaardigheid.

  • De bovenliggende resource van uw Foundry-project biedt toegang tot meerdere eindpunten, waaronder https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.comen https://<resource-name>.cognitiveservices.azure.com. U kunt deze eindpunten vinden op de pagina Keys en Endpoint in de Azure-portal en deze gebruiken voor de eigenschap resourceUri in deze vaardigheid.

• Een Azure OpenAI-insluitingsmodel dat is geïmplementeerd in uw resource of project. Zie de volgende sectie voor ondersteunde modellen.

Vectorizer-parameters

Parameters zijn hoofdlettergevoelig.

Ondersteunde vectorquerytypen

De Azure OpenAI vectorizer ondersteunt alleen text vectorquery's.

Verwachte velddimensies

De verwachte velddimensies voor een veld dat is geconfigureerd met een Azure OpenAI-vectorizer, zijn afhankelijk van de modelName die is geconfigureerd.

Voorbeelddefinitie

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Beste praktijken voor prestatievermogen

Hier volgen enkele aanbevolen procedures die u moet overwegen bij het gebruik van deze vectorizer:

• Als u de limiet voor Azure OpenAI TPM (Tokens per minuut) bereikt, overweeg dan de advies over quotalimieten om hier gepast op te reageren. Raadpleeg de documentatie Azure OpenAI-bewaking voor meer informatie over de prestaties van uw Azure OpenAI-exemplaar.

• De Azure OpenAI-insluitingsmodelimplementatie die u voor deze vectorizer gebruikt, moet ideaal gescheiden zijn van de implementatie die wordt gebruikt voor andere gebruiksscenario's, waaronder de beddingsvaardigheid. Dit helpt bij het afstemmen van elke implementatie op zijn specifieke gebruikssituatie, wat leidt tot geoptimaliseerde prestaties en maakt het gemakkelijk om verkeer van de indexeerfunctie en de embedding-aanroepen van de index te identificeren.

• Uw Azure OpenAI-exemplaar moet zich in dezelfde regio bevinden of ten minste geografisch dicht bij de regio waar uw AI Search-service wordt gehost. Dit vermindert de latentie en verbetert de snelheid van gegevensoverdracht tussen de services.

• Om frequente 429-foutcodes te voorkomen, kunt u overwegen taakverdeling via API Management te implementeren door een taakverdelingsgateway te implementeren vóór meerdere Azure Insluitmodelimplementaties van OpenAI.

• Als u een limiet hebt die groter is dan de standaardlimiet voor Azure OpenAI TPM (Tokens per minuut), zoals gepubliceerd in quota en limietendocumentatie, opent u een ondersteuningscase met het Azure AI Zoeken team, zodat dit dienovereenkomstig kan worden aangepast. Dit helpt te voorkomen dat uw indexeringsproces onnodig wordt vertraagd door de beschreven standaard TPM-limiet, als u hogere limieten hebt.

Beveiligingsoverwegingen voor verificatie van beheerde identiteiten

Wanneer de Azure OpenAI vectorizer gebruikmaakt van verificatie van beheerde identiteiten, verkrijgt Azure AI Zoeken een Microsoft Entra toegangstoken voor de Foundry Tools-doelgroep (https://cognitiveservices.azure.com) en bevat deze in aanvragen die worden verzonden naar het eindpunt dat is opgegeven doorresourceUri. Verificatie van beheerde identiteit is van toepassing wanneer u instelt authIdentityof wanneer beide apiKey leeg zijn en authIdentity de service gebruikmaakt van de door het systeem toegewezen identiteit.

Het eindpunt waarnaar wordt resourceUri verwezen, is naar verwachting uw eigen Azure OpenAI- of Foundry Tools-resource. Ondersteunde domeinen zijn:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

Azure API Management (APIM)-eindpunten (*.azure-api.net) worden ook ondersteund. Omdat een APIM-hostnaam niet alleen kan worden geverifieerd op basis van de naam, valideert Azure AI Zoeken deze eindpunten met een live-connectiviteitscontrole tijdens de configuratie in plaats van door domeinkoppeling. U bent verantwoordelijk voor het configureren en onderhouden van de relatie tussen het APIM-eindpunt en de Azure OpenAI- of Foundry Tools-resource daarachter.

Aanbevolen beveiligingsprocedures

Volg deze procedures om een veilige implementatie te onderhouden:

• Alleen instellen resourceUri op eindpunten die u bezit en vertrouwt. Geef de voorkeur aan de domeinen Foundry Tools die eerder zijn vermeld. Als u een APIM-eindpunt gebruikt, bevestigt u dat deze uw eigen resource fronteert voordat u beheerde identiteit inschakelt. Een vertrouwde hostnaam is geen bewijs van eigendom.
• Pas het principe van minimale bevoegdheden toe op de beheerde identiteit die wordt gebruikt door de zoekservice. De Azure OpenAI vectorizer vereist alleen de Cognitive Services OpenAI-gebruikersrol voor de doelresource. Vermijd het verlenen van bredere rollen.
• Gebruik netwerkbeveiligingsperimeter (NSP) en privé-eindpunten of VNet-integratie om te beperken welke eindpunten de zoekservice kan bereiken en welke bronnen de doelresource aanvragen accepteert.
• Als u een APIM-eindpunt gebruikt, moet u ervoor zorgen dat de gateway binnenkomende aanvragen valideert en deze alleen doorstuurt naar de beoogde back-end. Controleer ook regelmatig het toegangsbeleid.
• Geef de voorkeur aan beheerde identiteit boven apiKey. Als u deze gebruikt apiKey, slaat u deze veilig op en draait u deze niet in broncodebeheer. De service weigert configuraties die beide apiKey en authIdentity.
• Controleer regelmatig indexdefinities, roltoewijzingen van beheerde identiteiten en APIM-configuraties om te bevestigen dat resourceUri waarden, toegangsbeheer en identiteitsmachtigingen actueel en geschikt blijven. Controleer configuratiewijzigingen via de bestaande processen voor wijzigingsbeheer en beveiligingsbeoordeling.
• Bewaak Azure aanmeldingslogboeken van OpenAI en Foundry Tools, verificatiegebeurtenissen en toegangslogboeken voor onverwachte of niet-geautoriseerde activiteiten.
• Verwijder ongebruikte vectorizers, eindpunten, roltoewijzingen en API-sleutels die niet meer nodig zijn.

Toegang tot index- en vectorizerconfiguratie beperken

Gebruikers die indexdefinities kunnen maken of wijzigen, beheren zowel het doeleindpunt (resourceUri) als de verificatieconfiguratie die door de vectorizer wordt gebruikt. Omdat de vectorizer een beheerde identiteitstoken verzendt voor de Foundry Tools-doelgroep naar dat eindpunt, beperkt u deze machtigingen tot vertrouwde beheerders en volgt u uw standaardprocessen voor wijzigingsbeheer en beveiligingsbeoordeling bij het configureren van vectorizers met beheerde identiteiten.

Zie ook

• Geïntegreerde vectorisatie
• Een vectorizer configureren in een zoekindex
• Azure OpenAI Embedding-vaardigheid