Azure OpenAI vektorizér

Vektorizátor Azure OpenAI se připojí k modelu vkládání nasazenému v prostředku Azure OpenAI ve Foundry modelech nebo v projektu Microsoft Foundry a generuje vkládání při provádění dotazu. Vaše data se zpracovávají v geografické oblasti, ve které je váš model nasazený.

I když se vektorizátory používají v době dotazu, zadáte je v definicích indexu a odkazujete na ně na vektorová pole prostřednictvím vektorového profilu. Další informace naleznete v tématu Konfigurace vektorizátoru v indexu vyhledávání.

Vektorizátor Azure OpenAI se v rozhraní REST API nazývá AzureOpenAIVectorizer. Použijte nejnovější stabilní verzi Indexes – Create (REST API) nebo balíček Azure SDK, který tuto funkci poskytuje.

Požadavky

• Zdroj Azure OpenAI v rámci Foundry Models nebo projekt Foundry.

  • Prostředek OpenAI Azure musí mít subdoménu custom, například https://<resource-name>.openai.azure.com. Tento koncový bod najdete na stránce Klíče a koncové body na portálu Azure a můžete jej použít pro jeho vlastnost resourceUri v této dovednosti.

  • Nadřazený zdroj projektu Foundry poskytuje přístup k více koncovým bodům, včetně https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.coma https://<resource-name>.cognitiveservices.azure.com. Tyto koncové body najdete na stránce Klíče a koncového bodu na portálu Azure a můžete je použít pro vlastnost resourceUri v této dovednosti.

• Model Azure OpenAI pro vkládání, nasazený ve vašem prostředku nebo projektu. Podporované modely najdete v další části.

Parametry vektorizátoru

Parametry jsou citlivé na velikost písmen.

Podporované typy vektorových dotazů

Vektorizátor Azure OpenAI podporuje pouze vektorové dotazy text.

Očekávané rozměry pole

Očekávané dimenze pole pro pole nakonfigurované pomocí vektorizátoru Azure OpenAI závisí na konfiguraci modelName.

Ukázková definice

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Osvědčené postupy z hlediska výkonu

Při použití tohoto vektorizátoru je potřeba zvážit následující osvědčené postupy:

• Pokud dosáhnete limitu Azure OpenAI TPM (tokeny za minutu), zvažte doporučení pro limity kvót, abyste mohli odpovídajícím způsobem řešit. Další informace o výkonu instance OpenAI Azure najdete v dokumentaci k monitorování Azure openAI.

• Nasazení modelu vkládání Azure OpenAI, které používáte pro tento vektorizátor, by mělo být ideálně oddělené od nasazení použitého pro jiné případy použití, včetně dovednosti vkládání. To pomáhá každému jednotlivému nasazení, aby bylo přizpůsobeno jeho specifickému použití, což vede k optimalizaci výkonu a snadné identifikaci provozu z indexeru a volání funkcí pro vkládání indexu.

• Vaše Azure instance OpenAI by měla být ve stejné oblasti nebo alespoň geograficky blízko oblasti, kde je vaše služba AI Search hostovaná. Tím se sníží latence a zvýší se rychlost přenosu dat mezi službami.

• Abyste se vyhnuli častým kódům chyb 429, zvažte implementaci vyrovnávání zatížení prostřednictvím služby API Management implementací brány vyrovnávání zatížení před několika Azure nasazení modelu vkládání OpenAI.

• Pokud máte limit Azure OpenAI TPM (tokeny za minutu) větší než výchozí, jak je publikováno v dokumentaci kvóty a omezení, otevřete případ podpory s týmem Azure AI Vyhledávač, aby mohl být odpovídajícím způsobem upraven. To pomáhá, aby se proces indexování zbytečně nezpomaloval podle zdokumentovaného výchozího limitu TPM, pokud máte vyšší limity.

Aspekty zabezpečení pro ověřování spravovaných identit

Když Azure vektorizátor OpenAI používá ověřování spravované identity, Azure AI Vyhledávač získá přístupový token Microsoft Entra pro cílovou skupinu Foundry Tools (https://cognitiveservices.azure.com) a zahrne ji do požadavků odeslaných do koncového bodu určeného resourceUri. Ověřování spravované identity se použije při nastavování authIdentitynebo když jsou prázdné apiKey a authIdentity služba používá identitu přiřazenou systémem.

Očekává se, že koncový bod, na který odkazujete, bude vaším vlastním prostředkem resourceUri Azure OpenAI nebo Foundry Tools. Podporované domény jsou:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

Podporují se také koncové body Azure API Management (*.azure-api.netAPIM). Vzhledem k tomu, že název hostitele APIM nejde ověřit jenom z jeho názvu, Azure AI Vyhledávač ověří tyto koncové body kontrolou živého připojení v době konfigurace, a ne podle párování domén. Zodpovídáte za konfiguraci a údržbu vztahu mezi koncovým bodem APIM a prostředkem OpenAI nebo Foundry Tools za ním Azure.

Doporučené postupy zabezpečení

Pokud chcete pomoct se zabezpečením nasazení, postupujte podle těchto postupů:

• Nastavte resourceUri pouze koncové body, které vlastníte a důvěřujete jim. Preferujte domény Foundry Tools uvedené dříve. Pokud používáte koncový bod APIM, před povolením spravované identity ho před povolením vlastního prostředku potvrďte. Důvěryhodný název hostitele není důkazem o vlastnictví.
• Použijte zásadu nejnižšího oprávnění na spravovanou identitu používanou vyhledávací službou. Vektorizátor Azure OpenAI vyžaduje v cílovém prostředku pouze roli uživatele OpenAI služeb Cognitive Services. Vyhněte se udělování širších rolí.
• Pomocí hraniční sítě (NSP) a privátních koncových bodů nebo integrace virtuální sítě omezte, ke kterým koncovým bodům může vyhledávací služba přistupovat a ze kterých zdrojů cílový prostředek přijímá požadavky.
• Pokud používáte koncový bod APIM, ujistěte se, že brána ověřuje příchozí požadavky a předává je jenom zamýšlenému back-endu. Zásady přístupu byste také měli pravidelně kontrolovat.
• Preferovat spravovanou identitu před apiKey. Pokud používáte apiKey, bezpečně ho uložte a otočte a nevkládejte ho do správy zdrojového kódu. Služba odmítne konfigurace, které nastavují obojí apiKey i authIdentity.
• Pravidelně kontrolujte definice indexů, přiřazení rolí spravované identity a konfigurace APIM a ověřte, že resourceUri hodnoty, řízení přístupu a oprávnění identit zůstávají aktuální a vhodné. Zkontrolujte změny konfigurace prostřednictvím zavedených procesů správy změn a kontroly zabezpečení.
• Monitorování protokolů přihlášení k openAI a foundry Tools, událostí ověřování a přístupových protokolů Azure neočekávanou nebo neoprávněnou aktivitou
• Odeberte nepoužívané vektorizátory, koncové body, přiřazení rolí a klíče rozhraní API, které už nejsou potřeba.

Omezení přístupu k konfiguraci indexování a vektorizátoru

Uživatelé, kteří mohou vytvářet nebo upravovat definice indexu, řídí cílový koncový bod (resourceUri) i konfiguraci ověřování používanou vektorizátorem. Vzhledem k tomu, že vektorizátor odešle token spravované identity pro cílovou skupinu Foundry Tools do tohoto koncového bodu, omezte tato oprávnění na důvěryhodné správce a při konfiguraci vektorizátorů s povolenými spravovanými identitami postupujte podle standardních procesů správy změn a kontroly zabezpečení.

Viz také

• Integrovaná vektorizace
• Postup konfigurace vektorizátoru v indexu vyhledávání
• Dovednost Azure OpenAI embedding