Azure vetorizador OpenAI

O vetorizador Azure OpenAI conecta-se a um modelo de incorporação implantado em seu recurso Azure OpenAI em Modelos Foundry ou projeto Microsoft Foundry para gerar incorporações no momento da consulta. Seus dados são processados na Geo onde seu modelo é implantado.

Embora os vetorizadores sejam usados no momento da consulta, você os especifica em definições de índice e faz referência a eles em campos de vetor por meio de um perfil de vetor. Para obter mais informações, consulte Configurar um vetorizador em um índice de pesquisa.

O vetorizador Azure OpenAI é chamado AzureOpenAIVectorizer na API REST. Use a versão estável mais recente do Indexes – Criar (API REST) ou um pacote SDK do Azure que fornece o recurso.

Pré-requisitos

• Um recurso Azure OpenAI em Foundry Models ou projeto Foundry.

  • Seu recurso Azure OpenAI deve ter um subdomínio personalizado, como https://<resource-name>.openai.azure.com. Você pode encontrar esse ponto de extremidade na página Chaves e Ponto de Extremidade no portal do Azure e usá-lo para a propriedade resourceUri nesta habilidade.

  • O recurso pai do seu projeto Foundry fornece acesso a múltiplos endpoints, incluindo https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.com, e https://<resource-name>.cognitiveservices.azure.com. Você pode encontrar esses pontos de extremidade na página Chaves e Ponto de Extremidade no portal do Azure e usar qualquer um deles para a propriedade resourceUri nesta habilidade.

• Um modelo de embedding Azure OpenAI implantado no seu recurso ou projeto. Para ver os modelos com suporte, consulte a próxima seção.

Parâmetros do Vectorizador

Os parâmetros diferenciam maiúsculas de minúsculas.

Tipos de consulta de vetor com suporte

O vetor do Azure OpenAI dá suporte apenas a consultas de vetor text.

Dimensões de campo esperadas

As dimensões de campo esperadas para um campo configurado com um vetorizador do Azure OpenAI dependem do modelName que está configurado.

Definição de exemplo

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Práticas recomendadas de desempenho

Veja a seguir algumas práticas recomendadas que você precisa considerar ao utilizar este vetorizador:

• Se estiver atingindo o limite de TPM (tokens por minuto) do OpenAI do Azure, considere o uso da consultoria de limites de cota para resolver o problema. Consulte a documentação de monitoramento Azure OpenAI para mais informações sobre o desempenho da sua instância Azure OpenAI.

• A implantação do modelo de incorporações do Azure OpenAI que você utiliza para este vetorizador deve, idealmente, ser separada da implantação usada para outros casos de uso, incluindo a habilidade de incorporação. Isso ajuda a que cada implantação seja adaptada ao seu caso de uso específico, levando a um desempenho otimizado e à identificação fácil do tráfego proveniente do indexador e das chamadas de embedding do índice.

• Sua instância do Azure OpenAI deve estar na mesma região ou pelo menos geograficamente próxima da região onde seu serviço de busca de IA está hospedado. Isso reduz a latência e melhora a velocidade da transferência de dados entre os serviços.

• Para evitar códigos de erro 429 frequentes, considere implementar o balanceamento de carga por meio do Gerenciamento de API implementando um gateway de balanceamento de carga na frente de várias implantações de modelo de inserção do OpenAI Azure.

• Se você tiver um limite de TPM (Tokens por minuto) do Azure OpenAI maior que o padrão, conforme publicado na documentação quotas e limites, abra um caso de suporte com a equipe Pesquisa de IA do Azure , para que isso possa ser ajustado de acordo. Isso ajuda a que seu processo de indexação não seja desnecessariamente desacelerado pelo limite padrão de TPM documentado, caso você tenha limites maiores.

Considerações de segurança para autenticação de identidade gerenciada

Quando o vetor do Azure OpenAI usa a autenticação de identidade gerenciada, Pesquisa de IA do Azure  obtém um token de acesso Microsoft Entra para o público-alvo das Ferramentas de Pesquisa (https://cognitiveservices.azure.com) e inclui-o em solicitações enviadas ao ponto de extremidade especificado por resourceUri. A autenticação de identidade gerenciada se aplica quando você define authIdentity, ou quando ambos apiKeyauthIdentity estão vazios e o serviço usa a identidade atribuída pelo sistema.

Espera-se que o ponto de extremidade referenciado seja resourceUri seu próprio recurso Azure OpenAI ou Foundry Tools. Domínios suportados são:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

também há suporte para pontos de extremidade *.azure-api.net). Como um nome de host APIM não pode ser verificado apenas em seu nome, Pesquisa de IA do Azure  valida esses pontos de extremidade com uma verificação de conectividade dinâmica no momento da configuração e não por correspondência de domínio. Você é responsável por configurar e manter a relação entre o ponto de extremidade APIM e o recurso Azure OpenAI ou Foundry Tools por trás dele.

Práticas de segurança recomendadas

Para ajudar a manter uma implantação segura, siga estas práticas:

• Defina resourceUri apenas como pontos de extremidade que você possui e confie. Prefira os domínios das Ferramentas de Fundimento listados anteriormente. Se você usar um ponto de extremidade APIM, confirme se ele está à frente do seu próprio recurso antes de habilitar a identidade gerenciada. Um nome de host de aparência confiável não é prova de propriedade.
• Aplique o princípio de privilégio mínimo à identidade gerenciada usada pelo serviço de pesquisa. O vetor Azure OpenAI requer apenas a função de Usuário OpenAI dos Serviços Cognitivos no recurso de destino. Evite conceder funções mais amplas.
• Use o NSP (Perímetro de Segurança de Rede) e pontos de extremidade privados ou integração de VNet para restringir quais pontos de extremidade o serviço de pesquisa pode alcançar e de quais fontes o recurso de destino aceita solicitações.
• Se você usar um ponto de extremidade APIM, verifique se o gateway valida as solicitações de entrada e encaminha-as apenas para o back-end pretendido. Você também deve examinar suas políticas de acesso periodicamente.
• Prefira a identidade gerenciada em vez de apiKey. Se você usar apiKey, armazene-o e gire-o com segurança e não insira-o no controle do código-fonte. O serviço rejeita configurações que definem ambos apiKey e authIdentity.
• Examine periodicamente definições de índice, atribuições de função de identidade gerenciada e configurações de APIM para confirmar se resourceUri valores, controles de acesso e permissões de identidade permanecem atuais e apropriados. Examine as alterações de configuração por meio dos processos estabelecidos de gerenciamento de alterações e revisão de segurança.
• Monitore Azure logs de entrada do OpenAI e do Foundry Tools, eventos de autenticação e logs de acesso para atividades inesperadas ou não autorizadas.
• Remova vetores não utilizados, pontos de extremidade, atribuições de função e chaves de API que não são mais necessárias.

Restringir o acesso à configuração de índice e vetor

Os usuários que podem criar ou modificar definições de índice controlam o ponto de extremidade de destino (resourceUri) e a configuração de autenticação usada pelo vetorizador. Como o vetor envia um token de identidade gerenciada para o público-alvo das Ferramentas de Pesquisa para esse ponto de extremidade, restrinja essas permissões a administradores confiáveis e siga seus processos padrão de gerenciamento de alterações e revisão de segurança ao configurar vetores habilitados para identidade gerenciada.

Consulte também

• Vetorização integrada
• Como configurar um vetorizador em um índice de pesquisa
• Função Azure OpenAI Embedding