Microsoft vetorizador do catálogo de modelos do Foundry (versão prévia)

Note

Pesquisa de IA do Azure  está disponível por meio do portal Azure, APIs REST e SDKs do Azure. Ele também sustenta o IQ do Foundry, a camada de conhecimento gerenciado que transforma o conteúdo da empresa em bases de conhecimento reutilizáveis e com reconhecimento de permissão para agentes no portal do Microsoft Foundry.

Importante

Recursos, funcionalidades ou propriedades marcados como (versão prévia) não são cobertos por um contrato de nível de serviço (SLA), não são recomendados para cargas de trabalho de produção e podem mudar ou ser restringidos antes da disponibilidade geral. Os termos de visualização do Pesquisa de IA do Azure  se aplicam a toda funcionalidade em visualização, seja autônoma ou parte de um recurso de disponibilidade geral.

O vetorizador (versão prévia) do catálogo de modelos do Microsoft Foundry conecta-se a um modelo de embedding implantado a partir do catálogo de modelos do Foundry ou de um endpoint do Azure Machine Learning (AML). Seus dados são processados na Geo onde seu modelo é implantado.

Se você estiver usando a vetorização integrada para criar as matrizes de vetor, o conjunto de habilidades deverá incluir uma habilidade AML que aponte para o mesmo modelo especificado no vetorizador.

Pré-requisitos

  • Um projeto baseado no hub Microsoft Foundry ou em um workspace AML para um modelo personalizado que você cria.

  • Apenas para projetos baseados em hub, uma implantação sem servidor de um modelo compatível do catálogo de modelos do Microsoft Foundry. Você pode usar use o CLI do Azure para provisionar a implantação sem servidor.

Parâmetros do Vectorizador

Os parâmetros diferenciam maiúsculas de minúsculas. Os parâmetros usados dependem de qual autenticação seu provedor de modelos requer, se houver.

Nome do parâmetro Descrição
uri (Necessário para autenticação de chave) O URI de destino da implantação sem servidor do catálogo de modelos do Microsoft Foundry ou o URI de pontuação do endpoint online de AML. Somente o esquema de URI HTTPS é permitido.
key (Necessário para autenticação de chave) A chave de API do provedor de modelos.
resourceId (Necessário para autenticação por token) A ID do recurso do Azure Resource Manager do provedor do modelo. Para um endpoint online do AML, use o formato subscriptions/{guid}/resourceGroups/{resource-group-name}/Microsoft.MachineLearningServices/workspaces/{workspace-name}/onlineendpoints/{endpoint_name}.
modelName O nome do modelo de representação do catálogo de modelos do Microsoft Foundry implantado no local especificado uri. Os modelos com suporte (somente implantações sem servidor) são:

  • Cohere-embed-v3-english
  • Cohere-embed-v3-multilingual
  • Cohere-embed-v4
region (Opcional para autenticação de token) A região na qual o provedor de modelos é implantado. Necessário se a região for diferente da região do serviço de pesquisa.
timeout (Opcional) O tempo limite para o cliente HTTP fazer a chamada à API. Ele deve ser formatado como um valor XSD "dayTimeDuration" (um subconjunto restrito de um valor de duração ISO 8601 ). Por exemplo, PT60S por 60 segundos. Se não for definido, um valor padrão de 30 segundos será escolhido. O tempo limite pode ser definido como um máximo de 230 segundos e um mínimo de 1 segundo.

Quais parâmetros de autenticação usar

O vetor do catálogo de modelos do Microsoft Foundry fornece duas opções de autenticação:

  • Autenticação baseada em chave. Você fornece uma chave estática para autenticar solicitações de pontuação do vetorizador. Defina os parâmetros uri e key para essa conexão.

  • Autenticação baseada em token. O projeto baseado em hub do Foundry ou o ponto de extremidade online de AML é implementado usando autenticação baseada em token. O serviço Pesquisa de IA do Azure  deve ter uma identidade gerenciada e uma atribuição de função no provedor de modelo. Em seguida, o vetorizador usa a identidade do serviço de pesquisa para autenticar-se no provedor do modelo, sem a necessidade de chaves estáticas. A identidade do serviço de pesquisa deve ter a função Proprietário ou Colaborador . Defina o resourceId parâmetro e, se o serviço de pesquisa estiver em uma região diferente do provedor de modelo, defina o region parâmetro.

Tipos de consulta de vetor com suporte

Os tipos de consulta vetorial suportados pelo vetorizador do catálogo de modelos do Microsoft Foundry dependem do modelName que está configurado.

Modelo de inserção Dá suporte à consulta text Dá suporte à consulta imageUrl Dá suporte à consulta imageBinary
Cohere-embed-v3-english X X
Cohere-embed-v3-multilingual X X
Cohere-embed-v4 X X

Dimensões de campo esperadas

As dimensões de campo esperadas para um campo vetorial configurado com um vetorizador do catálogo de modelos do Microsoft Foundry dependem do modelName configurado.

modelName Dimensões esperadas
Cohere-embed-v3-english 1024
Cohere-embed-v3-multilingual 1024
Cohere-embed-v4 256–1536

Definição de exemplo

Os nomes de modelo sugeridos no catálogo de modelos do Foundry consistem no modelo base mais um sufixo aleatório de três letras. O nome do modelo será diferente do mostrado neste exemplo.

"vectorizers": [
    {
        "name": "my-model-catalog-vectorizer",
        "kind": "aml",
        "amlParameters": {
            "uri": "https://Cohere-embed-v3-multilingual-hin.eastus.models.ai.azure.com",
            "key": "aaaaaaaa-0b0b-1c1c-2d2d-333333333333",
            "timeout": "PT60S",
            "modelName": "Cohere-embed-v3-multilingual-hin",
            "resourceId": null,
            "region": null,
        },
    }
]

Consulte também