Competência em AML

Utilize a capacidade AML para expandir o enriquecimento por IA com um modelo base de incorporação implementado a partir do catálogo de modelos do Microsoft Foundry (pré-visualização) ou um modelo personalizado do Azure Machine Learning (AML). Os seus dados são processados na Geo onde o seu modelo é implementado.

Especifica a competência AML num conjunto de competências, que depois integra o seu modelo implementado num pipeline de enriquecimento de IA. A competência AML é útil para realizar processamento ou inferência não suportados por competências incorporadas. Exemplos incluem gerar embeddings com o seu próprio modelo e aplicar lógica de aprendizagem automática personalizada a conteúdos enriquecidos.

Para endpoints online AML, use uma versão estável da API ou um SDK do Azure equivalente para chamar a competência AML. Para ligações ao catálogo de modelos, utilize uma versão de pré-visualização da API.

Utilização de habilidades AML

Tal como outras competências, a competência AML tem entradas e saídas. As entradas são enviadas como um objeto JSON para uma implementação sem servidor a partir do catálogo de modelos Foundry ou de um endpoint online AML. A saída deve incluir um código de estado de sucesso, carga útil JSON e os parâmetros especificados pela definição da tua competência AML. Qualquer outra resposta é considerada um erro, e não são realizados enriquecimentos.

O indexador tenta novamente duas vezes para os seguintes códigos de estado HTTP:

• 503 Service Unavailable
• 429 Too Many Requests

Competência AML para modelos no Microsoft Foundry (pré-visualização)

O Pesquisa de IA do Azure fornece o vetorizador de catálogo de modelos do Microsoft Foundry (pré-visualização), que também está disponível no assistente de dados de importação, para ligações em tempo de consulta ao catálogo de modelos. Se quiseres usar este vetorizador para consultas, a competência AML é o equivalente de indexação para gerar embeddings usando um modelo do catálogo de modelos.

Durante a indexação, a competência AML pode ligar-se ao catálogo de modelos para gerar vetores para o índice. No momento da consulta, as consultas podem usar um vetorizador para se ligar ao mesmo modelo e vetorizar cadeias de texto. Deves usar a habilidade AML e o vetorizador de catálogo do modelo Microsoft Foundry em conjunto, para que o mesmo modelo de embedding seja usado para indexação e consultas. Para mais informações, consulte Utilizar modelos de embedding do catálogo de modelos Foundry.

Recomendamos a utilização do assistente de Importação de dados para gerar um conjunto de competências que inclua uma competência AML para modelos de embedding implementados no Foundry. O assistente gera a definição de competência AML para entradas, saídas e mapeamentos, proporcionando uma forma fácil de testar um modelo antes de escrever qualquer código.

Pré-requisitos

• Um projeto baseado no hub Foundry da Microsoft ou um espaço de trabalho AML para um modelo personalizado que você cria.

• Para projetos baseados apenas em hub, uma implementação serverless de um modelo suportado do catálogo Foundry da Microsoft. Pode usar a CLI do Azure para provisionar a implementação serverless.

@odata.type

Microsoft.Skills.Custom.AmlSkill

Parâmetros de habilidade

Os parâmetros diferenciam letras maiúsculas de minúsculas. Os parâmetros que utiliza dependem da autenticação que o seu fornecedor de modelos exige, se é que exige.

Autenticação

A competência AML oferece duas opções de autenticação:

• Autenticação baseada em chaves: Fornece uma chave estática para autenticar pedidos de pontuação da competência AML. Defina os parâmetros uri e key para esta ligação.

• Autenticação baseada em tokens: O projeto baseado no hub Foundry, ou endpoint online AML, é implementado usando autenticação baseada em token. O serviço Pesquisa de IA do Azure deve ter uma managed identity e uma atribuição de função ao fornecedor do modelo. A funcionalidade AML utiliza então a identidade do serviço de pesquisa para autenticar-se junto ao fornecedor do modelo, sem necessidade de chaves estáticas. A identidade do serviço de pesquisa deve ter o papel de Proprietário ou Contribuidor . Defina o resourceId parâmetro e, se o serviço de pesquisa estiver numa região diferente do fornecedor do modelo, defina o region parâmetro.

Entradas de habilidades

As entradas de competências são um nó do documento enriquecido criado durante a decodificação de documentos. Por exemplo, pode ser o documento raiz, uma imagem normalizada ou o conteúdo de um blob. Não existem entradas pré-definidas para esta competência. Para as entradas, deve especificar um ou mais nós que estejam preenchidos no momento da execução da habilidade AML.

Resultados de desempenho de competências

Os resultados das funções são novos nós de um documento enriquecido definido pela função. Não existem saídas pré-definidas para esta competência. Para as saídas, deve fornecer nós que possam ser preenchidos a partir da resposta JSON da sua competência AML.

Definição de exemplo

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A custom model that detects the language in a document.",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "text",
        "source": "/document/content"
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Exemplo de estrutura JSON de entrada

Esta estrutura JSON representa a carga útil enviada para o seu projeto baseado no hub Foundry ou endpoint online AML. Os campos de topo da estrutura correspondem aos "nomes" especificados na inputs secção da definição da competência. Os valores desses campos vêm das "fontes" desses campos, que podem ser de um campo no documento ou de outra competência.

{
  "text": "Este es un contrato en Inglés"
}

Estruturação JSON de saída de exemplo

A saída corresponde à resposta do seu projeto baseado no hub Foundry ou do endpoint online AML. O fornecedor do modelo deve apenas devolver uma carga útil JSON (verificada ao olhar para o cabeçalho da resposta Content-Type) e deve ser um objeto cujos campos sejam enriquecimentos que correspondem aos "nomes" no output e cujos valores são considerados como enriquecimentos.

{
    "detected_language_code": "es"
}

Definição de exemplo de modelagem em linha

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A sample model that detects the language of sentence",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "shapedText",
        "sourceContext": "/document",
        "inputs": [
            {
              "name": "content",
              "source": "/document/content"
            }
        ]
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Estrutura JSON de entrada para formatação em linha

{
  "shapedText": { "content": "Este es un contrato en Inglés" }
}

Estrutura JSON de saída de amostras com modelagem em linha

{
    "detected_language_code": "es"
}

Casos de erro

Além de o seu projeto baseado no hub Foundry ou endpoint online AML estar indisponível ou enviar códigos de estado não bem-sucedidos, os seguintes casos são considerados erros:

• O fornecedor do modelo devolve um código de estado de sucesso, mas a resposta indica que não é application/json. Assim, a resposta é inválida e não são realizados enriquecimentos.

• O fornecedor do modelo devolve JSON inválido.

Se o fornecedor do modelo não estiver disponível ou devolver um erro HTTP, um erro amigável com quaisquer detalhes disponíveis sobre o erro HTTP é adicionado ao histórico de execução do indexador.

Conteúdo relacionado

• Cria um conjunto de competências em Pesquisa de IA do Azure
• Utilize modelos de incorporação do catálogo de modelos do Microsoft Foundry para vetorização integrada (pré-visualização)
• Solucionar problemas na implantação e avaliação de endpoints online