Habilidade de AML

Use a habilidade de AML para estender o enriquecimento de IA com um modelo de inserção base implantado do catálogo de modelos do Microsoft Foundry (versão prévia) ou um modelo AML (Azure Machine Learning personalizado). Seus dados são processados na Geo onde seu modelo é implantado.

Você especifica a habilidade de AML em um conjunto de habilidades, que então integra seu modelo implantado em um pipeline de enriquecimento de IA. A habilidade de AML é útil para executar processamento ou inferência sem suporte por habilidades internas. Exemplos incluem a geração de inserções com seu próprio modelo e a aplicação da lógica de aprendizado de máquina personalizada ao conteúdo enriquecido.

Para pontos de extremidade online de AML, use uma versão estável da API ou um SDK do Azure equivalente para chamar a skill de AML. Para conexões com o catálogo de modelos, use uma versão prévia da API.

Uso de habilidade de AML

Assim como outras habilidades, a habilidade de AML tem entradas e saídas. Os dados de entrada são enviados como um objeto JSON para uma implantação sem servidor a partir do catálogo de modelos do Foundry ou de um ponto de extremidade online do AML. A saída deve incluir um código de status de êxito, payload JSON e os parâmetros especificados pela definição de habilidade de aprendizado de máquina (AML). Qualquer outra resposta é considerada um erro e nenhum enriquecimento é executado.

O indexador tenta novamente duas vezes os seguintes códigos de status HTTP:

• 503 Service Unavailable
• 429 Too Many Requests

Habilidade de AML para modelos no Microsoft Foundry (versão prévia)

Pesquisa de IA do Azure  fornece o vetorizador do catálogo de modelos do Microsoft Foundry (versão prévia), que também está disponível no assistente de importação de dados, para conexões de tempo de consulta com o catálogo de modelos. Se você deseja usar esse vetorizador para consultas, a habilidade AML é a contraparte de indexação para gerar embeddings usando um modelo do catálogo de modelos.

Durante a indexação, a habilidade AML pode se conectar ao catálogo de modelos para gerar vetores para o índice. No momento da consulta, as consultas podem usar um vetorizador para se conectar ao mesmo modelo para vetorizar cadeias de caracteres de texto. Você deve usar a habilidade AML e o catalogador vetor do Microsoft Foundry juntos para que o mesmo modelo de incorporação seja usado para indexação e consultas. Para obter mais informações, consulte Usar modelos de inserção do catálogo de modelos do Foundry.

É recomendável usar o assistente de importação de dados para gerar um conjunto de habilidades que inclui uma habilidade de AML para modelos de inserção implantados no Foundry. O assistente gera a definição de habilidade AML para entradas, saídas e mapeamentos, fornecendo uma maneira fácil de testar um modelo antes de escrever qualquer código.

Pré-requisitos

• Um projeto baseado no hub Microsoft Foundry ou em um workspace AML para um modelo personalizado que você cria.

• Apenas para projetos baseados em hub, uma implantação sem servidor de um modelo compatível do catálogo de modelos do Microsoft Foundry. Você pode usar o CLI do Azure para provisionar a implantação sem servidor.

@odata.type

Microsoft.Skills.Custom.AmlSkill

Parâmetros de habilidade

Os parâmetros diferenciam maiúsculas de minúsculas. Os parâmetros usados dependem de qual autenticação seu provedor de modelos requer, se houver.

Autenticação

A habilidade AML fornece duas opções de autenticação:

• Autenticação baseada em chave: Você fornece uma chave estática para autenticar solicitações de pontuação da habilidade AML. Defina os parâmetros uri e key para essa conexão.

• Autenticação baseada em tokens: O projeto do Foundry baseado em hub ou o endpoint online do AML é implantado com autenticação baseada em tokens. O serviço Pesquisa de IA do Azure  deve ter uma identidade gerenciada e uma atribuição de função no provedor de modelo. Em seguida, a habilidade AML usa a identidade do serviço de pesquisa para se autenticar no provedor de modelos, sem a necessidade de chaves estáticas. A identidade do serviço de pesquisa deve ter a função Proprietário ou Colaborador . Defina o resourceId parâmetro e, se o serviço de pesquisa estiver em uma região diferente do provedor de modelo, defina o region parâmetro.

Entradas de competências

As entradas de habilidade são um nó do documento enriquecido criado durante a quebra de documentos. Por exemplo, pode ser o documento raiz, uma imagem normalizada ou o conteúdo de um blob. Não há entradas predefinidas para essa habilidade. Para entradas, você deve especificar um ou mais nós que são preenchidos durante a execução da funcionalidade AML.

Resultados de competências

Os resultados da habilidade são novos nós de um documento enriquecido criado pela habilidade. Não há saídas predefinidas para essa habilidade. Para as saídas, você deve fornecer nós que possam ser preenchidos a partir da resposta JSON da sua skill de AML.

Definição de exemplo

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A custom model that detects the language in a document.",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "text",
        "source": "/document/content"
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Estrutura JSON de entrada de exemplo

Essa estrutura JSON representa o payload enviado para o seu projeto baseado no hub da Foundry ou para o ponto de extremidade online da AML. Os campos de nível superior da estrutura correspondem aos "nomes" especificados na inputs seção da definição de habilidade. Os valores desses campos provêm das "fontes" desses campos, que podem ser de um campo no documento ou de outra habilidade.

{
  "text": "Este es un contrato en Inglés"
}

Estrutura JSON de saída de exemplo

O resultado corresponde à resposta do seu projeto baseado no hub Foundry ou do ponto de extremidade online de AML. O provedor do modelo deve retornar apenas uma carga útil JSON (verificada pela análise do Content-Type cabeçalho da resposta) e deve ser um objeto cujos campos sejam enriquecimentos correspondentes aos "nomes" no output e cujo valor seja considerado o enriquecimento.

{
    "detected_language_code": "es"
}

Definição de amostra de shaping embutida

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A sample model that detects the language of sentence",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "shapedText",
        "sourceContext": "/document",
        "inputs": [
            {
              "name": "content",
              "source": "/document/content"
            }
        ]
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Estrutura JSON de entrada de shaping embutida

{
  "shapedText": { "content": "Este es un contrato en Inglés" }
}

Estrutura JSON de saída de exemplo de shaping embutida

{
    "detected_language_code": "es"
}

Casos de erro

Além da indisponibilidade do seu projeto baseado no hub Foundry ou do ponto de extremidade online do AML, ou do envio de códigos de status de falha, os seguintes casos são considerados erros:

• O provedor do modelo retorna um código de status de sucesso, mas a resposta indica que não é application/json. Portanto, a resposta é inválida e nenhum enriquecimento é executado.

• O provedor de modelo retorna JSON inválido.

Se o provedor de modelo não estiver disponível ou retornar um erro HTTP, um erro amigável com quaisquer detalhes disponíveis sobre o erro HTTP será adicionado ao histórico de execução do indexador.

Conteúdo relacionado

• Criar um conjunto de habilidades na Pesquisa de IA do Azure
• Usar modelos de inserção do catálogo de modelos do Microsoft Foundry para vetorização integrada (versão prévia)
• Solucionar problemas de implantação e pontuação de ponto de extremidade online