AML-kompetens

Använd AML-färdigheten för att utöka AI-berikandet med en distribuerad basinbäddningsmodell från Microsoft Foundry-modellkatalogen (förhandsversion) eller en anpassad Azure Machine Learning(AML). Dina data bearbetas i geo-området där din modell distribueras.

Du anger AML-funktionen i en kompetensuppsättning, som sedan integrerar din distribuerade modell i en pipeline för AI-berikning. AML-färdigheten är användbar för att utföra bearbetning eller slutsatsdragning som inte stöds av inbyggda färdigheter. Exempel är att generera inbäddningar med din egen modell och tillämpa anpassad maskininlärningslogik på berikat innehåll.

För AML-onlineslutpunkter använder du en stabil API-version eller en motsvarande Azure SDKs för att anropa AML-färdigheten. För anslutningar till modellkatalogen använder du en förhandsversion av API:et.

Användning av AML-kunskaper

Liksom andra färdigheter har AML-färdigheten indata och utdata. Indata skickas som ett JSON-objekt till en serverlös distribution från Foundry-modellkatalogen eller en AML-slutpunkt online. Utdata bör innehålla en statuskod för lyckade resultat, JSON-nyttolast och de parametrar som anges i din AML-färdighetsdefinition. Andra svar anses vara ett fel och inga berikningar utförs.

Indexeraren försöker igen två gånger för följande HTTP-statuskoder:

• 503 Service Unavailable
• 429 Too Many Requests

AML-kunskaper för modeller i Microsoft Foundry (förhandsversion)

Azure AI-sökning tillhandahåller vektoriseraren för Microsoft Foundry-modellkatalogen (förhandsversion), som också är tillgänglig i Importera data-guiden, för anslutningar till modellkatalogen vid frågetillfället. Om du vill använda den här vektoriseraren för frågor är AML-färdigheten indexeringsmotsvarigheten för att generera inbäddningar med hjälp av en modell från modellkatalogen.

Under indexeringen kan AML-färdigheten ansluta till modellkatalogen för att generera vektorer för indexet. Vid frågetillfället kan förfrågningar använda en vektoriserare för att ansluta till samma modell för att vektorisera textsträngar. Du bör använda AML-färdigheten och Microsoft Foundry-modellkatalogvektoriseraren tillsammans så att samma inbäddningsmodell används för indexering och frågor. Mer information finns i Använda inbäddningsmodeller från foundry-modellkatalogen.

Vi rekommenderar att du använder guiden Importera data för att generera en kompetensuppsättning som innehåller en AML-färdighet för distribuerade inbäddningsmodeller i Foundry. Guiden genererar AML-färdighetsdefinitionen för indata, utdata och mappningar, vilket ger ett enkelt sätt att testa en modell innan du skriver någon kod.

Förutsättningar

• Ett Microsoft Foundry Hub-baserat projekt eller en AML-arbetsyta för en anpassad modell som du skapar.

• Endast för hubbaserade projekt, en serverlös distribution av en stödd modell från Microsoft Foundry-modellkatalogen. Du kan använda Azure CLI för att etablera den serverlösa distributionen.

@odata.type

Microsoft.Skills.Custom.AmlSkill

Kompetensparametrar

Parametrar är skiftlägeskänsliga. Vilka parametrar du använder beror på vilken autentisering din modellleverantör kräver, om någon.

Autentisering

AML-färdigheten innehåller två autentiseringsalternativ:

• Nyckelbaserad autentisering: Du anger en statisk nyckel för att autentisera bedömningsbegäranden från AML-färdigheten. Ange parametrarna uri och key för den här anslutningen.

• Tokenbaserad autentisering: Det Foundry Hub-baserade projektet eller AML-slutpunkten online distribueras med hjälp av tokenbaserad autentisering. Tjänsten Azure AI-sökning måste ha en hanterad identitet och en rolltilldelning på modellprovidern. AML-färdigheten använder sedan söktjänstidentiteten för att autentisera mot modellprovidern, utan att några statiska nycklar krävs. Söktjänstens identitet måste ha rollen Ägare eller Deltagare . Ange parametern resourceId, och om söktjänsten finns i en annan region än modellprovidern, ange även parametern region.

Kunskapsindata

Kunskapsinmatningar är en nod i det berikade dokumentet som skapades under dokumentbearbetning. Det kan till exempel vara rotdokumentet, en normaliserad bild eller innehållet i en blob. Det finns inga fördefinierade indata för den här färdigheten. För indata bör du ange en eller flera noder som fylls i när AML-färdigheten körs.

Färdighetsresultat

Funktionsutdata är nya noder i ett förbättrat dokument som skapats av funktionen. Det finns inga fördefinierade utdata för den här färdigheten. För utdata bör du ange noder som kan fyllas i från JSON-svaret för din AML-färdighet.

Exempeldefinition

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A custom model that detects the language in a document.",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "text",
        "source": "/document/content"
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Exempel på JSON-struktur för indata

Den här JSON-strukturen representerar nyttolasten som skickas till ditt Foundry Hub-baserade projekt eller AML-slutpunkt online. De översta fälten i strukturen motsvarar de "namn" som anges i avsnittet i inputs kunskapsdefinitionen. Värdena för dessa fält kommer från "källorna" för dessa fält, som kan komma från ett fält i dokumentet eller någon annan färdighet.

{
  "text": "Este es un contrato en Inglés"
}

Exempel på JSON-struktur för utdata

Utdata motsvarar svaret från ditt Foundry Hub-baserade projekt eller AML-slutpunkt online. Modellleverantören ska endast returnera en JSON-nyttolast (verifierad genom att titta på Content-Type-svarshuvudet) och det ska vara ett objekt vars fält är berikningar som matchar "namnen" i output och vars värde betraktas som berikningen.

{
    "detected_language_code": "es"
}

Definition av inline-formningsexempel

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A sample model that detects the language of sentence",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "shapedText",
        "sourceContext": "/document",
        "inputs": [
            {
              "name": "content",
              "source": "/document/content"
            }
        ]
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Formning av indata-JSON-struktur inline

{
  "shapedText": { "content": "Este es un contrato en Inglés" }
}

Exempel på inline-formning för JSON-struktur

{
    "detected_language_code": "es"
}

Felhanteringsfall

Förutom att ditt Foundry Hub-baserade projekt eller en AML-slutpunkt online är otillgänglig eller skickar ogiltiga statuskoder, räknas följande situationer som fel.

• Modellprovidern returnerar en statuskod för lyckade resultat, men svaret anger att det inte application/jsonär . Svaret är därför ogiltigt och inga berikningar utförs.

• Modellleverantören returnerar ogiltig JSON.

Om modellprovidern inte är tillgänglig eller returnerar ett HTTP-fel läggs ett användarvänligt fel med tillgänglig information om HTTP-felet till i indexerarens körningshistorik.

Relaterat innehåll

• Skapa en kompetensuppsättning i Azure AI-sökning
• Använd inbäddningsmodeller från Microsoft Foundry-modellkatalogen för integrerad vektorisering (förhandsversion)
• Felsöka driftsättning och poängsättning av onlineslutpunkter