AML-képesség

Az AML-képesség használatával kibővítheti az AI-bővítést egy üzembe helyezett alapbeágyazási modellel az Microsoft Foundry-modellkatalógusból (előzetes verzió) vagy egy egyéni Azure Machine Learning (AML-) modellből. Az adatok feldolgozása a Geo-ban történik, ahol a modell üzembe van helyezve.

Megadhatja az AML-készséget egy készségkészletben, amely ezután integrálja az üzembe helyezett modellt egy AI-bővítési folyamatba. Az AML-képesség olyan feldolgozáshoz vagy következtetéshez hasznos, amelyet a beépített képességek nem támogatnak. Ilyenek például a beágyazások létrehozása saját modellel, valamint egyéni gépi tanulási logika alkalmazása a bővített tartalmakra.

Az AML online végpontjaihoz használjon stabil API-verziót vagy azzal egyenértékű Azure SDK az AML-képesség meghívásához. A modellkatalógushoz való csatlakozáshoz használjon egy előzetes verziójú API-t.

AML-képességek használata

Más készségekhez hasonlóan az AML-képesség bemenetekkel és kimenetekkel is rendelkezik. A bemenetek JSON-objektumként lesznek elküldve egy kiszolgáló nélküli üzembe helyezéshez az Foundry-modellkatalógusból vagy egy online AML-végpontból. A kimenetnek tartalmaznia kell a sikerességi állapotkódot, a JSON hasznos adatait és az AML-képességdefiníció által megadott paramétereket. A rendszer minden más választ hibának tekint, és nem végez bővítést.

Az indexelő kétszer próbálkozik újra a következő HTTP-állapotkódokhoz:

• 503 Service Unavailable
• 429 Too Many Requests

AML-képesség modellekhez az Microsoft Foundryben (előzetes verzió)

Azure AI Keresés biztosítja a Microsoft Öntödei modellkatalógus vektorizálóját (előzetes verzió), amely az Adatok importálása varázslóban is elérhető a modellkatalógushoz való lekérdezési idő kapcsolatokhoz. Ha ezt a vektorizálót szeretné használni a lekérdezésekhez, az AML-képesség az indexelő megfelelője a beágyazások létrehozásához a modellkatalógusból származó modell használatával.

Az indexelés során az AML-képesség csatlakozhat a modellkatalógushoz, hogy vektorokat hozzon létre az indexhez. Lekérdezéskor a vektorizáló segítségével azonos modellhez csatlakozhatnak a szövegek vektorizálásához. Az AML-készséget és a Microsoft Foundry-modellkatalógus-vektorizálót együtt kell használnia, hogy ugyanazt a beágyazási modellt használja az indexeléshez és a lekérdezésekhez. További információ: Az Öntödei modellkatalógus beágyazási modelljeinek használata.

Javasoljuk, hogy az Adatok importálása varázslóval hozzon létre egy olyan készségkészletet, amely AML-készséget tartalmaz a Foundryben üzembe helyezett beágyazási modellekhez. A varázsló létrehozza a bemenetek, kimenetek és leképezések AML-készségdefinícióját, így könnyen tesztelheti a modellt, mielőtt bármilyen kódot ír.

Előfeltételek

• Egy Microsoft Foundry hub-alapú projekt vagy egy AML-munkaterület egy ön által létrehozott egyéni modellhez.

• Csak központi projektek esetén egy támogatott modell kiszolgáló nélküli üzembe helyezése a Microsoft Foundry-modellkatalógusból. A Azure CLI használatával kiépítheti a kiszolgáló nélküli üzembe helyezést.

@odata.type

Microsoft.Skills.Custom.AmlSkill

Képességparaméterek

A paraméterek megkülönböztetik a kis- és nagybetűket. A használt paraméterek attól függenek, hogy a modellszolgáltató milyen hitelesítést igényel, ha van ilyen.

Hitelesítés

Az AML-képesség két hitelesítési lehetőséget biztosít:

• Kulcsalapú hitelesítés: Statikus kulcsot ad meg az AML-képesség pontozási kérelmeinek hitelesítéséhez. Állítsa be a uri és a key paramétereit ehhez a kapcsolathoz.

• Jogkivonatalapú hitelesítés: A Foundry hub-alapú projekt vagy az AML online végpont jogkivonatalapú hitelesítéssel van üzembe helyezve. Az Azure AI Keresés szolgáltatásnak managed identitással és szerepkör-hozzárendeléssel kell rendelkeznie a modellszolgáltatón. Az AML-képesség ezután a keresési szolgáltatás identitásával hitelesíti a modellszolgáltatót, statikus kulcsok nélkül. A keresési szolgáltatás identitásának tulajdonosi vagy közreműködői szerepkört kell tartalmaznia . Állítsa be a paramétert resourceId , és ha a keresési szolgáltatás a modellszolgáltatótól eltérő régióban található, állítsa be a paramétert region .

Készségbemenetek

A készségbemenetek a dokumentumtörés során létrehozott bővített dokumentumcsomópontjai. Ez lehet például a gyökérdokumentum, egy normalizált kép vagy egy blob tartalma. Ehhez a képességhez nincsenek előre definiált bemenetek. Bemenetek esetén meg kell adnia egy vagy több csomópontot, amelyek az AML-képesség végrehajtásakor vannak feltöltve.

Képességkimenetek

A képességkimenetek a képesség által létrehozott bővített dokumentum új csomópontjai. Ehhez a képességhez nincsenek előre definiált kimenetek. Kimenetek esetén olyan csomópontokat kell megadnia, amelyek az AML-képesség JSON-válaszából tölthetők fel.

Mintadefiníció

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A custom model that detects the language in a document.",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "text",
        "source": "/document/content"
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Minta bemeneti JSON-struktúra

Ez a JSON-struktúra a Foundry hub-alapú projektnek vagy az AML online végpontnak küldött hasznos adatokat jelöli. A struktúra legfelső szintű mezői a képességdefiníció szakaszában inputs megadott "neveknek" felelnek meg. Ezeknek a mezőknek az értékei az adott mezők "forrásaiból" származnak, amelyek a dokumentum egy mezőjéből vagy egy másik képességből származhatnak.

{
  "text": "Este es un contrato en Inglés"
}

Minta kimeneti JSON-struktúra

A kimenet megfelel a Foundry hub-alapú projekt vagy az AML online végpont válaszának. A modellszolgáltatónak csak JSON adatcsomagot kell visszaadnia, amit a Content-Type válaszfejléc ellenőriz, és olyan objektumnak kell lennie, amelynek mezői a output-ben található "neveknek" megfelelő kiegészítéseket tartalmaznak, és amely értékét kiegészítésként tekintjük.

{
    "detected_language_code": "es"
}

Beágyazott formázási mintadefiníció

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A sample model that detects the language of sentence",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "shapedText",
        "sourceContext": "/document",
        "inputs": [
            {
              "name": "content",
              "source": "/document/content"
            }
        ]
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

A bemeneti JSON-struktúra soros formázása

{
  "shapedText": { "content": "Este es un contrato en Inglés" }
}

Beágyazott formázási minta kimeneti JSON-struktúrája

{
    "detected_language_code": "es"
}

Hibaesetek

Azon kívül, hogy a Foundry hub-alapú projekt vagy az AML online végpontja nem érhető el, vagy nem sikeres állapotkódokat küld, a következő esetek minősülnek hibának:

• A modellszolgáltató egy sikeres állapotkódot ad vissza, de a válasz azt jelzi, hogy nem application/json. A válasz így érvénytelen, és nem történik bővítés.

• A modellszolgáltató érvénytelen JSON-t ad vissza.

Ha a modellszolgáltató nem érhető el, vagy HTTP-hibát ad vissza, egy barátságos, a HTTP-hibáról szóló részleteket tartalmazó hibaüzenet kerül hozzáadásra az indexelő futtatási előzményeihez.

Kapcsolódó tartalom

• Hozzon létre egy készségkészletet az Azure AI Keresés-ben
• Beágyazott modellek használata az Microsoft Öntödei modellkatalógusból integrált vektorizáláshoz (előzetes verzió)
• Az online végpontok telepítésének és értékelésének hibaelhárítása