Dovednost AML

Note

Azure AI Vyhledávač je k dispozici prostřednictvím portálu Azure, rozhraní REST API a Sady Azure SDK. Podporuje také Foundry IQ, spravovanou znalostní vrstvu, která transformuje podnikový obsah na opakovaně použitelné znalostní báze s podporou oprávnění pro agenty na portálu Microsoft Foundry.

Důležité

Na funkce, možnosti nebo vlastnosti označené jako (Preview) se nevztahuje smlouva o úrovni služeb, nejsou doporučené pro produkční úlohy a mohou se změnit nebo být omezeny dříve, než budou obecně k dispozici. Podmínky Azure AI Vyhledávač Preview platí pro všechny funkce ve verzi Preview, ať už jsou samostatné nebo součástí obecně dostupné funkce.

Pomocí dovednosti AML můžete rozšířit obohacení AI o nasazený základní embeddingový model z katalogu modelů Microsoft Foundry (ve verzi Preview) nebo o vlastní model Azure Machine Learning (AML). Vaše data se zpracovávají v geografické oblasti, ve které je váš model nasazený.

V sadě dovedností zadáte dovednost AML, která pak integruje nasazený model do kanálu rozšiřování AI. Dovednost AML je užitečná pro provádění zpracování nebo odvozování, které nejsou podporovány integrovanými dovednostmi. Mezi příklady patří generování vkládání pomocí vlastního modelu a použití vlastní logiky strojového učení na obohacený obsah.

Pro online koncové body AML použijte stabilní verzi rozhraní API nebo ekvivalentní Azure SDK k volání dovednosti AML. Pro připojení ke katalogu modelů použijte verzi rozhraní API ve verzi Preview.

Využití dovedností AML

Stejně jako ostatní dovednosti má dovednost AML vstupy a výstupy. Vstupy se odesílají jako objekt JSON do bezserverového nasazení z katalogu modelů Foundry nebo do online koncového bodu AML. Výstup by měl obsahovat stavový kód úspěchu, datovou část JSON a parametry určené definicí dovednosti AML. Jakákoli jiná odpověď se považuje za chybu a neprovádí se žádné rozšiřování.

Indexer opakuje dvakrát pro následující stavové kódy HTTP:

  • 503 Service Unavailable
  • 429 Too Many Requests

Dovednost AML pro modely v Microsoft Foundry (verze Preview)

Azure AI Vyhledávač poskytuje vektorizátor katalogu modelů Microsoft Foundry (Preview), který je k dispozici také v průvodci importem dat pro připojení k katalogu modelů v době dotazu. Pokud chcete tento vektorizátor použít pro dotazy, dovednost AML je protějšek indexování pro generování vkládání pomocí modelu z katalogu modelů.

Během indexování se dovednost AML může připojit k katalogu modelů a generovat vektory pro index. V době dotazu můžou dotazy použít vektorizátor pro připojení ke stejnému modelu k vektorizaci textových řetězců. Měli byste použít dovednost AML a vektorizátor katalogu modelů Microsoft Foundry společně, aby se stejný model vkládání používal pro indexování a dotazy. Další informace najdete v tématu Použití vložených modelů z katalogu modelů Foundry.

K vygenerování sady dovedností, která zahrnuje dovednosti AML pro nasazené modely vkládání do Foundry, doporučujeme použít průvodce importem dat. Průvodce vygeneruje definici dovednosti AML pro vstupy, výstupy a mapování a poskytuje snadný způsob, jak otestovat model před napsáním kódu.

Požadavky

  • Projekt založený na centru Microsoft Foundry nebo pracovní prostor AML pro vlastní model, který vytvoříte.

  • Pouze pro projekty založené na platformě hub je bezserverové nasazení podporovaného modelu z katalogu modelů Microsoft Foundry. K zřízení bezserverového nasazení můžete použít Azure CLI.

@odata.type

Microsoft.Skills.Custom.AmlSkill

Parametry dovedností

Parametry jsou citlivé na velikost písmen. Parametry, které použijete, závisí na tom, jaké ověřování poskytovatel modelu vyžaduje, pokud nějaké.

Název parametru Popis
uri (Požadováno pro ověřování key) Cílový identifikátor URI bezserverového nasazení z katalogu modelů Microsoft Foundry nebo scoring URI online koncového bodu AML. Povoleno je pouze schéma URI HTTPS. Podporované modely z katalogu modelů (pouze bezserverová nasazení) jsou:
  • Cohere-embed-v3-english
  • Cohere-embed-v3-multilingual
  • Cohere-embed-v4
key (Požadováno pro ověřování klíčů) Klíč rozhraní API poskytovatele modelu.
resourceId (Povinné pro ověřování tokenů) ID prostředku služby Azure Resource Manager poskytovatele modelu. Pro online koncový bod AML použijte formát subscriptions/{guid}/resourceGroups/{resource-group-name}/Microsoft.MachineLearningServices/workspaces/{workspace-name}/onlineendpoints/{endpoint_name}.
region (Volitelné pro ověřování tokenů) Oblast, ve které je poskytovatel modelu nasazený. Vyžaduje se, pokud se oblast liší od oblasti vyhledávací služby.
timeout (Volitelné) Časový limit pro klienta HTTP, který provádí volání rozhraní API. Musí být formátovaná jako hodnota XSD dayTimeDuration, což je omezená podmnožina hodnoty doby trvání ISO 8601 . Například PT60S 60 sekund. Pokud není nastavená, vybere se výchozí hodnota 30 sekund. Časový limit můžete nastavit na minimálně 1 sekundu a maximálně 230 sekund.
degreeOfParallelism (Volitelné) Počet volání, která indexer provádí paralelně s zadaným koncovým bodem. Tuto hodnotu můžete snížit, pokud koncový bod selhává pod příliš vysokou zátěží požadavku. Můžete ho zvýšit, pokud váš koncový bod dokáže přijmout více požadavků a chcete zvýšit výkon indexeru. Pokud není nastavená, použije se výchozí hodnota 5. Můžete nastavit degreeOfParallelism minimálně 1 a maximálně 10.

Ověřování

Dovednost AML nabízí dvě možnosti ověřování:

  • Ověřování na základě klíčů: Zadáte statický klíč pro ověření žádostí o bodování z dovednosti AML. Nastavte parametry uri a key pro toto připojení.

  • Ověřování na základě tokenů: Projekt založený na centru Foundry nebo online koncový bod AML se nasadí pomocí ověřování založeného na tokenech. Služba Azure AI Vyhledávač musí mít spravovanou identitu a přiřazenou roli pro zprostředkovatele modelu. Funkce AML pak použije identitu vyhledávací služby pro ověření u poskytovatele modelu, a k tomu nejsou potřeba žádné statické klíče. Identita vyhledávací služby musí mít roli Vlastník nebo Přispěvatel . resourceId Nastavte parametr a pokud je vyhledávací služba v jiné oblasti než poskytovatel modelu, nastavte region parametr.

Vstupy dovedností

Vstupy dovedností jsou uzlem rozšířeného dokumentu vytvořeného během prolomení dokumentu. Může to být například kořenový dokument, normalizovaný obrázek nebo obsah objektu blob. Pro tuto dovednost neexistují žádné předdefinované vstupy. Pro vstupy byste měli zadat jeden nebo více uzlů, které jsou naplněny v době provádění dovednosti AML.

Výstupy schopností

Výstupy dovedností jsou nové uzly rozšířeného dokumentu vytvořeného dovedností. Pro tuto dovednost neexistují žádné předdefinované výstupy. Pro výstupy byste měli poskytnout uzly, které lze naplnit z JSON odpovědi funkce AML.

Ukázková definice

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A custom model that detects the language in a document.",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "text",
        "source": "/document/content"
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Ukázka vstupní struktury JSON

Tato struktura JSON představuje datovou část odeslanou do vašeho projektu založeného na centru Foundry nebo do online koncového bodu AML. Pole nejvyšší úrovně struktury odpovídají "názvům" zadaným v inputs části definice dovednosti. Hodnoty těchto polí pocházejí ze zdrojů těchto polí, které můžou být z pole v dokumentu nebo jiné dovednosti.

{
  "text": "Este es un contrato en Inglés"
}

Ukázková výstupní struktura JSON

Výstup odpovídá odpovědi z vašeho projektu založeného na centru Foundry nebo online koncového bodu AML. Zprostředkovatel modelu by měl vrátit pouze datovou část JSON (ověřenou pohledem na Content-Type hlavičku odpovědi) a měl by to být objekt, jehož pole jsou rozšiřováním odpovídajícím názvům output a jejichž hodnota je považována za rozšiřování.

{
    "detected_language_code": "es"
}

Definice příkladu tvarování v rámci systému

  {
    "@odata.type": "#Microsoft.Skills.Custom.AmlSkill",
    "description": "A sample model that detects the language of sentence",
    "uri": "https://language-model.models.contoso.com/score",
    "context": "/document",
    "inputs": [
      {
        "name": "shapedText",
        "sourceContext": "/document",
        "inputs": [
            {
              "name": "content",
              "source": "/document/content"
            }
        ]
      }
    ],
    "outputs": [
      {
        "name": "detected_language_code"
      }
    ]
  }

Vložené tvarování vstupní struktury JSON

{
  "shapedText": { "content": "Este es un contrato en Inglés" }
}

Vložené tvarování ukázkové výstupní struktury JSON

{
    "detected_language_code": "es"
}

Chybové případy

Kromě vaší projektu založeného na centru Foundry nebo online koncového bodu AML, který není dostupný nebo odesílá neúspěšné stavové kódy, se následující případy považují za chyby:

  • Zprostředkovatel modelu vrátí stavový kód úspěchu, ale odpověď naznačuje, že to není application/json. Odpověď je tedy neplatná a neprovádí se žádné rozšiřování.

  • Zprostředkovatel modelu vrátí neplatný kód JSON.

Pokud není poskytovatel modelu dostupný nebo vrátí chybu HTTP, je do historie provádění indexeru přidána přátelská chyba s dostupnými podrobnostmi o této chybě HTTP.