Átláthatósági megjegyzés: Azure AI Keresés

Az AI-bővítés az Foundry Tools gépi tanulási modelljeinek alkalmazása olyan tartalmakon keresztül, amelyek nyers formában nem könnyen kereshetők. A bővítés, az elemzés és a következtetés segítségével kereshető tartalmakat és szerkezeteket hozhat létre, ahol korábban még nem létezett.

Az AI-bővítés a Azure AI Keresés indexelő folyamat opcionális bővítménye, amely ugyanabban a régióban csatlakozik az Foundry Toolshoz, mint az ügyfél keresési szolgáltatása. A bővítési folyamatok alapvető összetevői ugyanazok, mint egy tipikus indexelő (indexelő, adatforrás, index), valamint egy képességkészlet, amely meghatározza az atomi bővítés lépéseit. A képességkészletek az Öntödei eszközök API-kon alapuló beépített készségek, például a Vision és a Language, illetve az Ön által megadott külső kódokat futtató egyéni készségek használatával állíthatók össze.

A vektoros keresés olyan információlekérési módszer, amelyben a dokumentumok és lekérdezések az indexekben vektorként jelennek meg egyszerű szöveg helyett. A vektorkeresésben a Azure AI Keresés külsőleg üzemeltetett gépi tanulási modellek a forrásbemenetek vektoros ábrázolását állítják elő, amelyek lehetnek szövegek, képek, hang- vagy videotartalmak. Ez a matematikai és normalizált tartalomábrázolás, az úgynevezett vektoros beágyazások közös alapot biztosítanak a keresési forgatókönyvekhez.

Ha minden vektor, a lekérdezések akkor is találnak egyezést a vektortérben, ha a társított eredeti tartalom más médiatípusú, például képek vagy szöveg vagy nyelv, mint a lekérdezés. A keresőmotor megvizsgálja az indexet, és olyan vektortartalmat keres, amely a leginkább hasonlít a lekérdezés vektorához, vagyis a legközelebbihöz. A matematikai vektorok kulcsszavak helyett való ábrázolása sokkal valószínűbbé teszi, hogy olyan egyezéseket talál, amelyek szemantikai jelentéssel bírnak, de szövegesen eltérőek, például az "autó" és az "auto". Ez részletesebben bemutatja a vektoros beágyazásokat és a hasonlósági algoritmus működését.

Kulcskifejezések

A szemantikai rangsoroló egy lekérdezés kontextusát vagy szemantikai jelentését használja egy új relevanciapont kiszámításához, amely az eredeti lekérdezés szándékához szemantikailag legközelebb álló eredményeket előléptet. A kezdeti eredményhalmaz egy BM25 rangsorolású kulcsszókeresésből, vektorkeresésből vagy mindkettőt tartalmazó hibrid keresésből származhat. Emellett "feliratokat" is létrehoz és ad vissza az eredményben található szó szerinti tartalom kinyerésével, valamint a "kiemelésekkel", hogy felhívja a figyelmet az eredményben lévő fontos tartalmakra. Akkor is visszaadhat "választ", ha a lekérdezés rendelkezik egy kérdés jellemzőivel ("mi a víz fagyási pontja"), és az eredmény olyan szöveget tartalmaz, amely a válasz jellemzőivel rendelkezik ("a víz 0°C-on vagy 32°F-en fagy le").

Kulcskifejezések

A lekérdezés újraírása szintetikus lekérdezéseket hoz létre, amelyek olyan lekérdezések, amelyeket mesterségesen hoznak létre vagy generálnak a tényleges ügyfélbemenetből a BM25-rangsorolás, vektorkeresés vagy hibrid keresés visszahívásának (a teljes rendelkezésre álló dokumentumokból lekért dokumentumok töredékének) javítása érdekében. Az eredeti lekérdezés a szintetikus lekérdezésekkel kombinálva optimális visszahívást biztosít a keresőmotorból.

A GenAI Prompt képesség Azure AI Keresés készségkatalógusának része, amely lehetővé teszi az ügyfelek számára, hogy az adataik alapján, mesterséges intelligenciával létrehozott tartalommal bővítsék keresési indexeiket. Az ügyfél szervezetének saját adatainak és preferenciáinak használatával ez a képesség segít testre szabott összegzéseket, válaszokat vagy megállapításokat készíteni, amelyek megfelelnek az igényeiknek.

Ez azt jelenti, hogy amikor a végfelhasználó az AI Search használatával keres az ügyfelek tartalmában, az AI által létrehozott tartalom informatívabb és környezettudatosabb eredményeket biztosíthat, így a felhasználók könnyebben megtalálhatják a keresett információkat.

Kulcskifejezések

Az ügynöki lekérés egy párhuzamos lekérdezésfeldolgozó architektúra, amely egy beszélgetéses nagy nyelvi modellt (LLM) használ "lekérdezéstervezőként". Az LLM szükség szerint egy vagy több szűrt albekérdezéssé alakítja a felhasználók beszélgetési előzményeit. Ezek az al lekérdezések egyszerre futnak az Azure AI Keresés indexen, és a szolgáltatás egyesíti a felső eredményeket, és a következő eredményt adja vissza:

• Egyetlen tartelemsorozat, amely a legrelevánsabb szakaszokat (alapadatokat) tartalmazza.
• Hivatkozási tömb (nem kötelező), amely a teljes forrásdokumentumokat vagy adattömböket teszi elérhetővé.
• Tevékenységtömb, amely felsorolja az összes műveletet, tokenszámot és késést a költségkövetés és a hibakeresés támogatásához.

Kulcskifejezések

Rendszer viselkedése

Számos beépített képesség a mesterséges intelligenciának a Azure AI Keresés való bővítéséhez használja ki az Foundry Tools előnyeit. A szakértelem használata során megfontolandó szempontokat az alábbi, beépített képességekre vonatkozó átláthatósági megjegyzésekben találja:

• Kulcskifejezés-kinyerési képesség: Nyelv – Kulcskifejezések kinyerése
• Nyelvfelismerési képesség: Nyelv – Nyelvfelismerés
• Entitáskapcsolás képesség: Nyelv – Entitáskapcsolás
• Entitásfelismerési képesség: Nyelv – Elnevezett entitásfelismerés (NER)
• PII-észlelési képesség: Nyelv – PII-észlelés
• Hangulati készség: Nyelv – Hangulatelemzés
• Képelemzési képesség: Vision – Képelemzés
• OCR-képesség: Látás – OCR
• Dokumentumelrendezési képesség: Dokumentumintelligencia

Az egyes képességek dokumentációjában többet tudhat meg a képességeikről, korlátaikról, teljesítményükről, kiértékelésükről és az integráció és a felelősségteljes használat módszereiről. Vegye figyelembe, hogy e készségek együttes használata összetettítő hatásokat eredményezhet (például az OCR használata során előforduló hibák a kulcskifejezések kinyerése során jelentkeznek).

Használati esetek

Példa használati esetekre

Mivel Azure AI Keresés egy teljes szöveges keresési megoldás, az AI-bővítés célja a strukturálatlan tartalmak keresési segédprogramjának javítása. Íme néhány példa a beépített képességek által támogatott tartalomnövelési forgatókönyvekre:

• A fordítás és a nyelvfelismerés lehetővé teszi a többnyelvű keresést.
• Az entitásfelismerés nagy méretű szövegtömbökből nyer ki személyeket , helyeket és egyéb entitásokat .
• A kulcskifejezések kinyerése azonosítja és kimenetként adja ki a fontos kifejezéseket.
• Az OCR felismeri a bináris fájlokban lévő nyomtatott és kézzel írt szöveget.
• A képelemzés a képtartalmakat írja le, és a leírásokat kereshető szövegmezőkként adja ki.
• Integrated vectorization egy előzetes verziójú funkció, amely meghívja a Azure OpenAI-beágyazási modellt az adatok vektorizálására és a beágyazások tárolására Azure AI Keresés hasonlósági keresés céljából.

Rendszer viselkedése

A vektorkeresés során a keresőmotor vektorokat keres az index beágyazási területén belül, hogy megtalálja a lekérdezésvektorhoz közelieket. Ezt a technikát legközelebbi szomszédkeresésnek nevezik. Ez az elemek közötti hasonlóság vagy távolság mértékét is számszerűsíti. A vektorok nagy fokú hasonlósága azt jelzi, hogy az eredeti adatok is hasonlóak. Az Azure AI Keresés által támogatott két vektorkeresési algoritmus ehhez a problémához különböző megközelítéseket alkalmaz, kompromisszumot kötve olyan jellemzők között, mint a késleltetés, az átviteli sebesség, a visszakeresési arány és a memória.

A legközelebbi "k" értékek valódi készletének megkereséséhez a bemeneti vektort teljes mértékben össze kell hasonlítania az adathalmaz összes vektorával. Bár minden vektor-hasonlóság számítása viszonylag gyors, a nagy adathalmazok teljes összehasonlításának végrehajtása számításilag költséges és lassú, mivel a szükséges összehasonlítások száma egyre kevesebb. Minél magasabb az egyes vektorok dimenzióssága, annál összetettebbek és lassabbak lesznek az egyes vektorok számításai.

Ennek a kihívásnak a megoldásához közelítő legközelebbi szomszéd (ANN) keresési módszereket használunk, hogy a visszahívási arányt a sebesség kedvéért feláldozzuk. Ezek a metódusok hatékonyan találják meg a lekérdezésvektorhoz leginkább hasonló jelölt vektorok kis halmazát, csökkentve a vektorok összehasonlításának teljes számát. Azure AI Keresés a hierarchikus Navigable Small World (HNSW) algoritmussal rendezi a nagy méretű adatpontokat egy valószínűségi hierarchikus gráfstruktúrába, amely lehetővé teszi a gyors hasonlóság keresését, miközben lehetővé teszi a keresési pontosság és a számítási költségek közötti kompromisszumot.

Azure AI Keresés több hasonlósági metrikát is támogat a legközelebbi szomszéd és az egyes vektoreredmények pontszámának meghatározásához. Ezek közé tartozik a koszinusz, az "Euklideszi" (más néven "l2 norma") és a "pont szorzat". A koszinusza kiszámítja a két vektor közötti szöget. Az euklideszi két vektor közötti euklideszi távolságot számítja ki, ami a két vektor különbségének l2-norma. A pont szorzatot mindkét vektor nagysága és a közöttük lévő szög befolyásolja. Normalizált beágyazási helyek esetén a pont termék egyenértékű a koszinusz hasonlóságával, de hatékonyabb.

Használati esetek

Példa használati esetekre

Számos olyan forgatókönyv van, ahol a vektorkeresés hasznos, és csak a vektorbeágyazások létrehozásához használt modell képességei korlátozzák őket. Íme néhány általános használati eset, ahol a vektorkeresés használható:

• Semantikus keresés: Szemantikai megértés kinyerése a szövegből egy modell használatával, például a Azure OpenAI Service beágyazási modellek használatával.
• Keresés különböző adattípusokban (multimodális): Kódolja a képekből, szövegből, hangból és videóból vagy egy mixből származó tartalmat, és mindegyikben egyetlen keresést hajt végre.
• Többnyelvű keresés: Többnyelvű beágyazási modell használatával több nyelven jeleníti meg a dokumentumot, hogy a támogatott nyelveken keressen találatokat.
• Hibrid keresés: A vektoros keresés a mező szintjén van implementálva, ami azt jelenti, hogy vektormezőket és kereshető szövegmezőket tartalmazó lekérdezéseket hozhat létre. A lekérdezések párhuzamosan futnak, és az eredmények egyetlen válaszba egyesülnek. A szemantikai rangsorolással rendelkező hibrid keresési eredmények a legjobb minőségi eredményeket mutatják.
• Szűrt vektorkeresés: A lekérdezés tartalmazhat vektoros lekérdezést és szűrőkifejezést. A más adattípusokra alkalmazott szűrők hasznosak a dokumentumok más feltételeken alapuló belefoglalásához vagy kizárásához.
• Vektoradatbázis: Ez a tiszta vektortároló hosszú távú memóriára vagy a nagy nyelvi modellek (LLM-ek) külső tudásbázisára használható. Például használja az Azure AI Keresés funkciót vektorindexként az Azure Machine Learning prompt flow-ban a lekérdezést támogató generálás (RAG) alkalmazásokhoz.

Használati eset kiválasztásakor megfontolandó szempontok

A vektorbeágyazások létrehozásához választott modellel kapcsolatos megfontolások és aggodalmak lehetnek. Minden modellnek lehetnek saját problémái az elfogultsággal és a méltányossággal kapcsolatban, és az alkalmazás használata előtt értékelni kell őket. Azure AI Keresés nem biztosít modelleket a tartalom szolgáltatás részeként történő vektorizálásához. A fenti szempontokat az Azure OpenAI Service átláthatósági megjegyzésben tekintheti meg. Más külső vagy OSS-modelleknek saját szempontjaik vannak a felülvizsgálathoz.

Rendszer viselkedése

Az első rétegbeolvasási lépés eredményeinek rangsorolása rendkívül erőforrás-igényes folyamat. Ha a rangsoroló feldolgozását a lekérdezési művelet várt késésén belül szeretné elvégezni, a rendszer bemenetként csak a lekérési motor 50 legjobb eredményét küldi el a szemantikai rangsorolónak. Ha túl hosszú, az 50 találatot először egy összegző lépésre küldi a rendszer, amely a szemantikai rangsoroló futtatása előtt kinyeri az egyes eredmények közül a legrelevánsabb tartalmat.

Az összegzési lépésben a beolvasott dokumentum először egy előkészítési folyamaton halad át, amely egyetlen hosszú sztringbe fűzi össze a különböző dokumentumbemeneteket. Ha a sztring túl hosszú, megtörténik a tartalom rövidítése, kiemelt figyelmet fordítva a szemantikai konfigurációhoz hozzáadott mezők tartalmának megtartására. A sztringek előkészítése után a gépi olvasási és nyelvmegjelenítési modelleken keresztül határozzák meg, hogy mely mondatok és kifejezések biztosítják a legjobb összefoglalást a lekérdezéshez képest. Ez a fázis kinyeri a tartalmat a sztringből, amelyet továbbít a szemantikai rangsorolási szakasznak, és opcionálisan szemantikai feliratot vagy szemantikai választ ad ki.

Az utolsó lépés, a szemantikai rangsor határozza meg az előző lépésben kinyert tartalom relevanciáját a felhasználó lekérdezéséhez, és egy szemantikai rangsorolási pontszámot ad ki 4-től (nagyon releváns) 0-ig (irreleváns). Ez a lépés a lekérdezés szövegén és az összegzett szövegen alapul, és összetettebb számításokat igényel, mint a lekérési rétegé.

Használati esetek

Példa használati esetekre

A szemantikai rangsoroló több forgatókönyvben is használható. A rendszer tervezett használati esetei a következők:

• Lekérésalapú kiterjesztett generáció (RAG): A szemantikai rangsoroló lehetővé teszi, hogy a generatív AI-alkalmazások válaszait olyan releváns keresési eredményekben alapozza meg, amelyek megfelelnek a megadott relevancia küszöbértékének. Az Azure OpenAI Service az Ön adatait az Azure AI Keresés segítségével bővíti az Azure OpenAI modellekkel. A szolgáltatáson belül a szemantikai rangsorolóval javíthatja a Azure OpenAI-modellhez táplált információk relevanciáját.
• Tartalomkeresés: A szemantikai rangsoroló lehetővé teszi, hogy szöveg és metaadatok elemzésével releváns tartalmakat keressen az adatokban. Például a learn.microsoft.com webhely keresése szemantikai rangsorolót használ a keresési relevancia javítására azoknak a szoftverfejlesztőknek, akik Microsoft műszaki dokumentációt keresnek.
• e-kereskedelmi keresés: A szemantikai rangsoroló lehetővé teszi az e-kereskedelmi vállalkozások számára, hogy a szemantikai relevancia alapján releváns termékeredményeket adjanak a keresési élményükhöz. Az online kiskereskedők például szemantikai rangsorolóval optimalizálják az e-kereskedelmi élményt azáltal, hogy releváns keresési eredményeket adnak az online vásárlók számára.
• QnA: Azure AI Keresés lehetővé teszi a szervezetek számára, hogy beszélgetési élményt nyújtsanak a felhasználók számára az adatbázisokban elérhető információk alapján megválaszolt kérdésekre. A gyártó például szemantikai rangsorolóval bővítheti a csevegőrobotok számára elérhető információkat. A mérnökök ezzel a csevegőrobottal kérdéseket tehetnek fel, és lekérhetik a lekérdezésükhöz kapcsolódó, magas szintű belső dokumentumokat, és azonnali válaszokat kaphatnak a lekért dokumentumokban.

Használati eset kiválasztásakor megfontolandó szempontok

Arra ösztönözzük az ügyfeleket, hogy innovatív megoldásaikat vagy alkalmazásaikat szemantikai rangsorolóval használják. A használati eset kiválasztásakor azonban íme néhány szempont:

• Bizalmas információk : Azok a gépi tanulási modellek, amelyek lehetővé teszik a szemantikai rangsoroló számára a keresési lekérdezésben lekért adatok feldolgozását, beleértve a bizalmas információkat, például a személyes adatokat és a pénzügyi információkat. Az ilyen használati esetek szemantikai rangsorolójának implementálása előtt fontolja meg az adatvédelmi és biztonsági következményeket.
• Elfogultság és méltányosság : A szemantikai rangsorolót mélytanulási modellek hajtják. Ezeket a mélytanulási modelleket nyilvános tartalommal képezték ki. Az ügyféladatokat a szemantikai rangsoroló modellek pontozza. Értékelje ki a szemantikai rangsoroló kimenetét, amikor használati eseteket választ ki, különösen olyan esetekben, amelyek hatással vannak a méltányosságra és az egyenlőségre, például a felvételre és toborzásra.
• Szabályozásnak való megfelelőség: Egyes iparágak, például az egészségügy és a pénzügy szigorúan szabályozottak, és korlátozhatják az AI és a gépi tanulás használatát. Mielőtt ilyen iparágakban használ szemantikai rangsorolót, győződjön meg arról, hogy a megoldás megfelel a vonatkozó előírásoknak és irányelveknek.

Rendszer viselkedése

Az eredeti lekérdezést egy finomhangolt kis nyelvi modellhez küldik, amelyet az Azure AI Keresés üzemeltet. Ez a modell nyilvános tartalommal lett betanítve. Az SLM szintetikus lekérdezések készletévé alakítja át az eredeti lekérdezést. Ezek a szintetikus lekérdezések szemantikailag közel állnak az eredeti lekérdezés szándékához, de más kifejezéseket tartalmaznak a keresőmotor visszahívásának javítása érdekében.

A szintetikus lekérdezések ezután össze lesznek kötve az eredeti lekérdezéssel, és elküldik a keresőmotornak. A BM25-rangsorolás végrehajtásakor a szintetikus lekérdezések kulcskifejezései az eredeti lekérdezéssel lesznek kombinálva. Ha vektorkeresést végez, az eredeti lekérdezés összefűzve lesz a szintetikus lekérdezésekkel a vektorbeágyazási lépés előtt.

Használati esetek

Példa használati esetekre

A lekérdezés újraírása több forgatókönyvben is használható. A lekérdezés újraírásához szemantikai rangsorolót kell használni.

• Csevegési interakció az adataival: A lekérdezés újraírása lehetővé teszi, hogy a generatív AI-alkalmazások válaszait olyan releváns keresési eredményekben állapítsa meg, amelyek megfelelnek a megadott relevanciapont-küszöbértéknek. Például a Azure OpenAI Service az ön adataival az Azure AI Keresés használatával bővíti az Azure OpenAI-modelleket. A szolgáltatáson belüli lekérdezés-újraírással javíthatja a Azure OpenAI-modellhez táplált információk eredményeinek relevanciáját.
• Konversational Questions and Answers (QnA): Azure AI Keresés lehetővé teszi a szervezetek számára, hogy beszélgetési élményt nyújtsanak a felhasználók számára az adatbázisokban elérhető információkon alapuló kérdések megválaszolásával. A gyártó például szemantikai rangsorolóval bővítheti a csevegőrobotok számára elérhető információkat. A mérnökök ezzel a csevegőrobottal kérdéseket tehetnek fel, és lekérhetik a lekérdezésükhöz kapcsolódó, magas szintű belső dokumentumokat, és azonnali válaszokat kaphatnak a lekért dokumentumokban.

Használati eset kiválasztásakor megfontolandó szempontok

Arra ösztönözzük az ügyfeleket, hogy innovatív megoldásaikban vagy alkalmazásaikban használják a lekérdezések újraírását. A használati eset kiválasztásakor azonban íme néhány szempont:

• Bizalmas információk és PII: A lekérdezések újraírását lehetővé tevő finomhangolt SLM feldolgozza a keresési lekérdezést, amely bizalmas információkat tartalmazhat. Az ilyen használati esetekre vonatkozó lekérdezés-újraírás implementálása előtt fontolja meg az adatvédelmi és biztonsági következményeket.
• A személyes adatok kitakarása a tudattalan elfogultság csökkentése érdekében. Például a cég önéletrajz-felülvizsgálati folyamata során előfordulhat, hogy blokkolni szeretnék egy jelölt nevét, címét vagy telefonszámát, hogy segítsenek csökkenteni a nemi vagy egyéb torzításokat a keresés során.
• Jogi és szabályozási szempontok. A szervezeteknek értékelnie kell a lehetséges konkrét jogi és szabályozási kötelezettségeket bármely AI-keresés használatakor, amely nem feltétlenül megfelelő minden iparágban vagy forgatókönyvben való használatra. A korlátozások regionális vagy helyi szabályozási követelményektől függően változhatnak. Emellett az AI Search nem a vonatkozó szolgáltatási feltételekben és a vonatkozó magatartási kódexekben tiltott módon lett kialakítva és nem használható.

A GenAI Prompt-készség lehetővé teszi az ügyfelek számára, hogy az adatforrásukban meglévő dokumentumtartalmakat és egyéni kéréseket átadják egy saját nyelvi modelljüknek, amelyet a Microsoft Foundry üzemeltet. A nyelvi modell feldolgozza a bemenetet, és visszaadja a bővített tartalmat, amelyet aztán betölt a keresési indexbe az eredeti dokumentumtartalom mellett. Ez a folyamat lehetővé teszi a keresési indexek kiegészítését többek között az ügyfél által meghatározott feltételek alapján, AI által létrehozott összefoglalókkal, képfeliratokkal és entitáskiemeléssel.

Az alábbi példák a GenAI Prompt készség működését mutatják be.

Nulla lövésű jegy összegzése

Cél: Lehetőséget adni a támogatási ügynököknek, hogy másodpercek alatt áttekintsék a többoldalas e-mail szálakat.

Hogyan működik:

• Az indexelés során minden hosszú jegybeszélgetés logikai szegmensekre van osztva (kezdeti kérés, kérdések nyomon követése, diagnosztikai naplók stb.).
• Minden szegmens esetében a nyelvi modell arra utasítja, hogy "foglalja össze ezt a szakaszt három éles mondatban".
• Az eredményként kapott absztraktok a lekérés során lecserélik a nyers szöveget, így az ügynökök és az alárendelt RAG-folyamatok csak a desztillált lényeget látják.

Miért segít: Tömör, szegmensszintű összefoglalók csökkentik a parancssor méretét, felgyorsítják a válaszgenerálást, és segítenek az ügynököknek az ügyfél alapvető problémájára összpontosítani.

Kis mintás entitás kinyerés

Cél: Támogatási lekérdezések, például "Az összes olyan jegy megjelenítése, ahol az X termék 500-os hibával összeomlott".

Hogyan működik?

• A rendszer a teljes jegyszöveget egy bevált példával együtt elküldi a képességnek, amely a kívánt kimeneti formátumot jeleníti meg (a legfontosabb entitások listáját, például a termék nevét, a hibakódot, az operációs rendszert és a súlyosságot).
• A modell kinyeri a 〈termék, error_code, platform, súlyosság minden előfordulását.
• Ez a strukturált lista a dokumentummal együtt van tárolva, lehetővé téve például az iOS összes nagy súlyosságú összeomlását felszínre hozó azonnali szűrőket.

Miért segít ez? Az előre feldolgozott entitások szűrhető adatokká alakítják a szabad formátumú ügyfélüzeneteket, lehetővé téve a támogatási vezetők számára, hogy észleljék a mintákat és prioritizálják a javításokat manuális elemzés nélkül.

Egy lépéses jegy útválasztási osztályozás

Cél: Az egyes jegyek automatikus átirányítása a megfelelő várólistára.

Hogyan működik:

• A rendszer minden jegyet egy üzenettel elemez, amely öt támogatási kategóriát sorol fel ( számlázás, technikai probléma, fiókhozzáférés, szolgáltatáskérés és általános visszajelzés), valamint egy referencia-példát ("Példajegy → Számlázás").
• A modell pontosan egy címkét rendel hozzá a fenti öt támogatási kategória alapján minden olyan jegyhez, amely bemenetként belép az AI Search rendszerbe.
• Az ügyfélszolgálati rendszer a címkével küld számlázási lekérdezéseket a pénzügyi szakembereknek, műszaki összeomlásokat a mérnököknek stb.

Miért segít: A gyors, konzisztens címkézés csökkenti a tévesen átirányított jegyeket, lerövidíti a megoldási időt, és javítja az ügyfelek elégedettségét.

Gondolatlánc-megoldási javaslat

Cél: A probléma megoldásához adja meg a támogatási ügynököknek a legjobb következő lépést.

Hogyan működik?

• A rendszer a teljes jegyet vagy a legutóbbi ügyfélüzenetet továbbítja a nyelvi modellnek.
• A felhasználói üzenet a rendszerkérés után a modellre utasítja a következőt: "Gondolja át lépésről lépésre belsőleg, de csak az ajánlott következő műveletet adja ki."
• A visszaadott útmutató a következő lehet: "Kérje meg az ügyfelet, hogy törölje a gyorsítótárat, és telepítse újra a 3.2.1-es verziót."
• Az ügynökök közvetlenül másolhatják vagy finomíthatják a javaslatot, mielőtt válaszolnak.

Miért segít: Az ügynökök a modell privát érvelési lánca nélkül kapnak végrehajtható javaslatokat, így időt takaríthat meg, miközben a hibaelhárítási lépések tömörek és relevánsak maradnak. Bizonyos esetekben a támogatási ügynök nincs elárasztva felesleges információkkal.

Használati esetek

Példa használati esetekre

A GenAI Prompt képesség javítja az adatok Azure AI Keresés belüli bővítését, és segít a válasz relevanciájának növelésében, hogy igazodjon a felhasználói szándékhoz és az elvárásokhoz. Az AI által létrehozott tartalom keresési indexekbe való integrálásával ez a képesség pontosabb és környezetfüggőbb keresési eredményeket tesz lehetővé. A legfontosabb alkalmazások a következők:

• Hosszú dokumentumok tömör összefoglalóinak létrehozása a gyorsabb információlekérés megkönnyítése érdekében: Egy jogi cég átfogó szerződéseket dolgoz fel, és a GenAI Prompt készség segítségével rövid összefoglalókat hoz létre, kiemelve a főbb záradékokat, megkönnyítve az ügyvédek számára az alapvető információk áttekintését a teljes dokumentumok elolvasása nélkül.
• Szöveges leírások létrehozása képekhez a kereshetőség és az akadálymentesség javítása érdekében: A médiavállalatok nagy mennyiségű képtárat kezelnek. A GenAI Prompt képesség alkalmazásával leíró feliratokat hoznak létre az egyes képekhez, így hatékony keresést és szervezést tesznek lehetővé a digitális eszközkezelő rendszerben.
• Meghatározott entitások vagy tények azonosítása és kinyerése dokumentumokból egyéni kritériumok alapján: A kutatóintézet a kémiai vegyületek említéseinek és tulajdonságainak kinyeréséhez elemzi a tudományos dokumentumokat. A GenAI Prompt képesség automatizálja ezt a kinyerést, és egy strukturált adatbázist hoz létre a kutatók számára, hogy gyorsan hozzáférhessenek a releváns adatokhoz.
• Dokumentumok besorolása meghatározott kategóriákba a jobb szervezés és lekérés érdekében: A biztosítótársaságok naponta számos típusú dokumentumot kapnak. A GenAI Prompt képesség használatával automatikusan kategóriákba sorolják ezeket a dokumentumokat, például jogcímek, szabályzatfrissítések és ügyfélvisszajelzések. Ez leegyszerűsíti a dokumentumkezelési folyamatot, és megkönnyíti adott dokumentumok megkeresését, ha szükséges.

Bár ezek gyakori alkalmazások, a képesség rugalmas, így az ügyfelek egyedi igényeikre szabott kéréseket határozhatnak meg.

Használati eset kiválasztásakor megfontolandó szempontok

Fontos megjegyezni, hogy a tartalom, a kérések és a nyelvi modellek telepítései teljes mértékben az ügyfelek által kezelt erőforrások. Az Foundry támogatja a modelltelepítések tartalombiztonsági szűrőit, és az ügyfelek feladata, hogy szükség szerint konfigurálják ezeket a szűrőket. A Foundryben elérhető konfigurációkon túl Azure AI Keresés nem alkalmaz további tartalombiztonsági szűrőket a GenAI Prompt-készségen belül.

A GenAI Parancssori készség megvalósításakor vegye figyelembe a következőket:

• Az AI által létrehozott tartalom emberi felülvizsgálatára szolgáló folyamatok implementálása, különösen olyan gyors átalakítások alkalmazásakor, amelyek hatással lehetnek az információk megbízhatóságára. Használja Azure AI Keresés debug munkamenetek eszközét a mintadokumentumok kéréseinek teszteléséhez a teljes körű üzembe helyezés előtt.
• Kerülje azokat a forgatókönyveket, amikor a rendszer használata vagy helytelen használata jelentős fizikai vagy pszichés sérülést okozhat az egyén számára. Például a betegek diagnosztizálására vagy gyógyszerek felírására szolgáló forgatókönyvek jelentős károkat okozhatnak. Az értelmes emberi felülvizsgálat és felügyelet beépítése a forgatókönyvbe segíthet csökkenteni a káros kimenetelek kockázatát.
• Gondosan fontolja meg az összes generatív használati esetet. A tartalomgenerálási forgatókönyvek nagyobb valószínűséggel hoznak létre nem kívánt kimeneteket, és ezek a forgatókönyvek gondos megfontolást és kockázatcsökkentést igényelnek.
• Jogi és szabályozási szempontok. A szervezeteknek értékelnie kell a lehetséges konkrét jogi és szabályozási kötelezettségeket bármely AI-keresés használatakor, amely nem feltétlenül megfelelő minden iparágban vagy forgatókönyvben való használatra. A korlátozások regionális vagy helyi szabályozási követelményektől függően változhatnak. Emellett az AI Search nem a vonatkozó szolgáltatási feltételekben és a vonatkozó magatartási kódexekben tiltott módon lett kialakítva és nem használható.

Rendszer viselkedése

A rendszer elküldi az eredeti beszélgetési vagy keresési lekérdezést egy ügyfél tulajdonában lévő Azure OpenAI-modellnek a lekérdezéstervezési lépések végrehajtásához. A lekérdezéstervezés egy optimalizált al-lekérdezéssorozatra bontja a folyamatot, amelyek a felhasználó mögöttes szándékát tükrözik, javított helyesírással és bővített szinonimák használatával. Azure AI Keresés ezután az összes allekérdezést egyszerre feldolgozza a teljes keresés-lekérési rendszeren keresztül. Az albekérdezéseket először a kulcsszókeresés és a vektorkeresés hibrid kombinációja dolgozza fel. A kulcsszókeresés megkeresi a keresési indexben lévő dokumentumokat az al lekérdezésekhez hasonló kulcsszavakkal. A vektoros keresés olyan dokumentumokat keres a keresési indexben, amelyek különböző kulcsszavakat tartalmazhatnak, de hasonló mögöttes jelentéssel rendelkeznek az al lekérdezésekhez. Ennek a hibrid keresésnek az eredményeit a szemantikai rangsoroló újra rangsorolja, hogy megtalálja azokat a dokumentumokat, amelyek a legjobban megfelelnek azon al-lekérdezés szándékának. A szolgáltatás ezután egyesíti és eltávolítja az ismétlődéseket a rangsorolt eredményekből, és a végső válasz elküldése előtt alkalmazza a válaszkorlátokat, például a maximális kimeneti hosszt.

Használati esetek

Példa használati esetekre

• Egyéni csevegőrobotok adatainak megalapozása. Csatolja a csevegőrobotot a cég hivatalos HR-szabályzataihoz és az alkalmazottak kézikönyvéhez, hogy amikor valaki megkérdezi: "Hány szabadnapot kapok?" A csevegőrobot közvetlenül ezekből a dokumentumokból kéri le a választ a találgatás helyett.
• A vállalati tudássegédek felkészítésére a felhasználói környezet, a szűrők és a csevegési előzmények tiszteletben tartásához. Ha például egy alkalmazott egy adott időszakra vonatkozó célokra kérdez rá, az asszisztens a szerepkörét, az aktuális szűrőket (például régió: USA) és a folyamatban lévő beszélgetést (például az utolsó téma a "Q2-folyamat" volt) használja a személyre szabott válasz létrehozásához.
• Olyan összetett információkeresési feladatok kezelése, ahol egyetlen kulcsszó lekérdezése kevés visszahívást tartalmaz. Ilyen feladatok lehetnek például hibaelhárítási útmutatók, orvosi-szakirodalom-kutatás vagy termék-összehasonlítások. Ha például egy technikus egyszerűen az "eszközhiba" kifejezésre keres, és általános eredményeket kap, az ügynöki lekérő a teljes beszélgetési előzménybe belefoglalhatja az eszközmodellt, a szoftververziót, a karbantartási előzményeket és a hálózat állapotát, hogy pontos, releváns cikkeket jelenítsen meg.
• Győződjön meg arról, hogy teljes átláthatóságot biztosít a lekért adatok, a miértek és a költségek között. Például a szabályozási dokumentumok és a korábbi auditálási eredmények összegzésekor kritikus fontosságú a pontos források (például a 2023. második negyedévi SEC-iktatás), a kiválasztási indokok (például "egyező kulcsszavak: kockázatfelfedés, származékok" ) és a kapcsolódó költségek (például jogkivonat-használat) ismerete.

Használati eset kiválasztásakor megfontolandó szempontok

• Késés: A lekérdezéstervezéshez szükséges második LLM-hívás hozzáadása elkerülhetetlenül meghosszabbítja a kérés menetidejét. Még a gyors modellek esetében is érdemes a maximális forgalom alatti többletkéséseket mérnie, és ellenőriznie kell, hogy az általános élmény elfogadható-e a felhasználók számára. Ha a késés kritikus, fontolja meg a gyakori lekérdezések gyorsítótárazását vagy kisebb, gyorsabb tervezési modellek használatát.
• Költség: A díjak két dimenzióban merülnek fel – OpenAI-modelljogkivonatok és keresési rangsorolási jogkivonatok. A query-planner hívást az Azure OpenAI számlázza mind a bemeneti, mind a kimeneti tokenek esetében, míg az egyes alkéréseket az Azure AI Keresés számlázza ki az általa rangsorolandó tokenekért. A rangsorolási tokenek ingyenesek a közönség előzetes kezdeti fázisában. Előre megbecsülheti a számítási feladat modell- és rangsorolási tokenszámait is.
• Bizalmas bemenetek: A rendszer a teljes beszélgetési előzményt továbbítja a planner-modellnek, ami azt jelenti, hogy minden személyazonosításra alkalmas vagy üzleti szempontból érzékeny adat elhagyja a közvetlen megbízhatósági határt. Az LLM meghívása előtt eltávolíthatja, maszkolhatja vagy kivonatolhatja ezeket az adatokat, és dokumentálja ezt a lépést az adatvédelem érdekében.
• Régió- és előzetes megtekintési korlátok: Az agentikus lekérés csak azokban a régiókban érhető el, ahol a szemantikai rangsoroló elérhető. Az egyes ügynökök csak egy keresési indexre mutathatnak. Győződj meg arról, hogy az adatokat és modellt üzemeltető régió támogatja az ügynök-alapú lekérdezést, és külön ügynököket tervezz, ha több indexet vagy földrajzi területet kell átfognod.
• Megfelelőség: Győződjön meg arról, hogy az LLM-alapú lekérdezéstervező használata megfelel-e az ágazatspecifikus vagy regionális követelményeknek (például adat-tartózkodási hely, adatvédelem vagy automatizált döntési szabályok az egészségügyben vagy a pénzügyekben). Megfelelő emberi felügyelet és ellenőrzés biztosítása. Érdemes lehet olyan vezérlőket is belefoglalni, amelyek segítségével a fejlesztők időben ellenőrizhetik, áttekinthetik és/vagy jóváhagyhatják a műveleteket, beleértve a tervezett feladatok vagy külső adatforrások felé irányuló hívások áttekintését is.
• Jogi és szabályozási szempontok: A felhasználóknak értékelnie kell a lehetséges konkrét jogi és szabályozási kötelezettségeket az Öntödei eszközök és megoldások használatakor, amelyek nem feltétlenül alkalmasak minden iparágban vagy forgatókönyvben való használatra. Ezenkívül az Öntödei eszközöket vagy megoldásokat nem a vonatkozó szolgáltatási feltételekben és a vonatkozó magatartási kódexekben tiltott módon tervezték és nem használhatják.

A Azure AI Keresés AI-bővítés a szolgáltatás indexelő és adatforrás-funkcióival hívja meg az Foundry Toolst a tartalombővítés végrehajtásához. Az ebben a folyamatban használt indexelők és adatforrások korlátozásai érvényesek lesznek. A kapcsolódó korlátozásokról további információt az indexelő és az adatforrás dokumentációjában talál. Az Azure AI Keresés AI-bővítési folyamata által használt egyes Foundry eszközökre vonatkozó korlátozások is érvényesek lesznek. Ezekről a korlátozásokról további információt az egyes szolgáltatásokra vonatkozó átláthatósági megjegyzésekben talál.

Technikai korlátozások, működési tényezők és tartományok

A Azure AI Keresés feltöltött összes vektort külsőleg kell létrehozni a szolgáltatásból egy tetszőleges modell használatával. Az Ön felelőssége, hogy figyelembe vegye az egyes modellek technikai korlátait és működési tényezőit, és hogy az általa létrehozott beágyazások optimalizálva vannak-e, vagy akár megfelelnek-e a használati esetnek. Ez magában foglalja mind a tartalomból kinyert jelentés következtetéseit, mind a vektor beágyazási tér dimenzióját.

A vektorizálási modell létrehoz egy beágyazási területet, amely meghatározza egy alkalmazás eredményként kapott végfelhasználói keresési élményét. Előfordulhat, hogy a modell hátrányai negatívan befolyásolják a funkcionalitást és a teljesítményt, ha egy modell nem igazodik megfelelően a kívánt használati esethez, vagy a létrehozott beágyazások rosszul vannak optimalizálva.

Bár a vektorkeresés számos korlátozása a beágyazások létrehozásához használt modellből ered, a lekérdezések során érdemes megfontolni néhány további lehetőséget. Két algoritmus közül választhat a vektorkeresési eredmények relevanciájának meghatározásához: kimerítő k-legközelebbi szomszédok (KNN) vagy Hierarchikus Navigálható Kisvilág. A k-legközelebbi szomszédok (KNN) módszer a teljes vektortérben egy brute-force keresést hajt végre, amely során megkeresi a lekérdezéshez leginkább hasonló egyezéseket azáltal, hogy kiszámítja az adatpontok közötti távolságokat, és megtalálja a lekérdezési pont pontos k legközelebbi szomszédjait. Bár pontosabb, ez az algoritmus lassú lehet. Ha az alacsony késés az elsődleges cél, fontolja meg a Hierarchikus Navigable Small World (HNSW) algoritmus használatát. A HNSW hatékony közelítő szomszédkeresést (ANN) hajt végre a nagy méretű beágyazási helyeken. Ezekről a lehetőségekről további információt a vektorkeresés dokumentációjában talál.

Ajánlott eljárások a rendszer teljesítményének javításához

• Töltsön időt az alkalmazás A/B tesztelésére az alkalmazás által támogatott különböző tartalom- és lekérdezéstípusokkal. Állapítsa meg, hogy melyik lekérdezési élmény a legjobb az igényeinek.
• Töltsön időt a modellek tesztelésére számos bemeneti tartalommal, hogy megértse, hogyan viselkedik számos helyzetben. Ez a tartalom potenciálisan érzékeny bemenetet is tartalmazhat annak megértéséhez, hogy van-e torzítás a modellben. Az Azure OpenAI Felelős AI áttekintése útmutatást nyújt a mesterséges intelligencia felelősségteljes használatához.
• Érdemes lehet Azure AI Tartalombiztonság hozzáadása az alkalmazásarchitektúrához. Tartalmaz egy API-t, amely észleli a felhasználók által létrehozott és mesterséges intelligenciával létrehozott szövegeket vagy képeket az alkalmazásokban és szolgáltatásokban.

A vektorkeresés kiértékelése és integrálása a használathoz

Az optimális teljesítmény biztosítása érdekében végezze el saját kiértékelését a implementálni kívánt megoldásokról vektoros kereséssel. Kövessen egy kiértékelési folyamatot, amely: (1) bizonyos belső érdekelt feleket használ az eredmények kiértékelésére, (2) A/B-kísérletezést használ a vektorkeresés bevezetésére a felhasználók számára, (3) fő teljesítménymutatókat (KPI-ket) és metrikákat figyel a szolgáltatás első üzembe helyezésekor, és (4) teszteli és módosítja a szemantikai rangsoroló konfigurációját és/vagy indexdefinícióját, beleértve a környező szolgáltatásokat, például a felhasználói felület elhelyezését vagy az üzleti folyamatokat.

Microsoft a visszaadott eredmények sebességének, méretezhetőségének és pontosságának mérésére különböző adatkészletek használatával szigorúan kiértékelte a vektorkeresést a késés, a visszahívás és a relevancia szempontjából. Az értékelési erőfeszítések elsődleges célja a megfelelő modell kiválasztása az adott használati esethez, a modell korlátainak és torzításának megértése, valamint a végpontok közötti vektorkeresési élmény szigorú tesztelése.

Technikai korlátozások, működési tényezők és tartományok

Előfordulhat, hogy a szemantikai eredmények, a feliratok és a válaszok nem tűnnek helyesnek. A szemantikai rangsoroló által használt modellek különböző adatforrásokra vannak betanítva (beleértve a nyílt forráskód és a Microsoft Bing korpuszból való kiválasztást). A szemantikai rangsoroló számos nyelvet támogat, és megpróbálja egyezni a felhasználói lekérdezésekkel a keresési eredményekből származó tartalommal. A szemantikai rangsoroló egy prémium szintű funkció is, amely a teljes körű megoldás teljes költségének kivetítésekor megfontolandó.

A szemantikai rangsoroló valószínűleg javítja a szemantikailag gazdag tartalmak, például cikkek és leírások relevanciáját. A kifejezés kontextusát és összefüggéseit keresi, a lekérdezésnek megfelelőbb egyezéseket emelve. A nyelvi megértés "megkeresi" a tartalomban található összegzéseket vagy feliratokat és válaszokat, de ellentétben a gpt-3.5-ös vagy GPT-4-es Azure OpenAI Service modellekhez hasonló generatív modellekkel, nem hozza létre őket. A válasz csak a forrásdokumentumokból származó szó szerinti szövegeket tartalmazza, amelyek ezután megjeleníthetők a keresési eredmények oldalán a hatékonyabb keresési élmény érdekében.

A legkorszerűbb, előre betanított modelleket használjuk az összegzéshez és a rangsoroláshoz. A felhasználók által a kereséstől elvárt gyors teljesítmény fenntartása érdekében a szemantikai összegzés és a rangsorolás csak az első 50 találatra lesz alkalmazva, az alapértelmezett pontozási algoritmus szerint. A bemenetek a keresési eredményben szereplő tartalomból származnak. Nem tud visszanyúlni a keresési indexhez, hogy hozzáférjen a keresési dokumentum azon mezőihez, amelyeket nem ad vissza a lekérdezési válasz. A bemenetek tokenhossza 8960. Ezek a korlátok szükségesek az ezredmásodpercnyi válaszidő fenntartásához.

Az alapértelmezett pontozási algoritmus a Bing és a Microsoft Research szolgáltatásból származik, és bővítményfunkcióként integrálva van a Azure AI Keresés infrastruktúrába. A modellek belsőleg vannak használatban, nem érhetők el a fejlesztő számára, és nem konfigurálhatók. A szemantikai rangsoroló mögött álló kutatással és AI-befektetésekkel kapcsolatos további információkért lásd: Hogyan használja a Bing AI az Azure AI Keresés programot (Microsoft Kutatási Blog).

A szemantikai rangsoroló válaszokat, feliratokat és kiemeléseket is kínál a válaszon belül. Ha például a modell egy lekérdezést kérdésnek minősít, és 70% biztos a válaszban, a modell szemantikai választ ad vissza. Emellett a szemantikai feliratok a legrelevánsabb tartalmakat biztosítják az eredményekben, és rövid kódrészletet biztosítanak, amely kiemeli a kódrészlet legrelevánsabb szavait vagy kifejezéseit.

A szemantikai rangsoroló eredményei az alapul szolgáló keresési index adatain alapulnak, és a modellek relevancia szerinti rangsorolást, válaszokat és feliratokat biztosítanak az indexből lekért információk alapján. Mielőtt éles környezetben használnál szemantikai rangsorolót, fontos további tesztelést végezni, és gondoskodni arról, hogy az adathalmaz pontos és megfelelő legyen a kívánt használati esethez. A szemantikai rangsoroló kiértékelésének módjáról további információt és példákat itt talál a tartalomban és a függelékben.

Rendszerteljesítmény

Számos AI-rendszerben a teljesítmény gyakran a pontossághoz viszonyítva van meghatározva, vagyis hogy az AI-rendszer milyen gyakran ad megfelelő előrejelzést vagy kimenetet. Nagy léptékű természetes nyelvi modellek esetén két különböző felhasználó tekintheti ugyanazt a kimenetet, és különböző véleményekkel rendelkezhet arról, hogy mennyire hasznos vagy releváns, ami azt jelenti, hogy ezeknek a rendszereknek a teljesítményét rugalmasabban kell meghatározni. Itt nagyjából úgy tekintjük a teljesítményt, hogy az alkalmazás úgy teljesít, ahogy Ön és a felhasználók elvárják, beleértve a káros kimenetek generálásának a tiltását is.

A szemantikai rangsorolót nyilvános tartalmakra képezték ki. Ennek eredményeképpen a szemantikai relevancia az indexben lévő dokumentumok és az ellene kiadott lekérdezések alapján változik. Fontos, hogy a saját ítélőképességét és kutatását használja, amikor ezt a tartalmat döntéshozatalra használja.

Ajánlott eljárások a rendszer teljesítményének javításához

• Töltsön időt az alkalmazás tesztelésére különböző lekérdezéstípusokkal, például kulcsszóval és hibrid és szemantikai rangsorolóval. Állapítsa meg, hogy melyik lekérdezési élmény a legjobb az igényeinek.
• Tegyen ésszerű erőfeszítéseket a szemantikai konfiguráció beállítására a funkció dokumentációjának megfelelően.
• Ne bízzon a szemantikai válaszokban, ha nem bízik a keresési indexben lévő információk pontosságában.
• Ne mindig bízzon a szemantikai feliratokban, mert az ügyféltartalomból olyan modellek sorozatán keresztül nyerik ki őket, amelyek rövid kódrészletben előrejelezik a legrelevánsabb válaszokat.

Szemantikai rangsoroló értékelése

Értékelési módszerek

A szemantikai rangsorolót belső teszteléssel értékelték ki, beleértve a több adathalmazra vonatkozó automatizált és emberi ítéletet, valamint a belső ügyfelek visszajelzéseit. A tesztelés magában foglalja a dokumentumok rangsorolását aszerint, hogy mennyire relevánsak vagy nem relevánsak, valamint a dokumentumok sorrendbe állítását relevancia alapján. Hasonlóképpen a feliratok és válaszok funkció is a belső tesztelésen keresztül lett rangsorolva.

Kiértékelési eredmények

Igyekszünk minden modellfrissítést regressziómentesen szállítani (azaz a frissített modellnek csak az aktuális üzemi modellt kell javítania). Minden jelöltet közvetlenül az aktuális üzemi modellhez hasonlítunk össze a kiértékelendő funkcióhoz megfelelő metrikákkal (például normalizált diszkontált összesített nyereség rangsoroláshoz és pontossághoz/visszahíváshoz a válaszokhoz). A szemantikai rangsoroló modellek betanítása, finomhangolása és kiértékelése a különböző tulajdonságokkal (nyelv, hossz, formázás, stílusok és tónusok) rendelkező dokumentumokra jellemző betanítási adatok széles skálájának használatával történik a keresési forgatókönyvek legszélesebb körének támogatásához. Betanítási és tesztelési adataink a következőkből származnak:

Dokumentumok forrásai:

• Tudományos és iparági teljesítménymutatók
• Ügyféladatok (csak tesztelés, ügyfél engedélyével)
• Szintetikus adatok

Lekérdezések forrásai:

• Lekérdezések teljesítmény teszteléshez
• Ügyfél által megadott lekérdezéskészletek (csak tesztelés, ügyfél engedélyével hajtva végre)
• Szintetikus lekérdezéskészletek
• Ember által létrehozott lekérdezéskészletek

A pontozó lekérdezések és dokumentumpárok címkéinek forrásai:

• Tudományos és iparági referenciacímkék
• Ügyfélcímkék (csak tesztelés, ügyfél engedélyével hajtva végre)
• Szintetikus adatfeliratok
• Emberi pontszámú címkék

Szemantikai rangsoroló kiértékelése és integrálása a használathoz

A szemantikai rangsoroló teljesítménye változó annak függvényében, hogy az emberek milyen valós felhasználási körülmények között használják. A szemantikai rangsoroló képességekkel rendelkező mélytanulási modellek által biztosított relevancia minősége közvetlenül korrelál a keresési index adatminőségével. A modellek például jelenleg tokenkorlátozásokkal rendelkeznek, amelyek a szemantikai válaszok esetén csak 8 960 tokent vesznek figyelembe. Ezért ha egy keresési lekérdezés szemantikai válasza egy hosszú dokumentum vége felé található (a 8960-as jogkivonatkorláton túl), a válasz nem lesz megadva. Ugyanez a szabály vonatkozik a feliratokra is. Emellett a szemantikai konfiguráció prioritási sorrendben listázza a releváns keresési mezőket. A lista mezőit átrendezheti, hogy a relevancia jobban megfeleljen az igényeinek.

A forgatókönyveik optimális teljesítményének biztosítása érdekében az ügyfeleknek szemantikai rangsorolóval kell elvégezniük saját értékelésüket az általuk implementálandó megoldásokról. Az ügyfeleknek általában olyan kiértékelési folyamatot kell követnie, amely: (1) bizonyos belső érdekelt feleket használ az eredmények kiértékelésére, (2) A/B-kísérletezést használ a szemantikai rangsoroló felhasználók számára történő bevezetésére, (3) kpi-ket és metrikákat figyel, amikor a szolgáltatás első alkalommal van üzembe helyezve a szolgáltatásokban, és (4) teszteli és módosítja a szemantikai rangsoroló konfigurációját és/vagy indexdefinícióját, beleértve a környező szolgáltatásokat, például a felhasználói felület elhelyezését vagy az üzleti folyamatokat.

Ha egy alkalmazást nagy téttel rendelkező területen vagy iparágban fejleszt, például az egészségügyben, az emberi erőforrásokban, az oktatásban vagy a jogi területen, mérje fel, milyen jól működik az alkalmazás az Ön forgatókönyvében, valósítsa meg az erős emberi felügyeletet, értékelje ki, hogy a felhasználók mennyire értik az alkalmazás korlátait, és megfeleljenek az összes vonatkozó törvénynek. A forgatókönyv alapján fontolja meg az egyéb kockázatcsökkentéseket.

Technikai korlátozások, működési tényezők és tartományok

Lehetnek olyan esetek, amikor a szintetikus lekérdezések helytelenek, túl sok korlátozással járnak, vagy túl drágák. A lekérdezés újraírása számos nyelvet támogat, és megpróbálja újraírni a felhasználói lekérdezéseket a visszahívás maximalizálása érdekében. A lekérdezési nyelvet bemenetként kell megadni. A lekérdezések újraírása a Szemantikai Rangsoroló (Azure AI Keresés funkció része a keresési relevancia javítása érdekében), amely egy prémium szintű funkció, amely további költségekkel jár. Ezt figyelembe kell venni a teljes körű megoldás általános költségeinek kivetítésekor. A lekérdezés újraírása csak akkor használható, ha engedélyezve van a szemantikai rangsoroló.

Mielőtt éles környezetben (az alkalmazás élő verziójában) használnál lekérdezés-újraírást, fontos további tesztelést végezni, és gondoskodni arról, hogy a szintetikus lekérdezések megfelelőek legyenek a kívánt használati esethez. A lekérdezések újraírásának kiértékelésével kapcsolatos további információkért és példákért tekintse meg az itt található tartalmat és függeléket.

Rendszerteljesítmény

Nagy léptékű természetes nyelvi modellek esetén két különböző felhasználó tekintheti ugyanazt a kimenetet, és különböző véleményekkel rendelkezhet arról, hogy mennyire hasznos vagy releváns, ami azt jelenti, hogy ezeknek a rendszereknek a teljesítményét rugalmasabban kell meghatározni. Itt nagyjából úgy tekintjük a teljesítményt, hogy az alkalmazás úgy teljesít, ahogy Ön és a felhasználók elvárják, beleértve a káros kimenetek generálásának a tiltását is.

A lekérdezések újraírásának teljesítménye attól függően változik, hogy milyen valós használatot és feltételeket használnak a felhasználók. A lekérdezés-újraírási modell által biztosított szintetikus lekérdezések minősége közvetlenül korrelál az eredeti keresési lekérdezéssel.

Az optimális teljesítmény biztosítása érdekében az ügyfeleknek saját kiértékelést kell végezniük az általuk implementálandó megoldásokról lekérdezés-újraírás használatával. Az ügyfeleknek általában olyan kiértékelési folyamatot kell követnie, amely:

1. belső érdekelt feleket használ az eredmények kiértékeléséhez,
2. A/B-kísérletezést használ a lekérdezés újraírásának a felhasználók számára történő bevezetéséhez, és
3. KPI-ket és metrikákat figyel, amikor a szolgáltatás első alkalommal van üzembe helyezve a szolgáltatásokban

Ajánlott eljárások a rendszer teljesítményének javításához

• Végezze el az alkalmazás A/B-tesztelését különböző lekérdezéstípusokkal (teljes szöveges, vektoros, hibrid vagy más típusú lekérdezésekkel). Állapítsa meg, hogy melyik lekérdezési élmény a legjobb az igényeinek.
• Ne mindig feltételezzük, hogy a lekérdezés újraírásával létrehozott összes szintetikus lekérdezés az eredeti lekérdezés pontos szándékát tükrözi. A szintetikus lekérdezéseket egy finomhangolt SLM hozza létre, amely szemantikailag hasonló lekérdezéseket hoz létre az eredeti lekérdezés szándékához, de nem feltétlenül felel meg a pontos szándéknak.

A lekérdezés újraírásának kiértékelése

Értékelési módszerek

A lekérdezések újraírását belső teszteléssel értékelték ki, beleértve a több adathalmaz automatizált és emberi megítélését, valamint a belső ügyfelek visszajelzéseit. A tesztelés magában foglalta a szemantikai rangsorolás eredményeinek relevanciájának kiértékelését és a lekérdezések újraírását az eredmények relevanciájához képest, csak szemantikai rangsorolással.

Kiértékelési eredmények

A rendszer az egyes jelölt modelleket közvetlenül a jelenleg üzembe helyezett modellel hasonlítja össze a kiértékelendő funkcióhoz megfelelő metrikákkal. A lekérdezés-újraírási modelleket a különböző tulajdonságokkal (nyelv, hossz, formázás, stílusok és tónusok) rendelkező lekérdezésekre jellemző nyilvános adatok széles skáláját használva hangolják és értékelik ki, hogy a keresési forgatókönyvek legtágabb tömbje is támogatott legyen. Betanítási és tesztelési adataink a következőkből származnak:

Dokumentumok forrásai:

• Tudományos és iparági teljesítménymutatók
• Ügyféladatok (csak tesztelés, ügyfél engedélyével)

Lekérdezések forrásai:

• Lekérdezések teljesítmény teszteléshez
• Ügyfél által megadott lekérdezéskészletek (csak tesztelés, ügyfél engedélyével hajtva végre)
• Szintetikus lekérdezéskészletek
• Ember által létrehozott lekérdezéskészletek

A pontozó lekérdezések és dokumentumpárok címkéinek forrásai:

• Tudományos és iparági referenciacímkék
• Ügyfélcímkék (csak tesztelés, ügyfél engedélyével hajtva végre)
• Szintetikus adatfeliratok
• Emberi pontszámú címkék

A lekérdezés újraírásának kiértékelése és integrálása a saját használat számára

Mivel a lekérdezések újraírása nyilvános tartalomra lett betanítve, a szintetikus lekérdezések a neki kiadott lekérdezések alapján változnak. Ezért fontos, hogy a saját ítélőképességét és kutatását használja, amikor ezt a tartalmat döntéshozatalra használja.

Technikai korlátozások, működési tényezők és tartományok

Bár a GenAI Prompt képesség hatékony képességeket kínál, elengedhetetlen bizonyos korlátozások felismerése:

• A képesség az Ügyfél által konfigurált tartalomszűrőkre támaszkodik az Foundryben. Azure AI Keresés nem biztosít további tartalombiztonsági mechanizmusokat ehhez a képességhez.
• Az AI által létrehozott tartalom minősége a kérések hatékonyságától és az alapul szolgáló nyelvi modelltől függ. Alapos tesztelésre van szükség annak biztosításához, hogy a kimenet megfeleljen a kívánt szabványoknak.
• A nagy mennyiségű adat összetett kérésekkel való feldolgozása jelentős számítási erőforrásokat igényelhet, és késést okozhat. Az erőforrásokat okosan tervezheti meg és oszthatja ki, hogy ne csak a teljesítmény és a költséghatékonyság maradjon fenn, hanem az adatfeldolgozás esetleges késésének megakadályozása érdekében is.

Rendszerteljesítmény

Ajánlott eljárások a rendszer teljesítményének javításához

A GenAI Prompt-készség teljesítményének optimalizálása:

• Használja Azure AI Keresés debug munkamenetek eszközét a mintadokumentumokra vonatkozó kérések teszteléséhez, biztosítva, hogy az AI által létrehozott tartalom megfeleljen az elvárásoknak a teljes üzembe helyezés előtt.
• Világos és részletes utasításokat készít a nyelvi modell hatékony irányításához, csökkentve az irreleváns vagy pontatlan kimenetek valószínűségét.
• Monitorozza a rendszer teljesítményét, és szükség szerint skálázza az erőforrásokat az AI-feldolgozás számítási igényeinek kezeléséhez.
• A kimenetek emberi felügyeletének ösztönzése a közzététel vagy a terjesztés előtt. A generatív AI-vel olyan tartalmak hozhatók létre, amelyek sértőek vagy irrelevánsak lehetnek a feladat szempontjából.

A GenAI Prompt készség kiértékelése

A GenAI Prompt-készség kiértékelése és integrálása a használathoz

A GenAI Prompt-készség előnyeinek maximalizálása az adott kontextusban az alábbi lépések végrehajtásával érhető el:

• Határozza meg a konkrét bővítési célokat, például tömör összegzéseket, kulcsentitások kinyerését vagy leíró metaadatok létrehozását a képesség alkalmazásának az üzleti igényekhez való igazításához.
• Kezdje az adatok egy részhalmazával a képesség teljesítményének felméréséhez és a szükséges módosítások elvégzéséhez. Ez a megközelítés lehetővé teszi a teljes körű üzembe helyezés előtti szabályozott kísérletezést és finomítást.
• Mechanizmusokat hozhat létre az AI által létrehozott tartalom minőségének és hatásának monitorozására. Kérjen visszajelzést a végfelhasználóktól, hogy azonosítsák a fejlesztési területeket, és biztosítsák, hogy a bővített adatok megfeleljenek a felhasználói elvárásoknak.

Technikai korlátozások, működési tényezők és tartományok

Lehetnek olyan esetek, amikor az LLM által létrehozott allekérdezések irrelevánsak, túlzottan korlátozóak, vagy növelik az útlevelek költségeit. Az ügynöki lekérés támogatja a GPT-4o család által kezelt összes nyelvet, de a létrehozott lekérdezési terv minősége továbbra is a felhasználói bemenet egyértelműségétől függ. Mivel az agentikus lekérdezés minden részlekérdezésnél a szemantikai rangsorolóra támaszkodik, engedélyeznie kell a szemantikai rangsorolót az indexen. A szemantikai rangsoroló egy prémium szintű, jogkivonat-alapú funkció; bár a rangsorolási díjakat a nyilvános előzetes verzió kezdeti szakaszában elengedik, ezek később lesznek alkalmazva, és a teljes bekerülési költségbe bele kell számolni.

Mielőtt agentikus lekérést helyezne át egy éles környezetbe, végezzen további tesztelést annak ellenőrzésére, hogy az allekérdezések és a visszaadott szakaszok megfelelnek-e a kívánt használati esetnek, hogy a késleltetés és a költség megfelel-e a szolgáltatási szintű célkitűzéseknek, és hogy az alapul szolgáló adatok nem tárnak-e fel bizalmas vagy nem megfelelő tartalmat.

Rendszerteljesítmény

A nagy léptékű nyelvmodell-rendszerekhez hasonlóan a különböző felhasználók is eltérő ítéleteket hozhatnak a visszaadott szakaszok hasznosságáról vagy relevanciájáról, ezért a teljesítményt rugalmasan kell meghatározni. Az ügynöki lekérés esetében a jó teljesítmény azt jelenti, hogy a végpontok közötti alkalmazás a felhasználók által várt tartalmat biztosítja – elfogadhatatlan késés, költség vagy káros kimenetek nélkül.

Az autonóm visszakeresés hatékonysága számos valós világ tényezőitől függ.

• Üzenet/ csevegési előzmények hossza
• LLM generálta részkérdések száma
• Indexméret és séma (kulcsszó, vektor, hibrid)
• Tervezési modell kiválasztása (GPT-4o vs. GPT-4o-mini)
• Szemantikai keresési konfiguráció és pontszám küszöbértékei

Ajánlott eljárások a rendszer teljesítményének javításához

• A régebbi csevegési fordulatokat összegezze vagy vágja le, hogy a tokenek használatát alacsonyan tartsa.
• A rangsoroló küszöbértékének finomhangolása, hogy csak a nagyon releváns szakaszok legyenek visszaadva
• Szűrők használata, ahol lehetséges

Agentikus lekérés kiértékelése

Az ügynöki visszakeresést belső tesztelés során értékelték, beleértve az automatizált és emberi ítéleteket több adathalmazon is. A tesztelés magában foglalta az ügynöki lekérés eredményeinek relevanciájának kiértékelését a szemantikai rangsorolással elért eredményekhez képest.

Értékelési módszerek

A rendszer a tervezői kérés, a modellvariáns, a részlekérdezés száma és a rangsorolási küszöbértékek által meghatározott ügynöki-lekérés konfigurációkat közvetlenül összehasonlítva értékeli a gyártási alapkonfigurációval. A többlekérdezési forgatókönyvekhez választott relevancia-, biztonsági, késési és költségmetrikacsomagot alkalmazunk. A valós használati esetek megbízhatóságának biztosítása érdekében a hangolás és a tesztelés a nyilvános és az ügyfél által jóváhagyott adatkészletek széles halmazán történik, amelyek különbözőek a nyelv, a lekérdezések hossza, a formázás, a stílus és a beszélgetési hangszín között. A tesztanyag forrása:

Dokumentumok forrásai:

• Tudományos és iparági teljesítménymutatók
• Ügyféladatok (csak tesztelés, ügyfél engedélyével)
• Lekérdezések forrásai:
• Lekérdezések teljesítmény teszteléshez
• Ügyfél által megadott lekérdezéskészletek (csak tesztelés, ügyfél engedélyével hajtva végre)
• Szintetikus lekérdezéskészletek
• Ember által létrehozott lekérdezéskészletek

A pontozó lekérdezések és dokumentumpárok címkéinek forrásai:

• Tudományos és iparági referenciacímkék
• Ügyfélcímkék (csak tesztelés, ügyfél engedélyével hajtva végre)
• Szintetikus adatfeliratok
• Emberi pontszámú címkék

Az autonóm lekérések értékelése és integrálása az Ön használatára

Mivel az ügynöki lekéréses tervezőt nagyrészt nyilvános adatokon tanítják be, a létrehozott allekérdezések minősége és relevanciája a tartománytól és az adott felhasználói kéréstől függően változik. Az ügynöki lekérés előnyeinek maximalizálása érdekében vegye figyelembe az alábbi lépéseket:

• Ellenőrizze a kimenetet, mielőtt üzleti szempontból kritikus döntéseket hoz: Manuálisan ellenőrizze a létrehozott alküldemények mintáját, és visszaadott dokumentumokat, hogy meggyőződjön arról, hogy megfelelnek a tartomány terminológiájának, pontosságának és megfelelőségi követelményeinek.
• Adjon meg tartományspecifikus információkat a tervezőnek. Szinonimatérképeket és teljes beszélgetési előzményeket biztosít, hogy az LLM a tartalomnak megfelelő nyelven tudja parafázni és bontsa le a lekérdezéseket, javítva a visszahívást és a pontosságot.
• Tartalék vagy védelmi logika implementálása: Ha a tervező alacsony megbízhatóságú vagy hatókörön kívüli al lekérdezéseket hoz létre, irányítsa a kérést egy egyszerűbb kulcsszó- vagy vektorkereséshez, vagy adjon meg egy pontosítási kérést a felhasználónak, megakadályozva, hogy a megbízhatatlan válaszok továbbterjedjenek az alsóbb rétegben.