Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Ważne
Tłumaczenia nieanglojęzyczne są dostępne tylko dla wygody. Zapoznaj się zEN-US wersją tego dokumentu, aby uzyskać ostateczną wersję.
Co to jest notatka dotycząca przezroczystości?
System sztucznej inteligencji obejmuje nie tylko technologię, ale także osoby, które będą jej używać, osoby, których to dotyczy, oraz środowisko, w którym jest wdrażana. Utworzenie systemu dopasowanego do zamierzonego celu wymaga zrozumienia, jak działa technologia, jakie są jego możliwości i ograniczenia oraz jak osiągnąć najlepszą wydajność. Notatki dotyczące przejrzystości Microsoftu mają na celu pomóc w zrozumieniu, jak działa nasza technologia sztucznej inteligencji, jakie wybory mogą podejmować właściciele systemu, które wpływają na wydajność i zachowanie systemu, oraz podkreślić znaczenie uwzględniania całego systemu, w tym technologii, ludzi i środowiska. Możesz użyć notatek przezroczystości podczas tworzenia lub wdrażania własnego systemu lub udostępniania ich osobom, które będą korzystać z systemu lub mają na nie wpływ.
Uwagi dotyczące przejrzystości Microsoft są częścią szerszego wysiłku firmy, aby w praktyce wprowadzić nasze zasady sztucznej inteligencji. Aby dowiedzieć się więcej, zobacz Microsoft zasady sztucznej inteligencji.
Podstawy usługi Foundry IQ (Wyszukiwanie AI platformy Azure)
Wprowadzenie
Usługa Foundry IQ udostępnia deweloperom narzędzia, interfejsy API i zestawy SDK do tworzenia rozbudowanej funkcji wyszukiwania w prywatnych, heterogenicznych treściach w aplikacjach internetowych, mobilnych i korporacyjnych. Wyszukiwanie jest podstawowe dla każdej aplikacji, która wyświetla dane użytkownikom. Typowe scenariusze obejmują wyszukiwanie katalogów lub dokumentów, sklepy detaliczne online lub eksplorację danych w przypadku zastrzeżonej zawartości.
Dane z możliwością wyszukiwania mogą być w postaci tekstu lub wektorów i pozyskiwane as-is ze źródła danych lub wzbogacone za pomocą sztucznej inteligencji w celu ulepszenia ogólnego środowiska wyszukiwania. Deweloperzy mogą konwertować dane int na reprezentacje liczbowe (nazywane wektorami), wybierając opcję wywoływania zewnętrznych modeli uczenia maszynowego (nazywanych modelami osadzania). Indeksatory mogą opcjonalnie zawierać zestawy umiejętności, które obsługują zaawansowany zestaw wzbogacania danych za pośrednictwem kilku Azure Language in Foundry Tools możliwości, takich jak Named Entity Recognition (NER) i wykrywanie informacji umożliwiających identyfikację osoby (PII), oraz Azure Vision in Foundry Tools możliwości, w tym optyczne rozpoznawanie znaków (OCR) i analizę obrazów.
Zobacz poniższe karty, aby uzyskać więcej informacji o tym, jak usługa Foundry IQ usprawnia wyszukiwanie dzięki wykorzystaniu narzędzi Foundry Tools lub innych systemów sztucznej inteligencji do lepszego rozumienia intencji, semantyki i domniemanej struktury zawartości klienta.
- Wzbogacanie za pomocą AI
- Wyszukiwanie wektorowe
- Ranker semantyczny
- Ponowne zapisywanie zapytań
- Umiejętność tworzenia promptów GenAI
- Wyszukiwanie agentowe
- Grafy wiedzy
Wzbogacanie z użyciem AI to zastosowanie modeli uczenia maszynowego z narzędzi Foundry Tools do treści, których w surowej postaci nie da się łatwo przeszukiwać. Poprzez wzbogacenie, analiza i wnioskowanie są używane do tworzenia przeszukiwalnej zawartości i struktury, której wcześniej nie było.
Wzbogacanie sztuczną inteligencją to opcjonalne rozszerzenie potoku indeksatora Foundry IQ, które łączy się z Foundry Tools w tym samym regionie co usługa Foundry IQ klienta. Potok wzbogacania ma te same podstawowe składniki co typowy indeksator (indeksator, źródło danych, indeks), a także zestaw umiejętności określający atomowe kroki wzbogacania. Zestaw umiejętności można zebrać, korzystając z wbudowanych umiejętności opartych na interfejsach API narzędzi Foundry, takich jak Widzenie i Język, lub niestandardowe umiejętności, które uruchamiają dostarczony przez użytkownika kod zewnętrzny.
Wyszukiwanie wektorowe to metoda pobierania informacji, w której dokumenty i zapytania są reprezentowane w indeksie jako wektory zamiast zwykłego tekstu. W wyszukiwaniu wektorowym modele uczenia maszynowego hostowane zewnętrznie z IQ usługi Foundry generują wektorowe reprezentacje danych wejściowych źródłowych, które mogą być tekstem, obrazami, audio lub zawartością wideo. Ta matematyczna i znormalizowana reprezentacja zawartości, nazywana osadzaniem wektorów, stanowi wspólną podstawę dla scenariuszy wyszukiwania.
Gdy wszystko jest wektorem, zapytanie może znaleźć dopasowanie w przestrzeni wektorowej, nawet jeśli skojarzona oryginalna zawartość znajduje się w innym typie nośnika, takim jak obrazy i tekst, lub język niż zapytanie. Aparat wyszukiwania skanuje indeks w poszukiwaniu zawartości wektorowej, która jest najbardziej podobna, czyli najbliżej wektora w zapytaniu. Dopasowywanie na podstawie matematycznego wektora reprezentacji zamiast słów kluczowych sprawia, że znacznie bardziej prawdopodobne jest znalezienie dopasowań, które dzielą znaczenie semantyczne, lecz różnią się tekstowo, takich jak "samochód" i "auto", na przykład. Zapewnia to bardziej szczegółowe wprowadzenie do osadzania wektorów i sposobu działania algorytmu podobieństwa.
Kluczowe terminy
| Termin | Definition |
|---|---|
| Osadzanie wektorów | Wysoce zoptymalizowany sposób reprezentowania danych, które odzwierciedlają znaczenie i zrozumienie wyodrębnione przez model uczenia maszynowego z obrazów, audio, wideo lub tekstu. Zawartość jest konwertowana na osadzenia wektorowe zarówno podczas indeksowania, jak i generowania zapytania. Wyszukiwanie wektorowe to pobieranie osadzonych elementów podanych w zapytaniu i wyszukiwanie najbardziej podobnych osadzania w indeksie. Wyniki są następnie zwykle sortowane według stopnia podobieństwa. |
| Przestrzeń osadzeń | Wszystkie wektory w korpusie pojedynczego pola zajmują to samo miejsce osadzania, w którym podobne elementy znajdują się blisko siebie, a różne elementy są bardziej oddalone. Wyższa wymiarowość miejsca osadzania może zawierać więcej informacji w jednym wektorze i znacznie poprawić środowisko wyszukiwania, ale przy znaczącym koszcie rozmiaru magazynu indeksu i większym opóźnieniu zapytań. |
Semantyczny ranker wykorzystuje kontekst lub semantyczne znaczenie zapytania, aby obliczyć nowy wynik relewancji, który promuje wyniki semantycznie najbliższe intencji oryginalnego zapytania na wyższe pozycje. Początkowy zestaw wyników może pochodzić z wyszukiwania słów kluczowych z klasyfikacją BM25 , wyszukiwaniem wektorów lub wyszukiwaniem hybrydowym obejmującym oba te elementy. Tworzy ona również i zwraca "napisy", wyodrębniając dosłowną zawartość z wyniku, oraz "wyróżnia", aby zwrócić uwagę na ważną zawartość w wyniku. Może również zwrócić "odpowiedź", jeśli zapytanie ma cechy pytania ("jaki jest mroźny punkt wody"), a wynik zawiera tekst o cechach odpowiedzi ("woda zamarza w temperaturze 0°C lub 32°F").
Kluczowe terminy
| Termin | Definition |
|---|---|
| Ranker semantyczny | Używa kontekstu i semantycznego znaczenia zapytania, aby poprawić istotność wyszukiwania przy użyciu interpretacji języka w celu ponownego pozycjonowania wyników wyszukiwania. |
| Semantyczne objaśnienia i wyróżnienia | Wyodrębnia zdania i frazy z dokumentu, które najlepiej podsumowują zawartość, z wyróżnionymi fragmentami kluczowymi w celu łatwego skanowania. Podpisy, które podsumowują wynik, są przydatne, gdy poszczególne pola zawartości są zbyt gęste dla strony wyników. Wyróżniony tekst podnosi poziom najbardziej odpowiednich terminów i fraz, dzięki czemu użytkownicy mogą szybko określić, dlaczego dopasowanie zostało uznane za istotne. |
| Odpowiedzi semantyczne | Udostępnia opcjonalną i dodatkową strukturę zwracaną z zapytania semantycznego. Zapewnia bezpośrednią odpowiedź na zapytanie, które wygląda jak pytanie. Wymaga to, aby dokument miał tekst z cechami odpowiedzi. |
Ponowne zapisywanie zapytań tworzy zapytania syntetyczne, które są zapytaniami tworzonymi sztucznie lub generowanymi na podstawie danych pochodzących od klientów, aby poprawić pokrycie (ułamek odpowiednich dokumentów pobranych z łącznej liczby dostępnych dokumentów) rankingu BM25, wyszukiwania wektorowego lub wyszukiwania hybrydowego. Oryginalne zapytanie jest łączone z zapytaniami syntetycznymi w celu zapewnienia optymalnego przywołania przez wyszukiwarkę.
Umiejętność GenAI Prompt jest częścią katalogu umiejętności IQ rozwiązania Foundry, umożliwiając klientom ulepszanie indeksów wyszukiwania przy użyciu zawartości wygenerowanej przez sztuczną inteligencję na podstawie ich danych. Korzystając z własnych danych i preferencji organizacji klienta, ta umiejętność ułatwia tworzenie dostosowanych podsumowań, odpowiedzi lub szczegółowych informacji, które są zgodne z ich potrzebami.
Oznacza to, że gdy użytkownik końcowy przeszukuje treści klientów za pośrednictwem Foundry IQ, wygenerowana przez sztuczną inteligencję zawartość może zapewnić bardziej informacyjne i kontekstowe wyniki, co ułatwia użytkownikom znajdowanie szukanych informacji.
Kluczowe terminy
| Termin | Definition |
|---|---|
| Umiejętności | Umiejętność Foundry IQ to modułowy komponent przetwarzania w potoku wzbogacania Foundry IQ. Te umiejętności stosują przekształcenia oparte na sztucznej inteligencji do nieprzetworzonej zawartości, takiej jak tekst, obrazy lub dokumenty, podczas indeksowania, umożliwiając wyodrębnianie ustrukturyzowanych, przeszukiwalnych informacji z danych bez struktury. |
| Monit | Tekst wysyłany do usługi w wywołaniu interfejsu API. Ten tekst jest następnie wprowadzany do modelu. Można na przykład wprowadzić następujące zapytanie: Przekonwertuj pytania na polecenie: Pyt.: Zapytaj Constance, czy potrzebujemy chleba A: send-msg Czy potrzebujemy chleba find constance? Pyt.: Wyślij wiadomość do Grega, aby dowiedzieć się, czy wszystko jest gotowe do środy. 1: Wyślij wiadomość find greg wszystko gotowe na środę? |
| Indeksy wyszukiwania | W usłudze Foundry IQ indeks jest strukturą danych, która przechowuje zawartość z możliwością wyszukiwania, definiuje sposób jego przechowywania i kontroluje, jak usługa zinterpretuje ją podczas uruchamiania zapytania. |
Wyszukiwanie agentowe pomaga aplikacji znaleźć dane źródłowe dla pytania użytkownika. W zależności od konfiguracji może on używać modelu do planowania wyszukiwań, uruchamiania wyszukiwań względem wybranej zawartości i łączenia wyników. Aplikacja może bezpośrednio użyć zwróconej zawartości lub dostarczyć ją do modelu językowego, aby wygenerować odpowiedź.
Microsoft Retriever 1 to wyspecjalizowany model hostowany przez IQ usługi Foundry do wyszukiwania. Sprawdza pytanie i pobrane dowody oraz może zażądać wykonania dodatkowego wyszukiwania lub zakończenia pobierania. Nie jest to model generowania odpowiedzi ogólnego przeznaczenia.
Aplikacja może używać Microsoft Retriever 1 do przeszukiwania pojedynczego indeksu bez tworzenia bazy wiedzy lub konfigurowania jej pod kątem obsługiwanych scenariuszy pobierania bazy wiedzy. Do zadań związanych z pobieraniem danych wykonywanych przez Microsoft Retriever 1 nie trzeba wdrażać oddzielnego modelu językowego. Synteza odpowiedzi wymaga odpowiednio i oddzielnie skonfigurowanego modelu.
Note
Microsoft Retriever 1 i bezpośrednie wyszukiwanie indeksu agentowego to funkcje w wersji zapoznawczej opisane tutaj dla wersji interfejsu API 2026-11-01-preview.
Kluczowe terminy wyszukiwania agentycznego
| Termin | Definition |
|---|---|
| Agentowa ekstrakcja | Proces pobierania, który może używać planowania opartego na modelu i wielu wyszukiwań w celu znalezienia informacji istotnych dla pytania. |
| Dane dotyczące uziemienia | Pobrana zawartość, którą aplikacja może wykorzystać jako dowód na poparcie odpowiedzi. |
| Źródło wiedzy | Skonfigurowane źródło treści, które może przeszukiwać baza wiedzy. |
| Baza wiedzy | Zasób, który organizuje źródła wiedzy i ustawienia pobierania oraz, w przypadku skonfigurowania, syntezy odpowiedzi. |
| Intencja semantyczna | Żądanie wyszukiwania, które opisuje informacje do pobrania z bazy wiedzy. |
| Wysiłek analizy pozyskiwania danych | Ustawienie bazy wiedzy, które wpływa na sposób planowania wyszukiwania oraz na to, ile pracy jest wykonywane. Zachowanie zależy od skonfigurowanych modeli i źródeł. |
| Synteza odpowiedzi | Oddzielny krok oparty na modelu, który generuje odpowiedź w języku naturalnym na podstawie pytania użytkownika i pobranej zawartości. |
Grafy wiedzy dla Foundry IQ opisują trzy uzupełniające sposoby organizowania zawartości na potrzeby pobierania:
-
Encje umożliwiają uporządkowane wyszukiwanie w kolekcjach dokumentów.
- Ontologia definiuje odpowiednie typy jednostek, relacje i właściwości. Modele językowe wykorzystują tę ontologię do wyodrębniania ustrukturyzowanych informacji z oryginalnego tekstu. Na przykład ontologia może reprezentować organizację będącą właścicielem produktu i mającą lokalizację. Podaj ontologię lub użyj narzędzi towarzyszących, aby pomóc w tworzeniu i uściśleniu jej.
-
Tematy organizują przygotowane fragmenty tekstu w powiązane grupy.
- Algorytmy grafowe używają podobieństwa między embeddingami fragmentów w celu utworzenia hierarchii tematów.
- Opcjonalny model językowy używa reprezentatywnych fragmentów do generowania etykiet i, w zależności od konfiguracji, opisów.
-
Mapy tematów zapewniają mapę nawigacji w istniejącej hierarchii tematów, łącząc szerokie tematy z węższymi tematami podrzędnymi.
- Aplikacje IQ usługi Foundry mogą używać tych struktur do eksploracji.
Note
Grafy wiedzy to funkcje w wersji zapoznawczej opisane tutaj dla wersji 2026-11-01-previewinterfejsu API .
Kluczowe terminy dotyczące programu Knowledge Graph
| Term | Definition |
|---|---|
| Osadzanie | Liczbowa reprezentacja zawartości wygenerowanej przez model sztucznej inteligencji używana do porównywania podobieństwa w znaczeniu. |
| Temat | Grupa powiązanych fragmentów. |
| Hierarchia tematów | Szerokie grupy tematów i bardziej precyzyjne podgrupy z linkami do fragmentów składowych. |
| Mapa witryny | Mapa nawigacji przedstawiająca istniejącą hierarchię tematów. |
| Ontologia | Schemat definiujący typy encji, relacje i właściwości, które powinien reprezentować graf. |
| Potrójny | Instrukcja ustrukturyzowana składająca się z tematu, relacji i obiektu, takiego jak organizacja będąca właścicielem produktu. |
| Zapytanie grafu | Ustrukturyzowane zapytanie służące do dopasowywania relacji, stosowania warunków lub obliczania wyników w grafie. |
| Proweniencja | Informacje łączące pobrany fragment lub wyodrębnioną relację ze źródłem. |
Możliwości
- Wzbogacanie sztucznej inteligencji
- Wyszukiwanie wektorowe
- Ranker semantyczny
- Ponowne zapisywanie zapytań
- Umiejętność tworzenia promptów dla GenAI
- Wyszukiwanie agentowe
- Grafy wiedzy
Zachowanie systemu
Kilka wbudowanych umiejętności do wzbogacania AI w narzędziu Foundry IQ korzystają z narzędzi Foundry. Zobacz notatki o przejrzystości dla każdej wbudowanej umiejętności powiązanej poniżej w celu rozważenia, czy warto używać tej umiejętności.
- Umiejętność wyodrębniania kluczowych fraz: język — wyodrębnianie kluczowych fraz
- Umiejętność wykrywania języka: język — wykrywanie języka
- Umiejętność łączenia jednostek: język — łączenie jednostek
- Umiejętność rozpoznawania jednostek: język — rozpoznawanie jednostek nazwanych (NER)
- Umiejętność wykrywania PII: Język — wykrywanie PII
- Umiejętność sentymentu: język — analiza sentymentu
- Umiejętność analizy obrazów: Wizja — analiza obrazów
- Umiejętność OCR: Rozpoznawanie obrazu - OCR
- Umiejętność układu dokumentu: analiza dokumentów
- Umiejętność rozumienia treści: Rozumienie treści
Zapoznaj się z dokumentacją każdej umiejętności, aby dowiedzieć się więcej o odpowiednich możliwościach, ograniczeniach, wydajności, ocenach i metodach integracji i odpowiedzialnego użycia. Należy pamiętać, że użycie tych funkcji w połączeniu może prowadzić do efektów kumulacji (na przykład błędy wprowadzone podczas korzystania z OCR będą utrzymywać się podczas wyodrębniania kluczowych fraz).
Przypadki użycia
Przykładowe przypadki użycia
Ponieważ Foundry IQ jest rozwiązaniem do wyszukiwania pełnotekstowego, celem wzbogacania za pomocą AI jest zwiększenie użyteczności nieustrukturyzowanych treści na potrzeby wyszukiwania. Oto kilka przykładów scenariuszy wzbogacania zawartości obsługiwanych przez wbudowane umiejętności:
- Funkcja translacji i wykrywania języka umożliwiają wyszukiwanie wielojęzyczne.
- Rozpoznawanie jednostek wyodrębnia osoby , miejsca i inne jednostki z dużych fragmentów tekstu.
- Wyodrębnianie kluczowych fraz identyfikuje, a następnie generuje istotne terminy.
- Funkcja OCR rozpoznaje tekst drukowany i odręczny w plikach binarnych.
- Analiza obrazów opisuje zawartość obrazu i wyprowadza opisy jako pola tekstowe z możliwością wyszukiwania.
- Zintegrowana wektoryzacja to funkcja, która wywołuje modele embeddingowe Foundry w celu wektoryzacji danych i przechowywania embeddingów w Foundry IQ na potrzeby wyszukiwania podobieństwa.
- Funkcja Content Understanding wyodrębnia tekst w formacie układu i mapuje go na pola z możliwością wyszukiwania. Wyodrębnia również ilustracje (w tym obrazy, wykresy, diagramy itd.) z dokumentów. Opcjonalnie można podzielić tekst na fragmenty semantyczne i generować tekstowe opisy rysunków przy użyciu dużego modelu językowego.
Zachowanie systemu
W wyszukiwaniu wektorowym wyszukiwarka wyszukuje wektory w obszarze osadzania w indeksie, aby znaleźć te blisko wektora zapytania. Ta technika jest nazywana wyszukiwaniem najbliższego sąsiada. Pomaga to również określić stopień podobieństwa lub odległości między elementami. Wysoki stopień podobieństwa wektorów wskazuje, że oryginalne dane również były podobne. Dwa algorytmy wyszukiwania wektorowego obsługiwane przez Foundry IQ mają różne podejścia do tego problemu, wiążąc się z kompromisami w różnych cechach, takich jak opóźnienie, przepływność, kompletność i pamięć.
Znalezienie rzeczywistego zestawu najbliższych sąsiadów "k" wymaga wyczerpującego porównania wektora wejściowego ze wszystkimi wektorami w zestawie danych. Chociaż każde obliczenie podobieństwa wektorów jest stosunkowo szybkie, wykonywanie tych wyczerpujących porównań w dużych zestawach danych jest kosztowne obliczenia i powolne ze względu na wymaganą liczbę porównań. Ponadto im większa jest wymiarowość każdego wektora, tym bardziej złożone i wolniejsze będą obliczenia w każdym wektorze.
Aby rozwiązać to wyzwanie, metody przybliżonego wyszukiwania najbliższego sąsiada (ANN) są używane do kompromisu między dokładnością a szybkością. Metody te mogą skutecznie znaleźć niewielki zestaw wektorów kandydatów, które najprawdopodobniej będą podobne do wektora zapytania, zmniejszając całkowitą liczbę porównań wektorów. Usługa Foundry IQ używa algorytmu hierarchicznego nawigowalnego małego świata (HNSW) do organizowania punktów danych o wysokich wymiarach w probabilistycznej hierarchicznej strukturze grafu, która umożliwia szybkie wyszukiwanie podobieństwa przy jednoczesnym umożliwieniu dostosowania kompromisu między dokładnością wyszukiwania a kosztem obliczeniowym.
Znalezionory IQ obsługuje również wiele metryk podobieństwa w celu określenia najbliższego sąsiada i wyniku każdego wektora. Obejmują one cosinus, "Euclidean" (znany również jako "l2 norm") i "produkt kropkowy". Cosinus oblicza kąt między dwoma wektorami. Euklidesowa oblicza odległość euklidesową między dwoma wektorami, która jest l2-normą różnicy tych dwóch wektorów. Produkt kropkowy ma wpływ zarówno na wielkości wektorów, jak i kąt między nimi. W przypadku znormalizowanych miejsc osadzania produkt kropkowy jest odpowiednikiem podobieństwa cosinusu, ale jest bardziej wydajny.
Przypadki użycia
Przykładowe przypadki użycia
Istnieje wiele scenariuszy, w których wyszukiwanie wektorów jest przydatne i ogranicza je tylko do możliwości modelu używanego do generowania osadzania wektorów. Poniżej przedstawiono niektóre ogólne przypadki użycia, w których można użyć wyszukiwania wektorów:
- Wyszukiwanie semantyczne: wyodrębnij semantyczne zrozumienie z tekstu przy użyciu modelu, na przykład przy użyciu modeli, takich jak modele osadzania usługi Azure OpenAI Service.
- Wyszukiwanie w różnych typach danych (wielomodalnych): kodowanie zawartości pochodzącej z obrazów, tekstu, dźwięku i wideo lub kombinacji oraz wykonywanie pojedynczego wyszukiwania we wszystkich z nich.
- Wyszukiwanie wielojęzyczne: Użyj wielojęzycznego modelu osadzania, aby przedstawić dokument w wielu językach, aby znaleźć wyniki w obsługiwanych językach.
- Wyszukiwanie hybrydowe: wyszukiwanie wektorowe jest implementowane na poziomie pola, co oznacza, że można tworzyć zapytania obejmujące pola wektorowe i pola tekstowe z możliwością wyszukiwania. Zapytania są uruchamiane równolegle, a wyniki są scalane w jedną odpowiedź. Wykazano, że wyniki wyszukiwania hybrydowego z semantycznym rankingiem zapewniają najlepszą jakość rezultatów.
- Wyszukiwanie wektorów filtrowanych: zapytanie może zawierać zapytanie wektorowe i wyrażenie filtru. Filtry stosowane do innych typów danych są przydatne do dołączania lub wykluczania dokumentów na podstawie innych kryteriów.
- Baza danych wektorów: ten czysty magazyn wektorów jest przeznaczony dla pamięci długoterminowej lub zewnętrznej bazy wiedzy dla dużych modeli językowych (LLMs). Na przykład użyj Foundry IQ jako indeksu wektorowego w przepływie promptów Azure Machine Learning dla aplikacji Retrieval Augmented Generation (RAG).
Zagadnienia dotyczące wybierania przypadku użycia
Mogą istnieć zagadnienia i obawy związane z określonym modelem, który wybierzesz do generowania osadzania wektorów. Każdy model może mieć własne problemy z stronniczością i uczciwością i należy je ocenić przed użyciem w aplikacji. Usługa Foundry IQ nie udostępnia żadnych modeli do wektoryzacji treści w ramach usługi. Zobacz Azure OpenAI Service Transparency Note aby zapoznać się z przykładami tych zagadnień. Inne modele innych firm lub systemów operacyjnych mają kwestie do przejrzenia.
Zachowanie systemu
Klasyfikowanie wyników pierwszego kroku pobierania warstwy jest procesem intensywnie korzystającym z zasobów. Aby ukończyć przetwarzanie rankera w przewidywanym czasie opóźnienia operacji zapytania, tylko 50 najlepszych wyników z silnika wyszukiwania jest wysyłanych do semantycznego modelu rankingowego jako dane wejściowe. Jeśli liczba wyników jest za duża, 50 wyników jest najpierw wysyłanych do kroku podsumowania, który wyodrębnia najbardziej odpowiednią treść z każdego wyniku przed uruchomieniem semantycznego rankera.
W kroku podsumowania pobrany dokument jest najpierw umieszczany w procesie przygotowywania, który łączy różne dane wejściowe dokumentu w jeden długi ciąg. Jeśli ciąg jest za długi, wykonywane jest ćwiczenie przycinania, z szczególnym naciskiem na zachowanie zawartości zawartej w polach dodanych do konfiguracji semantycznej. Po przygotowaniu ciągów są one przekazywane za pośrednictwem zrozumienia maszynowego i modeli reprezentacji języka w celu określenia, które zdania i frazy zapewniają najlepsze podsumowanie względem zapytania. Ta faza wyodrębnia zawartość z ciągu, który zostanie przekazany do semantycznego etapu klasyfikacji i opcjonalnie wyprowadza semantyczny podpis lub semantyczną odpowiedź.
Ostatni krok, semantyczny ranking, określa istotność zawartości wyodrębnionej w poprzednim kroku do zapytania użytkownika i generuje semantyczny wynik klasyfikacji od 4 (wysoce istotne) do 0 (bez znaczenia). Ten krok jest oparty na tekście zapytania i na podsumowaniu tekstu i obejmuje bardziej złożone obliczenia niż te z warstwy pobierania.
Przypadki użycia
Przykładowe przypadki użycia
Klasyfikator semantyczny może być używany w wielu scenariuszach. Zamierzone przypadki użycia systemu obejmują:
- Retrieval Augmented Generation (RAG): Semantic ranker umożliwia ugruntowanie odpowiedzi z generatywnych aplikacji SI na odpowiednich wynikach wyszukiwania spełniających zdefiniowany próg oceny trafności. Na przykład Azure OpenAI Service na Twoich danych używa Foundry IQ do rozszerzania modeli Azure OpenAI przy użyciu danych. W ramach tej usługi można użyć semantycznego klasyfikatora, aby poprawić trafność informacji podawanych do modelu Azure OpenAI.
- Wyszukiwanie zawartości: ranker semantyczny umożliwia wyszukiwanie odpowiedniej zawartości w danych przez analizowanie tekstu i metadanych. Na przykład, wyszukiwanie na witrynie learn.microsoft.com używa semantycznego rankera, aby poprawić trafność wyników dla deweloperów oprogramowania, którzy szukają dokumentacji technicznej Microsoft.
- wyszukiwanie e-commerce: Semantic ranker umożliwia firmom handlu elektronicznego ulepszanie sposobu wyszukiwania, zapewniając trafne wyniki dotyczące produktów na podstawie istotności semantycznej. Na przykład sprzedawcy detaliczni online używają semantycznego rankera, aby zoptymalizować swoje środowisko handlu elektronicznego, zapewniając odpowiednie wyniki wyszukiwania dla swoich kupujących online.
- QnA: Foundry IQ umożliwia organizacjom udostępnianie użytkownikom konwersacyjnego środowiska, odpowiadając na pytania na podstawie informacji dostępnych w ich bazach danych. Na przykład producent może używać semantycznego rangatora do rozszerzania informacji dostępnych dla czatbota. Inżynierowie mogą używać tego czatbota do zadawania pytań i pobierania wysoce odpowiednich dokumentów wewnętrznych związanych z zapytaniami i błyskawicznymi odpowiedziami w pobranych dokumentach.
Zagadnienia dotyczące wybierania przypadku użycia
Zachęcamy klientów do używania klasyfikatora semantycznego w swoich innowacyjnych rozwiązaniach lub aplikacjach. Poniżej przedstawiono jednak niektóre zagadnienia dotyczące wybierania przypadku użycia:
- Informacje poufne : modele uczenia maszynowego, które umożliwiają semantyczny ranker przetwarzają dane pobierane w zapytaniu wyszukiwania, w tym informacje poufne, takie jak dane osobowe i informacje finansowe. Przed wdrożeniem semantycznego klasyfikatora semantycznego w takich przypadkach użycia należy wziąć pod uwagę wszelkie implikacje dotyczące prywatności i zabezpieczeń.
- Stronniczość i sprawiedliwość : semantyczny ranga jest obsługiwana przez modele uczenia głębokiego. Te modele uczenia głębokiego zostały wytrenowane przy użyciu publicznej zawartości. Dane klientów są oceniane przez modele klasyfikatora semantycznego. Oceń dane wyjściowe rankera semantycznego podczas wybierania przypadków użycia, szczególnie w przypadku przypadków użycia, które mają wpływ na sprawiedliwość i równość, na przykład zatrudnianie i rekrutację.
- Zgodność z przepisami: Niektóre branże, takie jak opieka zdrowotna i finanse, są wysoce regulowane i mogą mieć ograniczenia dotyczące korzystania ze sztucznej inteligencji i uczenia maszynowego. Przed użyciem semantycznego klasyfikatora w takich branżach upewnij się, że rozwiązanie jest zgodne z odpowiednimi przepisami i wytycznymi.
Zachowanie systemu
Oryginalne zapytanie jest wysyłane do dostrojonego małego modelu językowego (SLM) hostowanego przez Foundry IQ. Ten model został wytrenowany przy użyciu treści publicznych. SlM przekształca oryginalne zapytanie w zestaw zapytań syntetycznych. Te syntetyczne zapytania są semantycznie zbliżone do intencji oryginalnego zapytania, ale zawierają inny zestaw terminów, aby poprawić skuteczność wyszukiwania.
Zapytania syntetyczne są następnie łączone z oryginalnym zapytaniem i wysyłane do wyszukiwarki. Gdy wykonuje klasyfikację BM25, kluczowe terminy z zapytań syntetycznych są łączone z oryginalnym zapytaniem. Podczas wykonywania wyszukiwania wektorowego oryginalne zapytanie jest łączone z syntetycznymi zapytaniami przed krokiem osadzania wektora .
Przypadki użycia
Przykładowe przypadki użycia
Ponowne zapisywanie zapytań może być używane w wielu scenariuszach. Ponowne zapisywanie zapytań wymaga użycia klasyfikatora semantycznego.
- Interakcja czatu z danymi: ponowne zapisywanie zapytań umożliwia uziemienie odpowiedzi z wygenerowanych aplikacji sztucznej inteligencji w odpowiednich wynikach wyszukiwania, które spełniają zdefiniowany próg oceny istotności. Na przykład Azure OpenAI Service On Your Data używa funkcji IQ usługi Foundry do rozszerzania modeli Azure OpenAI przy użyciu danych. Możesz użyć ponownego zapisywania zapytań w tej usłudze, aby poprawić trafność wyników informacji podanych w modelu Azure OpenAI.
- Pytania konwersacyjne i odpowiedzi (QnA): Usługa Foundry IQ umożliwia organizacjom udostępnianie użytkownikom konwersacji, odpowiadając na pytania na podstawie informacji dostępnych w bazach danych. Na przykład producent może używać semantycznego rangatora do rozszerzania informacji dostępnych dla czatbota. Inżynierowie mogą używać tego czatbota do zadawania pytań i pobierania wysoce odpowiednich dokumentów wewnętrznych związanych z zapytaniami i błyskawicznymi odpowiedziami w pobranych dokumentach.
Zagadnienia dotyczące wybierania przypadku użycia
Zachęcamy klientów do ponownego pisania zapytań w swoich innowacyjnych rozwiązaniach lub aplikacjach. Poniżej przedstawiono jednak niektóre zagadnienia dotyczące wybierania przypadku użycia:
- Poufne informacje i dane umożliwiające identyfikację osoby: dostrojony program SLM, który umożliwia ponowne zapisywanie zapytań, przetwarza zapytanie wyszukiwania, które może zawierać poufne informacje. Przed zaimplementowaniem ponownego zapisywania zapytań w takich przypadkach użycia należy wziąć pod uwagę wszelkie implikacje dotyczące prywatności i zabezpieczeń.
- Zredaguj dane osobowe, aby zmniejszyć nieświadomą stronniczość. Na przykład podczas procesu przeglądu CV firmy mogą chcieć zablokować imię i nazwisko, adres lub numer telefonu kandydata, aby zmniejszyć nieświadome uprzedzenia związane z płcią lub inne uprzedzenia podczas wyszukiwania.
- Zagadnienia prawne i regulacyjne. Organizacje muszą ocenić potencjalne szczególne zobowiązania prawne i regulacyjne związane z korzystaniem z Foundry IQ, które może nie być odpowiednie do użycia w każdej branży lub w każdym scenariuszu. Ograniczenia mogą się różnić w zależności od regionalnych lub lokalnych wymagań prawnych. Ponadto usługa Foundry IQ nie jest przeznaczona do użytku i nie może być używana w sposób zabroniony w odpowiednich warunkach świadczenia usług i odpowiednich kodeksach postępowania.
Umiejętność GenAI Prompt umożliwia klientom przekazywanie zawartości dokumentów, które znajdują się w ich źródłach danych, oraz monitów niestandardowych do modelu językowego, którego są właścicielami, hostowanego w usłudze Microsoft Foundry. Model językowy przetwarza dane wejściowe i zwraca wzbogaconą zawartość, która jest następnie pozyskiwana do indeksu wyszukiwania wraz z oryginalną zawartością dokumentu. Ten proces umożliwia rozszerzanie indeksów wyszukiwania za pomocą podsumowań generowanych przez sztuczną inteligencję, podpisów obrazów i wyodrębniania jednostek, między innymi na podstawie kryteriów zdefiniowanych przez klienta.
W poniższych przykładach pokazano, jak działa umiejętność GenAI Prompt.
Podsumowanie biletów zero-shot
Cel: Zapewnij agentom możliwość przeglądania wielostronicowych wątków poczty e-mail w ciągu kilku sekund.
Jak to działa:
- Podczas indeksowania każda długa rozmowa dotycząca zgłoszenia jest dzielona na logiczne segmenty (początkowe żądanie, pytania dodatkowe, dzienniki diagnostyczne itp.).
- Dla każdego segmentu model językowy jest instruowany, aby "podsumować tę sekcję w trzech zwięzłych zdaniach".
- Wynikowe abstrakcje zastępują nieprzetworzony tekst podczas pobierania, tak aby agenci (i podrzędne potoki RAG) widzieli tylko wydestylowaną esencję.
Dlaczego pomaga: zwięzłe podsumowania na poziomie segmentu zmniejszają rozmiar monitów, przyspieszają generowanie odpowiedzi i pomagają agentom skupić się na podstawowym problemie klienta.
Wyodrębnianie jednostek z kilkoma strzałami
Cel: Zapytania pomocy technicznej, takie jak "Pokaż mi wszystkie bilety, w których produkt X uległ awarii z powodu błędu 500".
Jak to działa
- Pełny tekst biletu jest wysyłany do umiejętności wraz z jednym przykładowym projektem, który pokazuje żądany format danych wyjściowych (lista kluczowych jednostek, takich jak nazwa produktu, kod błędu, system operacyjny i stopień ważności).
- Model wyodrębnia każde wystąpienie produktu, error_code, platformy, ważności.
- Ta lista ustrukturyzowana jest przechowywana w dokumencie, umożliwiając szybkie filtrowanie, na przykład wszystkich awarii o wysokiej powadze w systemie iOS.
Dlaczego pomaga: wstępnie obliczone jednostki przekształcają swobodne wiadomości klientów w filtrowalne dane, pozwalając liderom wsparcia dostrzegać wzorce i ustalać priorytety napraw bez ręcznego analizowania.
Jednokrotna klasyfikacja routingu zgłoszeń
Zadanie: Automatycznie przekieruj każdy bilet do właściwej kolejki.
Jak to działa:
- Każdy bilet jest analizowany z podpowiedzią zawierającą pięć kategorii pomocy technicznej — rozliczenia, problemy techniczne, dostęp do konta, wniosek o funkcję i opinie ogólne — oraz jeden przykład odniesienia ("Przykładowy bilet → Rozliczenia").
- Model przypisuje dokładnie jedną etykietę, na podstawie pięciu powyższych kategorii wsparcia, do każdego biletu, który trafia do systemu Foundry IQ jako dane wejściowe.
- System obsługi zgłoszeń używa etykiety do wysyłania zapytań rozliczeniowych do specjalistów finansowych, awarii technicznych do inżynierów itd.
Dlaczego pomaga: Szybkie, spójne etykietowanie zmniejsza liczbę błędnie kierowanych zgłoszeń, skróca czas ich rozwiązywania i poprawia zadowolenie klientów.
Sugestia rozwiązania łańcucha myśli
Cel: zapewnij agentom pomocy technicznej jeden najlepszy następny krok, aby rozwiązać ten problem.
Jak to działa
- Cały bilet ( lub jego najnowszy komunikat klienta) jest przekazywany do modelu językowego.
- Komunikat użytkownika instruuje model po wyświetleniu monitu systemowego: "Pomyśl krok po kroku wewnętrznie, ale wyprowadzaj tylko zalecaną następną czynność".
- Zwrócone wskazówki mogą być następujące: "Poproś klienta o wyczyszczenie pamięci podręcznej i ponowne zainstalowanie wersji 3.2.1".
- Agenci mogą skopiować sugestię bezpośrednio lub uściślić ją przed odpowiedzią.
Dlaczego pomaga: Agenci otrzymują rekomendację z możliwością działania bez prywatnego łańcucha rozumowania modelu, oszczędzając czas, zachowując zwięzłość i istotne kroki rozwiązywania problemów. W niektórych przypadkach konsultant nie jest zalewany niepotrzebnymi informacjami.
Przypadki użycia
Przykładowe przypadki użycia
Umiejętność GenAI Prompt zwiększa wzbogacanie danych w IQ platformy Foundry, pomagając w reagowaniu na nie w celu dopasowania do intencji i oczekiwań użytkownika. Dzięki zintegrowaniu zawartości wygenerowanej przez sztuczną inteligencję z indeksami wyszukiwania ta umiejętność umożliwia dokładniejsze i kontekstowe wyniki wyszukiwania. Kluczowe aplikacje obejmują:
- Generowanie zwięzłych podsumowań długich dokumentów w celu ułatwienia szybszego pobierania informacji: firma prawna przetwarza obszerne kontrakty i wykorzystuje umiejętności GenAI Prompt do tworzenia krótkich podsumowań wyróżniających kluczowe klauzule, co ułatwia prawnikom przeglądanie podstawowych informacji bez odczytywania całych dokumentów.
- Tworzenie opisów tekstowych obrazów w celu zwiększenia możliwości wyszukiwania i ułatwień dostępu: firma medialna zarządza ogromną biblioteką obrazów. Stosując umiejętności GenAI Prompt, generują opisowe podpisy dla każdego obrazu, umożliwiając wydajne wyszukiwanie i organizację w systemie zarządzania zasobami cyfrowymi.
- Identyfikowanie i wyodrębnianie określonych jednostek lub faktów z dokumentów na podstawie kryteriów niestandardowych: Instytucja badawcza analizuje dokumenty naukowe, aby wyodrębnić wzmianki o związkach chemicznych i ich właściwościach. Umiejętności GenAI Prompt automatyzują to wyodrębnianie, wypełniając ustrukturyzowaną bazę danych, aby naukowcy szybko uzyskiwali dostęp do odpowiednich danych.
- Klasyfikowanie dokumentów do zdefiniowanych kategorii dla lepszej organizacji i wyszukiwania: firma ubezpieczeniowa otrzymuje codziennie wiele typów dokumentów. Korzystając z umiejętności monitu genAI, automatycznie klasyfikują te dokumenty do kategorii, takich jak oświadczenia, aktualizacje zasad i opinie klientów. Usprawnia to proces zarządzania dokumentami i ułatwia znajdowanie określonych dokumentów w razie potrzeby.
Chociaż są to typowe aplikacje, umiejętność jest elastyczna, umożliwiając klientom definiowanie monitów dostosowanych do ich unikatowych wymagań.
Zagadnienia dotyczące wybierania przypadku użycia
Należy pamiętać, że zawartość, polecenia i wdrożenia modelu językowego są całkowicie zasobami zarządzanymi przez klienta. Rozwiązanie Foundry obsługuje filtry bezpieczeństwa zawartości dla wdrożeń modeli, a klienci są odpowiedzialni za konfigurowanie tych filtrów zgodnie z potrzebami. Poza konfiguracjami dostępnymi w narzędziu Foundry, Foundry IQ nie stosuje dodatkowych filtrów bezpieczeństwa treści w umiejętności GenAI Prompt.
Podczas implementowania umiejętności promptu GenAI należy wziąć pod uwagę następujące kwestie:
- Wdróż procesy weryfikacji treści generowanych przez sztuczną inteligencję, zwłaszcza w przypadku stosowania przekształceń promptów, które mogą mieć wpływ na wiarygodność informacji. Skorzystaj z narzędzia sesji debugowania Foundry IQ, aby przetestować monity na przykładowych dokumentach przed wdrożeniem na pełną skalę.
- Unikaj scenariuszy, w których użycie lub niewłaściwe użycie systemu może spowodować znaczne uszkodzenie fizyczne lub psychiczne osoby. Na przykład scenariusze, które diagnozują pacjentów lub przepisują leki, mogą spowodować znaczne szkody. Włączenie znaczącego przeglądu ludzkiego i nadzoru do scenariusza może pomóc zmniejszyć ryzyko szkodliwych wyników.
- Starannie rozważ wszystkie przypadki użycia generatywnej sztucznej inteligencji. Scenariusze generowania zawartości mogą częściej tworzyć niezamierzone dane wyjściowe, a scenariusze te wymagają starannego rozważenia i ograniczenia ryzyka.
- Kwestie prawne i regulacyjne. Organizacje muszą ocenić potencjalne konkretne zobowiązania prawne i regulacyjne w przypadku korzystania z Foundry IQ, który może nie być odpowiedni do użycia w każdej branży lub scenariuszu. Ograniczenia mogą się różnić w zależności od regionalnych lub lokalnych wymagań prawnych. Ponadto usługa Foundry IQ nie jest przeznaczona do użytku i nie może być używana w sposób zabroniony w odpowiednich warunkach świadczenia usług i odpowiednich kodeksach postępowania.
Zachowanie systemu
Microsoft Retriever 1 współpracuje z potokiem pobierania i klasyfikowania wyszukiwania. Wyszukiwanie najpierw pobiera i klasyfikuje wyniki przy użyciu oryginalnego zapytania indeksu lub intencji semantycznych dostarczonych do bazy wiedzy. Następnie model otrzymuje pytanie, skumulowaną historię wyszukiwania i ograniczony widok pobranych danych. Może zaproponować dodatkowe zapytanie. Wyszukiwanie wykonuje dodatkowe zapytania. Limity usługi lub inne warunki żądania mogą spowodować zakończenie pobierania, zanim model zakończy generowanie odpowiedzi.
Zachowanie różni się w zależności od punktu wejścia i konfiguracji:
- Bezpośrednie wyszukiwanie w jednym indeksie. Microsoft Retriever 1 może prowadzić pobieranie na jednym indeksie bez bazy wiedzy.
- Baza wiedzy z minimalnym nakładem pracy. Po skonfigurowaniu Microsoft Retriever 1 i podaniu jednej kwalifikującej się intencji mechanizm pobierania może korzystać z powiązanych działań następczych w ramach Microsoft Retriever 1. Bez Microsoft Retriever 1 Minimal używa podanych intencji bez tej pętli. Gdy podasz wiele intencji, Minimal pomija działania następcze modułu Microsoft Retriever 1.
- Baza wiedzy z sparowanym automatycznym wysiłkiem. Niektóre żądania kończą się po początkowym wyszukiwaniu bez wywołania Microsoft Retriever 1. Uprawnione żądania mogą korzystać z Microsoft Retriever 1 i być przekierowywane do oddzielnie skonfigurowanego modelu zewnętrznego, gdy potrzebne jest dalsze planowanie. Wiele intencji wejściowych pomija Microsoft Retriever 1 i eskaluje do zewnętrznego planera.
- Planowanie modelu zewnętrznego. Obsługiwany model języka zewnętrznego może planować pobieranie bazy wiedzy przy użyciu kontekstu konwersacji, instrukcji pobierania i wyboru źródła wiedzy w zależności od konfiguracji.
W przypadku zawartości indeksowanej pobieranie może używać słowa kluczowego, wektora lub wyszukiwania hybrydowego, w zależności od żądania i konfiguracji. Wyszukiwanie klasyfikuje potencjalne wyniki przed sprawdzeniem ich przez model. Odpowiedź bazy wiedzy może obejmować zawartość uziemienia, odwołania i informacje o aktywności. Bezpośrednie wyszukiwanie w indeksie zwraca dokumenty i może ujawniać informacje diagnostyczne na żądanie, w tym podzapytania i użycie.
Przypadki użycia wyszukiwania agentowego
Poniższe scenariusze ilustrują możliwe zastosowania:
- Ugruntowanie asystenta wiedzy. Pobierz fragmenty z zasad lub dokumentacji produktu, aby aplikacja mogła przedstawić źródła pomocnicze z odpowiedzią.
- Rozwiązywanie problemów. Wyszukaj dokumentację, używając pytania z produktem, wersją i zaobserwowanymi objawami. Dalsze wyszukiwania mogą znaleźć więcej dowodów.
- Badania i porównanie. Zbierz fragmenty z kilku dokumentów dla aplikacji lub osoby do porównania. Na przykład analityk może badać raporty z wielu okresów i weryfikować fragmenty używane w podsumowaniu.
Zagadnienia dotyczące przypadków użycia pobierania agenta
Wybierz ścieżkę pobierania na podstawie zawartości, pytania i aplikacji. Bezpośrednie wyszukiwanie w indeksie pozwala uniknąć bazy wiedzy, gdy jeden indeks jest wystarczający. Baza wiedzy zapewnia orkiestrację skonfigurowanych źródeł i może obsługiwać oddzielną syntezę odpowiedzi. Prostsze zapytanie słowem kluczowym, wektorowe lub hybrydowe może być wystarczające. Zastanów się, czy użytkownicy potrzebują planowania konwersacyjnego, wyboru źródła, instrukcji pobierania lub wygenerowanych odpowiedzi.
W przypadku aplikacji, które mają wpływ na decyzje wtórne, należy ocenić kompletną aplikację i zapewnić odpowiedni nadzór człowieka. Należy wziąć pod uwagę prywatność, dostęp, wymagania regionalne, opóźnienia i koszty dla każdego skonfigurowanego etapu.
- Zgodność: Upewnij się, że korzystanie z planisty zapytań opartego na usłudze LLM jest zgodne z wymaganiami specyficznymi dla sektora lub regionalnymi (na przykład miejscem przechowywania danych, prywatnością lub zautomatyzowanymi regułami podejmowania decyzji w opiece zdrowotnej lub finansach). Zapewnienie odpowiedniego nadzoru i kontroli człowieka. Rozważ uwzględnienie kontrolek ułatwiających deweloperom weryfikowanie, przeglądanie i/lub zatwierdzanie akcji w odpowiednim czasie, które mogą obejmować przeglądanie planowanych zadań lub wywołań do zewnętrznych źródeł danych.
- Kwestie prawne i regulacyjne: Użytkownicy muszą ocenić potencjalne konkretne obowiązki prawne i regulacyjne w przypadku korzystania z narzędzi i rozwiązań usługi Foundry, które mogą nie być odpowiednie do użycia w każdej branży lub scenariuszu. Ponadto, Foundry Tools lub rozwiązania nie są przeznaczone do używania i mogą nie być używane w sposób zabroniony w odpowiednich warunkach świadczenia usług i obowiązujących kodeksach postępowania.
Zachowanie systemu Knowledge Graph
Ekstrakcja encji zarządzanych używa skonfigurowanej ontologii do wyodrębniania encji i relacji z oryginalnych fragmentów dokumentów. Domyślny monit nakazuje modelowi użycie słownictwa schematu, zachowanie kierunku relacji i identyfikatorów oraz uniknięcie potwierdzenia pozytywnych relacji z negowanych instrukcji. Te instrukcje nie gwarantują poprawnego ani wyczerpującego wyodrębniania.
Planowanie zapytań grafowych w języku naturalnym odbiera pytanie użytkownika i kontekst schematu grafu oraz ma na celu zapytanie tylko do odczytu w podzestawie obsługiwanego języka zapytań. Planowanie lub wykonywanie może zakończyć się niepowodzeniem. Pomyślne zapytanie może nadal błędnie interpretować pytanie lub pobierać dowody z niekompletnego lub niepoprawnie wyodrębnionego grafu.
Po włączeniu etykietowania tematów model językowy otrzymuje reprezentatywne próbki, a nie każdy fragment w grupie. Etykiety i opcjonalne opisy to ułatwienia nawigacji, a nie autorytatywne podsumowania całej zawartości wszystkich elementów. Klastrowanie tematów może nie odzwierciedlać dokładnie zawartości w każdym fragmencie.
Dowody i odwołania do programu Knowledge Graph
Wyodrębnianie jednostek zachowuje informacje o pochodzeniu łączące relacje z oryginalnymi fragmentami i dokumentami nadrzędnymi. Aplikacje mogą zdecydować, czy uwzględnić oryginalną zawartość źródłową z wynikami grafu. Uwzględnienie tej zawartości ułatwia użytkownikom przeglądanie fragmentów, które stanowią podstawę wyniku, ale można ograniczyć ilość zwracanej zawartości.
Wyniki grafu i oryginalne fragmenty źródłowe używają różnych odwołań. Aplikacje decydują, jak przedstawić te dowody i wygenerować odpowiedzi. Wyraźnie odróżniaj informacje z grafu od oryginalnej zawartości źródłowej, aby użytkownicy mogli sprawdzać oba te elementy.
W przypadku tematów aplikacje powinny łączyć każde twierdzenie z odpowiednim fragmentem i dokumentem źródłowym. Wyraźnie zidentyfikuj etykiety wnioskowane przez model, gdy temat nie ma podanej nazwy.
Przypadki użycia grafu wiedzy
Poniższe scenariusze ilustrują możliwe zastosowania:
- Encje: obserwuj połączone fakty. Jeden dokument stwierdza, że Acme jest właścicielem Atlasu, a inny stwierdza, że Acme jest w Oslo. Ontologia reprezentująca własność i lokalizację może obsługiwać pytanie "Gdzie znajduje się właściciel atlasu?"
- Tematy: poznawanie zakresu treści. Grupy dotyczące przynależności produktów i lokalizacji biur mogą pomóc sprawdzić, co obejmuje dany zbiór. Grupy tematów mogą również ułatwiać analizę powtarzających się problemów w raportach opinii klientów.
- Mapy witryny: nawigowanie po hierarchii. Agent może śledzić operacje "Acme", aby "Własność produktu" lub "Lokalizacje pakietu Office", a następnie sprawdzać przejścia pomocnicze.
Użyj encji do zadań obejmujących jawne relacje, warunki lub liczby; Tematów do eksploracji tematów; i Map witryny na potrzeby nawigacji hierarchii. Porównaj je z prostszym wyszukiwaniem słów kluczowych, wektorowym lub hybrydowym dla tych samych zadań. Uwzględnij koszty budowania, przechowywania i modelu, a także opóźnienie pobierania. W przypadku zastosowań wysokiego ryzyka należy ocenić kompletną aplikację i zapewnić wykwalifikowany nadzór człowieka.
Ograniczenia
- Wzbogacanie za pomocą AI
- Wyszukiwanie wektorowe
- Ranga semantyczna
- Ponowne zapisywanie zapytań
- Umiejętność tworzenia promptów dla GenAI
- Pobieranie agentowe
- Grafy wiedzy
Wzbogacanie sztucznej inteligencji w narzędziu Foundry IQ korzysta z funkcji indeksatora i źródła danych usługi w celu wywołania narzędzi Foundry Tools w celu przeprowadzenia wzbogacania zawartości. Zostaną zastosowane ograniczenia indeksatorów i źródeł danych używanych w tym procesie. Zapoznaj się z dokumentacją indeksatora i źródła danych , aby uzyskać więcej informacji na temat tych powiązanych ograniczeń. Ograniczenia każdego narzędzia Foundry używanego przez potok wzbogacania sztucznej inteligencji w narzędziu Foundry IQ będą również stosowane. Aby uzyskać więcej informacji na temat tych ograniczeń, zobacz uwagi dotyczące przezroczystości dla każdej usługi .
Ograniczenia techniczne, czynniki operacyjne i zakresy
Wszystkie wektory przesłane do usługi Foundry IQ muszą zostać wygenerowane poza usługą za pomocą wybranego modelu. Twoim zadaniem jest rozważenie ograniczeń technicznych i czynników operacyjnych każdego modelu oraz tego, czy utworzone przez niego osadzanie są zoptymalizowane, czy nawet odpowiednie dla danego przypadku użycia. Obejmuje to zarówno wnioskowanie znaczenia wyodrębnione z zawartości, jak i wymiarowość przestrzeni osadzania wektorów.
Model wektoryzacji tworzy przestrzeń osadzania, która definiuje wynikowe środowisko wyszukiwania użytkownika końcowego aplikacji. Mogą istnieć wady modelu, który negatywnie wpływa zarówno na funkcjonalność, jak i wydajność, jeśli model nie jest dobrze dopasowany do żądanego przypadku użycia lub wygenerowane osadzanie jest źle zoptymalizowane.
Chociaż wiele ograniczeń wyszukiwania wektorowego wynika z modelu używanego do generowania osadzonych, istnieją pewne dodatkowe opcje, które należy wziąć pod uwagę w czasie zapytania. Można wybrać jeden z dwóch algorytmów do określania istotności wyników wyszukiwania wektorowego: wyczerpujące k-najbliższych sąsiadów (KNN) lub hierarchiczna nawigowalna mała sieć świata. Wyczerpujące k najbliższych sąsiadów (KNN) wykonuje brutalne wyszukiwanie całego obszaru wektorowego dla dopasowań, które są najbardziej podobne do zapytania, obliczając odległości między wszystkimi parami punktów danych i wyszukując dokładnych k najbliższych sąsiadów punktu zapytania. Chociaż bardziej precyzyjne, ten algorytm może być powolny. Jeśli małe opóźnienie jest głównym celem, rozważ użycie algorytmu hierarchicznego nawigowalnego małego świata (HNSW). HNSW wykonuje efektywne przybliżone wyszukiwanie najbliższego sąsiada (ANN) w przestrzeniach osadzania o wysokim wymiarach. Aby uzyskać więcej informacji na temat tych opcji, zobacz dokumentację wyszukiwania wektorów .
Najlepsze rozwiązania dotyczące poprawy wydajności systemu
- Prześwięć czas na testowanie aplikacji przy użyciu różnych typów zawartości i zapytań, których oczekujesz, że aplikacja będzie obsługiwać. Dowiedz się, które środowisko zapytań jest najlepsze dla Twoich potrzeb.
- Należy poświęcić czas na testowanie modeli z pełną gamą zawartości wejściowej, aby zrozumieć, jak działa w wielu sytuacjach. Ta zawartość może zawierać potencjalnie poufne dane wejściowe, aby zrozumieć, czy istnieje stronniczość w modelu. Omówienie Azure OpenAI Responsible AI zawiera wskazówki dotyczące odpowiedzialnego używania sztucznej inteligencji.
- Rozważ dodanie Bezpieczeństwo zawartości platformy Azure AI do architektury aplikacji. Zawiera API do wykrywania szkodliwych treści generowanych przez użytkownika oraz sztuczną inteligencję, zarówno w postaci tekstów, jak i obrazów, w aplikacjach i usługach.
Ocenianie i integrowanie wyszukiwania wektora dla własnych potrzeb
Aby zapewnić optymalną wydajność, przeprowadź własne oceny rozwiązań, które planujesz wdrożyć przy użyciu wyszukiwania wektorowego. Postępuj zgodnie z procesem oceny, który: (1) wykorzystuje niektórych interesariuszy wewnętrznych do oceny wyników, (2) korzysta z eksperymentów A/B w celu wdrożenia wyszukiwania wektorów dla użytkowników, (3) uwzględnia kluczowe wskaźniki wydajności (KPI) i monitorowanie metryk podczas wdrażania usługi w środowiskach po raz pierwszy, a (4) testuje i dostosowuje konfigurację semantycznego rangatora i/lub definicję indeksu, w tym otaczające aspekty, takie jak umieszczanie interfejsu użytkownika lub procesy biznesowe.
Microsoft przeprowadziło rygorystyczną ocenę wyszukiwania wektorowego zarówno pod względem opóźnienia, jak i kompletności wyników oraz istotności, używając różnorodnych zestawów danych do mierzenia szybkości, skalowalności i dokładności zwracanych wyników. Głównym celem działań ewaluacyjnych powinno być wybranie odpowiedniego modelu dla konkretnego przypadku użycia, zrozumienie ograniczeń i uprzedzeń modelu oraz rygorystyczne testowanie kompleksowego środowiska wyszukiwania wektorowego.
Ograniczenia techniczne, czynniki operacyjne i zakresy
Zdarzają się przypadki, w których wyniki semantyczne, podpisy i odpowiedzi mogą być niepoprawne. Modele używane przez ranker semantyczny są trenowane na różnych źródłach danych, w tym z otwartych źródeł i wybranych danych z korpusu Microsoft Bing. Ranga semantyczna obsługuje szeroką gamę języków i próbuje dopasować zapytania użytkowników do zawartości z wyników wyszukiwania. Ranga semantyczna jest również funkcją premium, która wiąże się z dodatkowymi kosztami i którą należy wziąć pod uwagę podczas oszacowania ogólnego kosztu rozwiązania end-to-end.
Semantyczny ranker najprawdopodobniej poprawi trafność zawartości semantycznie bogatej, takie jak artykuły i opisy. Szuka kontekstu oraz powiązań między terminami, zwiększając znaczenie dopasowań, które mają większy sens w kontekście zapytania. Rozumienie języka "odnajduje" podsumowania, opisy lub odpowiedzi w obrębie Twojej zawartości, ale w przeciwieństwie do generatywnych modeli, takich jak modele Azure OpenAI Service GPT-3.5 lub GPT-4, nie tworzy ich. W odpowiedzi znajduje się tylko tekst dosłowny z dokumentów źródłowych, który można następnie renderować na stronie wyników wyszukiwania w celu uzyskania bardziej wydajnego środowiska wyszukiwania.
Najnowocześniejsze, wstępnie wytrenowane modele są używane do podsumowywania i klasyfikowania. Aby zachować szybką wydajność, którą użytkownicy oczekują od wyszukiwania, semantyczne podsumowania i klasyfikacja są stosowane tylko do pierwszych 50 wyników, zgodnie z domyślnym algorytmem oceniania. Dane wejściowe pochodzą z zawartości w wynikach wyszukiwania. Nie może wrócić do indeksu wyszukiwania, aby uzyskać dostęp do innych pól w dokumencie wyszukiwania, które nie zostały zwrócone w odpowiedzi zapytania. Dane wejściowe podlegają długości tokenu 8960. Te limity są niezbędne do utrzymania czasu odpowiedzi w milisekundach.
Domyślny algorytm oceniania pochodzi z Bing i Microsoft Research i jest zintegrowany z infrastrukturą Foundry IQ jako funkcja dodatkowa. Modele są używane wewnętrznie, nie są widoczne dla dewelopera i nie można ich konfigurować. Aby uzyskać więcej informacji na temat badań i inwestycji w sztuczną inteligencję na potrzeby semantycznego rankera, zobacz How AI from Bing is powering Foundry IQ (Microsoft Research Blog).
Semantyczny silnik rankingowy oferuje również odpowiedzi, podpisy i wyróżnianie w ramach odpowiedzi. Na przykład, jeśli model klasyfikuje zapytanie jako pytanie i jest pewny odpowiedzi w 70%, model zwraca odpowiedź semantyczną. Ponadto semantyczne podpisy zawierają najbardziej odpowiednią zawartość w wynikach i zawierają krótki fragment kodu wyróżniający najbardziej odpowiednie słowa lub frazy w tym fragmencie kodu.
Wyniki klasyfikacji semantycznej są oparte na danych w bazowym indeksie wyszukiwania, a modele zapewniają klasyfikację istotności, odpowiedzi i podpisy na podstawie informacji pobranych z indeksu. Przed użyciem klasyfikatora semantycznego w środowisku produkcyjnym ważne jest przeprowadzenie dalszych testów i upewnienie się, że zestaw danych jest dokładny i odpowiedni dla zamierzonego przypadku użycia. Aby uzyskać więcej informacji i przykładów oceny semantic rankera, zobacz tutaj zawartość i dodatek.
Wydajność systemu
W wielu systemach sztucznej inteligencji wydajność jest często definiowana w odniesieniu do dokładności — czyli jak często system sztucznej inteligencji oferuje poprawne przewidywanie lub dane wyjściowe. W przypadku modeli języka naturalnego na dużą skalę dwóch różnych użytkowników może przyjrzeć się tym samym danym wyjściowym i mieć różne opinie na temat tego, jak przydatne lub istotne jest, co oznacza, że wydajność tych systemów musi być zdefiniowana bardziej elastycznie. W tym miejscu ogólnie uważamy, że wydajność aplikacji oznacza, że aplikacja działa tak, jak Ty i Twoi użytkownicy tego oczekujecie, oraz że nie generuje szkodliwych danych wyjściowych.
Ranker semantyczny został przetrenowany na podstawie treści publicznych. W związku z tym znaczenie semantyczne różni się w zależności od dokumentów w indeksie i zapytań wystawionych względem niego. Ważne jest, aby użyć własnego osądu i badań, gdy używasz tej zawartości do podejmowania decyzji.
Najlepsze rozwiązania dotyczące poprawy wydajności systemu
- Poświęć czas na testowanie A/B swojej aplikacji z użyciem różnych typów zapytań, takich jak słowo kluczowe w porównaniu z hybrydowym i semantycznym rangerem. Dowiedz się, które środowisko zapytań jest najlepsze dla Twoich potrzeb.
- Wykonaj rozsądny wysiłek, aby skonfigurować konfigurację semantyczną zgodnie z dokumentacją funkcji.
- Nie ufaj semantycznym odpowiedziom, jeśli nie masz pewności co do dokładności informacji w indeksie wyszukiwania.
- Nie zawsze ufaj podpisom semantycznym, ponieważ są wyodrębniane z zawartości klienta za pośrednictwem serii modeli, które przewidują najbardziej odpowiednie odpowiedzi w krótkim fragmencie kodu.
Ocena klasyfikatora semantycznego
Metody oceny
Ranking semantyczny został oceniony za pomocą testów wewnętrznych, w tym ocen zautomatyzowanych i przeprowadzanych przez ludzi dla wielu zestawów danych, a także informacji zwrotnych od klientów wewnętrznych. Testowanie obejmuje ocenę dokumentów, oceniając je jako istotne lub nieistotne, wraz z ustaleniem ich kolejności według priorytetu istotności. Podobnie funkcje podpisów i odpowiedzi zostały również sklasyfikowane za pośrednictwem testów wewnętrznych.
Wyniki oceny
Staramy się dostarczać wszystkie aktualizacje modelu bez regresji (czyli zaktualizowany model powinien poprawić tylko bieżący model produkcyjny). Każdy kandydat jest porównywany bezpośrednio z bieżącym modelem produkcyjnym przy użyciu metryk odpowiednich dla ocenianej funkcji (na przykład znormalizowany zdyskontowany skumulowany zysk na potrzeby klasyfikacji oraz precyzji/pełności w celu uzyskania odpowiedzi). Modele klasyfikatora semantycznego są trenowane, dostrojone i oceniane przy użyciu szerokiego zakresu danych treningowych, które są reprezentatywne dla dokumentów o różnych właściwościach (język, długość, formatowanie, style i odcienie), aby obsługiwać najszerszą gamę scenariuszy wyszukiwania. Nasze dane szkoleniowe i testowe pochodzą z:
Źródła dokumentów:
- Benchmarki dla środowisk akademickich i branżowych
- Dane klienta (tylko testy wykonywane z uprawnieniami klienta)
- Dane syntetyczne
Źródła zapytań:
- Zestawy zapytań porównawczych
- Zestawy zapytań dostarczone przez klienta (tylko testy wykonywane z uprawnieniami klienta)
- Syntetyczne zestawy zapytań
- Zestawy zapytań generowanych przez człowieka
Źródła etykiet na potrzeby oceniania par zapytań i dokumentów:
- Etykiety testów porównawczych akademickich i branżowych
- Etykiety klientów (testy tylko przeprowadzane za zgodą klienta)
- Syntetyczne etykiety danych
- Etykiety oceniane przez człowieka
Ocenianie i integrowanie semantycznego rankera dla Twoich potrzeb
Wydajność semantycznego rankera różni się w zależności od rzeczywistych zastosowań i warunków, w których ludzie go używają. Jakość trafności dostarczana przez modele uczenia głębokiego, które umożliwiają funkcje wyznacznika semantycznego, jest bezpośrednio skorelowana z jakością danych w indeksie wyszukiwania. Na przykład modele mają obecnie ograniczenia tokenu, które uwzględniają tylko 8960 pierwszych tokenów na potrzeby odpowiedzi semantycznych. W związku z tym, jeśli semantyczna odpowiedź na zapytanie wyszukiwania zostanie znaleziona na końcu długiego dokumentu (poza limitem tokenu 8960), odpowiedź nie zostanie podana. Ta sama reguła dotyczy podpisów. Ponadto semantyczna konfiguracja wyświetla odpowiednie pola wyszukiwania w kolejności priorytetu. Możesz zmienić kolejność pól na tej liście, aby ułatwić dostosowanie istotności do Twoich potrzeb.
Aby zapewnić optymalną wydajność w swoich scenariuszach, klienci powinni przeprowadzać własne oceny rozwiązań, które wdrażają przy użyciu semantycznego rankera. Klienci powinni zazwyczaj postępować zgodnie z procesem oceny, który: (1) wykorzystuje niektórych wewnętrznych interesariuszy do oceny wyników, (2) używa eksperymentacji A/B do wprowadzania semantycznego rankera dla użytkowników, (3) uwzględnia kluczowe wskaźniki wydajności i monitorowanie metryk, gdy usługa jest wdrażana w doświadczeniach po raz pierwszy, oraz (4) testuje i dostosowuje konfigurację semantycznego rankera i/lub definicji indeksu, w tym elementy takie jak umiejscowienie interfejsu użytkownika lub procesy biznesowe.
Jeśli tworzysz aplikację w domenie lub branży wysokiego ryzyka, takich jak opieka zdrowotna, zasoby ludzkie, edukacja lub prawo, oceń, jak dobrze działa aplikacja w twoim scenariuszu, zaimplementuj silny nadzór człowieka, oceń, jak dobrze użytkownicy rozumieją ograniczenia aplikacji, i przestrzegaj wszystkich odpowiednich przepisów. Rozważ inne środki zaradcze w zależności od scenariusza.
Ograniczenia techniczne, czynniki operacyjne i zakresy
Mogą wystąpić przypadki, w których zapytania syntetyczne są nieprawidłowe, pochodzą z zbyt wielu ograniczeń lub są zbyt drogie. Ponowne zapisywanie kwerend obsługuje szeroką gamę języków i próbuje przepisać kwerendy użytkownika w celu zmaksymalizowania dokładności wyszukiwania. Wymagane jest określenie języka kwerend jako dane wejściowe. Przekształcanie zapytań jest częścią funkcji Semantic Ranker (funkcja Foundry IQ służąca do poprawy trafności wyszukiwania), która jest funkcją Premium za dodatkową opłatą. Należy to wziąć pod uwagę podczas projekcji ogólnych wydatków na kompleksowe rozwiązanie. Ponowne zapisywanie zapytań może być używane tylko wtedy, gdy włączono semantyczny ranker.
Przed użyciem ponownego zapisywania zapytań w środowisku produkcyjnym (wersja na żywo aplikacji) ważne jest przeprowadzenie dalszych testów i upewnienie się, że zapytania syntetyczne są odpowiednie dla zamierzonego przypadku użycia. Aby uzyskać więcej informacji i przykładów oceny ponownego zapisywania zapytań, zobacz zawartość i dodatek tutaj.
Wydajność systemu
W przypadku modeli języka naturalnego na dużą skalę dwóch różnych użytkowników może przyjrzeć się tym samym danym wyjściowym i mieć różne opinie na temat tego, jak przydatne lub istotne jest, co oznacza, że wydajność tych systemów musi być zdefiniowana bardziej elastycznie. W tym miejscu ogólnie uważamy, że wydajność aplikacji oznacza, że aplikacja działa tak, jak Ty i Twoi użytkownicy tego oczekujecie, oraz że nie generuje szkodliwych danych wyjściowych.
Wydajność ponownego zapisywania zapytań różni się w zależności od rzeczywistych zastosowań i warunków, w których użytkownicy go używają. Jakość syntetycznych zapytań udostępnianych przez model ponownego zapisywania zapytań jest bezpośrednio skorelowana z oryginalnym zapytaniem wyszukiwania.
Aby zapewnić optymalną wydajność w swoich scenariuszach, klienci powinni przeprowadzać własne oceny rozwiązań, które implementują przy użyciu ponownego zapisywania zapytań. Klienci powinni zazwyczaj postępować zgodnie z procesem oceny, który:
- używa niektórych wewnętrznych uczestników projektu do oceny wyników,
- używa eksperymentów A/B, aby wdrożyć ponowne zapisywanie zapytań dla użytkowników i
- uwzględnia kluczowe wskaźniki wydajności i monitorowanie metryk podczas pierwszego wdrożenia usługi w scenariuszach użytkowych
Najlepsze rozwiązania dotyczące poprawy wydajności systemu
- Ukończ testowanie A/B dla aplikacji z różnymi typami zapytań (pełny tekst, wektor, hybryda lub inne typy zapytań). Dowiedz się, które środowisko zapytań jest najlepsze dla Twoich potrzeb.
- Nie zawsze zakładaj, że każde syntetyczne zapytanie wygenerowane przez ponowne zapisywanie zapytań będzie odzwierciedlać dokładną intencję oryginalnego zapytania. Zapytania syntetyczne są generowane przez dostrojony slm, który generuje zapytania semantycznie podobne do intencji oryginalnego zapytania, ale może nie odpowiadać dokładnej intencji.
Ocena ponownego zapisywania zapytań
Metody oceny
Ponowne zapisywanie zapytań zostało ocenione za pomocą testów wewnętrznych, w tym zautomatyzowanego i ludzkiego osądu w wielu zestawach danych, a także opinii klientów wewnętrznych. Testy obejmowały ocenę istotności wyników klasyfikacji semantycznej w połączeniu z ponownym zapisywaniem zapytań w porównaniu z istotnością wyników tylko z semantycznym rankingiem.
Wyniki oceny
Każdy model kandydata jest porównywany bezpośrednio z aktualnie wdrożonym modelem przy użyciu metryk odpowiednich dla ocenianej funkcji. Modele ponownego zapisywania zapytań są dostrojone i oceniane przy użyciu szerokiego zakresu danych publicznych reprezentatywnych dla zapytań, które mają różne właściwości (język, długość, formatowanie, style i odcienie), aby obsługiwać najszerszą gamę scenariuszy wyszukiwania. Nasze dane szkoleniowe i testowe pochodzą z:
Źródła dokumentów:
- Benchmarki dla środowisk akademickich i branżowych
- Dane klienta (tylko testy wykonywane z uprawnieniami klienta)
Źródła zapytań:
- Zestawy zapytań porównawczych
- Zestawy zapytań dostarczone przez klienta (tylko testy wykonywane z uprawnieniami klienta)
- Syntetyczne zestawy zapytań
- Zestawy zapytań generowanych przez człowieka
Źródła etykiet na potrzeby oceniania par zapytań i dokumentów:
- Etykiety testów porównawczych akademickich i branżowych
- Etykiety klientów (testy tylko przeprowadzane za zgodą klienta)
- Syntetyczne etykiety danych
- Etykiety oceniane przez człowieka
Ocenianie i integrowanie ponownego zapisywania zapytań do użycia
Ponieważ zmiana treści zapytań była trenowana na publicznie dostępnym materiale, zapytania syntetyczne mogą się różnić w zależności od zapytań, które zostały do niego wystawione. Dlatego ważne jest, aby użyć własnego osądu i badań, gdy używasz tej zawartości do podejmowania decyzji.
Ograniczenia techniczne, czynniki operacyjne i zakresy
Chociaż umiejętności GenAI Prompt oferują zaawansowane możliwości, ważne jest, aby rozpoznać pewne ograniczenia:
- Umiejętność opiera się na filtrach zawartości skonfigurowanych przez klienta w programie Foundry. Usługa Foundry IQ nie zapewnia dodatkowych mechanizmów bezpieczeństwa zawartości dla tej umiejętności.
- Jakość zawartości wygenerowanej przez sztuczną inteligencję zależy od skuteczności monitów i bazowego modelu językowego. Dokładne testowanie jest niezbędne, aby zapewnić, że dane wyjściowe spełniają wymagane standardy.
- Przetwarzanie dużych ilości danych ze złożonymi monitami może wymagać znaczących zasobów obliczeniowych i może spowodować opóźnienie. Zaplanuj i przydziel zasoby odpowiednio, aby nie tylko utrzymać wydajność i efektywność kosztową, ale także zapobiegać ewentualnym opóźnieniom przetwarzania danych.
Wydajność systemu
Najlepsze rozwiązania dotyczące poprawy wydajności systemu
Aby zoptymalizować wydajność umiejętności podpowiedzi GenAI:
- Skorzystaj z narzędzia sesji debugowania Foundry IQ, aby testować monity na przykładowych dokumentach i upewnić się, że treści wygenerowane przez sztuczną inteligencję są zgodne z oczekiwaniami przed pełnym wdrożeniem.
- Twórz jasne i szczegółowe polecenia, aby skutecznie kierować modelem językowym, zmniejszając prawdopodobieństwo nieistotnych lub niedokładnych danych wyjściowych.
- Monitorowanie wydajności systemu i skalowanie zasobów zgodnie z potrzebami w celu obsługi obliczeń związanych z przetwarzaniem sztucznej inteligencji.
- Zachęcaj do nadzoru nad danymi wyjściowymi przed publikacją lub rozpowszechnianiem. W przypadku generowania sztucznej inteligencji istnieje możliwość wygenerowania zawartości, która może być obraźliwa lub nieistotna dla zadania.
Ocena umiejętności polecenia w GenAI
Ocenianie i integrowanie umiejętności tworzenia treści przez GenAI dla własnych potrzeb
Aby zmaksymalizować korzyści wynikające z umiejętności GenAI Prompt w określonym kontekście, należy wziąć pod uwagę następujące kroki:
- Określ konkretne cele wzbogacania, takie jak generowanie zwięzłych podsumowań, wyodrębnianie kluczowych jednostek lub tworzenie metadanych opisowych, aby dopasować aplikację umiejętności do potrzeb biznesowych.
- Zacznij od podzbioru danych, aby ocenić wydajność umiejętności i wprowadzić niezbędne korekty. Takie podejście umożliwia kontrolowane eksperymentowanie i uściślenie przed wdrożeniem na pełną skalę.
- Ustanów mechanizmy monitorowania jakości i wpływu zawartości wygenerowanej przez sztuczną inteligencję. Żądaj opinii od użytkowników końcowych, aby zidentyfikować obszary poprawy i zapewnić, że wzbogacone dane spełniają oczekiwania użytkowników.
Ograniczenia pobierania agentowego i czynniki operacyjne
Jakość i kompletność pobierania. System może przegapić odpowiednią zawartość, wygenerować nieprzydatne lub nadmiernie restrykcyjne zapytanie lub zatrzymać się, zanim znajdzie wszystkie przydatne dowody. Microsoft Retriever 1 widzi ograniczony wybór pobranych treści, a nie cały korpus. Decyzja modelu o zakończeniu, pomyślna odpowiedź lub pusty wynik nie dowodzą, że na pytanie udzielono pełnej odpowiedzi lub że takiego faktu nie ma.
Wyniki zależą od dostępności źródła i jego aktualności, wyodrębniania dokumentów, fragmentowania, konfiguracji indeksu, rankingu, filtrów i sformułowania pytania. Język zapytania i treści źródłowej, a także terminologia dziedzinowa, mogą również wpływać na jakość.
Wygenerowana treść i obsługa treści źródłowej. Zapytania i odpowiedzi generowane przez model mogą błędnie interpretować polecenie lub zawierać błędy. Odwołanie ułatwia użytkownikom lokalizowanie dowodów, ale nie potwierdza, że źródło jest prawdziwe ani nie potwierdza każdego twierdzenia w odpowiedzi. Sprzeczna, nieaktualna, stronnicza lub wprowadzająca w błąd zawartość źródłowa mogą mieć wpływ na pobieranie i wynikowe odpowiedzi. Przejrzyj pobrane dane dowodowe i dane wyjściowe wygenerowane przez aplikację.
Konfiguracja i dostępność. Możliwości różnią się w zależności od interfejsu, wysiłku rozumowania, parowania modelu i źródła wiedzy. Uruchomienie Microsoft Retriever 1 wymaga standardowej płatnej usługi Knowledge Retrieval, zgodnego regionu oraz dostępności modelu i rankingu. Przed wdrożeniem potwierdź bieżące wymagania dotyczące usługi i obsługiwane źródła.
Bezpieczeństwo i prywatność. Etap Microsoft Retriever 1 przetwarza pytanie, pobieranie i historię wyszukiwania oraz pobrane dowody, a niekoniecznie całą konwersację aplikacji. Zewnętrzne etapy planowania i syntezy odpowiedzi mają oddzielne dane wejściowe określone przez konfigurację i żądanie. Zminimalizuj lub zanonimizuj poufne dane, których aplikacja nie wymaga. Przed użyciem informacji poufnych zapoznaj się z zasadami przetwarzania danych, ochrony prywatności, przechowywania danych oraz warunkami regionalnymi każdej usługi.
Zweryfikuj autoryzację dla każdego wybranego źródła, ścieżki pobierania, zwróconego odwołania i odpowiedzi podrzędnej. Bezpośrednie wyszukiwanie w indeksie utrzymuje filtry i zakres pól wyszukiwania w kolejnych działaniach, ale te ustawienia nie udzielają autoryzacji. Ograniczenie pól w końcowej odpowiedzi niekoniecznie ogranicza pola danych dowodowych wysyłanych do Microsoft Retriever 1. Użyj kontroli dostępu na poziomie dokumentu, gdy aplikacja musi ograniczyć zawartość według użytkownika lub grupy. Traktuj dokumenty źródłowe i pobrane fragmenty jako niezaufane dane wejściowe. Przetestuj, czy osadzone instrukcje mogą mieć wpływ na pobieranie informacji lub dalsze generowanie odpowiedzi, i zastosuj odpowiednie zabezpieczenia na poziomie aplikacji.
Koszt i opóźnienie. Wiele wyszukiwań, rankingu, przetwarzania modelu i opcjonalnych wywołań modelu zewnętrznego mogą zwiększać koszty i opóźnienia. Koszty i czas zależą od wybranej ścieżki, rozmiaru danych wejściowych i dowodów, liczby wyszukiwań i konfiguracji usługi. Przeprowadź test porównawczy kompletnego żądania przy oczekiwanym ruchu szczytowym oraz oszacuj użycie modelu i usługi Search dla tego obciążenia.
Wydajność agentowego pobierania
Oceń, czy odnalezione informacje są istotne, wystarczająco kompletne dla zadania, dostępne dla docelowego użytkownika i odpowiednie dla odpowiedzi generowanych dalej. Zmierz opóźnienie, koszt, zachowanie całej aplikacji oraz możliwość generowania szkodliwych lub mylących danych wyjściowych. Porównaj konfiguracje na tych samych reprezentatywnych pytaniach i treściach przed wybraniem wartości domyślnej.
Wydajność różni się w zależności od ustawień korpusu, indeksu i źródła, złożoności pytań, wysiłku rozumowania, parowania modelu, limitów danych wyjściowych i modelu generującego odpowiedzi na dalszym etapie. Zastosuj następujące rozwiązania:
- Zacznij od reprezentatywnych treści i pytań. Sprawdź ekstrakcję, granice fragmentów, aktualność oraz pola używane do wyszukiwania i rankingu.
- Porównaj wyszukiwanie agentowe z odpowiednim prostszym punktem odniesienia dla wyszukiwania. Mierz trafność i pokrycie materiału dowodowego, a także opóźnienie i koszt.
- Konfigurowanie i testowanie filtrów, zakresu źródłowego i kontroli dostępu. Sprawdź, czy zwracana zawartość i cytaty są odpowiednie dla każdego zamierzonego użytkownika.
- Przejrzyj dostępną diagnostykę i referencje, aby zrozumieć, które wyszukiwania i materiały źródłowe przyczyniły się do uzyskania wyniku. Chroń dane diagnostyczne jako potencjalnie poufne.
- Obsługuj jawnie brak dowodów, częściowe wyniki i błędy. Jeśli używany jest mechanizm awaryjny, należy jasno wyjaśnić użytkownikom mechanizm awaryjny i jego ograniczenia.
Ocena agentycznego pobierania
Wewnętrzne testy agentowego wyszukiwania wykorzystywały zautomatyzowane i ludzkie oceny na wielu zestawach danych, w tym porównanie z samym rankingiem semantycznym.
Oceń i zintegruj wyszukiwanie agentyczne
Oceń konfigurację i ukończoną aplikację z reprezentatywnymi użytkownikami, pytaniami, źródłami i językami. Dołącz niejednoznaczne pytania, dokładne terminy, negację, sprzeczne lub nieaktualne dokumenty, przypadki bez dowodów pomocniczych i zawartość z osadzonymi instrukcjami.
Oceń istotność i kompletność pobranych materiałów dowodowych oddzielnie od poprawności i oparcia w źródłach wygenerowanych odpowiedzi. Sprawdź, czy cytaty prowadzą do dostępnych treści potwierdzających oraz czy aplikacja komunikuje niepewność lub brak dowodów. W stosownych przypadkach porównaj wyniki między językami, grupami użytkowników i domenami, aby zidentyfikować potencjalną stronniczość lub niedoreprezentację.
Uwzględnij ludzki przegląd reprezentatywnych sukcesów i niepowodzeń; sama automatyczna ocena może przegapić ważne błędy. Porównaj ścieżki pobierania i ustawienia wysiłku, których zamierzasz użyć. Mierz opóźnienie, użycie tokenów, koszty, współczynniki błędów i wyników częściowych oraz zachowanie przy oczekiwanym obciążeniu. Monitoruj wdrożoną aplikację i używaj opinii w celu identyfikowania regresji w przypadku zmiany zawartości, konfiguracji lub modeli.
Ograniczenia i czynniki operacyjne Knowledge Graph
Jakość źródła, pokrycie i świeżość. Brakujące dokumenty, niedokładna ekstrakcja tekstu, niewłaściwe granice fragmentów, niespójna terminologia i nieaktualne treści mogą prowadzić do mylących wyników. Błędy wcześniejszych etapów mogą rozprzestrzeniać się poprzez grupowanie, wyodrębnianie, pobieranie i generowanie odpowiedzi.
Grupy tematów mogą być niekompletne, zbyt szerokie lub zbyt wąskie. Reprezentatywne próbki etykietowania mogą pomijać rzadkie lub mniejszościowe tematy. Etykieta może pasować do jej przykładu, nie opisując innych członków. Pobieranie z kilku grup tematów nie dowodzi wyczerpującego pokrycia. Mapy witryny dziedziczą te ograniczenia: brakująca gałąź nie dowodzi, że w korpusie brak danego zagadnienia.
Wyodrębnianie jednostek może pominąć fakty, przypisać nieprawidłowe typy, scalić odrębne jednostki, podzielić jedną jednostkę na kilka lub odwrotne relacje. Ontologia może wykluczać koncepcje wymagane przez pytanie. Brakujące dowody z grafu mogą odzwierciedlać brakującą zawartość, niepowodzenie wyodrębniania lub niezgodność schematu, a nie rzeczywistą nieobecność.
Zweryfikuj wyniki grafu względem zawartości źródłowej, szczególnie w przypadku liczb, zapytań "znajdź wszystkie" i brakujących wyników. Odśwież zasoby grafu, gdy zmienia się zawartość źródłowa, embeddingi, modele lub ontologie.
Wygenerowana zawartość, stronniczość i języki. Etykiety, opisy, propozycje ontologii, wyodrębnione relacje, zapytania i odpowiedzi wynikowe mogą być niedokładne lub nieuzasadnione. Płynny opis lub prawidłowe zapytanie nie jest dowodem poprawności. Modele osadzania i modele językowe mogą odzwierciedlać stronniczość, a wybór ontologii lub grupowanie tematów może pominąć perspektywy lub narzucić nieodpowiednie kategorie.
Obsługa językowa tematów i map witryn zależy od skonfigurowanego modelu osadzania i, w przypadku użycia, modelu nazewnictwa. W przypadku encji zależy to od modeli wyodrębniania i planowania zapytań oraz od adekwatności ontologii do terminologii źródłowej. Oceń języki i domeny, których potrzebują użytkownicy, a nie przy założeniu równej jakości w różnych językach.
Zweryfikuj autoryzację dla etykiet pochodnych, struktury grafu, danych dowodowych grafu, uzupełnionych fragmentów i końcowych odpowiedzi. Zabezpieczenie indeksu nie potwierdza, że autoryzacja jest wymuszana w ramach pobierania grafu, hydratacji źródła lub aplikacji korzystającej z tych danych.
Lokalne kopie treści i dane wejściowe modelu. Gdy są używane narzędzia do tworzenia grafów po stronie klienta, kopia zawartości wejściowej jest przechowywana na maszynie klienta. Lokalne artefakty kompilacji mogą zawierać fragmenty dokumentów, pośrednie reprezentacje i embeddingi, oprócz odrębnych wyników w chmurze. Chroń lokalne artefakty i artefakty w chmurze przy użyciu odpowiednich mechanizmów kontroli dostępu, przechowywania i retencji. Traktuj embeddingi i pochodne dane grafu jako potencjalnie poufne.
Wywołania modelu mogą przetwarzać reprezentatywne fragmenty do nadawania nazw, tekst dokumentu na potrzeby wyodrębniania lub pytania i kontekst schematu na potrzeby planowania zapytań grafowych. Tworzenie ontologii i późniejsze generowanie odpowiedzi mają własne dane wejściowe dla modelu. Zapoznaj się z zasadami zachowania poufności, przechowywania, rezydencji danych i bezpieczeństwa zawartości skonfigurowanych usług, zamiast zakładać jednolite zasady lub przetwarzanie tylko lokalne. Artefakty lokalne nie ustanawiają gwarancji przechowywania, usuwania ani lokalizacji danych.
Zrozumienie użytkowników i zabezpieczenia. Poinformuj użytkowników, gdy etykiety, relacje, zapytania lub odpowiedzi są generowane przez sztuczną inteligencję i wyjaśnij odpowiednie ograniczenia. Zapewnij sposób sprawdzania dowodów i zgłaszania błędów. Wymagaj odpowiedniego przeglądu przez człowieka, gdy wyniki wpływają na decyzje o istotnych konsekwencjach.
Traktuj dokumenty i pobierany tekst jako niezaufane dane wejściowe modelu. Sprawdź, czy osadzone instrukcje mogą mieć wpływ na nazewnictwo, wyodrębnianie, planowanie zapytań lub generowanie odpowiedzi. Zastosuj odpowiednią obsługę danych wejściowych, mechanizmy kontroli bezpieczeństwa zawartości i przegląd danych wyjściowych; ta uwaga nie twierdzi, że Knowledge Graphs zapewnia pełną ochronę przed wstrzyknięciem monitu lub szkodliwą zawartością.
Wydajność Knowledge Graph
Wydajność obejmuje użyteczność dowodów oraz potwierdzenie w źródłach, dokładność relacji i etykiet oraz czas i koszt tworzenia zasobów grafowych i wykonywania na nich zapytań. Mierz czas kompilacji, pamięć masową, opóźnienia zapytań, ponawianie prób i koszty modelu przy użyciu reprezentatywnych danych. Przygotowanie źródła, wybór modelu, pokrycie ontologii, próbki do etykietowania i interpretacja zapytań mogą mieć wpływ na wyniki.
- Zacznij od reprezentatywnej zawartości i pytań przed utworzeniem większego grafu.
- Przejrzyj ontologię i wyodrębnione relacje wraz z ekspertami dziedzinowymi pod kątem pytań, które aplikacja musi obsługiwać.
- Sprawdź przynależność do tematów, etykiety i ścieżki nawigacji. Sprawdź etykiety względem fragmentów poza tymi wybranymi do nazewnictwa.
- Porównaj wyszukiwanie oparte na grafie z wyszukiwaniem słowami kluczowymi, wektorowym lub hybrydowym dla tych samych zadań.
Ocena grafu wiedzy
Tematy i mapy witryny zostały ocenione za pomocą kontroli integralności hierarchii, audytów weryfikacji źródeł dla wygenerowanych etykiet oraz testów osadzania odpowiedzi w dalszych etapach. Encje oceniano na anglojęzycznych zapytaniach, porównując wyszukiwanie grafowe ze standardową bazą odniesienia dla wyszukiwania. Automatyczni sędziowie ocenili poprawność względem kanonicznych odpowiedzi i osadzenie na podstawie pozyskanych dowodów.
Ocenianie i integrowanie grafów wiedzy
Zacznij od reprezentatywnych dokumentów i pytań. Uwzględnij trudne przypadki, brakujące dowody, niejednoznaczne encje, negację, dokumenty powodujące konflikty, rzadkie tematy i języki używane przez użytkowników.
W przypadku tematów i map witryn sprawdź przynależność, etykiety, opcjonalne opisy, ścieżki nawigacji i pobrane fragmenty. Przetestuj etykiety względem elementów członkowskich spoza przykładu nazewnictwa. Porównaj wyszukiwanie oparte na temacie z istniejącym podejściem.
W przypadku jednostek zleć ekspertom dziedzinowym przegląd ontologii i próbkowanych relacji względem oryginalnego tekstu. Sprawdź, czy puste wyniki nie są prezentowane jako dowód braku.
Oceń poprawność, wsparcie źródła, kompletność, powstrzymywanie się od odpowiedzi, współczynniki awarii i spójność wielokrotnego uruchamiania oddzielnie. Mierz również koszty i opóźnienia. Użyj automatycznych ewaluatorów jako jednego źródła dowodów, z ludzkim przeglądem reprezentatywnych sukcesów i niepowodzeń. Monitoruj aplikację po wdrożeniu i uwzględnij opinie użytkowników.
Dowiedz się więcej o odpowiedzialnej sztucznej inteligencji
- Zasady sztucznej inteligencji firmy Microsoft
- Odpowiedzialne zasoby AI Microsoft
- Kursy Microsoft Azure Learning dotyczące odpowiedzialnej AI
Dowiedz się więcej o usłudze Foundry IQ
Opinia
Czy ta strona była pomocna?
Nie
Potrzebujesz pomocy dotyczącej tego tematu?
Chcesz spróbować użyć asystenta Ask Learn, aby wyjaśnić ten temat lub uzyskać instrukcje, które go dotyczą?
Dodatkowe zasoby
-
Ostatnia aktualizacja o
2026-11-18