Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Wichtig
Nicht englische Übersetzungen werden nur zur Bequemlichkeit bereitgestellt. Bitte konsultieren Sie die EN-US Version dieses Dokuments für die endgültige Version.
Was ist eine Transparenznotiz?
Ein KI-System umfasst nicht nur die Technologie, sondern auch die Personen, die es nutzen werden, die Menschen, die davon betroffen sind, und die Umgebung, in der sie bereitgestellt wird. Die Erstellung eines Systems, das für den vorgesehenen Zweck geeignet ist, erfordert ein Verständnis dafür, wie Technologie funktioniert, was ihre Funktionen und Einschränkungen sind und wie Sie die beste Leistung erzielen können. Microsofts Transparenzhinweise sollen Ihnen helfen, zu verstehen, wie unsere KI-Technologie funktioniert, welche Entscheidungen Systembesitzer treffen können, die die Systemleistung und das Verhalten beeinflussen, und wie wichtig es ist, über das gesamte System nachzudenken, einschließlich der Technologie, der Menschen und der Umgebung. Sie können Transparenzhinweise verwenden, wenn Sie Ihr eigenes System entwickeln oder bereitstellen oder mit den Personen teilen, die ihr System verwenden oder davon betroffen sind.
Microsoft Transparenzhinweise sind Teil eines umfassenderen Aufwands für Microsoft, unsere KI-Prinzipien in die Praxis umzusetzen. Weitere Informationen finden Sie in den Microsoft KI-Prinzipien.
Grundlagen von Foundry IQ (Azure KI-Suche)
Einführung
Foundry IQ bietet Entwicklern Tools, APIs und SDKs zum Erstellen einer umfassenden Sucherfahrung über private, heterogene Inhalte in Web-, Mobilen- und Unternehmensanwendungen. Die Suche ist für jede Anwendung, die Daten für Benutzer anzeigt, von grundlegender Grundlage. Häufige Szenarien sind Katalog- oder Dokumentsuche, Online-Einzelhandelsgeschäfte oder Datensuche über proprietäre Inhalte.
Durchsuchbare Daten können in Form von Text oder Vektoren sein und as-is aus einer Datenquelle aufgenommen oder mithilfe von KI erweitert werden, um die allgemeine Sucherfahrung zu verbessern. Entwickler können Daten int in numerische Darstellungen (als Vektoren bezeichnet) konvertieren, indem Sie ein externes Machine Learning-Modell (sogenannte Einbettungsmodelle) aufrufen. Indexer können optional Fähigkeiten umfassen, die eine leistungsstarke Suite von Datenanreicherung über mehrere Azure Language in Foundry Tools-Funktionen unterstützen, z. B. Named Entity Recognition (NER) und Personally Identifiable Information (PII)-Erkennung und Azure Vision in Foundry Tools funktionen, einschließlich optical character recognition (OCR) und image analysis.
Weitere Informationen dazu, wie Foundry IQ die Sucherfahrung durch den Einsatz von Foundry Tools oder anderen KI-Systemen verbessert, um die Absicht, Semantik und implizite Struktur der Inhalte eines Kunden besser zu verstehen, finden Sie auf den folgenden Registerkarten.
- KI-Anreicherung
- Vektorsuche
- Semantischer Ranker
- Abfrageumformulierung
- GenAI Prompt-Fähigkeit
- Agent-Abruf
- Wissensgraphen
KI-Anreicherung ist die Anwendung von Machine Learning-Modellen von Foundry Tools über Inhalte, die nicht einfach in ihrer rohen Form durchsuchbar sind. Durch Anreicherung werden Analyse und Schlussfolgerung verwendet, um durchsuchbare Inhalte und Strukturen zu erstellen, in denen zuvor keine vorhanden waren.
Die KI-Anreicherung ist eine optionale Erweiterung der Foundry IQ Indexer Pipeline, die sich mit Foundry Tools in derselben Region wie der Foundry IQ Service eines Kunden verbindet. Eine Anreicherungspipeline verfügt über die gleichen Kernkomponenten wie ein typischer Indexer (Indexer, Datenquelle, Index), sowie einen Qualifikationssatz, der die Atomanreicherungsschritte angibt. Ein Qualifikationssatz kann mit integrierten Fähigkeiten basierend auf den Foundry Tools-APIs, z. B. Vision und Sprache, oder benutzerdefinierten Fähigkeiten , die von Ihnen bereitgestellten externen Code ausführen, zusammengestellt werden.
Die Vektorsuche ist eine Methode zum Abrufen von Informationen, bei denen Dokumente und Abfragen in einem Index anstelle von Nur-Text als Vektoren dargestellt werden. In der Vektorsuche generieren Machine Learning-Modelle, die extern von Foundry IQ gehostet werden, die Vektordarstellungen von Quelleingaben, die Text, Bilder, Audio- oder Videoinhalte sein können. Diese mathematische und normalisierte Darstellung von Inhalten, die als Vektoreinbettungen bezeichnet werden, bietet eine gemeinsame Grundlage für Suchszenarien.
Wenn alles ein Vektor ist, kann eine Abfrage eine Übereinstimmung im Vektorraum finden, auch wenn sich der zugeordnete ursprüngliche Inhalt in einem anderen Medientyp befindet, z. B. Bilder im Vergleich zu Text oder Sprache als die Abfrage. Die Suchmaschine überprüft den Index, der nach Vektorinhalten sucht, die am ehesten dem Vektor in der Abfrage am nächsten sind. Der Abgleich mit einer mathematischen Vektordarstellung anstelle von Schlüsselwörtern erhöht die Wahrscheinlichkeit erheblich, semantisch ähnliche Übereinstimmungen zu finden, die sich textlich unterscheiden, wie beispielsweise "Auto" und "Fahrzeug". Dadurch erhalten Sie eine detailliertere Einführung in Vektoreinbettungen und die Funktionsweise des Ähnlichkeitsalgorithmus.
Schlüsselbegriffe
| Begriff | Definition |
|---|---|
| Vektorembeddings | Eine hochoptimierte Methode zum Darstellen von Daten, die Bedeutung und Verständnis widerspiegeln, die von einem maschinellen Lernmodell aus Bildern, Audio, Video oder Text extrahiert werden. Der Inhalt wird sowohl zur Indizierung als auch während des Abfragevorgangs in Vektoreinbettungen konvertiert. Die Vektorsuche bezieht sich auf die in einer Abfrage bereitgestellten Einbettungen und sucht nach den ähnlichsten Einbettungen im Index. Die Ergebnisse werden dann in der Regel nach dem Grad der Ähnlichkeit sortiert. |
| Einbettungsraum | Alle Vektoren im Korpus für ein einzelnes Feld belegen den gleichen Einbettungsraum, in dem sich ähnliche Elemente nahe beieinander befinden, und unterschiedliche Elemente sind weiter auseinander. Eine höhere Dimensionalität des Einbettungsraums kann mehr Informationen in einem einzelnen Vektor einschließen und das Sucherlebnis erheblich verbessern, führt aber zu einer erheblichen Zunahme der Indexspeichergröße und einer höheren Abfragelatenz. |
Der semantische Rangierer verwendet den Kontext oder die semantische Bedeutung einer Suchanfrage, um eine neue Relevanzbewertung zu berechnen, die Ergebnisse an erster Stelle fördert, die semantisch der Absicht der ursprünglichen Suchanfrage am nächsten stehen. Das anfängliche Resultset kann aus einer Schlüsselwortsuche mit BM25-Rangfolge , Vektorsuche oder einer Hybridsuche stammen, die beide umfasst. Sie erstellt und gibt auch "Beschriftungen" zurück, indem wortwörtlicher Inhalt extrahiert wird, der im Ergebnis enthalten ist, sowie "Highlights", um die Aufmerksamkeit auf wichtige Inhalte innerhalb des Ergebnisses zu lenken. Es kann auch eine "Antwort" zurückgeben, wenn die Abfrage die Merkmale einer Frage ("was ist der Gefrierpunkt von Wasser") aufweist, und das Ergebnis enthält Text mit den Merkmalen einer Antwort ("Wasser friert bei 0°C oder 32°F").
Schlüsselbegriffe
| Begriff | Definition |
|---|---|
| Semantischer Re-Ranker | Verwendet den Kontext und die semantische Bedeutung einer Abfrage, um die Suchrelevanz zu verbessern, indem das Sprachverständnis verwendet wird, um Suchergebnisse neu zu bewerten. |
| Semantische Untertitel und Hervorhebungen | Extrahiert Sätze und Ausdrücke aus einem Dokument, die den Inhalt am besten zusammenfassen, mit Hervorhebungen über wichtigen Passagen zum einfachen Scannen. Beschriftungen, die ein Ergebnis zusammenfassen, sind nützlich, wenn einzelne Inhaltsfelder für die Ergebnisseite zu dicht sind. Hervorgehobener Text hebt die relevantesten Begriffe und Phrasen hervor, sodass Benutzer schnell ermitteln können, warum eine Übereinstimmung als relevant angesehen wurde. |
| Semantische Antworten | Stellt eine optionale und zusätzliche Unterstruktur bereit, die von einer semantischen Abfrage zurückgegeben wird. Sie stellt eine direkte Antwort auf eine Abfrage bereit, die wie eine Frage aussieht. Es erfordert, dass ein Dokument Text mit den Merkmalen einer Antwort enthält. |
Bei der Abfrageumschreibung werden synthetische Abfragen erstellt, bei denen es sich um Abfragen handelt, die künstlich erstellt oder aus tatsächlichen Kundeneingaben generiert werden, um den Rückruf zu verbessern (der Anteil der relevanten Dokumente, die aus der Gesamtzahl der verfügbaren Dokumente abgerufen wurden) der BM25-Rangfolge, der Vektorsuche oder einer Hybridsuche. Die ursprüngliche Abfrage wird mit den synthetischen Abfragen kombiniert, um einen optimalen Rückruf von der Suchmaschine zu ermöglichen.
Der GenAI Prompt Skill ist Teil des Skill-Katalogs von Foundry IQ, sodass Kunden ihre Suchindizes mit KI-generierten Inhalten auf der Grundlage ihrer Daten verbessern können. Durch die Verwendung der eigenen Daten und Vorlieben des Kunden hilft diese Fähigkeit dabei, maßgeschneiderte Zusammenfassungen, Antworten oder Erkenntnisse zu erstellen, die ihren spezifischen Anforderungen entsprechen.
Dies bedeutet, dass, wenn der Endbenutzer die Inhalte der Kunden über Foundry IQ durchsucht, der KI-generierte Inhalt informativere und kontextbezogene Ergebnisse liefern kann, sodass Benutzer die gesuchten Informationen leichter finden können.
Schlüsselbegriffe
| Begriff | Definition |
|---|---|
| Fähigkeiten | Ein Foundry IQ Skill ist eine modulare Verarbeitungskomponente innerhalb der Foundry IQ-Anreicherungspipeline. Diese Fähigkeiten wenden KI-gesteuerte Transformationen auf Rohinhalte wie Text, Bilder oder Dokumente während der Indizierung an, wodurch strukturierte, durchsuchbare Informationen aus unstrukturierten Daten extrahiert werden können. |
| Eingabeaufforderung | Der Text, den Sie im API-Aufruf an den Dienst senden. Dieser Text wird dann in das Modell eingegeben. Beispielsweise kann ein Benutzer die folgende Eingabeaufforderung eingeben: Konvertieren Sie die Fragen in einen Befehl: F: Konstanze fragen, ob wir Brot brauchen: A: send-msg find constance Brauchen wir Brot? Q: Senden Sie eine Nachricht an Greg, um herauszufinden, ob alles für Mittwoch bereit ist. A: Send-msg find greg Ist alles bereit für Mittwoch? |
| Suchindizes | In Foundry IQ ist ein Index die Datenstruktur, die Ihre durchsuchbaren Inhalte enthält, definiert, wie sie gespeichert wird, und steuert, wie der Dienst sie interpretiert, wenn Sie eine Abfrage ausführen. |
Der agentische Abruf hilft einer Anwendung beim Auffinden von Erdungsdaten für die Frage eines Benutzers. Je nach Konfiguration kann ein Modell zum Planen von Suchvorgängen, zum Ausführen von Suchvorgängen für ausgewählte Inhalte und zum Kombinieren der Ergebnisse verwendet werden. Eine Anwendung kann den zurückgegebenen Inhalt direkt verwenden oder es einem Sprachmodell bereitstellen, um eine Antwort zu generieren.
Microsoft Retriever 1 ist ein spezialisiertes, foundry IQ gehostetes Modell zum Abrufen. Sie prüft eine Frage und ruft relevante Informationen ab und kann eine Nachverfolgungssuche anfordern oder den Abruf abschließen. Es handelt sich nicht um ein allgemeines Antwortgenerierungsmodell.
Eine Anwendung kann Microsoft Retriever 1 verwenden, um einen einzelnen Index zu durchsuchen, ohne eine Knowledge Base zu erstellen oder für unterstützte Wissensbasisabrufszenarien zu konfigurieren. Für die von Microsoft Retriever 1 ausgeführte Abrufarbeit müssen Sie kein separates Sprachmodell bereitstellen. Für die Antwortsynthese ist ein geeignetes separat konfiguriertes Modell erforderlich.
Note
Microsoft Retriever 1 und die direkte agentische Indexsuche sind die hier für API-Version 2026-11-01-preview beschriebenen Vorschaufunktionen.
Schlüsselbegriffe für agentische Abrufvorgänge
| Begriff | Definition |
|---|---|
| Agent-Abruf | Ein Abrufprozess, der modellgesteuerte Planung und mehrere Suchvorgänge verwenden kann, um informationen zu finden, die für eine Frage relevant sind. |
| Erdungsdaten | Abgerufene Inhalte, die eine Anwendung als Grundlage für eine Antwort nutzen kann. |
| Wissensquelle | Eine konfigurierte Quelle von Inhalten, die von einer Wissensdatenbank durchsucht werden kann. |
| Wissensdatenbank | Eine Ressource, die Wissensquellen und -einstellungen zum Abrufen und, wenn konfiguriert, die Antwortsynthese organisiert. |
| Semantische Absicht | Eine Suchanforderung, die die Informationen beschreibt, die aus einer Wissensbasis abgerufen werden sollen. |
| Rückgewinnungsanstrengung für Schlussfolgerungen | Eine Wissensbasiseinstellung, die sich darauf auswirkt, wie der Abruf geplant ist und wie viel Aufwand betrieben wird. Das Verhalten hängt von den konfigurierten Modellen und Quellen ab. |
| Antwortsynthese | Ein separater modellgesteuerter Schritt, der eine Antwort in natürlicher Sprache basierend auf der Frage des Benutzers und den abgerufenen Inhalten generiert. |
Knowledge Graphs for Foundry IQ beschreiben drei komplementäre Möglichkeiten zum Organisieren von Inhalten für den Abruf:
-
Entitäten unterstützen den strukturierten Abruf über Dokumentsammlungen.
- Eine Ontologie definiert die relevanten Entitätstypen, Beziehungen und Eigenschaften. Sprachmodelle verwenden diese Ontologie, um strukturierte Informationen aus dem ursprünglichen Text zu extrahieren. Beispielsweise kann eine Ontologie eine Organisation darstellen, die ein Produkt besitzt und einen Standort hat. Stellen Sie eine Ontologie bereit, oder verwenden Sie Begleittools, um eins zu erstellen und zu verfeinern.
-
Themen organisieren vorbereitete Textabschnitte in verwandte Gruppen.
- Graph-Algorithmen verwenden Ähnlichkeiten zwischen Passageeinbettungen, um eine Themenhierarchie zu erstellen.
- Ein optionales Sprachmodell verwendet repräsentative Passagen, um Bezeichnungen und, je nach Konfiguration, Beschreibungen zu generieren.
-
Sitemaps bieten eine Navigationskarte über der vorhandenen Themenhierarchie und verbinden umfassende Themen mit schmaleren Unterthemen.
- Foundry IQ-Anwendungen können diese Strukturen für die Erkundung verwenden.
Note
Knowledge Graphs sind Vorschaufunktionen, die hier für die API-Version 2026-11-01-preview beschrieben werden.
Schlüsselbegriffe zu Knowledge Graph
| Begriff | Definition |
|---|---|
| Einbettung | Eine numerische Darstellung von Inhalt, die von einem KI-Modell erzeugt wird und zum Vergleichen der Bedeutungsähnlichkeit verwendet wird. |
| Thema | Eine Gruppe verwandter Passagen. |
| Themenhierarchie | Übergeordnete Themengruppen und spezifischere Untergruppen, mit Links zu ihren zugehörigen Abschnitten. |
| Sitemap | Eine Navigationskarte über der vorhandenen Themenhierarchie. |
| Ontologie | Ein Schema, das die Entitätstypen, Beziehungen und Eigenschaften definiert, die ein Graph darstellen soll. |
| Triple | Eine strukturierte Aussage, die aus einem Subjekt, einer Beziehung und einem Objekt besteht, z. B. einer Organisation, die ein Produkt besitzt. |
| Graph-Abfrage | Eine strukturierte Anforderung zum Abgleichen von Beziehungen, Anwenden von Bedingungen oder Berechnen von Ergebnissen über einen Graphen. |
| Herkunft | Informationen, die eine abgerufene Passage oder extrahierte Beziehung mit ihrer Quelle verknüpfen. |
Funktionen
- KI-Anreicherung
- Vektorsuche
- Semantischer Ranker
- Abfrageumformulierung
- GenAI Prompt-Fähigkeit
- Agent-Abruf
- Knowledge-Graphen
Systemverhalten
Mehrere integrierte Skills zur KI-Anreicherung in Foundry IQ nutzen Foundry Tools. Die Transparenzhinweise für jede integrierte Qualifikation finden Sie unten für Überlegungen bei der Wahl einer Fähigkeit:
- Schlüsselphrasenextraktionsfähigkeit: Sprache - Schlüsselphrasenextraktion
- Spracherkennung: Sprache - Spracherkennung
- Entitätsverknüpfungsfertigkeit: Sprache - Entitätsverknüpfung
- Entitätserkennungskompetenz: Sprache - Benannte Entitätserkennung (NER)
- PII-Erkennungskompetenz: Sprache - PII-Erkennung
- Stimmungskompetenz: Sprache - Stimmungsanalyse
- Bildanalysefähigkeit: Vision - Bildanalyse
- OCR Skill: Vision - OCR
- Dokumentlayoutfunktion: Dokumentenintelligenz
- Skill für Inhaltsverständnis: Inhaltsverständnis
In der Dokumentation finden Sie Informationen zu jeder Funktion, um mehr über deren jeweilige Fähigkeiten, Einschränkungen, Leistung, Bewertungen sowie Methoden zur Integration und verantwortungsvollen Nutzung zu erfahren. Beachten Sie, dass die Verwendung dieser Skills in Kombination zu sich verstärkenden Effekten führen kann (z. B. Fehler aufgrund von OCR werden sich auch bei der Schlüsselwortextraktion zeigen).
Anwendungsfälle
Beispielanwendungsfälle
Da Foundry IQ eine Lösung für die Volltextsuche ist, besteht der Zweck der KI-gestützten Anreicherung darin, die Suchfunktion unstrukturierter Inhalte zu verbessern. Hier sind einige Beispiele für Szenarien zur Inhaltserweiterung, die von den integrierten Fähigkeiten unterstützt werden:
- Übersetzung und Spracherkennung ermöglichen die mehrsprachige Suche.
- Die Entitätserkennung extrahiert Personen , Orte und andere Entitäten aus großen Textabschnitten.
- Die Schlüsselbegriffextraktion identifiziert und gibt dann wichtige Begriffe aus.
- OCR erkennt gedruckten und handschriftlichen Text in Binärdateien.
- Die Bildanalyse beschreibt Bildinhalte und gibt die Beschreibungen in Form durchsuchbarer Textfelder aus.
- Integrierte Vektorisierung ist eine Funktion, die Foundry-Embedding-Modelle aufruft, um Daten zu vektorisieren und Einbettungen in Foundry IQ zur Ähnlichkeitssuche zu speichern.
- Inhaltsverständnis extrahiert Text im Layoutformat und ordnet ihn durchsuchbaren Feldern zu. Außerdem werden Zahlen (einschließlich Bilder, Diagramme, Diagramme usw.) aus Dokumenten extrahiert. Optional kann es Text in semantische Abschnitte aufteilen und mithilfe eines großen Sprachmodells Textbeschreibungen von Abbildungen ausgeben.
Systemverhalten
Bei der Vektorsuche sucht das Suchsystem nach Vektoren innerhalb des Einbettungsraums im Index, um diejenigen Vektoren zu finden, die nahe am Abfragevektor liegen. Diese Technik wird als nächste Nachbarsuche bezeichnet. Dies hilft auch, den Grad der Ähnlichkeit oder des Abstands zwischen Elementen zu quantifizieren. Ein hoher Grad an Vektorähnlichkeit weist darauf hin, dass die ursprünglichen Daten ebenfalls ähnlich waren. Die beiden Vektorsuchalgorithmen, die von Foundry IQ unterstützt werden, weisen unterschiedliche Ansätze auf, wobei verschiedene Merkmale wie Latenz, Durchsatz, Rückruf und Speicher abgehandelt werden.
Die Suche nach dem tatsächlichen Satz der k-nächsten Nachbarn erfordert einen vollständigen Vergleich des Eingabevektors mit allen Vektoren im Dataset. Während jede Berechnung der Vektorähnlichkeit relativ schnell ist, ist die Durchführung dieser umfassenden Vergleiche in großen Datasets rechenintensiv und langsam aufgrund der schiere Anzahl von Vergleichen, die erforderlich sind. Je höher die Dimensionalität jedes Vektors ist, desto komplexer und langsamer werden die Berechnungen für jeden Vektor sein.
Um diese Herausforderung zu bewältigen, werden Suchmethoden für annähernde nächste Nachbarn (Approximate Nearest Neighbor, ANN) verwendet, um einen Ausgleich zwischen Abruf und Geschwindigkeit zu erzielen. Diese Methoden können effizient eine kleine Gruppe von Kandidatenvektoren finden, die wahrscheinlich dem Abfragevektor ähneln, wodurch die Gesamtanzahl der Vektorvergleiche reduziert wird. Foundry IQ verwendet den hierarchischen Navigable Small World (HNSW)-Algorithmus, um hochdimensionale Datenpunkte in einer probabilistischen hierarchischen Diagrammstruktur zu organisieren, die eine schnelle Ähnlichkeitssuche ermöglicht und gleichzeitig einen tunbaren Kompromiss zwischen Suchgenauigkeit und Rechenkosten ermöglicht.
Foundry IQ unterstützt auch mehrere Ähnlichkeitsmetriken, um die nächsten Nachbarn und den Score jedes Vektorergebnisses zu bestimmen. Dazu gehören: Kosinus, „euklidische Distanz“ (auch als „L2-Norm“ bezeichnet) und „Skalarprodukt“. Kosinus berechnet den Winkel zwischen zwei Vektoren. Euklidan berechnet den Euklidischen Abstand zwischen zwei Vektoren, was die l2-Norm des Unterschieds der beiden Vektoren ist. Das Punktprodukt wird von der Größe der Vektoren und des Winkels zwischen ihnen beeinflusst. Bei normalisierten Einbettungsbereichen entspricht das Punktprodukt der Kosinus-Ähnlichkeit, ist aber effizienter.
Anwendungsfälle
Beispielanwendungsfälle
Es gibt viele Szenarien, in denen die Vektorsuche nützlich ist, und sie sind nur durch die Funktionen des Modells beschränkt, die zum Generieren von Vektoreinbettungen verwendet werden. Im Folgenden finden Sie einige allgemeine Anwendungsfälle, in denen die Vektorsuche verwendet werden kann:
- Semantische Suche: Extrahieren Sie das semantische Verständnis aus Text mithilfe eines Modells, z. B. mithilfe von Modellen wie den Azure OpenAI Service Einbettungsmodellen.
- Suche über verschiedene Datentypen (multimodal): Codieren Sie Inhalte aus Bildern, Text, Audio und Video oder einer Mischung daraus und führen Sie eine einzige Suche über alle diese hinweg durch.
- Mehrsprachige Suche: Verwenden Sie ein mehrsprachiges Einbettungsmodell, um Ihr Dokument in mehreren Sprachen darzustellen, um Ergebnisse in unterstützten Sprachen zu finden.
- Hybridsuche: Die Vektorsuche wird auf Feldebene implementiert, was bedeutet, dass Sie Abfragen erstellen können, die Vektorfelder und durchsuchbare Textfelder enthalten. Die Abfragen werden parallel ausgeführt, und die Ergebnisse werden in einer einzigen Antwort zusammengeführt. Es hat sich gezeigt, dass hybride Suchergebnisse mit semantischer Rangfolge die besten qualitativen Ergebnisse liefern.
- Gefilterte Vektorsuche: Eine Abfrage kann eine Vektorabfrage und einen Filterausdruck enthalten. Filter, die auf andere Datentypen angewendet werden, sind nützlich, um Dokumente basierend auf anderen Kriterien einzuschließen oder auszuschließen.
- Vektordatenbank: Dieser reine Vektorspeicher ist für den langfristigen Speicher oder eine externe Wissensbasis für große Sprachmodelle (LLMs) vorgesehen. Verwenden Sie z. B. Foundry IQ als Vektorindex in Azure Machine Learning Prompt flow für Retrieval-Augmented-Generation-(RAG)-Anwendungen.
Überlegungen bei der Auswahl eines Anwendungsfalls
Es kann Überlegungen und Bedenken im Zusammenhang mit dem spezifischen Modell geben, das Sie zum Generieren von Vektoreinbettungen auswählen. Jedes Modell könnte eigene Probleme mit Voreingenommenheit und Fairness haben und sollte vor der Verwendung in Ihrer Anwendung ausgewertet werden. Foundry IQ bietet keine Modelle zum Vektorisieren von Inhalten als Teil des Dienstes. Beispiele für diese Überlegungen finden Sie im Azure OpenAI Service Transparenzhinweis. Andere Drittanbieter- oder OSS-Modelle haben eigene Überprüfungspunkte zu berücksichtigen.
Systemverhalten
Die Bewertung der Ergebnisse des ersten Schichtabrufschritts ist ein sehr ressourcenintensiver Prozess. Um die Verarbeitung des Rankers innerhalb der erwarteten Abfrageverzögerung abzuschließen, werden nur die 50 wichtigsten Ergebnisse der Suchmaschine als Eingaben an das semantische Ranking-Modul gesendet. Falls sie zu lang sind, werden die 50 Ergebnisse zuerst an einen Zusammenfassungsschritt gesendet, der den relevantesten Inhalt aus jedem Ergebnis extrahiert, bevor der semantische Ranking-Algorithmus ausgeführt wird.
Während des Zusammenfassungsschritts wird das abgerufene Dokument zunächst durch einen Vorbereitungsprozess verarbeitet, der die verschiedenen Dokumenteninputs zu einer einzigen langen Zeichenfolge verkettet. Wenn die Zeichenfolge zu lang ist, findet eine Einschränkungsübung statt, wobei ein besonderer Schwerpunkt auf das Aufbewahren von Inhalten in Feldern gelegt wird, die der semantischen Konfiguration hinzugefügt wurden. Nachdem Zeichenfolgen vorbereitet wurden, werden sie durch Computerleseverständnis- und Sprachdarstellungsmodelle übergeben, um zu bestimmen, welche Sätze und Ausdrücke die beste Zusammenfassung relativ zur Abfrage bereitstellen. In dieser Phase werden Inhalte aus der Zeichenfolge extrahiert, die an die semantische Rangfolgestufe weitergeleitet werden, und gibt optional eine semantische Beschriftung oder semantische Antwort aus.
Der letzte Schritt, semantische Rangfolge, bestimmt die Relevanz des im vorherigen Schritt extrahierten Inhalts für die Abfrage des Benutzers und gibt eine semantische Bewertung zwischen 4 (hoch relevant) und 0 (irrelevant) aus. Dieser Schritt basiert auf dem Abfragetext und auf dem zusammengefassten Text und umfasst komplexere Berechnungen als die der Abrufebene.
Anwendungsfälle
Beispielanwendungsfälle
Semantischer Rangfolger kann in mehreren Szenarien verwendet werden. Zu den vorgesehenen Anwendungsfällen des Systems gehören:
- Retrieval Augmented Generation (RAG): Der semantische Rangierer ermöglicht es Ihnen, Antworten aus Ihren generativen KI-Anwendungen in relevanten Suchergebnissen zu ermitteln, die den von Ihnen definierten Schwellenwert für die Relevanzbewertung erfüllen. Beispielsweise verwendet Azure OpenAI Service für Ihre Daten Foundry IQ, um Azure OpenAI-Modelle mit Ihren Daten anzureichern. Sie können den semantischen Rang innerhalb dieses Diensts verwenden, um die Relevanz der Informationen zu verbessern, die an das Azure OpenAI-Modell gespeist werden.
- Inhaltssuche: Mit dem Semantic Ranker können Sie nach relevanten Inhalten in Ihren Daten suchen, indem Sie Text und Metadaten analysieren. Suchen Sie beispielsweise auf der learn.microsoft.com Website, die einen semantischen Rangierer verwendet, um die Suchrelevanz für Softwareentwickler zu verbessern, die nach Microsoft technischen Dokumentationen suchen.
- eCommerce-Suche: Das semantische Ranking ermöglicht es eCommerce-Unternehmen, ihre Sucherfahrung zu verbessern, indem relevante Produktergebnisse basierend auf semantischer Relevanz bereitgestellt werden. Onlinehändler verwenden beispielsweise semantische Rangfolger, um ihre eCommerce-Erfahrung zu optimieren, indem sie relevante Suchergebnisse für ihre Online-Shopper bereitstellen.
- QnA: Foundry IQ ermöglicht Organisationen die Bereitstellung einer Unterhaltungserfahrung für ihre Benutzer, indem sie Fragen beantworten, die auf den in ihren Datenbanken verfügbaren Informationen basieren. Beispielsweise kann ein Hersteller semantische Rangfolge verwenden, um Informationen zu erweitern, die einem Chatbot zur Verfügung stehen. Techniker können diesen Chatbot verwenden, um Fragen zu stellen und hoch relevante interne Dokumente im Zusammenhang mit ihrer Abfrage und sofortigen Antworten innerhalb der abgerufenen Dokumente abzurufen.
Überlegungen bei der Auswahl eines Anwendungsfalls
Wir ermutigen Kunden, semantische Rangfolger in ihren innovativen Lösungen oder Anwendungen zu verwenden. Bei der Auswahl eines Anwendungsfalls sind jedoch einige Überlegungen zu beachten:
- Sensible Informationen : Die Machine Learning-Modelle, die den semantischen Rangierer ermöglichen, verarbeiten die in einer Suchabfrage abgerufenen Daten, einschließlich sensibler Informationen wie persönliche Details und Finanzinformationen. Berücksichtigen Sie alle Datenschutz- und Sicherheitsauswirkungen, bevor Sie den semantischen Rang für solche Anwendungsfälle implementieren.
- Bias und Fairness : Der Semantic ranker wird durch Deep Learning-Modelle unterstützt. Diese Deep Learning-Modelle wurden mit öffentlichen Inhalten trainiert. Kundendaten werden von den semantischen Rankingsmodellen bewertet. Bewerten Sie die Ergebnisse des semantischen Einordnungssystems, wenn Sie Anwendungsfälle auswählen, insbesondere für Anwendungsfälle, die Auswirkungen auf Fairness und Gerechtigkeit haben, z. B. Einstellung und Personalbeschaffung.
- Einhaltung der Vorschriften: Einige Branchen, z. B. Gesundheitswesen und Finanzen, sind streng reguliert und können Einschränkungen für die Verwendung von KI und maschinellem Lernen haben. Bevor Sie semantische Rangfolger in solchen Branchen verwenden, stellen Sie sicher, dass die Lösung den relevanten Vorschriften und Richtlinien entspricht.
Systemverhalten
Die ursprüngliche Abfrage wird an ein fein abgestimmtes Small Language Model (SLM) gesendet, das von Foundry IQ gehostet wird. Dieses Modell wurde mit öffentlichen Inhalten trainiert. Der SLM transformiert die ursprüngliche Abfrage in eine Reihe synthetischer Abfragen. Diese synthetischen Abfragen sind semantisch nahe an der Absicht der ursprünglichen Abfrage, enthalten jedoch einen anderen Satz von Ausdrücken, um den Rückruf von der Suchmaschine zu verbessern.
Die synthetischen Abfragen werden dann mit der ursprünglichen Abfrage kombiniert und an die Suchmaschine gesendet. Wenn die BM25-Rangfolge ausgeführt wird, werden schlüsselbegriffe aus den synthetischen Abfragen mit der ursprünglichen Abfrage kombiniert. Wenn die Vektorsuche ausgeführt wird, wird die ursprüngliche Abfrage mit den synthetischen Abfragen verkettet, bevor der Vektoreinbettungsschritt ausgeführt wird.
Anwendungsfälle
Beispielanwendungsfälle
Abfrageumschreibung kann in mehreren Szenarien eingesetzt werden. Für die Abfrageumformulierung ist die Verwendung des semantischen Rankers erforderlich.
- Chatinteraktion mit Ihren Daten: Mit der Abfrageumschreibung können Sie Antworten aus Ihren generativen KI-Anwendungen in relevanten Suchergebnissen erstellen, die dem von Ihnen definierten Schwellenwert für die Relevanzbewertung entsprechen. Beispielsweise verwendet der Azure OpenAI Service On Your Data Foundry IQ, um Azure OpenAI-Modelle mit Ihren Daten zu erweitern. Sie können die Abfrageumschreibung innerhalb dieses Diensts verwenden, um die Relevanz der Ergebnisse der Informationen zu verbessern, die an das Azure OpenAI-Modell gespeist werden.
- Konversationsfragen und -antworten (QnA): Foundry IQ ermöglicht es Organisationen, ihren Benutzern eine Konversationserfahrung zu bieten, indem sie Fragen beantworten, die auf den in ihren Datenbanken verfügbaren Informationen basieren. Beispielsweise kann ein Hersteller semantische Rangfolge verwenden, um Informationen zu erweitern, die einem Chatbot zur Verfügung stehen. Techniker können diesen Chatbot verwenden, um Fragen zu stellen und hoch relevante interne Dokumente im Zusammenhang mit ihrer Abfrage und sofortigen Antworten innerhalb der abgerufenen Dokumente abzurufen.
Überlegungen bei der Auswahl eines Anwendungsfalls
Wir empfehlen Kunden, das Umschreiben von Abfragen in ihren innovativen Lösungen oder Anwendungen zu verwenden. Bei der Auswahl eines Anwendungsfalls sind jedoch einige Überlegungen zu beachten:
- Vertrauliche Informationen und personenbezogene Daten: Das feinabgestimmte SLM, das die Umformulierung von Abfragen ermöglicht, verarbeitet die Suchabfrage, die sensible Informationen enthalten kann. Berücksichtigen Sie alle Datenschutz- und Sicherheitsauswirkungen, bevor Sie abfrageumschreibungen für solche Anwendungsfälle implementieren.
- Verbergen Sie personenbezogene Informationen, um unbewusste Voreingenommenheiten zu reduzieren. Beispielsweise möchten sie während des Lebenslaufüberprüfungsprozesses eines Unternehmens möglicherweise den Namen, die Adresse oder telefonnummer eines Kandidaten blockieren, um unbewusstes Geschlecht oder andere Verzerrungen während der Suche zu reduzieren.
- Rechtliche und regulatorische Überlegungen. Organisationen müssen bei der Nutzung von Foundry IQ potenzielle spezifische rechtliche und regulatorische Verpflichtungen bewerten, da Foundry IQ möglicherweise nicht für den Einsatz in jeder Branche oder in jedem Szenario geeignet ist. Einschränkungen können je nach regionalen oder lokalen behördlichen Anforderungen variieren. Darüber hinaus ist Foundry IQ nicht für sie ausgelegt und darf nicht auf eine Weise verwendet werden, die in anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.
Die GenAI Prompt-Fähigkeit ermöglicht Es Kunden, ihre Dokumentinhalte, die in ihren Datenquellen vorhanden sind, und benutzerdefinierte Aufforderungen an ein Sprachmodell zu übergeben, das sie besitzen, gehostet auf Microsoft Foundry. Das Sprachmodell verarbeitet die Eingabe und gibt erweiterten Inhalt zurück, der dann zusammen mit dem ursprünglichen Dokumentinhalt in den Suchindex aufgenommen wird. Dieser Prozess ermöglicht die Erweiterung von Suchindizes mit KI-generierten Zusammenfassungen, Bildbeschriftungen und Entitätsextraktion, unter anderem basierend auf kundendefinierten Kriterien.
Die folgenden Beispiele zeigen, wie die GenAI Prompt-Fähigkeit funktioniert.
Zero-Shot-Zusammenfassung von Tickets
Ziel: Supportmitarbeiter können E-Mail-Threads mit mehreren Seiten in Sekunden überspringen.
Funktionsweise:
- Während der Indizierung wird jede lange Ticketunterhaltung in logische Segmente unterteilt (Erstanfrage, Nachverfolgungsfragen, Diagnoseprotokolle usw.).
- Für jedes Segment wird das Sprachmodell angewiesen, diesen Abschnitt in drei scharfen Sätzen zusammenzufassen.
- Die resultierenden Abstraktionen ersetzen den Rohtext während des Abrufs, sodass Agenten – und nachgeschaltete RAG-Pipelines – nur die destillierte Essenz sehen.
Warum dies hilft: Präzise Zusammenfassungen auf Segmentebene reduzieren die Promptgröße, beschleunigen die Reaktionsgenerierung und helfen Agents, sich auf das Kernproblem des Kunden zu konzentrieren.
Few-shot-Entitätsextraktion
Ziel: Supportanfragen wie „Alle Tickets anzeigen, bei denen Produkt X mit Fehler 500 abgestürzt ist.“
Funktionsweise
- Der vollständige Tickettext wird an den Skill zusammen mit einem ausgearbeiteten Beispiel gesendet, das das gewünschte Ausgabeformat zeigt (eine Liste der wichtigsten Entitäten wie Produktname, Fehlercode, Betriebssystem und Schweregrad).
- Das Modell extrahiert jedes Vorkommen von 〈Produkt, error_code, Plattform, Schweregrad.
- Diese strukturierte Liste wird mit dem Dokument gespeichert und ermöglicht Sofortfilter, die beispielsweise alle schweren Abstürze unter iOS anzeigen.
Warum dies hilft: Vorkalkulierte Entitäten verwandeln freie Kundenanfragen in filterbare Daten, sodass Support-Leads Muster erkennen und Korrekturen ohne manuelle Analyse priorisieren können.
One-Shot-Klassifizierung für die Ticketweiterleitung
Ziel: Leitet jedes Ticket automatisch an die richtige Warteschlange weiter.
Funktionsweise:
- Jedes Ticket wird mit einer Aufforderung analysiert, die fünf Supportkategorien auflistet: Abrechnung, technisches Problem, Kontozugriff, Featureanfrage und allgemeines Feedback – plus ein Referenzbeispiel ("Beispielticket → Abrechnung").
- Das Modell weist jedem Ticket, das als Eingabe in das Foundry IQ-System eingeht, genau eine Bezeichnung zu, basierend auf den fünf oben genannten Supportkategorien.
- Das Helpdesksystem verwendet die Bezeichnung, um Abrechnungsanfragen an Finanzexperten, technische Abstürze an Ingenieure usw. zu senden.
Warum es hilft: Schnelle, konsistente Kennzeichnung reduziert falsch weitergeleitete Tickets, verkürzt die Auflösungszeit und verbessert die Kundenzufriedenheit.
Vorschlag zur Auflösung des Gedankengangs
Ziel: Bieten Sie Supportmitarbeitern den besten nächsten Schritt, um das Problem zu beheben.
Funktionsweise
- Das gesamte Ticket ( oder die neueste Kundennachricht ) wird an das Sprachmodell übergeben.
- Die Benutzernachricht weist das Modell nach der Systemaufforderung an, intern Schritt für Schritt zu denken, aber nur die empfohlene nächste Aktion auszugeben.
- Der zurückgegebene Leitfaden kann lauten: "Bitten Sie den Kunden, den Cache zu löschen und Version 3.2.1 erneut zu installieren."
- Agents können den Vorschlag direkt kopieren oder verfeinern, bevor sie reagieren.
Warum es hilft: Agents erhalten eine umsetzbare Empfehlung ohne die private Begründungskette des Modells und sparen Zeit, während die Problembehandlungsschritte präzise und relevant bleiben. In bestimmten Fällen wird der Supportmitarbeiter nicht mit unnötigen Informationen überflutet.
Anwendungsfälle
Beispielanwendungsfälle
Die GenAI Prompt-Fähigkeit verbessert die Datenanreicherung innerhalb der Foundry IQ und trägt zur Reaktionsrelevanz bei, um den Benutzerabsichten und Erwartungen gerecht zu werden. Durch die Integration von KI-generierten Inhalten in Suchindizes ermöglicht diese Fähigkeit genauere und kontextbezogenere Suchergebnisse. Zu den wichtigsten Anwendungen gehören:
- Erstellen sie kurze Zusammenfassungen langwieriger Dokumente, um einen schnelleren Informationsabruf zu erleichtern: Eine Anwaltskanzlei verarbeitet umfangreiche Verträge und verwendet die GenAI Prompt-Fähigkeit, kurze Zusammenfassungen mit hervorhebung wichtiger Klauseln zu erstellen, wodurch es Rechtsanwälten einfacher ist, wichtige Informationen zu überprüfen, ohne ganze Dokumente zu lesen.
- Erstellen von Textbeschreibungen für Bilder zur Verbesserung der Suchbarkeit und Barrierefreiheit: Ein Medienunternehmen verwaltet eine umfangreiche Bildbibliothek. Durch die Anwendung der GenAI Prompt-Fähigkeit generieren sie beschreibende Beschriftungen für jedes Bild und ermöglichen eine effiziente Suche und Organisation innerhalb ihres digitalen Asset Management-Systems.
- Identifizieren und Extrahieren bestimmter Entitäten oder Fakten aus Dokumenten basierend auf benutzerdefinierten Kriterien: Eine Forschungseinrichtung analysiert wissenschaftliche Arbeiten, um Erwähnungen chemischer Verbindungen und ihrer Eigenschaften zu extrahieren. Die GenAI Prompt-Fähigkeit automatisiert diese Extraktion und füllt eine strukturierte Datenbank für Forscher, um schnell auf relevante Daten zuzugreifen.
- Klassifizieren von Dokumenten in definierte Kategorien für bessere Organisation und Abruf: Ein Versicherungsunternehmen erhält täglich zahlreiche Arten von Dokumenten. Mithilfe der GenAI Prompt-Fähigkeit klassifizieren sie diese Dokumente automatisch in Kategorien wie Ansprüche, Richtlinienaktualisierungen und Kundenfeedback. Dadurch wird der Prozess der Dokumentverwaltung optimiert und das Auffinden bestimmter Dokumente bei Bedarf vereinfacht.
Dies sind zwar gängige Anwendungen, aber die Fähigkeit ist flexibel, sodass Kunden Aufforderungen definieren können, die auf ihre individuellen Anforderungen zugeschnitten sind.
Überlegungen bei der Auswahl eines Anwendungsfalls
Es ist wichtig zu beachten, dass die Inhalte, Prompts und die Bereitstellung von Sprachmodellen vollständig vom Kunden verwaltet werden. Foundry unterstützt Inhaltssicherheitsfilter für Modellbereitstellungen, und Kunden sind für die Konfiguration dieser Filter nach Bedarf verantwortlich. Über die in Foundry verfügbaren Konfigurationen hinaus wendet Foundry IQ keine zusätzlichen Inhaltssicherheitsfilter innerhalb der GenAI Prompt-Fähigkeit an.
Berücksichtigen Sie bei der Implementierung der GenAI Prompt-Fähigkeit Folgendes:
- Führen Sie Prozesse zur Überprüfung von KI-generierten Inhalten durch Menschen ein, insbesondere bei der Anwendung von Prompt-Transformationen, die die Zuverlässigkeit von Informationen beeinträchtigen könnten. Verwenden Sie das Tool für Debug-Sitzungen von Foundry IQ, um Prompts anhand von Beispieldokumenten vor der vollständigen Bereitstellung zu testen.
- Vermeiden Sie Szenarien, in denen die Nutzung oder der Missbrauch des Systems bei einer Person zu erheblichen körperlichen oder psychischen Verletzungen führen könnte. Beispielsweise können Szenarien, die Patienten diagnostizieren oder Medikamente verschreiben, das Potenzial haben, erhebliche Schäden zu verursachen. Die Einbeziehung sinnvoller menschlicher Überprüfung und Aufsicht in das Szenario kann dazu beitragen, das Risiko schädlicher Ergebnisse zu verringern.
- Prüfen Sie alle Anwendungsfälle für generative KI sorgfältig. Szenarien zur Inhaltsgenerierung können wahrscheinlicher zu unbeabsichtigten Ausgaben führen, und diese Szenarien erfordern sorgfältige Überlegungen und Gegenmaßnahmen.
- Rechtliche und regulatorische Überlegungen. Organisationen müssen potenzielle spezifische rechtliche und regulatorische Verpflichtungen bewerten, wenn Sie Foundry IQ verwenden, das möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet ist. Einschränkungen können je nach regionalen oder lokalen behördlichen Anforderungen variieren. Darüber hinaus ist Foundry IQ nicht für sie ausgelegt und darf nicht auf eine Weise verwendet werden, die in anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.
Systemverhalten
Microsoft Retriever 1 arbeitet mit der Pipeline für Suche, Abruf und Rangfolge. Die Suche ruft zuerst Ergebnisse ab und bewertet sie mithilfe der ursprünglichen Indexabfrage oder der semantischen Absichten, die der Wissensdatenbank bereitgestellt werden. Das Modell erhält dann die Frage, den gesammelten Suchverlauf und eine begrenzte Sicht auf die abgerufenen Belege. Es kann eine Nachverfolgungsabfrage vorschlagen. Die Suche führt Folgeabfragen aus. Dienstbeschränkungen oder andere Anforderungsbedingungen können den Abruf beenden, bevor das Modell die Verarbeitung abgeschlossen hat.
Das Verhalten unterscheidet sich je nach Einstiegspunkt und Konfiguration:
- Direkte Einzelindexsuche. Microsoft Retriever 1 kann die Suche in einem Index ohne Wissensbasis steuern.
- Wissensbasis mit minimalem Aufwand. Wenn Sie Microsoft Retriever 1 konfigurieren und einen berechtigten Intent angeben, kann Retrieval eingeschränkte Microsoft Retriever 1-Follow-ups verwenden. Ohne Microsoft Retriever 1 verwendet Minimal die bereitgestellten Absichten ohne diese Schleife. Wenn Sie mehrere Absichten bereitstellen, lässt Minimal Microsoft Retriever 1 Follow-ups weg.
- Wissensbasis mit gekoppeltem automatischem Aufwand. Einige Anfragen enden nach der anfänglichen Suche ohne Microsoft Retriever 1-Aufruf. Berechtigte Anforderungen können Microsoft Retriever 1 verwenden und bei Bedarf an das separat konfigurierte externe Modell eskalieren. Mehrere übergebene Intents überspringen Microsoft Retriever 1 und werden an den externen Planner weitergeleitet.
- Planung mit externem Modell. Ein unterstütztes externes Sprachmodell kann je nach Konfiguration den Abruf aus der Wissensdatenbank anhand des Gesprächskontexts, der Abrufanweisungen und der Auswahl der Wissensquelle planen.
Bei indizierten Inhalten kann der Abruf je nach Anforderung und Konfiguration die Schlüsselwort-, Vektor- oder Hybridsuche verwenden. Die Suche bewertet Kandidatenergebnisse, bevor das Modell sie überprüft. Eine Knowledge Base-Antwort kann Grundlegendes zu Inhalten, Verweisen und Aktivitätsinformationen umfassen. Die direkte Indexsuche gibt Dokumente zurück und kann bei Bedarf Debuginformationen verfügbar machen, einschließlich Unterabfragen und Verwendung.
Anwendungsfälle für agentische Suche
Die folgenden Szenarien veranschaulichen mögliche Verwendungen:
- Verankerung eines Wissensassistenten. Rufen Sie Passagen aus Richtlinien oder Produktdokumentationen ab, damit eine Anwendung unterstützende Quellen mit einer Antwort präsentieren kann.
- Fehlerbehebung. Verwenden Sie eine Frage zu Produkt, Version und beobachteten Symptomen, um die Dokumentation zu durchsuchen. Folgesuchen finden möglicherweise weitere Nachweise.
- Recherche und Vergleich. Sammeln Sie Passagen aus mehreren Dokumenten, um eine Anwendung oder eine Person zu vergleichen. Beispielsweise kann ein Analyst Berichte aus mehreren Zeiträumen untersuchen und die in einer Zusammenfassung verwendeten Passagen überprüfen.
Überlegungen zu Anwendungsfällen für agentisches Retrieval
Wählen Sie den Abrufpfad basierend auf dem Inhalt, der Frage und der Anwendung aus. Die direkte Indexsuche vermeidet eine Wissensbasis, wenn ein Index ausreichend ist. Eine Wissensbasis fügt die Orchestrierung über konfigurierte Quellen hinzu und kann separate Antwortsynthese unterstützen. Eine einfachere Schlüsselwort-, Vektor- oder Hybridabfrage ist möglicherweise ausreichend. Überlegen Sie, ob Benutzer konversationelle Planung, Quellauswahl, Abrufanweisungen oder generierte Antworten benötigen.
Für Anwendungen, die weitreichende Entscheidungen betreffen, bewerten Sie die vollständige Anwendung und stellen eine angemessene menschliche Aufsicht bereit. Berücksichtigen Sie Datenschutz, Zugriff, regionale Anforderungen, Latenz und Kosten für jede konfigurierte Phase.
- Compliance: Bestätigen Sie, dass die Verwendung eines LLM-gesteuerten Abfrageplaners branchenspezifische oder regionale Anforderungen erfüllt (z. B. Data-Residency, Datenschutz oder Automatisierte Entscheidungsregeln im Gesundheitswesen oder Finanzwesen). Sicherstellen einer angemessenen menschlichen Aufsicht und Kontrolle. Erwägen Sie, Steuerelemente einzuschließen, um Entwicklern zu helfen, Aktionen rechtzeitig zu überprüfen, zu überprüfen und/oder zu genehmigen, was die Überprüfung geplanter Aufgaben oder Aufrufe an externe Datenquellen umfassen kann.
- Rechtliche und behördliche Überlegungen: Benutzer müssen potenzielle spezifische rechtliche und behördliche Verpflichtungen bewerten, wenn Sie Foundry Tools und Lösungen verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet sind. Darüber hinaus sind Foundry Tools oder Lösungen nicht für sie ausgelegt und dürfen nicht auf eine Weise verwendet werden, die in anwendbaren Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.
Knowledge Graph-Systemverhalten
Die Extraktion verwalteter Entitäten verwendet die konfigurierte Ontologie, um Entitäten und Beziehungen aus originalen Dokumentpassagen zu extrahieren. Die Standardaufforderung weist das Modell an, das Vokabular des Schemas zu verwenden, Beziehungsrichtung und Bezeichner beizubehalten und zu vermeiden, dass positive Beziehungen von negierten Anweisungen bestätigt werden. Diese Anweisungen garantieren keine korrekte oder vollständige Extraktion.
Die Graph-Abfrageplanung in natürlicher Sprache empfängt den Frage- und Graph-Schemakontext des Benutzers und zielt auf eine schreibgeschützte Abfrage innerhalb der unterstützten Teilmenge der Abfragesprache ab. Planung oder Ausführung kann fehlschlagen. Eine erfolgreiche Abfrage kann eine Frage auch falsch interpretieren oder Belege aus einem unvollständigen oder fehlerhaft extrahierten Graphen abrufen.
Wenn die Themenbezeichnung aktiviert ist, empfängt das Sprachmodell repräsentative Beispiele, nicht jede Passage in einer Gruppe. Bezeichnungen und optionale Beschreibungen sind Navigationshilfen, keine maßgeblichen Zusammenfassungen aller Memberinhalte. Themenclustering spiegelt den Inhalt in jeder Passage möglicherweise nicht genau wider.
Knowledge Graph-Nachweise und -Referenzen
Die Entitätsextraktion behält die Provenienzverknüpfung zu Beziehungen zu ursprünglichen Blöcken und übergeordneten Dokumenten bei. Anwendungen können auswählen, ob ursprünglicher Quellinhalt mit Graph-Ergebnissen eingeschlossen werden soll. Wenn Sie diese Inhalte einschließen, können Benutzer die Passagen überprüfen, die ein Ergebnis unterstützen, aber Sie können die zurückgegebene Menge einschränken.
Diagrammergebnisse und ursprüngliche Quellabschnitte verwenden unterschiedliche Verweise. Anwendungen entscheiden, wie sie diese Nachweise präsentieren und Antworten generieren. Unterscheiden Sie Diagramminformationen eindeutig von ursprünglichen Quellinhalten, damit Benutzer beide prüfen können.
Für Themen sollten Anwendungen jede Aussage mit der entsprechenden Passage und dem Quelldokument verknüpfen. Eindeutige Identifizierung von Bezeichnungen, die von einem Modell abgeleitet werden, wenn ein Thema keinen angegebenen Namen hat.
Anwendungsfälle für Wissensgraphen
Die folgenden Szenarien veranschaulichen mögliche Verwendungen:
- Entitäten: Folgen Sie zusammenhängenden Fakten. Ein Dokument besagt, dass Acme Atlas besitzt und eine andere besagt, dass Acme in Oslo ist. Eine Ontologie, die Eigentumsverhältnisse und Standort darstellt, kann die Frage „Wo befindet sich Atlass Besitzer?“ unterstützen.
- Themen: Inhaltsumfang erkunden. Gruppen zu Produktbesitz und Bürostandorten können Ihnen helfen, zu untersuchen, was eine Sammlung abdeckt. Themengruppen können auch bei der Untersuchung wiederkehrender Probleme in Kundenfeedbackberichten helfen.
- Sitemaps: Navigieren in einer Hierarchie. Ein Agent kann von „Acme operations“ zu „Produktverantwortung“ oder „Bürostandorten“ folgen und dann unterstützende Passagen prüfen.
Verwenden Sie Entitäten für Aufgaben, die explizite Beziehungen, Bedingungen oder Zählungen umfassen; Themen zur Themensuche; und Sitemaps für die Hierarchienavigation. Vergleichen Sie sie mit einfacherem Schlüsselwort-, Vektor- oder Hybridabruf für dieselben Aufgaben. Berücksichtigen Sie die Build-, Speicher- und Modellkosten sowie die Abruflatenz. Bewerten Sie bei risikoreichen Anwendungsfällen die vollständige Anwendung und stellen Sie eine qualifizierte menschliche Aufsicht bereit.
Einschränkungen
- KI-Anreicherung
- Vektorsuche
- Semantischer Ranker
- Abfrageumformulierung
- GenAI Prompt-Fähigkeit
- Agent-Abruf
- Wissensdiagramme
KI-Anreicherung in Foundry IQ verwendet die Indexer- und Datenquellenfeatures des Diensts, um Foundry Tools aufzurufen, um die Inhaltsanreicherung durchzuführen. Einschränkungen der in diesem Prozess verwendeten Indexer und Datenquellen gelten. Weitere Informationen zu diesen zugehörigen Einschränkungen finden Sie in der Indexer- und Datenquellendokumentation. Die Einschränkungen jedes Foundry Tools, das von der KI-Anreicherungspipeline in Foundry IQ verwendet wird, gelten ebenfalls. Weitere Informationen zu diesen Einschränkungen finden Sie in den Transparenzhinweisen für jeden Dienst .
Technische Einschränkungen, Betriebliche Faktoren und Reichweiten
Alle in Foundry IQ hochgeladenen Vektoren müssen extern zum Dienst unter Verwendung eines Modells Ihrer Wahl generiert werden. Es liegt in Ihrer Verantwortung, die technischen Einschränkungen und Betriebsfaktoren jedes Modells zu berücksichtigen und ob die von ihr erzeugten Einbettungen für Ihren Anwendungsfall optimiert oder sogar geeignet sind. Dies umfasst sowohl die Schlüsse aus Bedeutungen, die aus dem Inhalt extrahiert wurden, als auch die Dimensionalität des Vektoreinbettungsraums.
Das Vektorisierungsmodell erstellt einen Einbettungsbereich, der die resultierende Endbenutzersuche einer Anwendung definiert. Es könnte Nachteile für ein Modell geben, das sich negativ auf Funktionen und Leistung auswirkt, wenn ein Modell nicht gut mit einem gewünschten Anwendungsfall übereinstimmt oder die generierten Einbettungen schlecht optimiert sind.
Während viele Einschränkungen der Vektorsuche aus dem Modell stammen, das zum Generieren von Einbettungen verwendet wird, gibt es einige zusätzliche Optionen, die Sie zur Abfragezeit berücksichtigen sollten. Sie können zwischen zwei Algorithmen wählen, um die Relevanz für Vektorsuchergebnisse zu bestimmen: Erschöpfende k-nächste Nachbarn (KNN) oder Hierarchical Navigable Small World. Die erschöpfende Methode der k-nächsten Nachbarn (KNN) führt eine Brute-Force-Suche im gesamten Vektorraum nach Übereinstimmungen durch, die der Anfrage am ähnlichsten sind. Dazu werden die Abstände zwischen allen Datenpunkten berechnet, um die genauen k-nächsten Nachbarn eines Abfragepunkts zu ermitteln. Obwohl genauer, kann dieser Algorithmus langsam sein. Wenn niedrige Latenz das primäre Ziel ist, sollten Sie den Hierarchischen Navigable Small World (HNSW)-Algorithmus verwenden. HNSW führt eine effiziente annähernde Suche nach dem nächsten Nachbarn (Approximate Nearest Neighbor, ANN) in hochdimensionalen Einbettungsbereichen durch. Weitere Informationen zu diesen Optionen finden Sie in der Vektorsuchdokumentation .
Bewährte Methoden zur Verbesserung der Systemleistung
- Nehmen Sie sich Zeit für A/B-Tests Ihrer Anwendung mit den unterschiedlichen Inhalts- und Abfragetypen, die Sie erwarten, dass Ihre Anwendung unterstützt. Ermitteln Sie, welche Abfrageumgebung für Ihre Anforderungen am besten geeignet ist.
- Verbringen Sie Zeit mit dem Testen Ihrer Modelle mit einem vollständigen Bereich von Eingabeinhalten, um zu verstehen, wie sie sich in vielen Situationen verhält. Dieser Inhalt kann potenziell sensible Eingaben enthalten, um zu verstehen, ob es irgendwelche Verzerrungen gibt, die dem Modell inhärent sind. Die Übersicht Azure OpenAI Responsible AI enthält Anleitungen für die verantwortungsvolle Nutzung von KI.
- Erwägen Sie das Hinzufügen von Azure KI Inhaltssicherheit zu Ihrer Anwendungsarchitektur. Sie enthält eine API, um schädlichen vom Benutzer generierten und KI-generierten Text oder Bilder in Anwendungen und Diensten zu erkennen.
Auswerten und Integrieren der Vektorsuche für Ihre Anwendung
Um eine optimale Leistung zu gewährleisten, führen Sie ihre eigenen Auswertungen der Lösungen durch, die Sie mithilfe der Vektorsuche implementieren möchten. Folgen Sie einem Evaluierungsprozess, der: (1) einige interne Interessengruppen verwendet, um Ergebnisse auszuwerten, (2) A/B-Experimente verwendet, um die Vektorsuche für Benutzer bereitzustellen, (3) Key Performance Indicators (KPIs) und die Überwachung von Metriken umfasst, wenn der Dienst erstmals bereitgestellt wird, und (4) das Testen und Anpassen der Konfiguration des semantischen Rankers und/oder der Indexdefinition beinhaltet, einschließlich der umgebenden Erlebnisse wie Benutzeroberflächenplatzierung oder Geschäftsprozesse.
Microsoft hat die Vektorsuche sowohl in Bezug auf Latenz als auch Zurückruf und Relevanz streng ausgewertet, indem verschiedene Datasets verwendet werden, um die Geschwindigkeit, Skalierbarkeit und Genauigkeit der zurückgegebenen Ergebnisse zu messen. Der Hauptfokus Ihrer Evaluierungsbemühungen sollte die Auswahl des geeigneten Modells für Ihren spezifischen Anwendungsfall sein, das Verständnis der Einschränkungen und Voreingenommenheiten des Modells und das strenge Testen der End-to-End-Vektorsucherfahrung.
Technische Einschränkungen, Betriebliche Faktoren und Reichweiten
Es kann vorkommen, dass semantische Ergebnisse, Beschriftungen und Antworten möglicherweise nicht korrekt erscheinen. Die von Semantic Ranker verwendeten Modelle werden auf verschiedenen Datenquellen trainiert (einschließlich Open-Source und Auswahlen aus dem Microsoft Bing-Korpus). Der semantische Rangierer unterstützt eine breite Palette von Sprachen und versucht, Benutzerabfragen mit Inhalten aus Ihren Suchergebnissen abzugleichen. Semantischer Ranker ist auch ein Premium-Feature mit zusätzlichen Kosten, das bei der Kalkulation der Gesamtkosten Ihrer vollständigen Lösung berücksichtigt werden sollte.
Der semantische Rangierer wird wahrscheinlich die Relevanz gegenüber Inhalten verbessern, die semantisch reich sind, z. B. Artikel und Beschreibungen. Es sucht nach Kontext und Zusammenhängen zwischen Begriffen und hebt Übereinstimmungen hervor, die im Hinblick auf die Abfrage sinnvoller sind. Sprachverständnis "findet" Zusammenfassungen oder Beschriftungen und Antworten innerhalb Ihres Inhalts, aber im Gegensatz zu generativen Modellen wie Azure OpenAI Service Modellen GPT-3.5 oder GPT-4 werden sie nicht erstellt. In der Antwort ist nur ausführlicher Text aus Quelldokumenten enthalten, der dann auf einer Suchergebnisseite für eine produktivere Sucherfahrung gerendert werden kann.
Modernste, vortrainierte Modelle werden zur Zusammenfassung und Rangfolge verwendet. Um die schnelle Leistung aufrechtzuerhalten, die Benutzer von der Suche erwarten, werden semantische Zusammenfassungen und Rangfolgen nur auf die top 50 Ergebnisse angewendet, wie sie vom Standardbewertungsalgorithmus bewertet werden. Eingaben werden vom Inhalt im Suchergebnis abgeleitet. Es kann nicht zurück zum Suchindex gelangen, um auf andere Felder im Suchdokument zuzugreifen, die nicht in der Abfrageantwort zurückgegeben wurden. Eingaben unterliegen einer Tokenlänge von 8.960. Diese Grenzwerte sind erforderlich, um Die Reaktionszeiten in Millisekunden beizubehalten.
Der Standardbewertungsalgorithmus stammt von Bing und Microsoft Research und ist als Zusatzfunktion in die Foundry IQ-Infrastruktur integriert. Die Modelle werden intern verwendet, sind nicht für den Entwickler verfügbar und können nicht konfiguriert werden. Weitere Informationen zu Forschungs- und KI-Investitionen, die dem semantischen Ranker zugrunde liegen, finden Sie unter How AI from Bing is powering Foundry IQ (Microsoft Research Blog).
Der semantische Rangierer bietet auch Antworten, Beschriftungen und Hervorhebungen innerhalb der Antwort. Wenn das Modell beispielsweise eine Abfrage als Frage klassifiziert und 70% der Antwort sicher ist, gibt das Modell eine semantische Antwort zurück. Darüber hinaus stellen semantische Beschriftungen den relevantesten Inhalt innerhalb der Ergebnisse bereit und stellen einen kurzen Codeausschnitt bereit, der die relevantesten Wörter oder Ausdrücke innerhalb dieses Codeausschnitts hervorhebung.
Semantische Bewertungsergebnisse basieren auf den Daten im zugrunde liegenden Suchindex, und die Modelle stellen Relevanzbewertung, Antworten und Beschriftungen basierend auf den aus dem Index abgerufenen Informationen bereit. Vor der Verwendung des semantischen Rangierers in einer Produktionsumgebung ist es wichtig, weitere Tests durchzuführen und sicherzustellen, dass das Dataset korrekt und für den vorgesehenen Anwendungsfall geeignet ist. Weitere Informationen und Beispiele zum Auswerten der semantischen Rangfolge finden Sie im Inhalt und Anhang hier.
Systemleistung
In vielen KI-Systemen wird die Leistung häufig in Bezug auf die Genauigkeit definiert – d. h., wie oft das KI-System eine richtige Vorhersage oder Ausgabe bietet. Bei groß angelegten Natürlichen Sprachmodellen können zwei verschiedene Benutzer die gleiche Ausgabe betrachten und verschiedene Meinungen darüber haben, wie nützlich oder relevant es ist, was bedeutet, dass die Leistung für diese Systeme flexibler definiert werden muss. Unter „Leistung“ wird hier im Allgemeinen verstanden, dass die Anwendung so funktioniert, wie Sie und Ihre Benutzer es erwarten, einschließlich der Vermeidung schädlicher Ausgaben.
Das semantische Ranking-Modell wurde auf öffentlichen Inhalten trainiert. Daher variiert die semantische Relevanz je nach den Dokumenten im Index und den darin ausgestellten Abfragen. Es ist wichtig, ihr eigenes Urteil und Ihre Recherche zu verwenden, wenn Sie diese Inhalte für die Entscheidungsfindung verwenden.
Bewährte Methoden zur Verbesserung der Systemleistung
- Investieren Sie Zeit in A/B-Tests Ihrer Anwendung mit unterschiedlichen Abfragetypen, wie zum Beispiel Schlüsselwort im Vergleich zu Hybrid plus semantischem Ranker. Ermitteln Sie, welche Abfrageumgebung für Ihre Anforderungen am besten geeignet ist.
- Führen Sie einen angemessenen Aufwand aus, um Ihre semantische Konfiguration gemäß der Featuredokumentation einzurichten.
- Vertrauen Sie den semantischen Antworten nicht, wenn Sie keine Vertrauensstellung in die Genauigkeit der Informationen innerhalb des Suchindex haben.
- Vertrauen Sie nicht immer semantischen Untertiteln, da sie aus Kundeninhalten über eine Reihe von Modellen extrahiert werden, die die relevantesten Antworten in einem kurzen Codeausschnitt vorhersagen.
Auswertung des semantischen Rankers
Auswertungsmethoden
Der Semantic Ranker wurde durch interne Tests bewertet, einschließlich automatisierter und menschlicher Beurteilungen mehrerer Datasets sowie Rückmeldungen von internen Kunden. Das Testen umfasst das Einstufen von Dokumenten, indem sie nach Relevanz oder Nicht-Relevanz bewertet und in Prioritätsreihenfolge der Relevanz geordnet werden. Ebenso wurden die Beschriftungs- und Antwortfunktionen auch durch interne Tests bewertet.
Auswertungsergebnisse
Wir bemühen uns, alle Modellupdates regressionsfrei zu versenden (d. a. das aktualisierte Modell sollte nur das aktuelle Produktionsmodell verbessern). Jeder Kandidat wird direkt mit dem aktuellen Produktionsmodell verglichen, indem Metriken verwendet werden, die für die Auswertung des Features geeignet sind (z. B. normalisierter rabattierter Kumulierter Gewinn für Rangfolge und Genauigkeit/Rückruf für Antworten). Semantische Bewertungsmodelle werden trainiert, abgestimmt und ausgewertet, indem sie eine breite Palette von Schulungsdaten verwenden, die repräsentativ für Dokumente sind, die unterschiedliche Eigenschaften (Sprache, Länge, Formatierung, Formatvorlagen und Töne) aufweisen, um das umfassendste Array von Suchszenarien zu unterstützen. Unsere Schulungs- und Testdaten stammen aus:
Quellen von Dokumenten:
- Benchmarks für akademische und industrielle Anforderungen
- Kundendaten (nur Tests, mit Kundenberechtigungen ausgeführt)
- Synthetische Daten
Quellen von Abfragen:
- Benchmark-Abfragesätze
- Vom Kunden bereitgestellte Abfragesätze (nur Tests, mit Kundenberechtigungen ausgeführt)
- Synthetische Abfragesätze
- Vom Menschen generierte Abfragesätze
Quellen von Bezeichnungen für Bewertungsanfragen und Dokumentpaare:
- Bezeichnungen für akademische und branchenspezifische Benchmarks
- Kundenetiketten (nur zu Testzwecken, mit Erlaubnis des Kunden durchgeführt)
- Synthetische Datenbeschriftungen
- Von Menschen bewertete Labels
Auswerten und Integrieren des semantischen Rankers für Ihren Bedarf
Die Leistung des semantischen Rangierers variiert je nach der realen Nutzung und den Bedingungen, unter denen die Benutzer sie verwenden. Die durch die Deep Learning-Modelle bereitgestellte Qualität der Relevanz korreliert direkt mit der Datenqualität Ihres Suchindex und unterstützt die semantische Ranking-Fähigkeiten. Beispielsweise weisen die Modelle derzeit Tokenbeschränkungen auf, die nur die top 8.960 Token für semantische Antworten berücksichtigen. Wenn daher die semantische Antwort auf eine Suchabfrage am Ende eines langen Dokuments (über das Tokenlimit von 8.960 hinaus) gefunden wird, wird die Antwort nicht bereitgestellt. Die gleiche Regel gilt für Beschriftungen. Außerdem listet die semantische Konfiguration relevante Suchfelder in der Prioritätsreihenfolge auf. Sie können die Felder in dieser Liste neu anordnen, um die Relevanz an Ihre Anforderungen anzupassen.
Um eine optimale Leistung in ihren Szenarien sicherzustellen, sollten Kunden ihre eigenen Auswertungen der lösungen durchführen, die sie mithilfe des semantischen Rangierers implementieren. Kunden sollten in der Regel einem Evaluierungsprozess folgen, der: (1) verwendet einige interne Interessengruppen, um Ergebnisse auszuwerten, (2) verwendet A/B-Experimente, um semantische Rangfolger für Benutzer bereitzustellen, (3) umfasst KPIs und Metriküberwachung, wenn der Dienst zum ersten Mal in Erfahrungen bereitgestellt wird, und (4) Tests und Optimierungen der Semantikbewertungskonfiguration und/oder Indexdefinition, einschließlich der umgebungsspezifischen Erfahrungen wie Benutzeroberflächenplatzierung oder Geschäftsprozesse.
Wenn Sie eine Anwendung in einer Domäne oder Branche mit hohem Einsatz entwickeln, wie z. B. Gesundheitswesen, Personalwesen, Bildung oder juristischer Bereich, bewerten Sie, wie gut die Anwendung in Ihrem Szenario funktioniert, implementieren Sie eine starke menschliche Aufsicht, bewerten Sie, wie gut die Benutzer die Einschränkungen der Anwendung verstehen und alle relevanten Gesetze einhalten. Berücksichtigen Sie andere Gegenmaßnahmen basierend auf Ihrem Szenario.
Technische Einschränkungen, Betriebliche Faktoren und Reichweiten
Es kann vorkommen, dass synthetische Abfragen falsch sind, zu viele Einschränkungen aufweisen oder zu teuer sind. Das Umschreiben von Abfragen unterstützt eine breite Palette von Sprachen und versucht, Benutzerabfragen umzuschreiben, um die Rückgabe zu maximieren. Die Abfragesprache muss als Eingabe angegeben werden. Die Abfrageumschreibung ist Teil des Semantic Ranker (Foundry IQ-Features zur Verbesserung der Suchrelevanz), bei dem es sich um ein Premium-Feature mit zusätzlichen Kosten handelt. Dies sollte beim Projizieren der Gesamtausgaben Ihrer End-to-End-Lösung berücksichtigt werden. Das Umschreiben von Abfragen kann nur verwendet werden, wenn der semantische Sortierer aktiviert ist.
Vor der Verwendung der Abfrageumschreibung in einer Produktionsumgebung (Liveversion Ihrer Anwendung) ist es wichtig, weitere Tests durchzuführen und sicherzustellen, dass die synthetischen Abfragen für den vorgesehenen Anwendungsfall geeignet sind. Weitere Informationen und Beispiele dazu, wie man Abfrage-Umformulierungen bewertet, finden Sie im hier bereitgestellten Inhalt und Anhang.
Systemleistung
Bei groß angelegten Natürlichen Sprachmodellen können zwei verschiedene Benutzer die gleiche Ausgabe betrachten und verschiedene Meinungen darüber haben, wie nützlich oder relevant es ist, was bedeutet, dass die Leistung für diese Systeme flexibler definiert werden muss. Unter „Leistung“ wird hier im Allgemeinen verstanden, dass die Anwendung so funktioniert, wie Sie und Ihre Benutzer es erwarten, einschließlich der Vermeidung schädlicher Ausgaben.
Die Leistung der Abfrageumschreibung variiert je nach der realen Verwendung und den Bedingungen, in denen benutzer sie verwenden. Die Qualität synthetischer Abfragen, die vom Abfrageumschreibungsmodell bereitgestellt werden, wird direkt mit der ursprünglichen Suchabfrage korreliert.
Um eine optimale Leistung in ihren Szenarien sicherzustellen, sollten Kunden ihre eigenen Auswertungen der Lösungen durchführen, die sie mithilfe von Abfrageumformulierung implementieren. Kunden sollten in der Regel einem Evaluierungsprozess folgen, der:
- verwendet einige interne Projektbeteiligte, um Ergebnisse auszuwerten,
- verwendet A/B-Experimente, um Abfrageumformulierungen für Nutzer bereitzustellen und
- Enthält KPIs und Metriküberwachung, wenn der Dienst zum ersten Mal in Erfahrungen bereitgestellt wird.
Bewährte Methoden zur Verbesserung der Systemleistung
- Vollständige A/B-Tests für Ihre Anwendung mit unterschiedlichen Abfragetypen (Volltext, Vektor, Hybrid oder andere Arten von Abfragen). Ermitteln Sie, welche Abfrageumgebung für Ihre Anforderungen am besten geeignet ist.
- Gehen Sie nicht immer davon aus, dass jede synthetische Abfrage, die von der Abfrageumschreibung generiert wird, die genaue Absicht der ursprünglichen Abfrage widerspiegelt. Synthetische Abfragen werden von einem fein abgestimmten SLM generiert, das Abfragen semantisch ähnlich der Absicht der ursprünglichen Abfrage generiert, aber möglicherweise nicht mit der genauen Absicht übereinstimmt.
Auswertung der Abfrage-Neuschreibung
Auswertungsmethoden
Das Umschreiben von Abfragen wurde mit internen Tests ausgewertet, einschließlich der automatisierten und manuellen Beurteilung mehrerer Datasets sowie des Feedbacks interner Kunden. Tests umfassten die Bewertung der Relevanz der Ergebnisse der semantischen Rangfolge in Kombination mit der Abfrageumschreibung verglichen mit der Relevanz der Ergebnisse nur mit der semantischen Rangfolge.
Auswertungsergebnisse
Jedes Kandidatenmodell wird direkt mit dem aktuell bereitgestellten Modell verglichen, indem Metriken verwendet werden, die für die Auswertung des Features geeignet sind. Abfrageumschreibungsmodelle werden abgestimmt und ausgewertet, indem eine breite Palette von öffentlichen Daten verwendet wird, die repräsentativ für Abfragen sind, die unterschiedliche Eigenschaften (Sprache, Länge, Formatierung, Formatvorlagen und Töne) aufweisen, um das umfassendste Array von Suchszenarien zu unterstützen. Unsere Schulungs- und Testdaten stammen aus:
Quellen von Dokumenten:
- Benchmarks für akademische und industrielle Anforderungen
- Kundendaten (nur Tests, mit Kundenberechtigungen ausgeführt)
Quellen von Abfragen:
- Benchmark-Abfragesätze
- Vom Kunden bereitgestellte Abfragesätze (nur Tests, mit Kundenberechtigungen ausgeführt)
- Synthetische Abfragesätze
- Vom Menschen generierte Abfragesätze
Quellen von Bezeichnungen für Bewertungsanfragen und Dokumentpaare:
- Bezeichnungen für akademische und branchenspezifische Benchmarks
- Kundenetiketten (nur zu Testzwecken, mit Erlaubnis des Kunden durchgeführt)
- Synthetische Datenbeschriftungen
- Von Menschen bewertete Labels
Auswerten und Integrieren des Umschreibens von Abfragen für Ihre Verwendung
Da das Umschreiben von Abfragen anhand öffentlicher Inhalte trainiert wurde, unterscheiden sich die synthetischen Abfragen je nach den ausgegebenen Abfragen. Daher ist es wichtig, ihr eigenes Urteil und Ihre Recherche zu verwenden, wenn Sie diese Inhalte für die Entscheidungsfindung verwenden.
Technische Einschränkungen, Betriebliche Faktoren und Reichweiten
Während die GenAI Prompt-Funktion leistungsstarke Fähigkeiten bietet, ist es wichtig, bestimmte Einschränkungen zu erkennen.
- Die Fähigkeit basiert auf kundenkonfigurierten Inhaltsfiltern innerhalb der Gießerei. Foundry IQ bietet keine zusätzlichen Inhaltssicherheitsmechanismen für diese Funktion.
- Die Qualität von KI-generierten Inhalten hängt von der Effektivität der Eingabeaufforderungen und dem zugrunde liegenden Sprachmodell ab. Gründliche Tests sind erforderlich, um sicherzustellen, dass die Ausgabe den gewünschten Standards entspricht.
- Die Verarbeitung großer Datenmengen mit komplexen Eingabeaufforderungen erfordert möglicherweise erhebliche Rechenressourcen und kann zu Latenz führen. Planen und zuordnen Sie Ressourcen, um nicht nur die Leistung und Kosteneffizienz aufrechtzuerhalten, sondern auch mögliche Verzögerungen bei der Datenverarbeitung zu verhindern.
Systemleistung
Bewährte Methoden zur Verbesserung der Systemleistung
So optimieren Sie die Leistung der GenAI Prompt-Fähigkeit:
- Verwenden Sie das Debugsitzungstool von Foundry IQ, um Eingabeaufforderungen für Beispieldokumente zu testen, um sicherzustellen, dass der von KI generierte Inhalt den Erwartungen vor der vollständigen Bereitstellung entspricht.
- Erstellen Sie klare und detaillierte Prompts, um das Sprachmodell effektiv anzuleiten, was die Wahrscheinlichkeit irrelevanter oder ungenauer Ausgaben reduziert.
- Überwachen Sie die Systemleistung und skalieren Sie Ressourcen nach Bedarf, um die rechentechnischen Anforderungen der KI-Verarbeitung zu verarbeiten.
- Fördern Sie die menschliche Überwachung von Ausgaben vor der Veröffentlichung oder Verbreitung. Mit generativer KI besteht das Potenzial, Inhalte zu generieren, die möglicherweise anstößig oder irrelevant für die aufgabe sind.
Bewertung von GenAI Prompt Skill
Auswertung und Integration der GenAI-Prompt-Technik für Ihren Einsatzbereich
Um die Vorteile der GenAI Prompt-Fähigkeit innerhalb Ihres spezifischen Kontexts zu maximieren, sollten Sie die folgenden Schritte in Betracht ziehen:
- Bestimmen Sie die spezifischen Anreicherungsziele, z. B. das Generieren präziser Zusammenfassungen, Extrahieren wichtiger Entitäten oder das Erstellen beschreibender Metadaten, um die Anwendung der Fähigkeiten an Ihre geschäftlichen Anforderungen anzupassen.
- Beginnen Sie mit einer Teilmenge Ihrer Daten, um die Leistung der Fähigkeiten zu bewerten und die erforderlichen Anpassungen vorzunehmen. Dieser Ansatz ermöglicht die kontrollierte Experimentierung und Verfeinerung vor der vollständigen Bereitstellung.
- Richten Sie Mechanismen ein, um die Qualität und Die Auswirkungen von KI-generierten Inhalten zu überwachen. Fordern Sie Feedback von Endbenutzern an, um Verbesserungsbereiche zu identifizieren und sicherzustellen, dass die erweiterten Daten den Erwartungen der Benutzer entsprechen.
Agentenbasierte Retrieval-Beschränkungen und betriebliche Faktoren
Abrufqualität und Vollständigkeit. Das System kann relevante Inhalte verpassen, eine nicht hilfreiche oder übermäßig restriktive Folgeabfrage generieren oder aufhören, bevor alle nützlichen Nachweise gefunden werden. Microsoft Retriever 1 sieht eine begrenzte Auswahl abgerufener Inhalte und nicht den gesamten Korpus. Eine Modellentscheidung, eine erfolgreiche Antwort oder ein leeres Ergebnis beweist nicht, dass eine Frage vollständig beantwortet wurde oder dass eine Tatsache nicht vorhanden ist.
Die Ergebnisse hängen von der Verfügbarkeit und Aktualität der Quellen, der Dokumentextraktion, der Aufteilung in Chunks, der Indexkonfiguration, dem Ranking, den Filtern und der Formulierung der Frage ab. Die Sprach- und Domänenterminologie der Abfrage- und Quellinhalte kann sich auch auf die Qualität auswirken.
Generierte Inhalte und Quellinhalte. Modellgenerierte Abfragen und Antworten können eine Anfrage falsch interpretieren oder Fehler enthalten. Ein Verweis hilft Benutzern, Nachweise zu finden, aber er beweist nicht, dass die Quelle wahr ist oder jede Behauptung in einer Antwort stützt. Widersprüchliche, veraltete, voreingenommene oder irreführende Quellinhalte können den Abruf und nachgeschaltete Antworten beeinflussen. Überprüfen Sie sowohl die abgerufenen Nachweise als auch die vom Anwendung generierte Ausgabe.
Konfiguration und Verfügbarkeit. Die Funktionen variieren je nach Schnittstelle, Argumentationsaufwand, Modellpaarung und Wissensquelle. Microsoft Retriever 1-Ausführung erfordert standardmäßig bezahltes Knowledge Retrieval, eine kompatible Region und Modell- und Rankingverfügbarkeit. Überprüfen Sie die aktuellen Dienstanforderungen und unterstützten Quellen vor der Bereitstellung.
Sicherheit und Datenschutz. Die Microsoft Retriever 1-Stufe verarbeitet die Frage, den Abruf- und Suchverlauf sowie abgerufene Belege, nicht unbedingt die gesamte Konversation der Anwendung. Externe Planungs- und Antwortsynthesephasen weisen separate Eingaben auf, die von der Konfiguration und Anforderung bestimmt werden. Minimieren oder schwärzen Sie vertrauliche Daten, die von der Anwendung nicht benötigt werden. Überprüfen Sie die Datenverarbeitung, den Datenschutz, die Aufbewahrung und die regionalen Bestimmungen jedes Dienstes, bevor Sie vertrauliche Informationen verwenden.
Überprüfen Sie die Autorisierung bei allen ausgewählten Quellen, dem Abrufpfad, der zurückgegebenen Referenz und der nachgeschalteten Antwort. Die direkte Indexsuche verwaltet Filter und Suchfeldbereiche über Folgeabfragen hinweg, aber diese Einstellungen gewähren keine Autorisierung. Das Einschränken von Feldern in der endgültigen Antwort schränkt nicht unbedingt die Evidenzfelder ein, die an Microsoft Retriever 1 gesendet werden. Verwenden Sie die Zugriffssteuerung auf Dokumentebene, wenn Ihre Anwendung Inhalte nach Benutzer oder Gruppe einschränken muss. Behandeln Sie Quelldokumente und abgerufene Passagen als nicht vertrauenswürdige Eingaben. Testen Sie, ob eingebettete Anweisungen sich auf den Abruf oder die nachgelagerte Antwortgenerierung auswirken können, und wenden Sie geeignete Schutzmaßnahmen auf Anwendungsebene an.
Kosten und Latenz. Mehrere Suchvorgänge, Ranking, Modellverarbeitung und optionale Aufrufe an externe Modelle können die Kosten und die Latenz erhöhen. Kosten und Dauer hängen vom ausgewählten Pfad, der Eingabe- und Nachweisgröße, der Anzahl der Suchvorgänge und der Dienstkonfiguration ab. Führen Sie einen Benchmark für die vollständige Anforderung unter erwartetem Spitzendatenverkehr durch, und schätzen Sie sowohl die Modell- als auch die Search-Nutzung für Ihre Workload.
Leistung agentischer Retrievalsysteme
Bewerten Sie, ob abgerufene Belege relevant, für die Aufgabe ausreichend vollständig, für den vorgesehenen Benutzer zugänglich und für nachgeschaltete Antworten geeignet sind. Messen Sie die Latenz, kosten, das Fehlerverhalten und das Potenzial für schädliche oder irreführende Ausgaben der gesamten Anwendung. Vergleichen Sie Konfigurationen mit den gleichen repräsentativen Fragen und Inhalten, bevor Sie einen Standardwert auswählen.
Die Leistung variiert je nach Korpus, Index- und Quelleinstellungen, Fragekomplexität, Argumentationsaufwand, Modellpaarung, Ausgabegrenzen und nachgeschaltetem Antwortmodell. Wenden Sie die folgenden Methoden an:
- Beginnen Sie mit repräsentativen Inhalten und Fragen. Überprüfen Sie Extraktion, Blockgrenzen, Aktualität und die Felder, die für die Suche und Rangfolge verwendet werden.
- Vergleichen Sie agentisches Retrieval mit einer geeigneten einfacheren Baseline. Messen Sie die Relevanz- und Nachweisabdeckung neben Latenz und Kosten.
- Konfigurieren und testen Sie Filter, Quellbereich und Zugriffssteuerungen. Stellen Sie sicher, dass zurückgegebene Inhalte und Zitate für jeden vorgesehenen Benutzer geeignet sind.
- Überprüfen Sie die verfügbaren Diagnoseinformationen und Verweise, um zu verstehen, welche Suchvorgänge und Belege zu einem Ergebnis beigetragen haben. Schützen Sie Diagnosedaten als potenziell vertraulich.
- Behandeln Sie keine Nachweise, Teilergebnisse und Fehler explizit. Wenn ein Fallback verwendet wird, machen Sie den Fallback und seine Einschränkungen für Benutzer klar.
Agentische Abrufauswertung
Interne Agentic-Retrieval-Tests verwendeten automatisierte und menschliche Beurteilungen für mehrere Datasets, einschließlich eines Vergleichs mit der semantischen Rangfolge allein.
Auswerten und Integrieren des agentischen Abrufs
Bewerten Sie die Konfiguration und die vollständige Anwendungskonfiguration mit repräsentativen Benutzern, Fragen, Quellen und Sprachen. Berücksichtigen Sie mehrdeutige Fragen, exakte Begriffe, Negationen, widersprüchliche oder veraltete Dokumente, Fälle ohne stützende Belege und Inhalte mit eingebetteten Anweisungen.
Überprüfen Sie die Relevanz und Vollständigkeit der abgerufenen Nachweise getrennt von der Richtigkeit und Der Quellunterstützung generierter Antworten. Überprüfen Sie, ob Zitierungen zu zugänglichen Inhalten führen, die die Aussagen stützen, und ob die Anwendung Unsicherheit oder fehlende Belege kommuniziert. Vergleichen Sie ggf. Ergebnisse zwischen Sprachen, Benutzergruppen und Domänen, um potenzielle Verzerrungen oder Unterdarstellungen zu identifizieren.
Schließen Sie die menschliche Überprüfung repräsentativer Erfolge und Misserfolge ein; Die automatisierte Auswertung allein kann wichtige Fehler verpassen. Vergleichen Sie die Abrufpfade und Aufwandseinstellungen, die Sie verwenden möchten. Messen Sie Latenz, Tokennutzung, Kosten, Fehler- und Teilergebnisraten und Verhalten unter erwarteter Last. Überwachen Sie die bereitgestellte Anwendung, und verwenden Sie Feedback, um Regressionen zu identifizieren, wenn Sich Inhalte, Konfiguration oder Modelle ändern.
Knowledge Graph-Einschränkungen und operative Faktoren
Quellqualität, Abdeckung und Aktualität. Fehlende Dokumente, schlechte Textextraktion, unangemessene Passagenbegrenzungen, inkonsistente Terminologie und veraltete Inhalte können zu irreführenden Ausgaben führen. Upstream-Fehler können sich durch Gruppierung, Extraktion, Abruf und Antwortgenerierung fortpflanzen.
Themengruppen können unvollständig, übermäßig breit oder übermäßig schmal sein. Repräsentative Bezeichnungsbeispiele können seltene oder Minderheitenthemen weglassen. Ein Label kann zu seinem Beispiel passen, ohne andere Elemente zu beschreiben. Das Abrufen aus mehreren Themengruppen stellt keine erschöpfende Abdeckung her. Sitemaps haben diese Einschränkungen ebenfalls: Ein fehlender Zweig belegt nicht, dass dem Korpus ein Thema fehlt.
Die Entitätsextraktion kann Fakten weglassen, falsche Typen zuweisen, unterschiedliche Entitäten zusammenführen, eine Entität in mehrere oder umgekehrte Beziehungen aufteilen. Eine Ontologie kann Konzepte ausschließen, die für eine Frage benötigt werden. Fehlende Belege im Graphen können fehlende Inhalte, Extraktionsfehler oder Schemaabweichungen widerspiegeln, anstatt ein tatsächliches Nichtvorhandensein in der realen Welt.
Überprüfen Sie die Graph-Ergebnisse anhand des Quellinhalts, insbesondere für Anzahlen, „Alle suchen“-Abfragen und fehlende Ergebnisse. Aktualisieren Sie Graphressourcen, wenn sich Quellinhalte, Einbettungen, Modelle oder Ontologien ändern.
Generierter Inhalt, Bias und Sprache. Bezeichnungen, Beschreibungen, Ontologievorschläge, extrahierte Beziehungen, Abfragen und nachgeschaltete Antworten können ungenau oder nicht belegt sein. Eine Fluent-Beschreibung oder gültige Abfrage ist kein Nachweis der Korrektheit. Embedding-Modelle und Sprachmodelle können Verzerrungen widerspiegeln, und Entscheidungen bei der Ontologie oder die Gruppierung von Themen können Perspektiven ausblenden oder ungeeignete Kategorien vorgeben.
Die Sprachfunktion für Themen und Sitemaps hängt vom konfigurierten Einbettungsmodell und, sofern verwendet, vom Benennungsmodell ab. Für Entitäten hängt sie von Extraktions- und Abfrageplanungsmodellen und der Eignung der Ontologie für die Quellterminologie ab. Bewerten Sie die Sprachen und Domänen, die Ihre Benutzer benötigen, anstatt die gleiche Qualität in allen Sprachen anzunehmen.
Überprüfen Sie die Autorisierung für abgeleitete Bezeichnungen, diagrammstruktur, Diagrammnachweise, hydratisierte Passagen und endgültige Antworten. Das Sichern eines Indexes beweist nicht, dass die Autorisierung über diagrammübergreifendes Abrufen, Quellhydratation oder die verbrauchende Anwendung erzwungen wird.
Lokale Inhaltskopien und Modelleingaben. Wenn kundenseitige Graph-Konstruktionstools verwendet werden, wird eine Kopie von Eingabeinhalten auf der Maschine des Kunden gespeichert. Lokale Buildartefakte können Dokumentblöcke, Zwischendarstellungen und Einbettungen zusätzlich zu unterschiedlichen Cloudausgaben enthalten. Schützen Sie lokale und Cloudartefakte mit geeigneten Zugriffs-, Speicher- und Aufbewahrungssteuerelementen. Behandeln Sie Einbettungen und abgeleitete Graphdaten als potenziell vertraulich.
Modellaufrufe können repräsentative Passagen zum Benennen, Dokumenttext zur Extraktion oder Fragen und Schemakontext für die Diagrammabfrageplanung verarbeiten. Die Ontologieerstellung und die nachgelagerte Antwortgenerierung haben jeweils eigene Modelleingaben. Überprüfen Sie die Datenschutz-, Aufbewahrungs-, Datenresidenz- und Inhaltssicherheitsbedingungen der konfigurierten Dienste, anstatt einheitliche Richtlinien oder von ausschließlich lokaler Verarbeitung auszugehen. Lokale Artefakte begründen keine Aufbewahrungs-, Lösch- oder Datenresidenz-Garantien.
Benutzerverständnis und Sicherheitsvorkehrungen. Informieren Sie Benutzer, wenn Bezeichnungen, Beziehungen, Abfragen oder Antworten KI-generiert werden, und erläutern Sie relevante Einschränkungen. Stellen Sie eine Möglichkeit bereit, Nachweise zu prüfen und Fehler zu melden. Fordern Sie eine angemessene menschliche Prüfung, wenn Ergebnisse weitreichende Entscheidungen beeinflussen.
Behandeln Sie Dokumente und abgerufenen Text als nicht vertrauenswürdige Modelleingaben. Testen Sie, ob eingebettete Anweisungen die Benennung, Extraktion, Abfrageplanung oder Antwortgenerierung beeinflussen können. Wenden Sie geeignete Eingabebehandlung, Inhaltssicherheitskontrollen und Ausgabeüberprüfungen an; In diesem Hinweis wird nicht behauptet, dass Knowledge Graphs eine vollständige Einfügungs- oder Schadinhaltsabwehr bereitstellt.
Knowledge Graph-Leistung
Die Leistung umfasst Nachweis-Nützlichkeit und Quellunterstützung, Beziehungs- und Bezeichnungsgenauigkeit sowie Zeit und Kosten zum Erstellen und Abfragen von Graph-Ressourcen. Messen Sie Buildzeit, Speicher, Abfragelatenz, Wiederholungen und Modellkosten mit repräsentativen Daten. Quellvorbereitung, Modellauswahl, Ontologieabdeckung, Beschriftungsbeispiele und Abfrageinterpretation können sich auf Ergebnisse auswirken.
- Beginnen Sie mit repräsentativen Inhalten und Fragen, bevor Sie einen größeren Graphen erstellen.
- Überprüfen Sie die Ontologie und extrahierte Beziehungen mit Domänenexperten anhand der Fragen, die die Anwendung unterstützen muss.
- Überprüfen Sie Themenmitgliedschaften, Bezeichnungen und Navigationspfade. Überprüfen Sie Bezeichnungen anhand von Passagen über die für die Benennung ausgewählten hinaus.
- Vergleichen Sie den graphbasierten Abruf mit Schlüsselwort, Vektor oder Hybridabruf für dieselben Aufgaben.
Knowledge Graph-Auswertung
Themen und Sitemaps wurden durch Hierarchieintegritätsprüfungen, Quellunterstützungsprüfungen von generierten Bezeichnungen und nachgeschalteten Antwort-Grounding-Tests ausgewertet. Entitäten wurden anhand englischer Abfragen ausgewertet, indem der Graphabruf mit einer Standard-Baseline für den Abruf verglichen wurde. Automatische Auswerter bewerteten die Korrektheit anhand kanonischer Antworten und die Fundierung anhand abgerufener Belege.
Auswerten und Integrieren von Wissensgraphen
Beginnen Sie mit repräsentativen Dokumenten und Fragen. Berücksichtigen Sie schwierige Fälle, fehlende Nachweise, mehrdeutige Entitäten, Negation, widersprüchliche Dokumente, seltene Themen und die Sprachen, die Ihre Benutzer verwenden.
Überprüfen Sie für Themen und Sitemaps Mitgliedschaften, Bezeichnungen, optionale Beschreibungen, Navigationspfade und abgerufene Passagen. Testen Sie Bezeichnungen an Mitgliedern außerhalb des Benennungsbeispiels. Vergleichen Sie den themenbasierten Abruf mit Ihrem vorhandenen Ansatz.
Bei Entitäten überprüfen Domänenexperten die Ontologie und die stichprobenartig ausgewählten Beziehungen anhand des ursprünglichen Texts. Überprüfen Sie, ob leere Ergebnisse nicht als Nachweis des Nichtvorhandenseins angezeigt werden.
Bewerten Sie Korrektheit, Beleg durch Quellen, Vollständigkeit, Enthaltungsverhalten, Fehlerraten und Konsistenz über mehrere Durchläufe separat. Messen Sie auch Kosten und Latenz. Verwenden Sie automatisierte Bewerter als eine Quelle für Evidenz, ergänzt durch die menschliche Überprüfung repräsentativer Erfolge und Misserfolge. Überwachen Sie die Anwendung nach der Bereitstellung, und integrieren Sie Benutzerfeedback.
Erfahren Sie mehr über verantwortungsvolle KI
- Microsoft KI-Prinzipien
- Microsoft verantwortungsvolle KI-Ressourcen
- Microsoft Azure Learning Kurse zu verantwortungsvoller KI
Erfahren Sie mehr über Foundry IQ
Feedback
War diese Seite hilfreich?
No
Benötigen Sie Hilfe zu diesem Thema?
Möchten Sie versuchen, Ask Learn zu verwenden, um Sie durch dieses Thema zu klären oder zu leiten?
Zusätzliche Ressourcen
-
Zuletzt aktualisiert um
2026-11-18