Wie bzw. wo füge ich einem Agenten eine Regel bzw. eine Restriktion hinzu?

Hinweis: Diese Antwort wurde automatisch übersetzt. Daher kann es grammatikalische Fehler oder unbeholfene Ausdrücke enthalten.

Hallo @WAGNER Cristina
Basierend auf Ihren Angaben verstehe ich, dass Sie einen benutzerdefinierten Agenten zur Erstellung und Verwaltung von Meetings einsetzen. Dieser Agent agiert jedoch aktuell zu eigenständig und erstellt dynamisch Kalendereinträge im Chatverlauf, ohne vorher die ausdrückliche Zustimmung des Nutzers einzuholen. Sie möchten dieses Verhalten ändern, sodass der Agent vor der Erstellung eines Meetings stets eine Pause einlegt und über den Chat um eine explizite Bestätigung bittet.Um Ihnen die bestmögliche technische Konfiguration anbieten zu können, teilen Sie mir bitte mit, welches Framework oder welche Plattform Sie für die Entwicklung Ihres Agenten verwenden. In der Zwischenzeit ist anzumerken, dass diese unautorisierte Erstellung bei KI-Agenten üblicherweise durch die Verwendung von Generativer Orchestrierung verursacht wird. Sobald der Agent eine Planungsabsicht erkennt, löst er das zugrundeliegende Tool oder die entsprechende Aktion ohne zwischengeschaltete Genehmigung aus. Um sicherzustellen, dass Ihr Agent vor der Ausführung einer Meeting-Aktion stets um Erlaubnis fragt, können Sie die folgenden Architekturlösungen implementieren:

1. Entwerfen Sie einen expliziten Bestätigungsablauf. Anstatt die generative KI das Tool „Meeting erstellen“ direkt aufrufen zu lassen, sobald sie ein Datum oder eine Uhrzeit erhält, entkoppeln Sie das Tool von diesem direkten Aufruf. Binden Sie es in ein strukturiertes Bestätigungslogikmuster ein:

Schritt A (Informationserfassung): Erfassen Sie die benötigten Daten (Meetingtitel, Start-/Endzeit und Teilnehmer).

Schritt B (Zusammenfassung): Zeigen Sie dem Benutzer eine strukturierte Zusammenfassung an: „Ich bin bereit, das folgende Meeting zu planen: [Titel] am [Datum] um [Uhrzeit].“

Schritt C (Bestätigung): Zeigen Sie eine klare Aufforderung oder adaptive Kartenschaltflächen an: „Möchten Sie dieses Meeting jetzt buchen? (Ja / Nein / Ändern)“

Schritt D (Bedingte Verzweigung):

Wenn Ja: Rufen Sie die API/Aktion zum Erstellen des Meetings auf.

Wenn Nein: Brechen Sie den Vorgang ab und fragen Sie, wie Sie sonst helfen können.

Wenn Ändern: Kehren Sie zur Sequenz zum Ausfüllen der Daten zurück, um die Parameter anzupassen.

2. Systemanweisungen für den Agenten hinzufügen

Generative Orchestratoren benötigen strenge Laufzeit-Schutzmechanismen. Sie müssen daher eine strikte Verhaltensbeschränkung in die Kernsystemanweisungen oder die Systemansagen Ihres Agenten einfügen. Die folgende Regel verhindert, dass das Modell die Bestätigungsprüfung umgeht:

Wichtige Regel für die Meeting-Erstellung:

Bevor Sie ein Meeting erstellen oder einen Kalendereintrag einfügen, müssen Sie den Benutzer im Chat immer explizit um Bestätigung bitten und eine eindeutige positive Antwort erhalten (z. B. „Ja“, „Meeting erstellen“, „Los“). Führen Sie niemals eine Meeting-Aktion autonom aufgrund einer unklaren Anfrage oder eines unklaren Gesprächskontexts aus, ohne vorher eine explizite, abschließende Bestätigung vom Benutzer einzuholen.

Bitte teilen Sie mir mit, auf welcher Plattform Ihr Agent gehostet wird. Ich kann Ihnen dann die genauen Schritte zur Konfiguration dieser Bedingungen und Systemanweisungen mitteilen!

Wenn die Antwort hilfreich ist, klicken Sie bitte auf "Antwort akzeptieren" und geben Sie ihr ein Upvote. Wenn Sie weitere Fragen zu dieser Antwort haben, klicken Sie bitte auf ""Kommentar"".

Hinweis: Bitte folgen Sie den Schritten in unserer Dokumentation, um E-Mail-Benachrichtigungen zu aktivieren, falls Sie die zugehörige E-Mail-Benachrichtigung für diesen Thread erhalten möchten.