Definieren Sie die Agentengrenze
Eine Agentenanfrage erfordert Anweisungen, relevanten Kontext und eine klare Reihe zulässiger Aktionen. Halten Sie diese Eingaben in Ihrer Anwendung explizit, anstatt zu erwarten, dass ein Rohmodellaufruf die Arbeitsbereichskonfiguration erbt.
Beginnen Sie mit einer schreibgeschützten Aufgabe, z. B. der Beantwortung einer Frage aus abgerufenen Dokumenten. Auf diese Weise können Sie die Quellennutzung bewerten, bevor Sie Tools einführen, die externe Systeme verändern.
Verbinden Sie den Abruf mit der Modellanforderung
Rufen Sie autorisierte Passagen ab, hängen Sie stabile Quellenkennungen an und fügen Sie diese in die Frage des Benutzers ein. Halten Sie den Kontext innerhalb der Grenzen des ausgewählten Modells und Ihres Latenzbudgets.
Senden Sie die Anfrage über TextCortex unter Verwendung der verfügbaren Modellkennung. Verwenden Sie dieselbe Integration, um proprietäre und offene Kandidaten hinsichtlich der Antwortqualität zu vergleichen.
Führen Sie Tools über Anwendungskontrollen aus
Validieren Sie für eine Modellroute, die Tools unterstützt, den vorgeschlagenen Toolnamen und die Argumente anhand der Regeln Ihrer Anwendung. Erzwingen Sie Berechtigungen vor der Ausführung und geben Sie das Ergebnis nur bei Bedarf an das Modell zurück.
Verwenden Sie begrenzte Schritte und Zeitüberschreitungen. Fordern Sie eine Überprüfung auf Folgeaktionen auf und verhindern Sie, dass eine wiederholte Modellanforderung dieselbe externe Aktion zweimal ausführt.
Route nach Agentenschritt
Ein Klassifizierungsschritt und ein komplexer Syntheseschritt können unterschiedliche Modelle verwenden. Halten Sie die Zuordnung konfigurierbar und zeichnen Sie auf, welches Modell welches Ergebnis erzeugt hat.
Verwenden Sie Routenplaner, um diese Zuordnung zu organisieren. Beschränken Sie bei EU-Workloads jeden Agentenschritt auf die zulässigen Bereitstellungen, einschließlich Fallbackpfaden.