Definiera agentgränsen
En agentförfrågan behöver instruktioner, relevant sammanhang och en tydlig uppsättning tillåtna åtgärder. Håll dessa indata explicita i din applikation istället för att förvänta sig ett råmodellanrop för att ärva arbetsytans konfiguration.
Börja med en skrivskyddad uppgift som att svara på en fråga från hämtade dokument. Detta låter dig utvärdera källanvändning innan du introducerar verktyg som ändrar externa system.
Anslut hämtning till modellbegäran
Hämta auktoriserade passager, bifoga stabila källidentifierare och inkludera dem med användarens fråga. Håll sammanhanget inom gränserna för den valda modellen och din latensbudget.
Skicka begäran via TextCortex med hjälp av den tillgängliga modellidentifieraren. Använd samma integration för att jämföra proprietära och öppna kandidater på svarskvalitet.
Kör verktyg genom programkontroller
För en modellrutt som stöder verktyg, validera det föreslagna verktygsnamnet och argumenten mot programmets regler. Framtvinga behörigheter före exekvering och returnera resultatet till modellen endast när det är lämpligt.
Använd avgränsade steg och timeouts. Kräv granskning för följdåtgärder och förhindra att en upprepad modellbegäran utför samma externa åtgärd två gånger.
Rutt för agentsteg
Ett klassificeringssteg och ett komplext syntessteg kan använda olika modeller. Håll mappningen konfigurerbar och registrera vilken modell som producerade varje resultat.
Använd vägledning för att organisera denna mappning. För EU-arbetsbelastningar, begränsa varje agentsteg till de tillåtna distributionerna, inklusive reservvägar.