Definieer de agentgrens
Een agentverzoek heeft instructies, relevante context en een duidelijke set toegestane acties nodig. Houd deze invoer expliciet in uw toepassing, in plaats van te verwachten dat een onbewerkte modelaanroep de werkruimteconfiguratie overneemt.
Begin met een alleen-lezen-taak, zoals het beantwoorden van een vraag uit opgehaalde documenten. Hierdoor kunt u het brongebruik evalueren voordat u tools introduceert die externe systemen wijzigen.
Koppel het ophalen aan de modelaanvraag
Haal geautoriseerde passages op, voeg stabiele broncodes toe en voeg deze toe aan de vraag van de gebruiker. Houd de context binnen de limieten van het geselecteerde model en uw latentiebudget.
Verzend het verzoek via TextCortex met behulp van de beschikbare model-ID. Gebruik dezelfde integratie om eigen kandidaten en kandidaten met een open gewicht te vergelijken op het gebied van de antwoordkwaliteit.
Voer tools uit via applicatiecontroles
Voor een modelroute die tools ondersteunt, valideert u de voorgestelde toolnaam en argumenten tegen de regels van uw toepassing. Dwing machtigingen af vóór uitvoering en stuur het resultaat alleen terug naar het model als dat nodig is.
Gebruik begrensde stappen en time-outs. Vereist beoordeling van vervolgacties en voorkom dat een herhaald modelverzoek dezelfde externe actie twee keer uitvoert.
Route per agentstap
Een classificatiestap en een complexe synthesestap kunnen verschillende modellen gebruiken. Houd de mapping configureerbaar en registreer welk model elk resultaat heeft opgeleverd.
Gebruik de routebeschrijving om deze mapping te organiseren. Voor EU-werkbelastingen beperkt u elke agentstap tot de toegestane implementaties, inclusief uitwijkpaden.