Definir el límite del agente
Una solicitud de agente necesita instrucciones, contexto relevante y un conjunto claro de acciones permitidas. Mantenga estas entradas explícitas en su aplicación en lugar de esperar que una llamada al modelo sin formato herede la configuración del espacio de trabajo.
Comience con una tarea de sólo lectura, como responder una pregunta de los documentos recuperados. Esto le permite evaluar el uso de fuentes antes de introducir herramientas que cambien los sistemas externos.
Conecte la recuperación a la solicitud del modelo
Recupere pasajes autorizados, adjunte identificadores de fuente estable e inclúyalos con la pregunta del usuario. Mantenga el contexto dentro de los límites del modelo seleccionado y su presupuesto de latencia.
Envíe la solicitud a través de TextCortex utilizando el identificador de modelo disponible. Utilice la misma integración para comparar candidatos propietarios y abiertos en cuanto a la calidad de las respuestas.
Ejecutar herramientas a través de controles de aplicaciones.
Para una ruta modelo que admita herramientas, valide el nombre de la herramienta propuesta y los argumentos según las reglas de su aplicación. Haga cumplir los permisos antes de la ejecución y devuelva el resultado al modelo solo cuando sea apropiado.
Utilice pasos y tiempos de espera acotados. Requerir revisión para acciones consecuentes y evitar que una solicitud de modelo repetida ejecute la misma acción externa dos veces.
Ruta por paso del agente
Un paso de clasificación y un paso de síntesis complejo pueden utilizar diferentes modelos. Mantenga el mapeo configurable y registre qué modelo produjo cada resultado.
Utilice guía de ruta para organizar este mapeo. Para cargas de trabajo de la UE, limite cada paso del agente a las implementaciones permitidas, incluidas las rutas alternativas.