Defina o limite do agente
Uma solicitação de agente precisa de instruções, contexto relevante e um conjunto claro de ações permitidas. Mantenha essas entradas explícitas em seu aplicativo, em vez de esperar que uma chamada de modelo bruto herde a configuração do espaço de trabalho.
Comece com uma tarefa somente leitura, como responder a uma pergunta de documentos recuperados. Isso permite avaliar o uso da fonte antes de introduzir ferramentas que alterem sistemas externos.
Conecte a recuperação à solicitação do modelo
Recupere passagens autorizadas, anexe identificadores de fontes estáveis e inclua-os na pergunta do usuário. Mantenha o contexto dentro dos limites do modelo selecionado e do seu orçamento de latência.
Envie a solicitação por meio de TextCortex usando o identificador de modelo disponível. Use a mesma integração para comparar candidatos proprietários e abertos quanto à qualidade das respostas.
Execute ferramentas por meio de controles de aplicativos
Para uma rota modelo que suporte ferramentas, valide o nome da ferramenta proposta e os argumentos em relação às regras do seu aplicativo. Aplique permissões antes da execução e retorne o resultado ao modelo somente quando apropriado.
Use etapas e tempos limites limitados. Exija a revisão de ações consequentes e evite que uma solicitação de modelo repetida execute a mesma ação externa duas vezes.
Etapa de roteamento por agente
Uma etapa de classificação e uma etapa de síntese complexa podem usar modelos diferentes. Mantenha o mapeamento configurável e registre qual modelo produziu cada resultado.
Use guia de roteamento para organizar esse mapeamento. Para cargas de trabalho da UE, restrinja cada etapa do agente às implantações permitidas, incluindo caminhos alternativos.