Installer l'intégration client
Installez langchain-openai dans votre environnement Python. Générez une clé API TextCortex, stockez-la côté serveur sous TEXTCORTEX_API_KEY et choisissez un identifiant parmi GET /models pour TEXTCORTEX_MODEL.
L'URL de base est https://api.textcortex.com/v1.. N'ajoutez pas /chat/completions à une URL de base client ; le client construit le point de terminaison.
Créer un client ChatOpenAI
Cet exemple minimal utilise le modèle configuré. Modifiez cet identifiant pour évaluer un autre modèle pris en charge tout en conservant la configuration client.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
base_url="https://api.textcortex.com/v1",
api_key=os.environ["TEXTCORTEX_API_KEY"],
model=os.environ["TEXTCORTEX_MODEL"],
)
answer = llm.invoke("Hello")
print(answer.content)Ajoutez des fonctionnalités une par une
Une fois la requête de base exécutée, ajoutez le streaming, les schémas d'outils ou la validation de sortie dont votre chaîne a besoin. Vérifiez la prise en charge de l'itinéraire exact du modèle TextCortex plutôt que de supposer que toutes les options client OpenAI sont portables.
Épinglez les versions de package que vous validez et conservez un petit ensemble de demandes. Cela rend les mises à niveau du SDK et les modifications de modèle plus faciles à évaluer séparément.
Gardez le routage et la récupération sous votre contrôle
Utilisez la configuration de l'application pour sélectionner des modèles pour différentes chaînes. Les modèles GPT, Claude, Gemini et à poids ouvert peuvent partager la connexion TextCortex tout en effectuant différentes tâches.
Si une chaîne récupère des documents, appliquez les autorisations avant d'envoyer le contexte au modèle. Pour les exigences de traitement européennes, sélectionnez des itinéraires hébergés dans l’UE pour chaque appel modèle de la chaîne.