Installeer de clientintegratie
Installeer langchain-openai in uw Python-omgeving. Genereer een TextCortex API-sleutel, sla deze op de server op als TEXTCORTEX_API_KEY en kies een ID uit GET /models voor TEXTCORTEX_MODEL.
De basis-URL is https://api.textcortex.com/v1.. Voeg /chat/completions niet toe aan een clientbasis-URL; de client construeert het eindpunt.
Maak een ChatOpenAI-client
In dit minimale voorbeeld wordt het geconfigureerde model gebruikt. Wijzig die id om een ander ondersteund model te evalueren, terwijl de clientconfiguratie behouden blijft.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
base_url="https://api.textcortex.com/v1",
api_key=os.environ["TEXTCORTEX_API_KEY"],
model=os.environ["TEXTCORTEX_MODEL"],
)
answer = llm.invoke("Hello")
print(answer.content)Voeg mogelijkheden één voor één toe
Nadat het basisverzoek werkt, voegt u de streaming, toolschema's of uitvoervalidatie toe die uw keten nodig heeft. Controleer de ondersteuning voor de exacte TextCortex-modelroute in plaats van aan te nemen dat alle OpenAI-clientopties draagbaar zijn.
Pin de pakketversies die u valideert vast en bewaar een kleine bevestigingsset. Hierdoor zijn SDK-upgrades en modelwijzigingen gemakkelijker afzonderlijk te beoordelen.
Houd het routeren en ophalen onder uw controle
Gebruik de applicatieconfiguratie om modellen voor verschillende kettingen te selecteren. GPT-, Claude-, Gemini- en open-weight-modellen kunnen de TextCortex-verbinding delen terwijl ze verschillende taken uitvoeren.
Als een keten documenten ophaalt, pas dan machtigingen toe voordat u context naar het model verzendt. Voor Europese verwerkingsvereisten selecteert u in de EU gehoste routes voor elke modelaanroep in de keten.