Ett API. Rätt modell för varje förfrågan.

Välj modeller efter uppgift

Dirigera en kort klassificeringsuppgift till en modell som uppfyller dina kostnads- och latensmål. Välj en annan för komplex analys eller kodgenerering. Lagra dessa val i konfigurationen på serversidan så att du kan uppdatera dem utan att ändra användargränssnittet.

Inkludera GPT, Claude och Gemini i samma utvärdering som Kimi, GLM, DeepSeek och MiMo. Den användbara jämförelsen är resultatet av din arbetsbelastning, inte om en modell har öppna vikter.

Håll routingreglerna tydliga

Använd modellfältet för att välja en identifierare som stöds för varje samtal. Gör en liten mappning från applikationsuppgifter till modellidentifierare och logga sedan vilken modell som serverade varje begäran.

En gemensam slutpunkt kräver inte identiska inställningar för varje modell. Behåll modellspecifika funktioner och resonemangsparametrar med routingkonfigurationen. Undvik att vidarebefordra ovaliderade modellnamn från offentliga kunder.

Behåll regionala regler i färdvägsbeslutet

För en arbetsbelastning som kräver EU-slutledning, välj de EU-värdade rutter som är aktiverade för den. Begränsa de kvalificerade modellerna innan du jämför prestanda. En reserv bör hållas inom samma bearbetningskrav.

Använd data residency guide för att dokumentera rutten och systemen runt den. Den allmänna modellkatalogen och EU-berättigade listan tjänar olika syften.

Gör din första API-förfrågan

Skapa en TextCortex konto och generera en API-nyckel i kontoinställningarna. Installera OpenAI Python-paketet på din server. Lagra nyckeln i TEXTCORTEX_API_KEY och ställ TEXTCORTEX_MODEL till en identifierare som returneras av GET /models.

Det här exemplet behåller referenser i miljövariabler. Samma klientkonfiguration fungerar när du väljer en annan modell som stöds. Läs API-referens för ändpunktsspecifika parametrar.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TEXTCORTEX_API_KEY"],
    base_url="https://api.textcortex.com/v1",
)

for model in client.models.list():
    print(model.id)

response = client.chat.completions.create(
    model=os.environ["TEXTCORTEX_MODEL"],
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)