1 つの API。それぞれのリクエストに最適なモデル。

タスク別にモデルを選択

短い分類タスクを、コストと待ち時間の目標を満たすモデルにルーティングします。複雑な分析やコード生成には別のものを選択してください。これらの選択内容をサーバー側の構成に保存すると、ユーザー インターフェイスを変更せずに更新できるようになります。

GPT、Claude、Gemini を Kimi、GLM、DeepSeek、MiMo と同じ評価に含めます。有用な比較は、モデルにオープン ウェイトがあるかどうかではなく、ワークロードの結果です。

ルーティングルールを明示的に保つ

モデル フィールドを使用して、各呼び出しに対してサポートされる識別子を選択します。アプリケーションタスクからモデル識別子への小さなマッピングを作成し、どのモデルが各リクエストを処理したかを記録します。

共通のエンドポイントでは、すべてのモデルに同一の設定を行う必要はありません。モデル固有の機能と推論パラメーターをルーティング構成に保持します。未検証のモデル名をパブリック クライアントから転送することは避けてください。

ルーティング決定では地域ルールを維持する

EU 推論を必要とするワークロードの場合は、そのワークロードに対して有効になっている EU域内ホストのルートを選択します。性能を比較する前に、対象となるモデルを制限してください。フォールバックは同じ処理要件内に留まる必要があります。

データ常駐ガイド を使用して、ルートとその周囲のシステムを文書化します。一般モデル カタログと EU 対象リストは異なる目的を果たします。

最初の API リクエストを行う

TextCortexアカウント を作成し、アカウント設定で API キーを生成します。 OpenAI Python パッケージをサーバーにインストールします。キーを TEXTCORTEX_API_KEY に保存し、TEXTCORTEX_MODEL を GET /models によって返された識別子に設定します。

この例では、資格情報を環境変数に保持します。別のサポートされているモデルを選択した場合でも、同じクライアント構成が機能します。エンドポイント固有のパラメータについては、APIリファレンス を参照してください。

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TEXTCORTEX_API_KEY"],
    base_url="https://api.textcortex.com/v1",
)

for model in client.models.list():
    print(model.id)

response = client.chat.completions.create(
    model=os.environ["TEXTCORTEX_MODEL"],
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)