クライアント統合をインストールする
Python 環境に langchain-openai をインストールします。 TextCortex API キーを生成し、それを TEXTCORTEX_API_KEY としてサーバー側に保存し、TEXTCORTEX_MODEL の識別子を GET /models から選択します。
ベース URL は https://api.textcortex.com/v1. です。クライアントのベース URL に /chat/completions を追加しないでください。クライアントがエンドポイントを構築します。
ChatOpenAI クライアントを作成する
この最小限の例では、構成されたモデルを使用します。クライアント構成を維持しながら、別のサポートされているモデルを評価するには、その識別子を変更します。
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
base_url="https://api.textcortex.com/v1",
api_key=os.environ["TEXTCORTEX_API_KEY"],
model=os.environ["TEXTCORTEX_MODEL"],
)
answer = llm.invoke("Hello")
print(answer.content)機能を一度に 1 つずつ追加します
基本的なリクエストが機能したら、チェーンに必要なストリーミング、ツール スキーマ、または出力検証を追加します。すべての OpenAI クライアント オプションが移植可能であると仮定するのではなく、正確な TextCortex モデル ルートのサポートを確認してください。
検証したパッケージのバージョンを固定し、小さなリクエスト フィクスチャ セットを保持します。これにより、SDK のアップグレードとモデル変更を個別に評価しやすくなります。
ルーティングと取得を制御下に保ちます
アプリケーション構成を使用して、さまざまなチェーンのモデルを選択します。 GPT、Claude、Gemini、およびオープンウェイト モデルは、さまざまなタスクを実行しながら TextCortex 接続を共有できます。
チェーンがドキュメントを取得する場合は、コンテキストをモデルに送信する前に権限を適用します。ヨーロッパの処理要件の場合は、チェーン内のすべてのモデル コールに対して EU域内でホストされるルートを選択します。