클라이언트 통합 설치
Python 환경에 langchain-openai를 설치합니다. TextCortex API 키를 생성하여 서버 측에 TEXTCORTEX_API_KEY로 저장하고 TEXTCORTEX_MODEL에 대해 GET /models에서 식별자를 선택합니다.
기본 URL은 https://api.textcortex.com/v1.입니다. 클라이언트 기본 URL에 /chat/completions를 추가하지 마십시오. 클라이언트가 엔드포인트를 구성합니다.
ChatOpenAI 클라이언트 생성
이 최소 예에서는 구성된 모델을 사용합니다. 클라이언트 구성을 유지하면서 지원되는 다른 모델을 평가하려면 해당 식별자를 변경하세요.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
base_url="https://api.textcortex.com/v1",
api_key=os.environ["TEXTCORTEX_API_KEY"],
model=os.environ["TEXTCORTEX_MODEL"],
)
answer = llm.invoke("Hello")
print(answer.content)한 번에 하나씩 기능 추가
기본 요청이 작동한 후 체인에 필요한 스트리밍, 도구 스키마 또는 출력 유효성 검사를 추가하세요. 모든 OpenAI 클라이언트 옵션이 이식 가능하다고 가정하기보다는 정확한 TextCortex 모델 경로에 대한 지원을 확인하세요.
검증한 패키지 버전을 고정하고 작은 요청 픽스처 세트를 유지하세요. 이를 통해 SDK 업그레이드 및 모델 변경 사항을 별도로 평가하기가 더 쉬워졌습니다.
라우팅 및 검색을 계속 제어하세요.
애플리케이션 구성을 사용하여 다양한 체인에 대한 모델을 선택하세요. GPT, Claude, Gemini 및 개방형 모델은 다양한 작업을 수행하면서 TextCortex 연결을 공유할 수 있습니다.
체인이 문서를 검색하는 경우 컨텍스트를 모델에 보내기 전에 권한을 적용하십시오. 유럽 처리 요구 사항의 경우 체인의 모든 모델 호출에 대해 EU 호스팅 경로를 선택하세요.