公開されたユースケースから始める
公開された atares の顧客事例は、企業の AI ニーズを理解するための有用なコンテキストです。顧客のロゴを API ベンチマークの証拠として扱うのではなく、顧客固有の詳細については元の記事を読んでください。
以下のアーキテクチャは、独自のアプリケーションのためのガイダンスです。 atares モデルのデプロイメント、測定された API パフォーマンス、または移行については説明しません。
ビジネスタスクをモデルリクエストに変える
入力、許可される情報ソース、および期待される出力を定義します。結果を使用する人がチェックできる許容基準を追加します。
アプリケーションに取得とアクセスの制御を構築します。必要な許可されたコンテキストのみを選択した TextCortex モデルに送信し、その出力を次に渡す前に検証します。
モデルの選択を交換可能にしておく
共通の TextCortex API クライアントを使用し、選択したモデル識別子を構成に保存します。同じタスクに対して独自のモデルとオープンウェイト モデルを比較します。
ワークロードが必要とする場合は、EU域内でホストされるルートを選択します。各実稼働構成のモデルとルートを記録してください。
アプリケーションが提供する結果を測定する
受け入れられた結果、失敗、時間、API の使用状況を追跡します。これらの観察を使用して、新しいバージョンが利用可能になったからといってモデルを変更するのではなく、新しいモデルによってアプリケーションが改善されるかどうかを判断します。
マルチモデル展開ガイド および モデル選択ガイド に従って、次のステップを具体化します。