Beginnen Sie mit dem veröffentlichten Anwendungsfall
Die veröffentlichte atares-Kundengeschichte ist ein nützlicher Kontext zum Verständnis der KI-Anforderungen von Unternehmen. Lesen Sie die Originalgeschichte für kundenspezifische Details, anstatt ein Kundenlogo als Beweis für einen API-Benchmark zu betrachten.
Die folgende Architektur dient als Leitfaden für Ihre eigene Anwendung. Es beschreibt keine atares-Modellbereitstellung, gemessene API-Leistung oder Migration.
Verwandeln Sie die Geschäftsaufgabe in eine Musteranfrage
Definieren Sie den Input, die erlaubten Informationsquellen und den erwarteten Output. Fügen Sie Akzeptanzkriterien hinzu, die von den Personen überprüft werden können, die das Ergebnis verwenden.
Erstellen Sie Abruf- und Zugriffskontrollen in Ihrer Anwendung. Senden Sie nur den erforderlichen autorisierten Kontext an das ausgewählte TextCortex-Modell und validieren Sie dessen Ausgabe, bevor Sie ihn weiterleiten.
Halten Sie die Modellauswahl austauschbar
Verwenden Sie einen gemeinsamen TextCortex-API-Client und speichern Sie die ausgewählte Modellkennung in der Konfiguration. Vergleichen Sie proprietäre und Open-Weight-Modelle für dieselbe Aufgabe.
Wählen Sie in der EU gehostete Routen dort aus, wo die Arbeitslast dies erfordert. Notieren Sie sich das Modell und die Route hinter jeder Produktionskonfiguration.
Messen Sie das Ergebnis, das Ihre Anwendung liefert
Verfolgen Sie akzeptierte Ergebnisse, Fehler, Zeit und API-Nutzung. Nutzen Sie diese Beobachtungen, um zu entscheiden, ob ein neues Modell die Anwendung verbessert, anstatt Modelle nur zu ändern, weil eine neue Version verfügbar ist.
Befolgen Sie die Anweisungen Leitfaden zum Rollout mehrerer Modelle und Anleitung zur Modellauswahl, um den nächsten Schritt konkret zu machen.