API für OCI-Chatabschlüsse

Verwenden Sie die OCI Chat Completions API, wenn Sie bereits Anwendungscode auf der Chat Completions API erstellt haben oder wenn Sie eine einfachere zustandslose Chatschnittstelle benötigen. Für neue Anwendungen wird empfohlen, die OCI Responses API zu verwenden. Wenn Sie eine OCI-verwaltete Multiturn-Unterhaltungshistorie benötigen, verwenden Sie die Responses-API zusammen mit der Conversations-API.

Hinweis

Die OCI Chat Completions API verwendet dasselbe Format wie die OpenAI Chat Completions API mit dem OCI OpenAI-kompatiblen Endpunkt. Syntax- und Anforderungsdetails finden Sie in der Dokumentation zur OpenAI Chat Completions API.
Wichtig

Es wird empfohlen, die OCI-Antworten-API zu verwenden, damit Sie die neueste Toolunterstützung und die Unterhaltungs-API verwenden können.

Verwenden Sie die Antwort-API, wenn Sie Folgendes benötigen:

  • Unterstützte Tools
  • Mehrstufige Workflows
  • Strukturierte Ausgaben
  • OCI-verwaltete Unterhaltungshistorie
  • Eine primäre Schnittstelle für agentenbasierte Workflows

Verwenden Sie die Chat-Abschluss-API, wenn Sie:

  • Anwendungscode wurde bereits um /chat/completions erstellt
  • Benötigen Sie eine einfachere zustandslose Chatschnittstelle
  • Keine Responses-API-Features wie unterstützte Tools oder OCI-verwalteter Unterhaltungsstatus erforderlich

Unterstützter API-Endpunkt

Basis-URL Endpunktpfad Authentifizierung
https://inference.generativeai.${region}.oci.oraclecloud.com/openai/v1 /chat/completions API-Schlüssel oder IAM-Session

Ersetzen Sie ${region} durch eine unterstützte Region, wie us-chicago-1.

Obwohl das Anforderungsformat OpenAI-kompatibel ist, verwendet die Authentifizierung OCI-Zugangsdaten, Anforderungen werden über OCI Generative AI-Inferenzendpunkte weitergeleitet, und Ressourcen und Ausführung bleiben in OCI.

Tipp

Die Schritte, die vor der Verwendung dieser API ausgeführt werden müssen, finden Sie in der Kurzanleitung.

Antworten-API oder Chatabschlüsse?

Dimension OCI-Antwort-API OCI-Chat-API mit Chat-Abschluss-API
Primäre Nutzung Einheitliche API für Modellinteraktionen und Agent-Funktionen API für Modellinteraktion
Optimale Größe Interaktiver Chat, Agent-Workloads und Aufgaben mit langer Ausführungszeit Interaktive Chatbots und Textabschluss
Orchestrierung Integrierte mehrstufige Logik und mehrere Toolaufrufe Inferenz oder Generierung in einem Schritt; mehrstufige Abläufe erfordern externe Orchestrierung
Kontextmanagement Standardmäßig zustandsbehaftet, mit optionaler zustandsloser Verwendung Nur zustandslos, wenn der Client die Unterhaltungshistorie verwaltet
Werkzeugunterstützung Integrierte Tools wie Dateisuche, Code-Interpreter und Remote-MCP Beschränkt auf clientseitige Tools durch Funktionsaufrufe
Multimodale Unterstützung Unterstützt Text- und Bildeingaben und Textausgaben Vor allem Text, mit multimodaler Unterstützung je nach Modell
Streaming Ereignisbasiertes Streaming mit feingranulierten Ereignissen Tokenbasiertes Streaming
Strukturierte Ausgabe Native strukturierte Ausgaben und JSON-Schemaerzwingung JSON-Modus wird unterstützt, ist jedoch weniger komposierbar
Datei- und Vektorintegration Kann mit der Files API und der Vector Stores API verwendet werden Erfordert separate Orchestrierung
Erweiterbarkeit Entwickelt für werkzeugfähige Workflows, Speicher und Container Speziell für Chat-Anwendungen entwickelt