API für OCI-Chatabschlüsse
Verwenden Sie die OCI Chat Completions API, wenn Sie bereits Anwendungscode auf der Chat Completions API erstellt haben oder wenn Sie eine einfachere zustandslose Chatschnittstelle benötigen. Für neue Anwendungen wird empfohlen, die OCI Responses API zu verwenden. Wenn Sie eine OCI-verwaltete Multiturn-Unterhaltungshistorie benötigen, verwenden Sie die Responses-API zusammen mit der Conversations-API.
Die OCI Chat Completions API verwendet dasselbe Format wie die OpenAI Chat Completions API mit dem OCI OpenAI-kompatiblen Endpunkt. Syntax- und Anforderungsdetails finden Sie in der Dokumentation zur OpenAI Chat Completions API.
Es wird empfohlen, die OCI-Antworten-API zu verwenden, damit Sie die neueste Toolunterstützung und die Unterhaltungs-API verwenden können.
Verwenden Sie die Antwort-API, wenn Sie Folgendes benötigen:
- Unterstützte Tools
- Mehrstufige Workflows
- Strukturierte Ausgaben
- OCI-verwaltete Unterhaltungshistorie
- Eine primäre Schnittstelle für agentenbasierte Workflows
Verwenden Sie die Chat-Abschluss-API, wenn Sie:
- Anwendungscode wurde bereits um
/chat/completionserstellt - Benötigen Sie eine einfachere zustandslose Chatschnittstelle
- Keine Responses-API-Features wie unterstützte Tools oder OCI-verwalteter Unterhaltungsstatus erforderlich
Unterstützter API-Endpunkt
| Basis-URL | Endpunktpfad | Authentifizierung |
|---|---|---|
https://inference.generativeai.${region}.oci.oraclecloud.com/openai/v1 |
/chat/completions |
API-Schlüssel oder IAM-Session |
Ersetzen Sie ${region} durch eine unterstützte Region, wie us-chicago-1.
Obwohl das Anforderungsformat OpenAI-kompatibel ist, verwendet die Authentifizierung OCI-Zugangsdaten, Anforderungen werden über OCI Generative AI-Inferenzendpunkte weitergeleitet, und Ressourcen und Ausführung bleiben in OCI.
Die Schritte, die vor der Verwendung dieser API ausgeführt werden müssen, finden Sie in der Kurzanleitung.
Antworten-API oder Chatabschlüsse?
| Dimension | OCI-Antwort-API | OCI-Chat-API mit Chat-Abschluss-API |
|---|---|---|
| Primäre Nutzung | Einheitliche API für Modellinteraktionen und Agent-Funktionen | API für Modellinteraktion |
| Optimale Größe | Interaktiver Chat, Agent-Workloads und Aufgaben mit langer Ausführungszeit | Interaktive Chatbots und Textabschluss |
| Orchestrierung | Integrierte mehrstufige Logik und mehrere Toolaufrufe | Inferenz oder Generierung in einem Schritt; mehrstufige Abläufe erfordern externe Orchestrierung |
| Kontextmanagement | Standardmäßig zustandsbehaftet, mit optionaler zustandsloser Verwendung | Nur zustandslos, wenn der Client die Unterhaltungshistorie verwaltet |
| Werkzeugunterstützung | Integrierte Tools wie Dateisuche, Code-Interpreter und Remote-MCP | Beschränkt auf clientseitige Tools durch Funktionsaufrufe |
| Multimodale Unterstützung | Unterstützt Text- und Bildeingaben und Textausgaben | Vor allem Text, mit multimodaler Unterstützung je nach Modell |
| Streaming | Ereignisbasiertes Streaming mit feingranulierten Ereignissen | Tokenbasiertes Streaming |
| Strukturierte Ausgabe | Native strukturierte Ausgaben und JSON-Schemaerzwingung | JSON-Modus wird unterstützt, ist jedoch weniger komposierbar |
| Datei- und Vektorintegration | Kann mit der Files API und der Vector Stores API verwendet werden | Erfordert separate Orchestrierung |
| Erweiterbarkeit | Entwickelt für werkzeugfähige Workflows, Speicher und Container | Speziell für Chat-Anwendungen entwickelt |