API completamenti chat OCI
Utilizzare l'API OCI Chat Completions se si dispone già di un codice applicazione basato sull'API Chat Completions o se è necessaria un'interfaccia chat senza conservazione dello stato più semplice. Per le nuove applicazioni, si consiglia di utilizzare l'API Risposte OCI. Se hai bisogno di una cronologia delle conversazioni multi-turn gestita da OCI, utilizza l'API Risposte insieme all'API Conversazioni.
L'API Chat completamenti OCI utilizza lo stesso formato dell'API Chat completamenti OpenAI con l'endpoint compatibile con OCI OpenAI. Per i dettagli relativi alla sintassi e alle richieste, consulta la documentazione dell'API OpenAI Chat Completions.
Si consiglia di utilizzare l'API Risposte OCI in modo da poter utilizzare il supporto degli strumenti più recente e l'API Conversazioni.
Utilizzare l'API Risposte quando è necessario:
- Strumenti supportati
- Flussi di lavoro a più fasi
- Output strutturati
- Cronologia conversazioni gestite da OCI
- Un'interfaccia primaria per flussi di lavoro agenti
Utilizzare l'API Chat completamenti quando:
- Il codice dell'applicazione è già stato creato intorno a
/chat/completions - Hai bisogno di un'interfaccia di chat senza conservazione dello stato più semplice
- Non sono necessarie funzioni API Risposte come strumenti supportati o stato di conversazione gestito da OCI
Endpoint API supportato
| URL di base | Percorso endpoint | Autenticazione |
|---|---|---|
https://inference.generativeai.${region}.oci.oraclecloud.com/openai/v1 |
/chat/completions |
Chiave API o sessione IAM |
Sostituire ${region} con un'area supportata, ad esempio us-chicago-1.
Sebbene il formato della richiesta sia compatibile con OpenAI, l'autenticazione utilizza le credenziali OCI, le richieste vengono instradate tramite gli endpoint di inferenza OCI Generative AI e le risorse e l'esecuzione rimangono in OCI.
Risposte API o completamenti chat?
| Dimensione | API Risposte OCI | API chat OCI mediante API completamenti chat |
|---|---|---|
| Uso principale | API unificata per l'interazione dei modelli e funzionalità agentic | API per l'interazione del modello |
| Adeguamento ideale | Chat interattiva, carichi di lavoro lenti e attività a lungo termine | Chatbot interattivi e completamento del testo |
| Orchestrazione | Ragionamento integrato in più fasi e chiamate multiple agli strumenti | Inferenza o generazione a passo singolo; i flussi in più fasi richiedono l'orchestrazione esterna |
| Gestione del contesto | Con conservazione dello stato per impostazione predefinita, con utilizzo facoltativo senza conservazione dello stato | Senza conservazione dello stato solo se il client gestisce la cronologia delle conversazioni |
| Supporto strumenti | Strumenti integrati come ricerca di file, interprete di codice e MCP remoto | Limitato agli strumenti lato client tramite chiamata di funzione |
| Supporto multimodale | Supporta input di testo e immagini e output di testo | Principalmente testo, con supporto multimodale a seconda del modello |
| Streaming | Streaming basato su eventi con eventi dettagliati | Streaming basato su token |
| Output strutturato | Output strutturati nativi e applicazione dello schema JSON | La modalità JSON è supportata, ma è meno compostabile |
| Integrazione di file e vettori | Può essere utilizzato con l'API File e Vector Stores | Richiede un'orchestrazione separata |
| Estendibilità | Progettato per flussi di lavoro, memoria e container abilitati agli strumenti | Progettato principalmente per le applicazioni di chat |