API de fin d'exécution du clavardage OCI

Utilisez l'API de fin d'exécution du clavardage OCI si vous avez déjà un code d'application basé sur l'API de fin d'exécution du clavardage ou si vous avez besoin d'une interface de clavardage sans état plus simple. Pour les nouvelles applications, nous vous recommandons d'utiliser l'API de réponses OCI. Si vous avez besoin d'un historique de conversation multitour géré par OCI, utilisez l'API Réponses avec l'API Conversations.

Note

L'API d'achèvement de clavardage OCI utilise le même format que l'API d'achèvement de clavardage OpenAI avec le point d'extrémité compatible OCI OpenAI. Pour plus de détails sur la syntaxe et les demandes, consultez la documentation relative à l'API d'achèvement de clavardage OpenAI.
Important

Nous vous recommandons d'utiliser l'API de réponses OCI afin d'utiliser la prise en charge des outils les plus récents et l'API de conversations.

Utilisez l'API Réponses lorsque vous avez besoin des éléments suivants :

  • Outils pris en charge
  • Flux de travail en plusieurs étapes
  • Sorties structurées
  • Historique des conversations gérées par OCI
  • Une interface principale pour les workflows agéntiques

Utilisez l'API de fin d'exécution de clavardage lorsque vous effectuez les opérations suivantes :

  • Le code d'application est déjà basé sur /chat/completions
  • Besoin d'une interface de clavardage sans état plus simple
  • Ne nécessite pas de fonctions d'API de réponses telles que les outils pris en charge ou l'état de conversation géré par OCI

Point d'extrémité d'API pris en charge

URL de base Chemin du point d'extrémité Authentification
https://inference.generativeai.${region}.oci.oraclecloud.com/openai/v1 /chat/completions Clé d'API ou session IAM

Remplacez ${region} par une région prise en charge telle que us-chicago-1.

Bien que le format de la demande soit compatible avec OpenAI, l'authentification utilise les données d'identification OCI, les demandes sont acheminées au moyen des points d'extrémité d'inférence du service d'intelligence artificielle générative pour OCI et les ressources et l'exécution restent dans OCI.

Conseil

Pour les étapes à effectuer avant d'utiliser cette API, voir le guide de démarrage rapide.

API de réponses ou achèvements de clavardage?

Dimension API de réponses OCI API de clavardage OCI utilisant l'API de fin d'exécution de clavardage
Utilisation principale API unifiée pour les interactions avec les modèles et les capacités agéntiques API pour l'interaction de modèle
Ajustement optimal Clavardage interactif, charges de travail agéntiques et tâches de longue durée Agents conversationnels interactifs et saisie de texte
Orchestration Raisonnement en plusieurs étapes intégré et appels à outils multiples Inférence ou génération en une seule étape; les flux en plusieurs étapes nécessitent une orchestration externe
Gestion du contexte Avec état par défaut, avec utilisation facultative sans état Sans état uniquement lorsque le client gère l'historique de conversation
Prise en charge des outils Outils intégrés tels que la recherche de fichiers, l'interpréteur de code et MCP distant Limité aux outils côté client grâce à l'appel de fonctions
Soutien multimodal Prend en charge les entrées de texte et d'image et les sorties de texte Principalement du texte, avec prise en charge multimodale en fonction du modèle
Diffusion en continu Diffusion en continu basée sur les événements avec des événements détaillés Flux basé sur un jeton
Sortie structurée Sorties structurées natives et application de schéma JSON Le mode JSON est pris en charge, mais il est moins composable
Intégration de fichiers et de vecteurs Peut être utilisé avec l'API Files et l'API Vector Stores Nécessite une orchestration distincte
Extensibilité Conçu pour les flux de travail, la mémoire et les conteneurs avec outils Conçu principalement pour les applications de clavardage