API de finalizaciones de chat de OCI
Utilice la API de finalizaciones de chat de OCI si ya tiene código de aplicación creado en torno a la API de finalizaciones de chat o si necesita una interfaz de chat sin estado más sencilla. Para las nuevas aplicaciones, recomendamos que utilice la API de respuestas de OCI. Si necesita un historial de conversaciones de varios giros gestionado por OCI, utilice la API de respuestas junto con la API de conversaciones.
La API de finalización de chat de OCI utiliza el mismo formato que la API de finalización de chat de OpenAI con el punto final compatible con OpenAI de OCI. Para obtener información sobre la sintaxis y las solicitudes, consulte la documentación de la API de finalización de chat de OpenAI.
Recomendamos que utilice la API de respuestas de OCI para que pueda utilizar el soporte de herramientas más reciente y la API de conversaciones.
Utilice la API Responses cuando necesite:
- Herramientas admitidas
- Flujos de trabajo de varios pasos
- Resultados estructurados
- Historial de conversaciones gestionadas por OCI
- Una interfaz principal para flujos de trabajo agentic
Utilice la API de finalización del chat cuando:
- Ya se ha creado el código de aplicación en torno a
/chat/completions - Necesita una interfaz de chat sin estado más sencilla
- No necesita funciones de API de respuestas, como herramientas soportadas o estado de conversación gestionado por OCI
Punto final de API soportado
| URL Base | Ruta de punto final | Autenticación |
|---|---|---|
https://inference.generativeai.${region}.oci.oraclecloud.com/openai/v1 |
/chat/completions |
Clave de API o sesión de IAM |
Sustituya ${region} por una región soportada, como us-chicago-1.
Aunque el formato de solicitud es compatible con OpenAI, la autenticación utiliza credenciales de OCI, las solicitudes se enrutan a través de puntos finales de inferencia de OCI Generative AI y los recursos y la ejecución permanecen en OCI.
Para conocer los pasos que se deben realizar antes de utilizar esta API, consulte la Guía de inicio rápido.
¿Finalizaciones de API o chat de respuestas?
| Dimensión | API de respuestas de OCI | API de chat de OCI con API de finalización de chat |
|---|---|---|
| Uso principal | API unificada para la interacción de modelos y capacidades ágentes | API para la interacción de modelos |
| Coincidencia óptima | Chat interactivo, cargas de trabajo ágentes y tareas de larga ejecución | Bots conversacionales interactivos y finalización de texto |
| Orquestación | Razonamiento integrado en varios pasos y llamadas a varias herramientas | Inferencia o generación de un solo paso; los flujos de varios pasos requieren orquestación externa |
| Gestión de contexto | Con estado por defecto, con uso opcional sin estado | Sin estado solo cuando el cliente gestiona el historial de conversaciones |
| Soporte de herramientas | Herramientas incorporadas como la búsqueda de archivos, el intérprete de código y el MCP remoto | Limitado a herramientas del lado del cliente a través de llamadas de función |
| Soporte multimodal | Soporta entradas de texto e imagen y salidas de texto | Principalmente texto, con soporte multimodal según el modelo |
| Streaming | Transmisión basada en eventos con eventos detallados | Transmisión basada en token |
| Salida estructurada | Salidas estructuradas nativas y aplicación de esquemas JSON | El modo JSON está soportado, pero es menos componible |
| Integración de archivos y vectores | Se puede utilizar con la API de archivos y la API de almacenes vectoriales | Requiere orquestación independiente |
| Extensibilidad | Diseñado para flujos de trabajo, memoria y contenedores activados para herramientas | Diseñado principalmente para aplicaciones de chat |