Regiones sin procesamiento de modelo local

Utiliza perfiles de enrutamiento para ejecutar inferencia bajo demanda en modelos alojados en otras regiones de OCI.

Utilice la IA generativa de la región seleccionada incluso cuando el modelo que desea esté alojado en otra región. En las regiones sin procesamiento de modelo local, las solicitudes bajo demanda se envían a los modelos procesados en otras regiones. La lista también incluye UAE Central (Abu Dhabi) para la inferencia bajo demanda. Abu Dhabi proporciona procesamiento de modelos locales para clusters de IA dedicados. Cree un perfil de enrutamiento para el modelo y seleccione una o más regiones en las que esté disponible. A continuación, seleccione ese perfil en Playground o haga referencia a él en una solicitud de API. La IA generativa enruta la solicitud a una región seleccionada para ejecutar el modelo.

Por ejemplo, en Singapur (ap-singapore-1), puede crear un perfil de enrutamiento para openai.gpt-oss-120b con Fráncfort (eu-frankfurt-1) como región de destino. Selecciona el perfil de Singapore's Playground para dialogar con la modelo presentada en Frankfurt. Puede seguir trabajando en Singapur sin cambiar la consola a Frankfurt.

Importante

La inferencia de modelo a través de perfiles de enrutamiento solo está disponible en modo bajo demanda. Cada perfil especifica un modelo soportado y una o más regiones de destino en el mismo dominio donde ese modelo está disponible.

Los perfiles de enrutamiento también están disponibles en regiones con procesamiento de modelo local. Por ejemplo, si un modelo a demanda está disponible en Medio Oeste de EE. UU. (Chicago) pero no en Este de EE. UU. (Ashburn), cree un perfil de enrutamiento en Ashburn y seleccione Chicago como región de destino. A continuación, seleccione el perfil en el área de juegos de Ashburn o haga referencia a él en una solicitud al punto final de la API de Ashburn. La IA generativa enruta la solicitud de inferencia a Chicago.

La API de chat, la API de finalizaciones de chat de OCI y la API de respuestas de OCI soportan perfiles de enrutamiento para modelos que soportan la API seleccionada. Para conocer el modelo de API de respuestas y la disponibilidad de la región, consulte Modelos y regiones para agentes de IA empresarial. Los puntos finales de API de IA generativa en estas regiones soportan IPv6.

Para obtener un recorrido virtual por la creación de un perfil de enrutamiento y su uso en las solicitudes de API de finalizaciones de chat de OCI y API de respuestas de OCI, consulte el tutorial Solicitudes de modelo de ruta en distintas regiones de OCI.

Para conocer la disponibilidad del modelo en las regiones de destino, consulte Modelos por región. En las siguientes tablas de funciones se muestran las funciones disponibles en las regiones enumeradas en esta página, incluida la central de Emiratos Árabes Unidos (Abu Dhabi).

Acceso a un modelo en otra región

Cree el perfil de enrutamiento en la región en la que desea utilizar la IA generativa. El perfil selecciona el modelo y sus regiones de servicio. Al seleccionar el perfil en Playground, podrá utilizar ese modelo de su región actual.

  1. En la consola, seleccione su región, como Singapur (Singapur) (ap-singapore-1).
  2. Abra Análisis e IA, seleccione IA generativa y, a continuación, seleccione Perfiles de enrutamiento.
  3. Seleccione Crear perfil de enrutamiento. Introduzca un nombre, como singapore-frankfurt, y seleccione un compartimento.
  4. En Configuración, seleccione el modelo que desea utilizar en Selección de modelo, como openai.gpt-oss-120b. En Regiones de OCI de destino se muestran las regiones en las que ese modelo está disponible. Seleccione una o más de esas regiones, como Frankfurt (eu-frankfurt-1), y seleccione Crear. Para obtener instrucciones completas, consulte Creating a Routing Profile.
  5. Abra la página de detalles del perfil y confirme que su estado es Activo. Revise la selección de modelos y las regiones de OCI de destino para confirmar el modelo y las regiones de servicio.
  6. Mientras sigue en la región, abra Playground, seleccione Chat y seleccione el compartimento del perfil. En el menú Modelo, seleccione el perfil de enrutamiento, como singapore-frankfurt.
  7. Introduzca una petición de datos y seleccione Enviar. La IA generativa ejecuta el modelo especificado en el perfil en una de las regiones de destino seleccionadas. En Playground, revise el modelo enrutado y la región Serving para ver qué modelo y región sirvieron la solicitud.

Puede utilizar el mismo perfil en las solicitudes de API enviadas al punto final de su región. Para una solicitud de API de finalizaciones de chat de OCI o API de respuestas de OCI, defina model en el OCID completo del perfil. Seleccione un modelo que admita la API a la que desea llamar. Consulte Solicitudes de modelo de ruta en distintas regiones de OCI para obtener ejemplos de Python e instrucciones de configuración para ambas API.

Regiones comerciales (OC1) sin procesamiento de modelo local

En la siguiente tabla, se muestran las regiones OC1 que enrutan la inferencia bajo demanda a otras regiones de IA generativa. Los nombres, identificadores y claves de región siguen la tabla de regiones de OCI.

Nota

UAE Central (Abu Dhabi) también aloja modelos para clusters de IA dedicados. La inferencia bajo demanda de Abu Dhabi utiliza un perfil de enrutamiento para acceder a un modelo soportado en otra región. Para conocer los modelos alojados localmente y su disponibilidad dedicada, consulte Modelos por región: Oriente Medio.
Nombre de región Ubicación Identificador de región Clave de región
Este de Australia (Sídney) Sydney ap-sydney-1 SYD
Sureste de Australia (Melbourne) Melbourne ap-melbourne-1 MEL
Sureste de Brasil (Vinhedo) Vinhedo sa-vinhedo-1 VCP
Sureste de Canadá (Montreal) Montreal ca-montreal-1 YUL
Sureste de Canadá (Toronto) Toronto ca-toronto-1 YYZ
Chile central (Santiago) Santiago sa-santiago-1 SCL
Oeste de Chile (Valparaíso) Región de Valparaíso sa-valparaiso-1 VAP
Colombia Central (Bogotá) Bogotá sa-bogota-1 BOG
Francia central (París) París eu-paris-1 CDG
Oeste de India (Bombay) Mumbai ap-mumbai-1 BOM
Norte de Indonesia (Batam) Batam ap-batam-1 HSG
Italia noroccidental (Milán) Milán eu-milan-1 LIN
Norte de Italia (Turín) Turín eu-turin-1 NRQ
Este de Japón (Tokio) Tokio ap-tokyo-1 NRT
Centro de México (Querétaro) Querétaro mx-queretaro-1 QRO
Noroeste de México (Monterrey) Monterrey mx-monterrey-1 MTY
Oeste de Marruecos (Casablanca) Casablanca af-casablanca-1 LEJ
Noroeste de Países Bajos (Ámsterdam) Ámsterdam eu-amsterdam-1 AMS
Singapur (Singapur) Singapur ap-singapore-1 SIN
Oeste de Singapur (Singapur) Singapur ap-singapore-2 XSP
Centro de Sudáfrica (Johannesburgo) Johannesburgo af-johannesburg-1 JNB
Centro de Corea del Sur (Seúl) Seúl ap-seoul-1 ICN
Norte de Corea del Sur (Chuncheon) Chuncheon ap-chuncheon-1 YNY
Centro de España (Madrid) Madrid eu-madrid-1 MAD
Centro de España (Madrid 3) Madrid eu-madrid-3 ORF
Suecia central (Estocolmo) Estocolmo eu-stockholm-1 ARN
Norte de Suiza (Zúrich) Zúrich eu-zurich-1 ZRH
Emiratos Árabes Unidos central (Abu Dabi) Abu Dabi me-abudhabi-1 AUH
Oeste de Reino Unido (Newport) Newport uk-cardiff-1 CWL
Oeste de EE. UU. (San José) San José us-sanjose-1 SJC

Funciones para modelos de IA empresarial

Función Disponibilidad
Enrutamiento regional con perfiles de enrutamiento Disponible para modelos bajo demanda compatibles. Las llamadas se enrutan a regiones en las que el modelo seleccionado está disponible.
API de chat Disponible a través de un perfil de enrutamiento para modelos que admiten la API de chat.
Inferencia de Google Gemini Disponible a través de un perfil de enrutamiento para combinaciones de modelo y región soportadas.
Inferencia de xAI Grok Disponible a través de un perfil de enrutamiento para combinaciones de modelo y región soportadas.
Inferencia Meta y Cohere Disponible a través de un perfil de enrutamiento. No se admiten las solicitudes de incrustación.
Inferencia OpenAI gpt-oss-120b Disponible a través de un perfil de enrutamiento para combinaciones de modelo y región soportadas.
Baja de modelo Disponibles.
Clusters de IA dedicados y puntos finales de modelo No disponible.
Importación de modelos e inferencia de modelos importados No disponible.
API incrustada No disponible.
Puntos finales privados para los modelos Google Gemini y xAI Grok Disponibles.
Puntos finales privados para modelos alojados o importados No disponible.

Funciones para agentes de IA empresarial

Función Disponibilidad
Sandboxes Disponibles.
Despliegues alojados Disponibles.
Proyectos Disponible con memoria a corto plazo. La memoria a largo plazo no está soportada.
Memoria a corto plazo Disponibles.
Almacenes semánticos y almacenes vectoriales No disponible.
Búsqueda de archivos No disponible.
API de finalizaciones de chat de OCI Disponible a través de un perfil de enrutamiento para modelos que admiten finalizaciones de chat.
API de respuestas de OCI Disponible a través de un perfil de enrutamiento para modelos que admiten la API de respuestas. Las herramientas y otras funciones de los agentes de IA empresarial están sujetas a la disponibilidad que se indica en esta tabla.
Gateway de agente para alojar herramientas MCP No disponible.
Herramientas MCP del cliente No disponible.
Memoria a largo plazo No disponible.
Lenguaje natural a SQL (NL2SQL) No disponible.

Funciones para el control de la IA empresarial

Función Disponibilidad
Claves de API Disponibles.
Límite No disponible.