Regiones de procesamiento de modelo local de IA generativa

Descubre dónde OCI Generative AI proporciona el procesamiento de modelos locales y cómo acceder al servicio desde regiones sin procesamiento de modelos locales.

Importante

Consulte Modelos de IA generativa por región para conocer la disponibilidad del modelo en las regiones que sirven solicitudes de inferencia. Para las regiones sin procesamiento de modelo local, consulte Regiones comerciales (OC1) sin procesamiento de modelo local. Para las regiones que admiten agentes de IA empresarial, consulte Modelos y regiones para agentes de IA empresarial.

Regiones comerciales (OC1) con procesamiento de modelos locales

En la siguiente tabla, se muestran las regiones OC1 con procesamiento de modelo local en IA generativa. Los modelos disponibles y los modos de servicio varían según la región. Para utilizar un modelo a demanda que no esté disponible localmente, cree un perfil de enrutamiento para ese modelo y seleccione las regiones en las que esté disponible. Utilice el perfil de su región actual en Playground o mediante una API de inferencia soportada.

Nombre de región Ubicación Identificador de región Clave de región
Este de Brasil (São Paulo) Sao Paulo sa-saopaulo-1 GRU
Centro de Alemania (Fráncfort) Fráncfort eu-frankfurt-1 FRA
Sur de India (Hyderabad) Hyderabad ap-hyderabad-1 HYD
Centro de Japón (Osaka) Osaka ap-osaka-1 KIX
Arabia Saudí Central (Riad) Riad me-riyadh-1 RUH
Emiratos Árabes Unidos central (Abu Dabi) Abu Dabi me-abudhabi-1 AUH
Emiratos Árabes Unidos oriental (Dubái) Dubái me-dubai-1 DXB
Sur de Reino Unido (Londres) London uk-london-1 LHR
Este de EE. UU. (Ashburn) Ashburn us-ashburn-1 IAD
Medio Oeste de EE. UU. (Chicago) Chicago us-chicago-1 ORD
Oeste de EE. UU. (Phoenix) Phoenix us-phoenix-1 PHX

Oracle aloja sus servicios de OCI en regiones y dominios de disponibilidad. Una región es un área geográfica localizada, mientras que un dominio de disponibilidad es uno o más centros de datos de esa región.

Descubra Acerca de las regiones y los dominios de disponibilidad.

Regiones para agentes de IA empresariales

Un subjuego de las regiones comerciales con el procesamiento de modelos locales indicado anteriormente soporta la inferencia de modelos a través de la API de respuestas de OCI y la API de finalizaciones de chat de OCI. Las combinaciones de modelo y región soportadas dependen de la API. Las herramientas y las funciones de memoria del proyecto también tienen su propia disponibilidad regional.

Para conocer los modelos, las regiones y los requisitos de acceso soportados para la inferencia, las herramientas y la memoria del proyecto, consulte Modelos y regiones para agentes de IA empresarial.

En las regiones sin procesamiento de modelo local, utilice un perfil de enrutamiento para llamar a un modelo soportado a través de estas API. Para conocer la disponibilidad y las limitaciones de las funciones, consulte Regiones sin procesamiento de modelo local.

Regiones comerciales (OC1) sin procesamiento de modelo local

Para las regiones OC1 sin procesamiento de modelo local en la IA generativa, consulte Regiones comerciales (OC1) sin procesamiento de modelo local. Para la inferencia bajo demanda, esta lista incluye UAE Central (Abu Dhabi). Abu Dhabi también proporciona procesamiento de modelos locales para clusters de IA dedicados. Para todas las regiones comerciales de OCI, consulte la tabla de regiones de OCI y las entradas con la clave de dominio OC1.

En una región sin procesamiento de modelo local, cree un perfil de enrutamiento para el modelo bajo demanda que desea utilizar y seleccione las regiones de destino en las que esté disponible. Seleccione el perfil en Playground de su región o haga referencia a él en una solicitud de API para enrutar la solicitud a una de las regiones de OCI de destino seleccionadas. Para los modelos alojados externamente, esa región de OCI realiza una llamada al proveedor del modelo. Consulte ¿Dónde se procesan las solicitudes? para ver ejemplos de enrutamiento y procesamiento. La API de chat, la API de finalizaciones de chat de OCI y la API de respuestas de OCI están soportadas cuando el modelo seleccionado soporta la API. Los puntos finales de API regionales soportan IPv6.

Para obtener instrucciones de enrutamiento, limitaciones y funciones admitidas, consulte Regions with no Local Model Processing.

Región del Gobierno de EE. UU. (OC2)

Nombre de región Ubicación Identificador de región Clave de región
Gobierno de EE. UU. zona oeste (Phoenix) Phoenix us-luke-1 LUF

Obtenga más información sobre Oracle US Government Cloud.

Región de Defensa de EE. UU. (OC3)

Nombre de región Ubicación Identificador de región Clave de región
Departamento de defensa de EE. UU. zona oeste (Phoenix) Phoenix us-gov-phoenix-1 TUS

Obtenga más información sobre Oracle US Defense Cloud.

Región del Gobierno (OC4)

Nombre de región Ubicación Identificador de región Clave de región
Gobierno de Reino Unido zona sur (Londres) London uk-gov-london-1 LTN

Obtén más información sobre Oracle UK Sovereign Cloud.

Región Soberana (OC19)

Nombre de región Ubicación Identificador de región Clave de región
EU Sovereign Central (Fráncfort) Fráncfort eu-frankfurt-2 STR

Obtén más información sobre Oracle EU Sovereign Cloud.

Servicios que llaman al servicio de IA generativa

Algunos servicios de OCI llaman al servicio de IA generativa. En la siguiente tabla, se muestran las regiones de destino y llamada para esas integraciones de servicios.

Hay Servicios OCI que documentan (en las "Descripciones de Servicio de Créditos Universales de Oracle PaaS y IaaS") que realizan llamadas al Servicio OCI Generative AI Service. Para una llamada determinada al servicio OCI Generative AI, si la región de llamada y la región de destino no son iguales, se realizará una llamada entre regiones.

Área

Regiones que llaman:

Regiones de OCI desde las que se pueden realizar llamadas (entre regiones) al servicio OCI Generative AI

Región de Destino:

Región de OCI que ofrece OCI Generative AI Service

Brasil GRU, VCP GRU
EU AMS, MRS, LIN, ARN, CDG, MAD, ZRH, FRA FRA
India BOM, HYD HYD
Japón KIX, NRT KIX
Arabia Saudí RUH RUH
Emiratos Árabes Unidos DXB DXB
Emiratos Árabes Unidos AUH AUH
Reino Unido CWL, LHR LHR
EE. UU. IAD IAD
EE. UU. SJC, ORD ORD
EE. UU. PHX PHX