Unidades de unidad de hardware por región
En esta página se muestran las unidades de hardware disponibles para clusters de IA dedicados en OCI Generative AI por región.
Utilice unidades de hardware al crear un cluster de IA dedicado para alojar un modelo. La unidad de hardware identifica el hardware subyacente para el cluster de AI dedicado, como A100_80G o H100.
Las tablas de resumen de regiones muestran solo la unidad de hardware. Los prefijos de proveedor y los recuentos de unidades no se muestran en las tablas de resumen de regiones.
Los modelos importados no utilizan un prefijo de proveedor porque selecciona el modelo importado por separado al crear el cluster de IA dedicado de alojamiento. Por ejemplo, un modelo importado puede utilizar H100_X2 o A100_80G_X1. Utilice las tablas de resumen de regiones de esta página para identificar las unidades de hardware disponibles en cada región. Para conocer las unidades de cluster de AI dedicadas recomendadas para cada modelo importado, consulte Compatible Models. La unidad recomendada se puede utilizar como base, pero puede utilizar más recursos de hardware cuando el modelo los admita y la unidad esté disponible en la región.
El nombre completo de la unidad en la consola o la API depende de cómo esté disponible el modelo:
- Modelos ofrecidos por OCI Generative AI para alojamiento dedicado: el nombre de la unidad comienza con un proveedor o prefijo de familia de modelos. Algunos ejemplos son
Cohere_A100_80G_X4,Meta_H100_X8yOAI_A10_X2. - Modelos importados: el nombre de la unidad de computación no incluye un prefijo de proveedor. Por ejemplo, utilice
A100_80G_X4oH100_X8. Cuando crea el cluster de AI dedicado de alojamiento, selecciona el modelo importado por separado de la unidad de hardware.
En ambos patrones de nomenclatura, valores como A100_80G y H100 identifican la unidad de hardware y el valor posterior a X identifica el número de unidades de hardware.
América del Norte
En la siguiente tabla, se muestran las unidades de hardware para las regiones de Norteamérica.
| Este de EE. UU. (Ashburn) (OC1) |
Medio Oeste de EE. UU. (Chicago) (OC1) |
Oeste de EE. UU. (Phoenix) (OC1) |
|---|---|---|
|
|
|
|
América del Sur
En la siguiente tabla, se muestran las unidades de hardware para las regiones de Sudamérica.
| Este de Brasil (São Paulo) (OC1) |
|---|
|
|
Europa
En la siguiente tabla, se muestran las unidades de hardware para las regiones de Europa.
| Centro de Alemania (Fráncfort) (OC1) |
EU Sovereign Central (Fráncfort) (OC19) |
Sur de Reino Unido (Londres) (OC1) |
Gobierno de Reino Unido zona sur (Londres) (OC4) |
|---|---|---|---|
|
|
|
|
|
Oriente Medio
En la siguiente tabla, se muestran las unidades de hardware para las regiones de Oriente Medio.
| Arabia Saudí Central (Riad) (OC1) |
Emiratos Árabes Unidos central (Abu Dabi) (OC1) |
Emiratos Árabes Unidos oriental (Dubái) (OC1) |
|---|---|---|
|
|
|
|
Asia Pacífico
En la siguiente tabla, se muestran las unidades de hardware para las regiones de Asia Pacífico.
| Sur de India (Hyderabad) (OC1) |
Centro de Japón (Osaka) (OC1) |
|---|---|
|
|
|
Unidades de unidades de hardware de modelo importadas, límites de servicio y recuentos de unidades de IA
Para un modelo importado, seleccione una unidad de hardware compatible que esté disponible en la región de destino. El nombre de unidad de modelo importado consta de la unidad de hardware seguida del número de unidades de hardware necesarias. No incluye un prefijo de proveedor de modelo porque selecciona el modelo importado por separado al crear el cluster. Por ejemplo, H100_X2 requiere dos unidades de hardware H100. Solicite dos unidades del límite de servicio dedicated-unit-h100-count.
El recuento de unidades de IA es el multiplicador de precios para una réplica de la unidad de hardware del modelo importado. Para calcular el precio por hora de una réplica, multiplique el precio de la unidad de IA por hora para Oracle Cloud Infrastructure Generative AI - Model Import en la página de precios por el recuento de unidades de IA de la tabla. Si el cluster tiene más de una réplica, multiplique también el resultado por el número de réplicas.
Los modelos importados no requieren el compromiso mínimo de alojamiento de 744 horas unitarias que se aplica cuando aloja modelos preentrenados disponibles en OCI Generative AI en clusters de IA dedicados.
| Unidad de unidad de hardware de modelo importado | Nombre de límite de servicio | Unidades de hardware necesarias | Recuento de unidades de IA |
|---|---|---|---|
A10_X1 |
dedicated-unit-a10-count |
1 | 1,77 |
A10_X2 |
dedicated-unit-a10-count |
2 | 3,54 |
A10_X4 |
dedicated-unit-a10-count |
4 | 7,08 |
A100_40G_X1 |
dedicated-unit-a100-40g-count |
1 | 2,7 |
A100_40G_X2 |
dedicated-unit-a100-40g-count |
2 | 5,4 |
A100_40G_X4 |
dedicated-unit-a100-40g-count |
4 | 10,8 |
A100_40G_X8 |
dedicated-unit-a100-40g-count |
8 | 21,6 |
A100_80G_X1 |
dedicated-unit-a100-80g-count |
1 | 3,24 |
A100_80G_X2 |
dedicated-unit-a100-80g-count |
2 | 6,48 |
A100_80G_X4 |
dedicated-unit-a100-80g-count |
4 | 12,96 |
A100_80G_X8 |
dedicated-unit-a100-80g-count |
8 | 25,92 |
B200_X1 |
dedicated-unit-b200-count |
1 | 8,02 |
B200_X2 |
dedicated-unit-b200-count |
2 | 16,04 |
B200_X4 |
dedicated-unit-b200-count |
4 | 32,08 |
B200_X8 |
dedicated-unit-b200-count |
8 | 64,16 |
H100_X1 |
dedicated-unit-h100-count |
1 | 6,01 |
H100_X2 |
dedicated-unit-h100-count |
2 | 12,02 |
H100_X4 |
dedicated-unit-h100-count |
4 | 24,04 |
H100_X8 |
dedicated-unit-h100-count |
8 | 48,08 |
H100_X16 |
dedicated-unit-h100-count |
16 | 96,16 |
H200_X1 |
dedicated-unit-h200-count |
1 | 6,22 |
H200_X2 |
dedicated-unit-h200-count |
2 | 12,44 |
H200_X4 |
dedicated-unit-h200-count |
4 | 24,88 |
H200_X8 |
dedicated-unit-h200-count |
8 | 49,76 |
Para obtener estimaciones de precios adicionales, consulte el estimador de costos. Si el arrendamiento no tiene límites suficientes para la unidad de hardware y el recuento de unidades seleccionados, creación de una solicitud de aumento de límite. Para el flujo de trabajo de modelo importado, consulte Gestión de modelos importados.
Unidades de base de Norteamérica
En la siguiente tabla, se muestran los nombres de unidades de hardware base para los modelos de Norteamérica. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.
| Nombre de modelo | Este de EE. UU. (Ashburn) (OC1) |
Medio Oeste de EE. UU. (Chicago) (OC1) |
Oeste de EE. UU. (Phoenix) (OC1) |
|---|---|---|---|
| Comando A de Cohere |
|
|
|
| Cohere ordena un razonamiento |
|
|
|
| Comando Cohere Una Visión |
|
|
|
| Embebido Cohere 4 |
|
|
- |
| Cohere Rerank 4 Pro |
|
|
|
| Cohere Rerank 4 Rápido |
|
|
|
| Meta Llama 4 Maverick |
|
|
- |
| Meta Llama 4 Scout |
|
|
- |
| Meta Llama 3.3 70B (estándar) | - |
|
|
| Meta Llama 3.3 70B (FP8 dinámico) | - |
|
|
| OpenAI gpt-oss-20b |
|
|
|
| OpenAI gpt-oss-120b |
|
|
|
Unidades de base de Sudamérica
En la siguiente tabla, se muestran los nombres de unidades de hardware base para los modelos de Sudamérica. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.
| Nombre de modelo | Este de Brasil (São Paulo) (OC1) |
|---|---|
| Comando A de Cohere |
|
| Cohere ordena un razonamiento |
|
| Comando Cohere Una Visión |
|
| Embebido Cohere 4 |
|
| Cohere Rerank 4 Pro |
|
| Cohere Rerank 4 Rápido |
|
| Meta Llama 4 Maverick |
|
| Meta Llama 4 Scout |
|
| Meta Llama 3.3 70B (estándar) |
|
| Meta Llama 3.3 70B (FP8 dinámico) |
|
| OpenAI gpt-oss-20b |
|
| OpenAI gpt-oss-120b |
|
Formas de referencia de Europa
En la siguiente tabla, se muestran los nombres de unidades de hardware base para los modelos de Europa. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.
| Nombre de modelo | Centro de Alemania (Fráncfort) (OC1) |
EU Sovereign Central (Fráncfort) (OC19) |
Sur de Reino Unido (Londres) (OC1) |
Gobierno de Reino Unido zona sur (Londres) (OC4) |
|---|---|---|---|---|
| Comando A de Cohere |
|
|
| - |
| Cohere ordena un razonamiento |
| - |
| - |
| Comando Cohere Una Visión |
| - |
| - |
| Embebido Cohere 4 |
| - |
| - |
| Cohere Rerank 4 Pro |
| - |
| - |
| Cohere Rerank 4 Rápido |
| - |
| - |
| Meta Llama 4 Maverick | - | - |
| - |
| Meta Llama 4 Scout | - | - |
| - |
| Meta Llama 3.3 70B (estándar) |
|
|
|
|
| Meta Llama 3.3 70B (FP8 dinámico) |
|
|
|
|
| OpenAI gpt-oss-20b |
| - |
| - |
| OpenAI gpt-oss-120b |
| - |
| - |
Unidades de base de Oriente Medio
En la siguiente tabla, se muestran los nombres de unidades de hardware de línea base para los modelos de Oriente Medio. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.
| Nombre de modelo | Arabia Saudí Central (Riad) (OC1) |
Emiratos Árabes Unidos central (Abu Dabi) (OC1) |
Emiratos Árabes Unidos oriental (Dubái) (OC1) |
|---|---|---|---|
| Comando A de Cohere |
| - |
|
| Cohere ordena un razonamiento |
| - |
|
| Comando Cohere Una Visión |
|
|
|
| Embebido Cohere 4 |
|
|
|
| Cohere Rerank 4 Pro |
| - | - |
| Cohere Rerank 4 Rápido |
| - | - |
| Meta Llama 4 Maverick |
|
| - |
| Meta Llama 4 Scout |
|
| - |
| Meta Llama 3.3 70B (estándar) |
| - | - |
| Meta Llama 3.3 70B (FP8 dinámico) | - |
|
|
| OpenAI gpt-oss-20b |
| - |
|
| OpenAI gpt-oss-120b |
| - |
|
Formas de referencia de Asia Pacífico
En la siguiente tabla, se muestran los nombres de unidad de hardware base para los modelos de Asia Pacífico. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.
| Nombre de modelo | Sur de India (Hyderabad) (OC1) |
Centro de Japón (Osaka) (OC1) |
|---|---|---|
| Comando A de Cohere |
|
|
| Cohere ordena un razonamiento |
|
|
| Comando Cohere Una Visión |
|
|
| Embebido Cohere 4 |
|
|
| Cohere Rerank 4 Pro |
|
|
| Cohere Rerank 4 Rápido |
|
|
| Meta Llama 4 Maverick |
|
|
| Meta Llama 4 Scout |
|
|
| Meta Llama 3.3 70B (estándar) |
|
|
| Meta Llama 3.3 70B (FP8 dinámico) |
|
|
| OpenAI gpt-oss-20b |
|
|
| OpenAI gpt-oss-120b |
|
|