Unidades de unidad de hardware por región

En la siguiente tabla, se muestran las unidades de hardware para las regiones de Norteamérica.

En la siguiente tabla, se muestran las unidades de hardware para las regiones de Sudamérica.

En la siguiente tabla, se muestran las unidades de hardware para las regiones de Europa.

En la siguiente tabla, se muestran las unidades de hardware para las regiones de Oriente Medio.

En la siguiente tabla, se muestran las unidades de hardware para las regiones de Asia Pacífico.

En la siguiente tabla, se muestra el límite de servicio, las unidades de hardware requeridas y el recuento de unidades AI para cada unidad de hardware. El recuento de unidades AI se determina por la unidad de hardware y el número después de X. Un proveedor o un prefijo de familia de modelos no cambia el recuento de unidades de IA. Por ejemplo, busque H100_X2 en esta tabla para H100_X2 o Cohere_H100_X2.

Recuento de Unidades de IA es el multiplicador de precios para una réplica de una unidad de Hardware. Para calcular el precio por hora de una réplica, multiplique el precio de la unidad por hora de IA aplicable en la página de precios por el recuento de unidades de IA de la tabla. Si el cluster tiene más de una réplica, multiplique también el resultado por el número de réplicas.

Utilice el estimador de costos de Oracle Cloud para calcular el costo de la configuración de su cluster de IA dedicado. Si el arrendamiento no tiene límites suficientes para la unidad de hardware y el recuento de unidades seleccionados, creación de una solicitud de aumento de límite.

Para un modelo importado, seleccione una unidad de hardware compatible que esté disponible en la región de destino. Los nombres de unidad de modelo importado no incluyen un prefijo de proveedor porque selecciona el modelo importado por separado al crear el cluster de AI dedicado de alojamiento. Por ejemplo, H100_X2 requiere dos unidades de hardware H100. Consulte Hardware Unit Shapes, Service Limits, and AI Unit Counts para conocer el límite de servicio y el recuento de unidades de AI.

Utilice las tablas de resumen de regiones de esta página para identificar las unidades de hardware disponibles en cada región. Para conocer las unidades de cluster de AI dedicadas recomendadas para cada modelo importado, consulte Compatible Models. La unidad recomendada se puede utilizar como base, pero puede utilizar más recursos de hardware cuando el modelo los admita y la unidad esté disponible en la región.

Para calcular el precio por hora de un cluster de modelo importado, multiplique el precio de la unidad de IA por hora para Oracle Cloud Infrastructure Generative AI - Model Import en la página de precios por el recuento de unidades de IA para la unidad seleccionada. Si el cluster tiene más de una réplica, multiplique también el resultado por el número de réplicas.

Para el flujo de trabajo de modelo importado, consulte Gestión de modelos importados.

En las siguientes tablas regionales se muestran los nombres completos de unidades específicas del proveedor para los modelos ofrecidos por OCI Generative AI para el alojamiento dedicado. Para buscar el recuento de unidades AI, elimine el proveedor o el prefijo de familia de modelos y busque la unidad de hardware restante en Hardware Unit Shapes, Service Limits, and AI Unit Counts. Por ejemplo, utilice la fila H100_X2 para buscar el recuento de unidades AI para Cohere_H100_X2.

En la siguiente tabla, se muestran los nombres de unidades de hardware base para los modelos de Norteamérica. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.

En la siguiente tabla, se muestran los nombres de unidades de hardware base para los modelos de Sudamérica. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.

En la siguiente tabla, se muestran los nombres de unidades de hardware base para los modelos de Europa. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.

En la siguiente tabla, se muestran los nombres de unidades de hardware de línea base para los modelos de Oriente Medio. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.

En la siguiente tabla, se muestran los nombres de unidad de hardware base para los modelos de Asia Pacífico. Puede especificar más réplicas de una unidad de línea base al crear un cluster de AI dedicado o, posteriormente, al actualizar el cluster.