Unidades informáticas
Una unidad es una plantilla que determina el tipo y la cantidad de recursos asignados a una instancia informática. Compute Cloud@Customer ofrece una opción entre una unidad flexible para cargas de trabajo genéricas y unidades dedicadas para cargas de trabajo aceleradas por GPU.
Seleccione la configuración de unidad al crear una instancia. Consulte Creación de una instancia.
Puede utilizar las siguientes unidades para instancias que se crean en Compute Cloud@Customer:
- Unidades flexibles: puede elegir el número de OCPU y el número de memoria asignados a la instancia.
- Unidades de GPU: cada unidad tiene un número fijo de OCPU, memoria y GPU que se asignan a una instancia al crear la instancia.
Unidades flexibles
Las unidades flexibles permiten personalizar el número de OCPU y la cantidad de memoria para una instancia. Al actualizar una instancia, puede cambiar estas propiedades de la unidad flexible. Esta flexibilidad le permite crear instancias que cumplan con sus requisitos de carga de trabajo, al tiempo que optimiza el rendimiento y utiliza los recursos de manera eficiente.
VM.PCAStandard.E5. La unidad flexible solo se puede seleccionar para sistemas X10 de Compute Cloud@Customer.
VM.PCAStandard.E6. La unidad flexible solo se puede seleccionar para sistemas X11 de Compute Cloud@Customer.
Unidad |
OCPU |
Memoria (GB) |
VNIC máximas |
Ancho de banda máximo (Gbps) |
---|---|---|---|---|
VM.PCAStandard1. Flexibilidad |
1 – 32 |
64 GB máximo por OCPU 512 GB máximo por instancia |
1 OCPU: 2 VNIC De 2 a 24 OCPU: 1 VNIC por OCPU De 25 a 32 OCPU: 24 VNIC |
De 1 a 24 OCPU: 24,6 Gbps De 25 a 32 OCPU: 1 Gbps por OCPU |
VM.PCAStandard.E5. Flexible |
1 – 96 |
64 GB máximo por OCPU 960 GB máximo por instancia |
1 OCPU: 2 VNIC De 2 a 24 OCPU: 1 VNIC por OCPU De 25 a 96 OCPU: 24 VNIC |
De 1 a 24 OCPU: 24,6 Gbps De 25 a 40 OCPU: 1 Gbps por OCPU De 41 a 96 OCPU: 40,0 Gbps |
VM.PCAStandard.E6. Flexibilidad |
1 – 96 |
64 GB máximo por OCPU 960 GB máximo por instancia |
1 OCPU: 2 VNIC De 2 a 24 OCPU: 1 VNIC por OCPU De 25 a 96 OCPU: 24 VNIC |
De 1 a 24 OCPU: 24,6 Gbps De 25 a 40 OCPU: 1 Gbps por OCPU De 41 a 96 OCPU: 40,0 Gbps |
Unidades de GPU
Las unidades de máquina virtual de GPU están optimizadas para cargas de trabajo empresariales aceleradas por GPU. Solo se pueden utilizar si el despliegue de Compute Cloud@Customer incluye un rack de expansión de GPU. Las instancias creadas con una unidad de GPU tienen acceso directo (passthrough) a 1-4 GPU físicas. El ratio entre las GPU, las OCPU y la memoria es fijo.
Para cargas de trabajo aceleradas por GPU, puede elegir entre estas unidades: VM.GPU.L40S.1, VM.GPU.L40S.2,VM.GPU.L40S.3, VM.GPU.L40S.4. Para acceder a estas unidades dedicadas, debe crear una instancia basada en la imagen de plataforma de Oracle Linux 8 u Oracle Linux 9.
No se incluye ningún controlador de GPU en las imágenes actuales de la plataforma Oracle Linux. El sistema operativo de la instancia detecta las GPU asignadas, pero para utilizarlas, necesita el kit de herramientas CUDA del sitio para desarrolladores de NVIDIA para instalar los controladores necesarios.
La gran descarga y la instalación del repositorio local necesitan una gran cantidad de espacio en disco. El volumen de inicio por defecto de 50 GB es insuficiente en Oracle Linux 9 y solo es lo suficientemente grande en Oracle Linux 8. Se recomienda aumentar el tamaño del volumen de inicio a, al menos, 60 GB y ampliar el sistema de archivos según corresponda.
-
Desde la línea de comandos de la instancia, descargue e instale el rpm de CUDA Toolkit para su sistema operativo.
$ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm $ sudo rpm -i cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm $ sudo dnf clean all $ sudo dnf install cuda-toolkit-12-8
-
Active el repositorio yum de Oracle Linux 9 EPEL. Instale el paquete
dkms
.$ sudo yum-config-manager --enable ol9_developer_EPEL $ sudo dnf install dkms
-
Instale los controladores de GPU.
$ sudo dnf install cuda-12-8
-
Verifique la instalación con la interfaz de gestión del sistema NVIDIA.
$ nvidia-smi +-----------------------------------------------------------------------------------------+ | NVIDIA-SMI 570.86.10 Driver Version: 570.86.10 CUDA Version: 12.8 | |-----------------------------------------+------------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+========================+======================| | 0 NVIDIA L40S Off | 00000000:00:05.0 Off | 0 | | N/A 26C P8 23W / 350W | 1MiB / 46068MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ +-----------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID Usage | |=========================================================================================| | No running processes found | +-----------------------------------------------------------------------------------------+
-
Desde la línea de comandos de la instancia, descargue e instale el rpm de CUDA Toolkit para su sistema operativo.
$ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm $ sudo rpm -i cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm $ sudo dnf clean all $ sudo dnf install cuda-toolkit-12-8
-
Active el repositorio yum de Oracle Linux 8 EPEL. Instale el paquete
dkms
.$ sudo yum-config-manager --enable ol8_developer_EPEL $ sudo dnf install dkms
-
Instale los controladores de GPU.
$ sudo dnf install cuda-12-8
-
Instale el módulo de núcleo NVIDIA.
$ sudo scl enable gcc-toolset-13 bash # dkms install nvidia-open -v 570.86.10
Si aparece este error
make
mientras se crea el módulo de núcleo, puede ignorarlo sin problemas.Cleaning build area...(bad exit status: 2) Failed command: make -C /lib/modules/5.15.0-206.153.7.el8uek.x86_64/build M=/var/lib/dkms/nvidia-open/570.86.10/build clean
-
Verifique la instalación con la interfaz de gestión del sistema NVIDIA.
# nvidia-smi +-----------------------------------------------------------------------------------------+ | NVIDIA-SMI 570.86.10 Driver Version: 570.86.10 CUDA Version: 12.8 | |-----------------------------------------+------------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+========================+======================| | 0 NVIDIA L40S Off | 00000000:00:05.0 Off | 0 | | N/A 26C P8 23W / 350W | 1MiB / 46068MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ +-----------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID Usage | |=========================================================================================| | No running processes found | +-----------------------------------------------------------------------------------------+
Especificación | Posibles Valores |
---|---|
Nombre de unidad |
|
GPU | 1-4: corresponde con el nombre de la unidad |
OCPU | 27 por GPU |
Memoria | 200 GB por GPU |
VNICs | Se devolverán hasta 24 |
ancho de banda | Hasta 400 Gbps |