Documentazione di Oracle Cloud Infrastructure

Forme di computazione

Una forma è un modello che determina il tipo e la quantità di risorse allocate a un'istanza di computazione. Compute Cloud@Customer offre la possibilità di scegliere tra una forma flessibile per carichi di lavoro generici e forme dedicate per carichi di lavoro con accelerazione GPU.

La configurazione della forma viene scelta quando si crea un'istanza. Vedere Creazione di un'istanza.

È possibile utilizzare le forme riportate di seguito per le istanze create in Compute Cloud@Customer.

  • Forma flessibile: si sceglie il numero di OCPU e la quantità di memoria allocata a un'istanza.
  • Forme GPU: ogni forma ha un numero fisso di OCPU, memoria e GPU allocate a un'istanza quando viene creata l'istanza.

Forma flessibile

Quando crei le istanze utilizzando una qualsiasi delle immagini della piattaforma fornite con Compute Cloud@Customer, tutti i carichi di lavoro comuni possono essere gestiti con VM.PCAStandard.E5. Forma flessibile. Poiché si tratta di una forma flessibile, ti consente di personalizzare il numero di OCPU e la quantità di memoria per ogni istanza. Puoi ottimizzare le prestazioni delle istanze per un carico di lavoro specifico e garantire che le risorse vengano utilizzate in modo efficiente.

La tabella seguente elenca il numero di OCPU e la quantità di memoria che è possibile configurare utilizzando VM.PCAStandard.E5. Forma flessibile.

Il numero di OCPU selezionate determina il numero massimo di collegamenti VNIC e la larghezza di banda di rete per l'istanza.

VM.PCAStandard.E5. Flexfield
Specifica Valori possibili
Nome forma VM.PCAStandard.E5. Flexfield
OCPU, minimo - massimo Dal 1 al 96
Memoria, predefinita 10 GB per OCPU
Memoria minima 1 GB per OCPU
Memoria, massimo 64 GB per OCPU, fino a 960 GB

VNIC, numero massimo
  • 1 OCPU: 2 VNIC
  • Da 2 a 24 OCPU: 1 VNIC per OCPU
  • da 25 a 96: 24 VNIC
Larghezza di banda, massima
  • Da 1 a 24 OCPU: 24,6 Gbps
  • Da 25 a 40 OCPU: 1 Gbps per OCPU
  • Da 41 a 96 OCPU: 40 Gbps

Nella tabella seguente viene illustrato come le proprietà di VM.PCAStandard.E5. La forma flessibile può essere ottimizzata per ogni singola istanza.

Esempi di configurazione delle forme
OCPU selezionate Intervallo di memoria possibile (GB) Numero massimo di VNIC. Larghezza di banda massima (Gbps)
4 4 a 256 4 24,6
20 20 a 960 20 24,6
30 Dal 30 al 960 24 30
96 96 a 960 24 40

Forme GPU

Le forme VM GPU sono ottimizzate per carichi di lavoro aziendali con accelerazione GPU. Possono essere utilizzati solo se la distribuzione di Compute Cloud@Customer include un rack di espansione GPU. Le istanze create con una forma GPU hanno accesso diretto (passthrough) a 1-4 GPU fisiche. Il rapporto tra GPU, OCPU e memoria è fisso.

Per i carichi di lavoro con accelerazione GPU, è possibile scegliere tra le seguenti forme: VM.GPU.L40S.1, VM.GPU.L40S.2,VM.GPU.L40S.3, VM.GPU.L40S.4. Per accedere a queste forme dedicate, devi creare un'istanza basata sull'immagine della piattaforma Oracle Linux 8 o Oracle Linux 9.

Nota

Nessun driver GPU è incluso nelle immagini correnti della piattaforma Oracle Linux. Il sistema operativo dell'istanza rileva le GPU allocate, ma per utilizzarle è necessario disporre del toolkit CUDA disponibile nel sito per sviluppatori NVIDIA per installare i driver richiesti.

Il download di grandi dimensioni e l'installazione del repository locale richiedono una grande quantità di spazio su disco. Il volume di avvio predefinito da 50 GB è insufficiente su Oracle Linux 9 e solo abbastanza grande su Oracle Linux 8. Si consiglia vivamente di aumentare la dimensione del volume di avvio ad almeno 60 GB ed estendere il file system di conseguenza.

Installazione dei driver GPU in un'istanza Oracle Linux 9

  1. Dalla riga di comando dell'istanza, scaricare e installare CUDA Toolkit rpm per il sistema operativo.

    $ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo rpm -i cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo dnf clean all
$ sudo dnf install cuda-toolkit-12-8

  2. Abilita il repository yum Oracle Linux 9 EPEL. Installare il pacchetto dkms.

    $ sudo yum-config-manager --enable ol9_developer_EPEL
$ sudo dnf install dkms

  3. Installare i driver GPU.

    $ sudo dnf install cuda-12-8

  4. Verificare l'installazione con l'interfaccia di gestione del sistema NVIDIA.

    $ nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.10              Driver Version: 570.86.10      CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:00:05.0 Off |                    0 |
| N/A   26C    P8             23W /  350W |       1MiB /  46068MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+
Installazione dei driver GPU in un'istanza Oracle Linux 8

  1. Dalla riga di comando dell'istanza, scaricare e installare CUDA Toolkit rpm per il sistema operativo.

    $ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo rpm -i cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo dnf clean all
$ sudo dnf install cuda-toolkit-12-8

  2. Abilita il repository yum Oracle Linux 8 EPEL. Installare il pacchetto dkms.

    $ sudo yum-config-manager --enable ol8_developer_EPEL
$ sudo dnf install dkms

  3. Installare i driver GPU.

    $ sudo dnf install cuda-12-8

  4. Installare il modulo kernel NVIDIA.

    $ sudo scl enable gcc-toolset-13 bash
# dkms install nvidia-open -v 570.86.10

    Se questo errore make viene visualizzato durante la creazione del modulo kernel, è possibile ignorarlo in tutta sicurezza.

    Cleaning build area...(bad exit status: 2)
Failed command:
make -C /lib/modules/5.15.0-206.153.7.el8uek.x86_64/build M=/var/lib/dkms/nvidia-open/570.86.10/build clean

  5. Verificare l'installazione con l'interfaccia di gestione del sistema NVIDIA.

    # nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.10              Driver Version: 570.86.10      CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:00:05.0 Off |                    0 |
| N/A   26C    P8             23W /  350W |       1MiB /  46068MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+
VM.GPU.L40S.x
Specifica Valori possibili
Nome forma
  • VM.GPU.L40S.1
  • VM.GPU.L40S.2
  • VM.GPU.L40S.3
  • VM.GPU.L40S.4
GPU 1-4 - corrispondente al nome della forma
OCPU 27 per GPU
Memoria 200 GB per GPU
VNIC Fino a 24
Ampiezza di banda Fino a 400 Gbps