Oracle Cloud Infrastructure-Dokumentation

Compute-Ausprägungen

Eine Ausprägung ist eine Vorlage, die den Typ und die Menge der Ressourcen bestimmt, die einer Compute-Instanz zugewiesen werden. Compute Cloud@Customer bietet eine Auswahl zwischen einer flexiblen Ausprägung für generische Workloads und dedizierten Ausprägungen für GPU-beschleunigte Workloads.

Sie wählen die Ausprägungskonfiguration beim Erstellen einer Instanz aus. Siehe Instanz erstellen.

Sie können die folgenden Ausprägungen für Instanzen verwenden, die auf Compute Cloud@Customer erstellt wurden:

  • Flexible Ausprägungen: Sie wählen die Anzahl der OCPUs und der Arbeitsspeichermenge aus, die einer Instanz zugewiesen sind.
  • GPU-Ausprägungen: Jede Ausprägung hat eine feste Anzahl von OCPUs, Arbeitsspeicher und GPUs, die einer Instanz beim Erstellen der Instanz zugewiesen werden.

Flexible Ausprägungen

Mit einer flexiblen Ausprägung können Sie die Anzahl der OCPUs und den Arbeitsspeicher für eine Instanz anpassen. Wenn Sie eine Instanz aktualisieren, können Sie diese Eigenschaften der flexiblen Ausprägung ändern. Dank dieser Flexibilität können Sie Instanzen erstellen, die Ihren Workload-Anforderungen entsprechen, während Sie gleichzeitig die Performance optimieren und Ressourcen effizient nutzen.

Die VM.PCAStandard.E5. Die flexible Ausprägung kann nur für Compute Cloud@Customer X10-Systeme ausgewählt werden.

Die VM.PCAStandard.E6. Die flexible Ausprägung kann nur für Compute Cloud@Customer X11-Systeme ausgewählt werden.

Ausprägung

OCPUs

 Arbeitsspeicher (GB)

Maximale VNICs

 Maximale Bandbreite (GBit/s)
VM.PCAStandard1. FlexFeld

1-32

64 GB maximal pro OCPU

512 GB maximal pro Instanz

1 OCPU: 2 VNICs

2 bis 24 OCPUs: 1 VNIC pro OCPU

25 bis 32 OCPUs: 24 VNICs

1 bis 24 OCPUs: 24,6 Gbit/s

25 bis 32 OCPUs: 1 Gbit/s pro OCPU
VM.PCAStandard.E5. Flexibel

1–96

64 GB maximal pro OCPU

960 GB maximal pro Instanz

1 OCPU: 2 VNICs

2 bis 24 OCPUs: 1 VNIC pro OCPU

25 bis 96 OCPUs: 24 VNICs

1 bis 24 OCPUs: 24,6 Gbit/s

25 bis 40 OCPUs: 1 Gbit/s pro OCPU

41 bis 96 OCPUs: 40,0 Gbit/s
VM.PCAStandard.E6. FlexFeld

1–96

64 GB maximal pro OCPU

960 GB maximal pro Instanz

1 OCPU: 2 VNICs

2 bis 24 OCPUs: 1 VNIC pro OCPU

25 bis 96 OCPUs: 24 VNICs

1 bis 24 OCPUs: 24,6 Gbit/s

25 bis 40 OCPUs: 1 Gbit/s pro OCPU

41 bis 96 OCPUs: 40,0 Gbit/s

GPU-Ausprägungen

Die GPU-VM-Ausprägungen sind für GPU-beschleunigte Workloads in Unternehmen optimiert. Sie können nur verwendet werden, wenn das Compute Cloud@Customer-Deployment ein GPU-Erweiterungsrack enthält. Instanzen, die mit einer GPU-Ausprägung erstellt wurden, haben direkten Zugriff (passthrough) auf physische GPUs 1-4. Das Verhältnis zwischen GPUs, OCPUs und Arbeitsspeicher ist fest.

Bei GPU-beschleunigten Workloads können Sie zwischen den folgenden Ausprägungen wählen: VM.GPU.L40S.1, VM.GPU.L40S.2,VM.GPU.L40S.3, VM.GPU.L40S.4. Um auf diese dedizierten Ausprägungen zuzugreifen, müssen Sie eine Instanz basierend auf dem Oracle Linux 8- oder Oracle Linux 9-Plattformimage erstellen.

Hinweis

In den aktuellen Oracle Linux-Plattformimages sind keine GPU-Treiber enthalten. Das Instanz-BS erkennt die zugewiesenen GPUs. Um sie zu verwenden, benötigen Sie jedoch das CUDA-Toolkit von der NVIDIA-Entwicklersite, um die erforderlichen Treiber zu installieren.

Der große Download und die Installation des lokalen Repositorys benötigen viel Festplattenspeicher. Das standardmäßige 50-GB-Boot-Volume reicht unter Oracle Linux 9 nicht aus und ist unter Oracle Linux 8 nur gerade groß genug. Es wird dringend empfohlen, die Boot-Volume-Größe auf mindestens 60 GB zu erhöhen und das Dateisystem entsprechend zu erweitern.

GPU-Treiber in einer Oracle Linux 9-Instanz installieren

  1. Laden Sie über die Befehlszeile der Instanz die CUDA Toolkit-RPM für Ihr Betriebssystem herunter, und installieren Sie sie.

    $ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo rpm -i cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo dnf clean all
$ sudo dnf install cuda-toolkit-12-8

  2. Aktivieren Sie das Oracle Linux 9 EPEL yum-Repository. Installieren Sie das Package dkms.

    $ sudo yum-config-manager --enable ol9_developer_EPEL
$ sudo dnf install dkms

  3. Installieren Sie die GPU-Treiber.

    $ sudo dnf install cuda-12-8

  4. Prüfen Sie die Installation mit der NVIDIA-Systemverwaltungsschnittstelle.

    $ nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.10              Driver Version: 570.86.10      CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:00:05.0 Off |                    0 |
| N/A   26C    P8             23W /  350W |       1MiB /  46068MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+
GPU-Treiber in einer Oracle Linux 8-Instanz installieren

  1. Laden Sie über die Befehlszeile der Instanz die CUDA Toolkit-RPM für Ihr Betriebssystem herunter, und installieren Sie sie.

    $ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo rpm -i cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo dnf clean all
$ sudo dnf install cuda-toolkit-12-8

  2. Aktivieren Sie das Oracle Linux 8 EPEL yum-Repository. Installieren Sie das Package dkms.

    $ sudo yum-config-manager --enable ol8_developer_EPEL
$ sudo dnf install dkms

  3. Installieren Sie die GPU-Treiber.

    $ sudo dnf install cuda-12-8

  4. Installieren Sie das NVIDIA-Kernelmodul.

    $ sudo scl enable gcc-toolset-13 bash
# dkms install nvidia-open -v 570.86.10

    Wenn dieser make-Fehler während der Erstellung des Kernel-Moduls angezeigt wird, können Sie ihn problemlos ignorieren.

    Cleaning build area...(bad exit status: 2)
Failed command:
make -C /lib/modules/5.15.0-206.153.7.el8uek.x86_64/build M=/var/lib/dkms/nvidia-open/570.86.10/build clean

  5. Prüfen Sie die Installation mit der NVIDIA-Systemverwaltungsschnittstelle.

    # nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.10              Driver Version: 570.86.10      CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:00:05.0 Off |                    0 |
| N/A   26C    P8             23W /  350W |       1MiB /  46068MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+
VM.GPU.L40S.x
Spezifikation Mögliche Werte
Ausprägungsname
  • VM.GPU.L40S.1
  • VM.GPU.L40S.2
  • VM.GPU.L40S.3
  • VM.GPU.L40S.4
GPUs 1-4 – entspricht dem Ausprägungsnamen
OCPUs 27 pro GPU
Speicher 200 GB pro GPU
VNICs Bis zu 24
Bandbreite Bis zu 400 Gbit/s