Oracle Cloud Infrastructure-Dokumentation

Compute-Ausprägungen

Eine Ausprägung ist eine Vorlage, die den Typ und die Menge der Ressourcen bestimmt, die einer Compute-Instanz zugewiesen sind. Compute Cloud@Customer bietet die Wahl zwischen einer flexiblen Ausprägung für generische Workloads und dedizierten Ausprägungen für GPU-beschleunigte Workloads.

Sie wählen die Ausprägungskonfiguration aus, wenn Sie eine Instanz erstellen. Siehe Instanzen erstellen.

Sie können die folgenden Ausprägungen für Instanzen verwenden, die auf Compute Cloud@Customer erstellt wurden:

  • Flexible Ausprägungen: Sie wählen die Anzahl der OCPUs und der Arbeitsspeichermenge aus, die einer Instanz zugewiesen sind.
  • GPU-Ausprägungen: Jede Ausprägung hat eine feste Anzahl von OCPUs, Arbeitsspeicher und GPUs, die einer Instanz beim Erstellen der Instanz zugewiesen werden.

Flexible Ausprägungen

Mit einer flexiblen Ausprägung können Sie die Anzahl der OCPUs und den Arbeitsspeicher für eine Instanz anpassen. Wenn Sie eine Instanz aktualisieren, können Sie diese Eigenschaften der flexiblen Ausprägung ändern. Dank dieser Flexibilität können Sie Instanzen erstellen, die Ihren Workload-Anforderungen entsprechen, während Sie gleichzeitig die Performance optimieren und Ressourcen effizient nutzen.

Die VM.PCAStandard.E5. Die flexible Ausprägung kann nur für Compute Cloud@Customer X10-Systeme ausgewählt werden.

Die VM.PCAStandard.E6. Die flexible Ausprägung kann nur für Compute Cloud@Customer X11-Systeme ausgewählt werden.

Ausprägung

OCPUs

 Arbeitsspeicher (GB)

Maximale VNICs

 Maximale Bandbreite (Gbit/s)
VM.PCAStandard1. FlexFeld

1-32

64 GB maximal pro OCPU

512 GB maximal pro Instanz

1 OCPU: 2 VNICs

2 bis 24 OCPUs: 1 VNIC pro OCPU

25 bis 32 OCPUs: 24 VNICs

1 bis 24 OCPUs: 24,6 Gbit/s

25 bis 32 OCPUs: 1 Gbit/s pro OCPU
VM.PCAStandard.E5. FlexFeld

1–96

64 GB maximal pro OCPU

960 GB maximal pro Instanz

1 OCPU: 2 VNICs

2 bis 24 OCPUs: 1 VNIC pro OCPU

25 bis 96 OCPUs: 24 VNICs

1 bis 24 OCPUs: 24,6 Gbit/s

25 bis 40 OCPUs: 1 Gbit/s pro OCPU

41 bis 96 OCPUs: 40,0 Gbit/s
VM.PCAStandard.E6. FlexFeld

1–96

64 GB maximal pro OCPU

960 GB maximal pro Instanz

1 OCPU: 2 VNICs

2 bis 24 OCPUs: 1 VNIC pro OCPU

25 bis 96 OCPUs: 24 VNICs

1 bis 24 OCPUs: 24,6 Gbit/s

25 bis 40 OCPUs: 1 Gbit/s pro OCPU

41 bis 96 OCPUs: 40,0 Gbit/s

GPU-Ausprägungen

Die GPU-VM-Ausprägungen sind für Unternehmens-GPU-beschleunigte Workloads optimiert. Sie können nur verwendet werden, wenn das Compute Cloud@Customer-Deployment ein GPU-Erweiterungsrack enthält. Instanzen, die mit einer GPU-Ausprägung erstellt wurden, haben direkten (Passthrough-)Zugriff auf 1-4 physische GPUs. Das Verhältnis zwischen GPUs, OCPUs und Arbeitsspeicher ist fest.

Bei GPU-beschleunigten Workloads können Sie zwischen den folgenden Ausprägungen wählen: VM.GPU.L40S.1, VM.GPU.L40S.2,VM.GPU.L40S.3, VM.GPU.L40S.4. Um auf diese dedizierten Ausprägungen zuzugreifen, müssen Sie eine Instanz basierend auf dem Oracle Linux 8- oder Oracle Linux 9-Plattformimage erstellen.

Hinweis

In den aktuellen Oracle Linux-Plattformimages sind keine GPU-Treiber enthalten. Das Instanz-BS erkennt die zugewiesenen GPUs. Um diese zu verwenden, benötigen Sie jedoch das CUDA-Toolkit von der NVIDIA-Entwicklersite, um die erforderlichen Treiber zu installieren.

Die Installation des großen Downloads und des lokalen Repositorys erfordert viel Festplattenspeicher. Das standardmäßige 50-GB-Boot-Volume ist bei Oracle Linux 9 nicht ausreichend und bei Oracle Linux 8 nur ausreichend groß. Es wird dringend empfohlen, die Boot-Volume-Größe auf mindestens 60 GB zu erhöhen und das Dateisystem entsprechend zu erweitern.

GPU-Treiber in einer Oracle Linux 9-Instanz installieren

  1. Laden Sie in der Befehlszeile der Instanz die CUDA Toolkit rpm für Ihr BS herunter, und installieren Sie sie.

    $ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo rpm -i cuda-repo-rhel9-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo dnf clean all
$ sudo dnf install cuda-toolkit-12-8

  2. Aktivieren Sie das yum-Repository für Oracle Linux 9 EPEL. Installieren Sie das Package dkms.

    $ sudo yum-config-manager --enable ol9_developer_EPEL
$ sudo dnf install dkms

  3. Installieren Sie GPU-Treiber.

    $ sudo dnf install cuda-12-8

  4. Prüfen Sie die Installation mit der NVIDIA System Management Interface.

    $ nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.10              Driver Version: 570.86.10      CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:00:05.0 Off |                    0 |
| N/A   26C    P8             23W /  350W |       1MiB /  46068MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+
GPU-Treiber in einer Oracle Linux 8-Instanz installieren

  1. Laden Sie in der Befehlszeile der Instanz die CUDA Toolkit rpm für Ihr BS herunter, und installieren Sie sie.

    $ wget https://developer.download.nvidia.com/compute/cuda/12.8.0/local_installers/cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo rpm -i cuda-repo-rhel8-12-8-local-12.8.0_570.86.10-1.x86_64.rpm
$ sudo dnf clean all
$ sudo dnf install cuda-toolkit-12-8

  2. Aktivieren Sie das yum-Repository für Oracle Linux 8 EPEL. Installieren Sie das Package dkms.

    $ sudo yum-config-manager --enable ol8_developer_EPEL
$ sudo dnf install dkms

  3. Installieren Sie GPU-Treiber.

    $ sudo dnf install cuda-12-8

  4. Installieren Sie das NVIDIA Kernel-Modul.

    $ sudo scl enable gcc-toolset-13 bash
# dkms install nvidia-open -v 570.86.10

    Wenn dieser make-Fehler angezeigt wird, während das Kernelmodul erstellt wird, können Sie ihn problemlos ignorieren.

    Cleaning build area...(bad exit status: 2)
Failed command:
make -C /lib/modules/5.15.0-206.153.7.el8uek.x86_64/build M=/var/lib/dkms/nvidia-open/570.86.10/build clean

  5. Prüfen Sie die Installation mit der NVIDIA System Management Interface.

    # nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.10              Driver Version: 570.86.10      CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA L40S                    Off |   00000000:00:05.0 Off |                    0 |
| N/A   26C    P8             23W /  350W |       1MiB /  46068MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+
VM.GPU.L40S.x
Spezifikation Mögliche Werte
Ausprägungsname
  • VM.GPU.L40S.1
  • VM.GPU.L40S.2
  • VM.GPU.L40S.3
  • VM.GPU.L40S.4
GPUs 1-4 – entsprechend dem Namen der Form
OCPUs 27 pro GPU
Arbeitsspeicher 200 GB pro GPU
VNICs Bis zu 24
Bandbreite Bis zu 400 Gbit/s