Oracle Cloud Infrastructure - Dokumentation

Verwenden von GPUs

Um mit GPUs in Data Science zu arbeiten, benötigt der Mandant ein Limit für diese Ausprägung, und die Ausprägung muss in der Region verfügbar sein, in der Sie sie verwenden möchten.

Wenn Sie kein Unternehmenskunde sind, müssen Sie eine Erhöhung des Servicelimits erstellen, um GPU zu verwenden, da Ihr Mandant standardmäßig kein Limit aufweist.
Hinweis

Das Servicelimit stimmt nicht mit der Ausprägungskapazität überein. Das Data Science-GPU-Limit ist die maximale Anzahl von GPUs, die Ihr Mandant verwenden kann, wenn die Ausprägung verfügbar ist. Wenn alle Ausprägungen in der Region verwendet werden, erhalten Sie möglicherweise einen Fehler wegen unzureichender Kapazität, selbst wenn Sie das Data Science-Limit haben.

GPU anfordern

  1. Prüfen Sie, ob Sie ein Limit für die Ausprägung haben, die Sie in Data Science verwenden möchten.
  2. Öffnen Sie die Konsole.
  3. (Optional) Ändern Sie die Region, wenn sie nicht auf die betreffende Region gesetzt ist.
  4. Wählen Sie Governance und Administration aus.
  5. Wählen Sie unter Mandantenverwaltung die Option Limits, Quota und Nutzung aus.
  6. Wählen Sie unter "Service" die Option Data Science aus.
  7. Wählen Sie für {\b Scope} die betreffende Region.
  8. Wählen Sie unter "Ressource" die GPU-Ausprägung aus, die Sie verwenden möchten.
  9. Wählen Sie unter "Compartment" das Root Compartment aus.
  10. Stellen Sie sicher, dass die verfügbare Anzahl ausreichend begrenzt ist.
  11. Um das Limit zu erhöhen, wählen Sie Erhöhung des Servicelimits beantragen aus.

    Stellen Sie sicher, dass die Servicekategorie in der Serviceanfrage auf Data Science gesetzt ist.

    Weitere Informationen zum Anfordern einer Erhöhung des Servicelimits finden Sie im Tutorial Limits für Data Science-Services erhöhen.

Reservierte GPU-Kapazität verwenden

Compute bietet ein Feature zur Kapazitätsreservierung, mit dem Mandanten GPU-Ausprägungen reservieren können. Wenn Sie GPU-Kapazität mit Compute reserviert haben, können Sie die GPUs übertragen, die in Data Science verwendet werden sollen. Erstellen Sie ein Supportanfrageticket, und geben Sie Ausprägung, Anzahl, Region, Mandant und Reservierungs-ID der GPU-Reservierung an, die an Data Science übertragen werden soll.
Wichtig

Derzeit können Kapazitätsreservierungen für A10 nicht akzeptiert werden, und Kapazitätsreservierungen für A100 können nur in bestimmten Regionen akzeptiert werden.
Wenn Data Science die Reservierung abgeschlossen hat, wird dem Mandanten die Ausprägung in Rechnung gestellt, unabhängig davon, ob sie verwendet wird oder nicht.
Hinweis

Nachdem die reservierte GPU an Data Science übertragen wurde, beginnt Data Science mit der Abrechnung für die GPU-Ausprägung, unabhängig davon, ob die GPU verwendet wird oder nicht.

Tipps zur Verwendung von GPU mit KI-Schnellaktionen

Wenn Sie das Servicelimit in Data Science erhöht haben, um eine bestimmte GPU-Ausprägung für das Modell-Deployment oder die Feinabstimmung in AI-Schnellaktionen zu verwenden, erstellen Sie keine Notizbuchsession mit dieser Ausprägung, um auf AI-Schnellaktionen zuzugreifen. In diesem Fall wird die GPU für die Notizbuchsession auf das Servicelimit angerechnet, sodass die Ausprägung nicht für das Modell-Deployment oder die Feinabstimmung verwendet werden kann. Wählen Sie eine andere Ausprägung (CPU oder GPU) aus, um ein Notizbuch für den Zugriff auf AI-Schnellaktionen zu erstellen.

Fehlerbehebung

Wenn bei der Verwendung von GPUs Probleme auftreten, finden Sie weitere Informationen im Abschnitt zur Fehlerbehebung für GPUs.