Hardwareeinheitenausprägungen nach Region

In der folgenden Tabelle sind Hardwareausprägungen für die Regionen in Nordamerika aufgeführt.

In der folgenden Tabelle sind Hardwareausprägungen für die Regionen Südamerikas aufgeführt.

In der folgenden Tabelle sind Hardwareausprägungen für die Regionen "Europa" aufgeführt.

In der folgenden Tabelle sind Hardwareausprägungen für die Regionen im Nahen Osten aufgeführt.

In der folgenden Tabelle sind Hardwareausprägungen für die Regionen im asiatisch-pazifischen Raum aufgeführt.

In der folgenden Tabelle sind das Servicelimit, die erforderlichen Hardwareeinheiten und die Anzahl der AI-Einheiten für jede Hardwareeinheitenausprägung aufgeführt. Die Anzahl der AI-Einheiten wird durch die Hardwareausprägung und die Nummer nach X bestimmt. Ein Provider oder Modellfamilienpräfix ändert die Anzahl der AI-Einheiten nicht. Beispiel: Suchen Sie in dieser Tabelle nach H100_X2 für H100_X2 oder Cohere_H100_X2.

Die KI-Einheitenanzahl ist der Preismultiplikator für ein Replikat einer Hardwareeinheitenausprägung. Um den Stundenpreis für ein Replikat zu schätzen, multiplizieren Sie den anwendbaren Preis für die KI-Einheit pro Stunde auf der Preisfindungsseite mit der Anzahl der KI-Einheiten in der Tabelle. Wenn das Cluster über mehrere Replikate verfügt, multiplizieren Sie das Ergebnis auch mit der Anzahl der Replikate.

Mit dem Oracle Cloud-Kostenrechner können Sie die Kosten Ihrer dedizierten KI-Clusterkonfiguration schätzen. Wenn für den Mandanten nicht genügend Limits für die ausgewählte Hardwareausprägung und Einheitenanzahl vorhanden sind, Limiterhöhungsanforderung erstellen.

Wählen Sie für ein importiertes Modell eine kompatible Hardwareeinheitenausprägung aus, die in der Zielregion verfügbar ist. Ausprägungsnamen für importierte Modelle enthalten kein Providerpräfix, weil Sie das importierte Modell separat auswählen, wenn Sie das dedizierte AI-Cluster für das Hosting erstellen. Beispiel: H100_X2 erfordert zwei H100-Hardwareeinheiten. Informationen zum Servicelimit und zur Anzahl der KI-Einheiten finden Sie unter Hardware Unit-Ausprägungen, Servicelimits und AI Unit-Anzahl.

Verwenden Sie die Regionsübersichtstabellen auf dieser Seite, um die in jeder Region verfügbaren Hardwareausprägungen zu identifizieren. Die empfohlenen Ausprägungen für dedizierte KI-Clustereinheiten für jedes importierte Modell finden Sie unter Kompatible Modelle. Die empfohlene Ausprägung kann als Baseline verwendet werden. Sie können jedoch mehr Hardwareressourcen verwenden, wenn das Modell sie unterstützt und die Ausprägung in der Region verfügbar ist.

Nachdem Sie eine kompatible Einheitenausprägung für das Modell und die Zielregion identifiziert haben, erstellen Sie ein dediziertes KI-Cluster für das Hosting von Modellen, und wählen Sie die Einheitenausprägung aus. Wenn das Cluster aktiv wird, erstellen Sie einen Endpunkt für das Modell im Cluster.

Um den Stundenpreis für ein importiertes Modellcluster zu berechnen, multiplizieren Sie den Preis für die KI-Einheit pro Stunde für Oracle Cloud Infrastructure Generative AI - Modellimport auf der Preisseite mit der Anzahl der KI-Einheiten für die ausgewählte Ausprägung. Wenn das Cluster über mehrere Replikate verfügt, multiplizieren Sie das Ergebnis auch mit der Anzahl der Replikate.

Informationen zum Workflow "Importiertes Modell" finden Sie unter Importierte Modelle verwalten.

In den folgenden regionalen Tabellen werden die vollständigen providerspezifischen Einheitenausprägungsnamen für Modelle angezeigt, die von OCI Generative AI für dediziertes Hosting angeboten werden. Um die Anzahl der AI-Einheiten zu ermitteln, entfernen Sie das Provider- oder Modellfamilienpräfix, und suchen Sie die verbleibende Hardwareeinheitenausprägung unter Hardwareeinheitenausprägungen, Servicelimits und Anzahl der AI-Einheiten. Beispiel: Verwenden Sie die Zeile H100_X2, um die Anzahl der AI-Einheiten für Cohere_H100_X2 zu ermitteln.

In der folgenden Tabelle werden die Ausprägungsnamen der Baseline-Hardwareeinheit für Modelle in Nordamerika aufgeführt. Sie können weitere Replikate einer Baselineausprägung angeben, wenn Sie ein dediziertes KI-Cluster erstellen oder das Cluster später aktualisieren.

In der folgenden Tabelle sind die Ausprägungsnamen der Baseline-Hardwareeinheit für Modelle in Südamerika aufgeführt. Sie können weitere Replikate einer Baselineausprägung angeben, wenn Sie ein dediziertes KI-Cluster erstellen oder das Cluster später aktualisieren.

In der folgenden Tabelle sind die Ausprägungsnamen der Baseline-Hardwareeinheit für Modelle in Europa aufgeführt. Sie können weitere Replikate einer Baselineausprägung angeben, wenn Sie ein dediziertes KI-Cluster erstellen oder das Cluster später aktualisieren.

In der folgenden Tabelle sind die Ausprägungsnamen der Baseline-Hardwareeinheit für Modelle im Nahen Osten aufgeführt. Sie können weitere Replikate einer Baselineausprägung angeben, wenn Sie ein dediziertes KI-Cluster erstellen oder das Cluster später aktualisieren.

In der folgenden Tabelle sind die Ausprägungsnamen der Baseline-Hardwareeinheit für Modelle im asiatisch-pazifischen Raum aufgeführt. Sie können weitere Replikate einer Baselineausprägung angeben, wenn Sie ein dediziertes KI-Cluster erstellen oder das Cluster später aktualisieren.