Details eines Dedizierten KI-Clusters abrufen

Rufen Sie die Details für ein dediziertes KI-Cluster in OCI Generative AI ab.

Hostingclusterdetails

Prüfen Sie für ein dediziertes Hosting-KI-Cluster die folgenden Felder, um die Compute- und Endpunktkapazität zu verstehen:

Einheitsgröße
Die dedizierte Ausprägung der KI-Einheit, die für das im Cluster gehostete Modell ausgewählt ist. Die Einheitenausprägung gibt die Compute-Ressourcen an, die vom Modell verwendet werden.
Anzahl Einheiten
Die dedizierten KI-Einheiten, die für die Modellreplikate des Clusters bereitgestellt wurden. Das Hinzufügen von Modellreplikaten erhöht den Inferenzdurchsatz des Clusters und erfordert zusätzliche Einheiten.
Verbleibende Endpunktkapazität
Die Anzahl zusätzlicher Modellendpunkte, die das Cluster unter seinem aktuellen Endpunktlimit unterstützen kann. Standardmäßig unterstützt ein Hostingcluster bis zu 50 Modellendpunkte. Beispiel: Wenn ein Cluster einen Endpunkt aufweist, beträgt die verbleibende Endpunktkapazität 49. Dieser Wert zählt Modellendpunktressourcen, nicht Modellreplikate oder Inferenzanforderungen.

Durch das Erstellen zusätzlicher Modellendpunkte wird der Inferenzdurchsatz des Clusters nicht erhöht. Siehe Endpunktkapazität.

  • Wählen Sie auf der Listenseite Dedizierte KI-Cluster das dedizierte KI-Cluster aus, mit dem Sie arbeiten möchten. Wenn Sie Hilfe beim Suchen der Listenseite für dedizierte KI-Cluster benötigen, finden Sie weitere Informationen unter Dedizierte KI-Cluster auflisten. Greifen Sie auf der Detailseite des dedizierten KI-Clusters auf verschiedene Ressourcen zu, die mit dem dedizierten KI-Cluster verknüpft sind, indem Sie deren Links oder Registerkarten auswählen.

  • Verwenden Sie den Befehl dedicated-ai-cluster get und die erforderlichen Parameter, um die Details eines dedizierten Clusters abzurufen:

    oci generative-ai dedicated-ai-cluster get 
    --dedicated-ai-cluster-id <dedicated-ai-cluster-OCID> [OPTIONS]

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der CLI-Befehlsreferenz.

  • Führen Sie den Vorgang GetDedicatedAiCluster aus, um die Details eines dedizierten Clusters abzurufen.