Servicelimits für OCI Generative AI
Erfahren Sie mehr über die Limits für dedizierte KI-Clusterressourcen in OCI Generative AI.
Standardmäßig erhalten Sie pro Mandant 0 dedizierte KI-Cluster. Den Namen des dedizierten KI-Clusters, für das Sie eine Erhöhung beantragen, finden Sie unter Offerte vortrainierte Basismodelle in generativer KI, wählen Sie eine Modellkarte aus, und lesen Sie den Abschnitt zum dedizierten KI-Cluster für das Modell. Beachten Sie, dass (nur bei Bedarf) Modelle keine dedizierte KI-Clusteroption haben.
Informationen zu importierten Modellen finden Sie unter Hardwareeinheitenausprägungen für dedizierte KI-Cluster.
Informationen zum Anfordern dedizierter KI-Cluster für einen Mandanten finden Sie unter Limiterhöhungsanforderung erstellen.
Modellendpunktlimits
Standardmäßig kann ein dediziertes KI-Hostcluster bis zu 50 Modellendpunkte aufweisen. Auf der Detailseite des dedizierten KI-Clusters zeigt Verbleibende Endpunktkapazität, wie viele zusätzliche Modellendpunkte das Cluster unter seinem aktuellen Limit unterstützen kann. Diese Anzahl ist getrennt von den Modellreplikaten und dedizierten KI-Einheiten, die die Inferenzkapazität des Clusters bereitstellen.
Um mehr als 50 Modellendpunkte in einem Hostingcluster zu erstellen, fordern Sie eine Erhöhung des Servicelimits an für endpoint-per-dedicated-unit-count. Siehe Endpunktkapazität.
Projektlimits
In einem Mandanten können Sie bis zu 50 Projekte in OCI Generative AI verwenden.
Limits für Vector Store Connector
In einem Mandanten können bis zu 5 aktive Connectors pro Vektorspeicher vorhanden sein.
Anwendungslimits
In der folgenden Tabelle werden die Limits für Anwendungen in OCI Generative AI aufgeführt.
| Limit | Standard | Maximum | Kann eine Erhöhung eines Servicelimits anfordern | Limitname |
|---|---|---|---|---|
| Anwendungen pro Mandant | 10 | 50 | Ja | hosted-application-count |
| Artefakte pro Anwendung | 20 | 50 | Ja | artifacts-per-application-count |
| Verwaltete Speicheroptionen pro Anwendung | 3 | 3 | Nein | |
| Umgebungsvariablen pro Anwendung | 20 | 100 | Ja | environment-variables-per-application-count |
| Maximale Anzahl Replikate pro Anwendung | 30 | 50 | Ja | max-replicas-per-application-count |
| PE/RCE-DNS-Proxys pro Mandant | 3 | 10 | Ja | pe-rce-dns-proxy-count |
| Verwaltete Speichersysteme pro Speichertyp pro Mandant | 3 | 10 | Ja | managed-storage-per-type-count |