Limiti del servizio per l'intelligenza artificiale generativa
Scopri i limiti per le risorse cluster AI dedicate in OCI Generative AI.
Per impostazione predefinita, il numero di cluster AI dedicati disponibili per ogni tenancy è 0. Per il nome del cluster AI dedicato per il quale si richiede un aumento, andare a Modelli di base pre-addestrati offerti nell'intelligenza artificiale generativa, selezionare una scheda modello e vedere la sezione relativa al cluster AI dedicato per il modello. Tenere presente che i modelli (solo su richiesta) non dispongono di un'opzione cluster AI dedicata.
Per i modelli importati, vedere le forme unità hardware del cluster AI dedicata.
Per richiedere cluster AI dedicati per una tenancy, vedere Creazione di una richiesta di aumento del limite.
Limiti endpoint modello
Per impostazione predefinita, un cluster AI dedicato all'hosting può avere fino a 50 endpoint di modello. Nella pagina dei dettagli del cluster AI dedicata, Capacità endpoint rimanente mostra il numero di endpoint modello aggiuntivi che il cluster può supportare al di sotto del limite corrente. Questo conteggio è separato dalle repliche del modello e dalle unità AI dedicate che forniscono la capacità di inferenza del cluster.
Per creare più di 50 endpoint modello su un cluster di hosting, richiedere un aumento del limite del servizio per endpoint-per-dedicated-unit-count. Vedere Capacità endpoint.
Limiti progetto
In una tenancy, puoi avere fino a 50 progetti in OCI Generative AI.
Limiti connettore memoria di vettore
In una tenancy, puoi avere fino a 5 connettori attivi per ogni memoria di vettore.
Limiti applicazione
La tabella riportata di seguito elenca i limiti per le applicazioni in OCI Generative AI.
| Limitato | Predefinito | Massimo | È possibile richiedere un aumento del limite del servizio | Nome limite |
|---|---|---|---|---|
| Applicazioni per tenancy | 10 | 50 | Sì | hosted-application-count |
| Artifact per applicazione | 20 | 50 | Sì | artifacts-per-application-count |
| Opzioni di storage gestito per applicazione | 4, con un collegamento per tipo di storage | 4, con un collegamento per tipo di storage | N | |
| Accessi di storage dei file per ogni applicazione | 1 | 1 | No | |
| Quota di storage di file per allegato applicazione | 50 GB | 50 GB | No | |
| Variabili di ambiente per applicazione | 20 | 100 | Sì | environment-variables-per-application-count |
| Numero massimo di repliche per applicazione senza storage di file | 30 | 50 | Sì | max-replicas-per-application-count |
| Repliche per applicazione con storage di file (impostare sia il minimo che il massimo su 1) | 1 | 1 | No | |
| Proxy DNS PE/RCE per tenancy | 3 | 10 | Sì | pe-rce-dns-proxy-count |
| Sistemi di storage gestiti per tipo di storage per ogni tenancy | 3 | 10 | Sì | managed-storage-per-type-count |