Limites du service d'intelligence artificielle générative
Découvrez les limites des ressources de grappe dédiée à l'IA dans le service d'intelligence artificielle générative pour OCI.
Par défaut, vous obtenez 0 grappe dédiée à l'IA par location. Pour le nom de la grappe dédiée à l'IA pour laquelle vous demandez une augmentation, allez à Modèles fondamentaux préentraînés offerts dans l'IA générative, sélectionnez une carte de modèle et consultez la section relative à la grappe dédiée à l'IA pour le modèle. Notez que les modèles (sur demande seulement) n'ont pas d'option de grappe dédiée à l'IA.
Pour les modèles importés, voir Formes d'unité matérielle de grappe dédiée à l'IA.
Pour demander des grappes dédiées à l'IA pour une location, voir Création d'une demande d'augmentation de limite.
Limites du point d'extrémité du modèle
Par défaut, une grappe d'IA dédiée à l'hébergement peut avoir jusqu'à 50 points d'extrémité de modèle. Dans la page des détails de la grappe dédiée à l'IA, Capacité de point d'extrémité restante indique le nombre de points d'extrémité de modèle supplémentaires que la grappe peut prendre en charge sous sa limite courante. Ce nombre est distinct des répliques de modèle et des unités d'intelligence artificielle dédiées qui fournissent la capacité d'inférence de la grappe.
Pour créer plus de 50 points d'extrémité de modèle sur une grappe d'hébergement, demandez une augmentation de limite de service pour endpoint-per-dedicated-unit-count. Voir Capacité du point d'extrémité.
Limites de projet
Dans une location, vous pouvez avoir jusqu'à 50 projets dans l'intelligence artificielle générative pour OCI.
Limites de connecteur de magasin de vecteurs
Dans une location, vous pouvez avoir jusqu'à 5 connecteurs actifs par magasin de vecteurs.
Limites d'application
Le tableau suivant répertorie les limites pour les applications du service d'intelligence artificielle générative pour OCI.
| Limite | Valeur par défaut | Maximum | Peut demander une augmentation de limite de service | Nom de la limite |
|---|---|---|---|---|
| Applications par location | 10 | 50 | Oui | hosted-application-count |
| Artefacts par application | 20 | 50 | Oui | artifacts-per-application-count |
| Options de stockage géré par application | 3 | 3 | Nombre | |
| Variables d'environnement par application | 20 | 100 | Oui | environment-variables-per-application-count |
| Nombre maximal de répliques par application | 30 | 50 | Oui | max-replicas-per-application-count |
| Mandataires DNS PE/RCE par location | 3 | 10 | Oui | pe-rce-dns-proxy-count |
| Systèmes de stockage gérés par type de stockage et par location | 3 | 10 | Oui | managed-storage-per-type-count |