Límites de servicios para Generative AI
Obtén más información sobre los límites de los recursos de clústeres de IA dedicados en OCI Generative AI.
Por defecto, el número de clusters de IA dedicados que obtiene por arrendamiento es 0. Para conocer el nombre del cluster de IA dedicado para el que está solicitando un aumento, vaya a Offered Pretrained Foundational Models in Generative AI, seleccione una tarjeta modelo y consulte la sección sobre el cluster de IA dedicada para el modelo. Tenga en cuenta que los modelos (solo bajo demanda) no tienen una opción de cluster de IA dedicada.
Para los modelos importados, consulte Dedicated AI Cluster Hardware Unit Shapes.
Para solicitar clusters de AI dedicados para un arrendamiento, consulte Creación de una solicitud de aumento del límite.
Límites de punto final de modelo
Por defecto, un cluster de IA dedicado de alojamiento puede tener hasta 50 puntos finales de modelo. En la página de detalles del cluster de AI dedicado, Capacidad de punto final restante muestra cuántos puntos finales de modelo adicionales puede soportar el cluster con su límite actual. Este recuento es independiente de las réplicas de modelos y las unidades de IA dedicadas que proporcionan la capacidad de inferencia del cluster.
Para crear más de 50 puntos finales de modelo en un cluster de alojamiento, solicite un aumento del límite de servicio para endpoint-per-dedicated-unit-count. Consulte Capacidad de punto final.
Límites de proyecto
En un arrendamiento, puedes tener hasta 50 proyectos en OCI Generative AI.
Límites del conector de la tienda de vectores
En un arrendamiento, puede tener hasta 5 conectores activos por almacén de vectores.
Límites de aplicación
En la siguiente tabla, se muestran los límites de las aplicaciones de OCI Generative AI.
| Límite | Valor por defecto | Máximo | Puede solicitar un aumento del límite de servicio | Nombre de límite |
|---|---|---|---|---|
| Aplicaciones por arrendamiento | 10 | 50 | Sí | hosted-application-count |
| Artefactos por aplicación | 20 | 50 | Sí | artifacts-per-application-count |
| Opciones de almacenamiento gestionado por aplicación | 3 | 3 | No | |
| Variables de entorno por aplicación | 20 | 100 | Sí | environment-variables-per-application-count |
| Número máximo de réplicas por aplicación | 30 | 50 | Sí | max-replicas-per-application-count |
| Proxies DNS PE/RCE por arrendamiento | 3 | 10 | Sí | pe-rce-dns-proxy-count |
| Sistemas de almacenamiento gestionados por tipo de almacenamiento por arrendamiento | 3 | 10 | Sí | managed-storage-per-type-count |