Obtención de detalles del cluster de AI dedicado

Detalles de cluster de alojamiento

Para un cluster de IA dedicado al alojamiento, revise estos campos para comprender su capacidad informática y de punto final:

Tamaño de unidad

Unidad de IA dedicada seleccionada para el modelo alojado en el cluster. La unidad identifica los recursos informáticos que utiliza el modelo.

Número de unidades

Las unidades de IA dedicadas aprovisionadas para las réplicas de modelos del cluster. La adición de réplicas de modelos aumenta el rendimiento de inferencia del cluster y requiere unidades adicionales.

Capacidad restante de punto final

Número de puntos finales de modelo adicionales que el cluster puede soportar en su límite de punto final actual. Por defecto, un cluster de alojamiento soporta hasta 50 puntos finales de modelo. Por ejemplo, si un cluster tiene un punto final, la capacidad restante del punto final es 49. Este valor cuenta los recursos de punto final de modelo, no las réplicas de modelo ni las solicitudes de inferencia.

La creación de puntos finales de modelo adicionales no aumenta el rendimiento de inferencia del cluster. Consulte Capacidad de punto final.