Prepárate para desplegar plataformas de HPC e IA bajo demanda en OCI

Utilice esta guía de preparación para diseñar bases de acceso, recursos informáticos, almacenamiento, identidad y operaciones antes de desplegar la plataforma.

Revisa los dominios de preparación para una plataforma de HPC e IA bajo demanda en OCI.

Acceso de los Usuarios y Servicios OOD

Preparar la ruta de acceso de usuario y el diseño del servicio OOD para que los flujos de trabajo basados en explorador permanezcan seguros, coherentes y compatibles.

Los usuarios acceden a la plataforma a través de HTTPS a través de OOD, mientras que los administradores aprobados utilizan rutas SSH controladas para operaciones de soporte y acceso de emergencia.

  • Utilice OCI Load Balancer para la entrada HTTPS, con OCI Web Application Firewall opcional, grupos de seguridad de red (NSG) o listas de permitidos de IP.
  • Utilice ID de Microsoft Entra y OIDC para SSO en el portal de OOD.
  • Considere OOD como una plataforma de aplicaciones, no solo una instalación de paquetes y personalizaciones de control de versiones.
  • Valide el enrutamiento de Apache, las aplicaciones de OOD y el comportamiento del proxy /node y /rnode como parte de las comprobaciones de preparación.
  • Confirme las rutas de inicio de aplicaciones interactivas para Remote Desktop, VS Code, JupyterLab, RStudio y MATLAB.

Movimiento, aprovisionamiento, supervisión y automatización de datos

Prepara el manejo de datos compartidos, el aprovisionamiento de proyectos, la observabilidad y la automatización para que los eventos de escalado sigan siendo confiables para los flujos de trabajo orientados al usuario.

Diseñe la plataforma operativa para que los flujos de trabajo de movimiento de datos, aprovisionamiento de identidad, supervisión y mantenimiento recurrente sean consistentes en nodos estáticos y de escala automática.

  • Defina rutas de Data Mover entre OCI Object Storage, sistemas de archivos compartidos, espacios de trabajo de proyectos, rutas de reutilización y Lustre.
  • Defina el aprovisionamiento justo a tiempo (JIT) para los directorios principales, los directorios de proyecto, los permisos y la alineación de cuentas Slurm.
  • Utilice Prometheus y Grafana para supervisar los servicios Slurm, la preparación de los nodos, los montajes de almacenamiento, el tiempo de ejecución de la GPU y el estado de la aplicación OOD.
  • Ejecute trabajos de automatización e idempotentes cron para la sincronización de hosts, los flujos de trabajo de limpieza, las comprobaciones de cuotas, la reparación de inicialización de datos y la aplicación de parches de OOD después de la actualización.

Topología de cluster de HPC y particiones Slurm

Prepare la topología del plano de control Slurm y la estrategia de partición para que la capacidad de CPU y GPU se amplíe de manera predecible entre los tipos de carga de trabajo.

Utilice un diseño de cluster que separe los roles de controlador, inicio de sesión, recursos informáticos permanentes, escala automática de CPU y escala automática de GPU para mayor claridad operativa.

  • Diseñar servicios de controlador Slurm para programación, contabilidad, gestión de estado de nodos e integración de escala automática.
  • Mantenga los nodos de inicio de sesión centrados en el envío y el diagnóstico, no en la ejecución de cargas de trabajo intensas.
  • Utilice particiones de recursos informáticos permanentes para cargas de trabajo de baja latencia y solución de problemas de línea base.
  • Utilizar particiones de CPU de escala automática para cargas de trabajo interactivas y por lotes de repartición.
  • Separe las particiones de GPU de escala automática por tipo de carga de trabajo y vía de imagen para manejar las dependencias de tiempo de ejecución, controlador y almacenamiento.
  • Valide la preparación del programador con MUNGE, slurmd, identidad de nodo, recursos genéricos (GRES) y montajes de almacenamiento antes de marcar los nodos como listos.

Diseño de almacenamiento de varios niveles

Prepare los niveles de almacenamiento por comportamiento de carga de trabajo para que el estado del usuario, los conjuntos de datos compartidos y la E/S de alto rendimiento utilicen los servicios y las rutas de montaje adecuados.

Utilice un diseño de almacenamiento por niveles para separar el estado de usuario persistente, los juegos de datos compartidos del proyecto y las rutas de E/S de carga de trabajo de alto rendimiento.

  • Utilice OCI File Storage (FSS) para rutas de acceso de tiempo de ejecución y de usuario compartidas como /home, /scratch y /apps.
  • Utilice OCI Object Storage con JuiceFS para conjuntos de datos compartidos duraderos y datos de proyectos, que se suelen montar en /odata.
  • Utilice File Storage with Lustre para el entrenamiento, la creación de puntos de control y la E/S de simulación de IA de alto rendimiento, que se suelen montar en /lustre.
  • Valide cada montaje de forma independiente en cada clase de nodo utilizada para flujos de trabajo interactivos y por lotes.

Identity Management

Prepare la identidad centralizada de Linux y la autorización de proyectos para que los controles de acceso, cuotas y programación sigan siendo consistentes en toda la plataforma.

Utilice la gestión de identidades centralizada para mantener alineadas las cuentas, los grupos, los controles de acceso al host y la autorización del programador de Linux para las cargas de trabajo multiinquilino.

  • Utilice FreeIPA para usuarios LDAP, grupos POSIX, autenticación Kerberos y control de acceso basado en host.
  • Asigne grupos de proyectos y laboratorios a cuentas Slurm para aplicar aislamiento, propiedad de cuotas e informes de contracargo o devolución.
  • Valide el comportamiento de reinicio del servicio de identidad para que SSH, la propiedad del directorio raíz y el inicio de Slurm se mantengan estables después de los eventos de mantenimiento.
  • Planifique la integración entre los orígenes del grupo ID de Microsoft Entra y los flujos de trabajo de gobernanza de identidad de Linux en los que se requiere autorización del proyecto.