Preparati a distribuire piattaforme HPC e AI on-demand su OCI

Utilizza questa guida di preparazione per progettare le basi di accesso, computazione, storage, identità e operazioni prima di distribuire la piattaforma.

Rivedi i domini di preparazione per una piattaforma HPC e AI su richiesta su OCI.

Servizi di accesso utente e OOD

Preparare il percorso di accesso dell'utente e la progettazione del servizio OOD in modo che i flussi di lavoro basati su browser rimangano sicuri, coerenti e supportabili.

Gli utenti accedono alla piattaforma tramite HTTPS tramite OOD, mentre gli amministratori approvati utilizzano percorsi SSH controllati per le operazioni di supporto e accesso di emergenza.

  • Utilizzare OCI Load Balancer per la voce HTTPS, con OCI Web Application Firewall facoltativo, gruppi di sicurezza di rete (NSG) o liste di inclusione IP.
  • Utilizzare Microsoft Entra ID e OIDC per SSO nel portale OOD.
  • Considera OOD come una piattaforma applicativa, non solo un'installazione di pacchetti e personalizzazioni del controllo delle versioni.
  • Convalida l'instradamento Apache, le applicazioni OOD e il comportamento proxy /node e /rnode nell'ambito dei controlli di preparazione.
  • Confermare i percorsi di avvio delle applicazioni interattive per Remote Desktop, VS Code, JupyterLab, RStudio e MATLAB.

Spostamento, provisioning, monitoraggio e automazione dei dati

Prepara la gestione condivisa dei dati, il provisioning dei progetti, l'osservabilità e l'automazione in modo che gli eventi di ridimensionamento rimangano affidabili per i flussi di lavoro rivolti agli utenti.

Progetta la piattaforma operativa in modo che lo spostamento dei dati, il provisioning delle identità, il monitoraggio e i flussi di lavoro di manutenzione ricorrenti siano coerenti su nodi statici e a scala automatica.

  • Definisce i percorsi di spostamento dei dati tra OCI Object Storage, file system condivisi, aree di lavoro dei progetti, percorsi vuoti e Lustre.
  • Definisce il provisioning just-in-time (JIT) per le directory home, le directory di progetto, le autorizzazioni e l'allineamento degli account Slurm.
  • Utilizza Prometheus e Grafana per monitorare i servizi Slurm, la disponibilità dei nodi, gli accessi allo storage, il runtime GPU e lo stato delle applicazioni OOD.
  • Esegui job cron idempotenti e di automazione per la sincronizzazione dell'host, i flussi di lavoro di cleanup, i controlli delle quote, la riparazione del bootstrap e l'applicazione di patch OOD dopo l'upgrade.

Topologia cluster HPC e partizioni slurm

Preparare la topologia del piano di controllo Slurm e la strategia di partizione in modo che la capacità della CPU e della GPU si ridimensioni in modo prevedibile tra i tipi di carico di lavoro.

Utilizza una progettazione cluster che separa i ruoli controller, login, computazione permanente, CPU di ridimensionamento automatico e GPU di ridimensionamento automatico per maggiore chiarezza operativa.

  • Progetta i servizi del controller Slurm per la pianificazione, la contabilità, la gestione dello stato dei nodi e l'integrazione della scala automatica.
  • Mantieni i nodi di login concentrati sull'invio e la diagnostica, non sull'esecuzione pesante del carico di lavoro.
  • Utilizza partizioni di computazione permanenti per carichi di lavoro a bassa latenza e risoluzione dei problemi di baseline.
  • Utilizza partizioni CPU di ridimensionamento automatico per carichi di lavoro interattivi e batch bursty.
  • Separa le partizioni GPU di ridimensionamento automatico in base al tipo di carico di lavoro e alla corsia delle immagini per gestire le dipendenze di runtime, driver e storage.
  • Convalida la disponibilità dello scheduler con MUNGE, slurmd, l'identità del nodo, le risorse generiche (GRES) e gli accessi di storage prima di contrassegnare i nodi come pronti.

Progettazione di storage a più livelli

Prepara i livelli di storage in base al comportamento del carico di lavoro in modo che lo stato dell'utente, i set di dati condivisi e l'I/O con throughput elevato utilizzino i servizi e i percorsi di accesso appropriati.

Utilizza una struttura di storage a più livelli per separare lo stato utente persistente, i set di dati di progetto condivisi e i percorsi di I/O del carico di lavoro ad alte prestazioni.

  • Utilizzare OCI File Storage (FSS) per i percorsi utente e runtime condivisi quali /home, /scratch e /apps.
  • Utilizza OCI Object Storage con JuiceFS per set di dati condivisi duraturi e dati di progetto, di solito attivati in /odata.
  • Utilizza Storage di file con Lustre per l'addestramento AI ad alto throughput, il checkpoint e l'I/O di simulazione, comunemente installati su /lustre.
  • Convalida ogni accesso in modo indipendente su ogni classe di nodo utilizzata per flussi di lavoro batch e interattivi.

Identity Management

Prepara l'identità Linux centralizzata e l'autorizzazione del progetto in modo che i controlli di accesso, quote e pianificazione rimangano coerenti in tutta la piattaforma.

Utilizza la gestione centralizzata delle identità per mantenere allineati account, gruppi, controlli dell'accesso host e autorizzazione dello scheduler per i carichi di lavoro multi-tenant di Linux.

  • Utilizzare FreeIPA per gli utenti LDAP, i gruppi POSIX, l'autenticazione Kerberos e il controllo dell'accesso basato su host.
  • Mappa i gruppi di progetti e laboratori agli account Slurm per applicare isolamento, proprietà delle quote e report di riaddebito o presentazione.
  • Convalidare il funzionamento del riavvio del servizio di identità in modo che SSH, la proprietà della home-directory e l'avvio di Slurm rimangano stabili dopo gli eventi di manutenzione.
  • Pianifica l'integrazione tra le origini del gruppo Microsoft Entra ID e i flussi di lavoro di governance delle identità Linux in cui è richiesta l'autorizzazione del progetto.