Prepare-se para implementar plataformas de HPC e IA sob demanda na OCI

Use esta orientação de preparação para projetar fundamentos de acesso, computação, armazenamento, identidade e operações antes de implantar a plataforma.

Analise os domínios de preparação para uma plataforma de HPC e IA sob demanda na OCI.

Acesso do Usuário e Serviços OOD

Preparar o caminho de acesso do usuário e o design de serviço OOD para que os fluxos de trabalho baseados em navegador permaneçam seguros, consistentes e compatíveis.

Os usuários acessam a plataforma por HTTPS por meio de OOD, enquanto os administradores aprovados usam caminhos SSH controlados para suporte e operações de emergência.

  • Use o OCI Load Balancer para entrada HTTPS, com o OCI Web Application Firewall opcional, grupos de segurança de rede (NSGs) ou listas de permissões IP.
  • Use ID do Microsoft Entra e OIDC para SSO no portal do OOD.
  • Trate o OOD como uma plataforma de aplicativo, não apenas uma instalação de pacote e personalizações de controle de versão.
  • Valide o roteamento do Apache, os aplicativos OOD e o comportamento do proxy /node e /rnode como parte das verificações de prontidão.
  • Confirme os caminhos de inicialização do aplicativo interativo para Área de Trabalho Remota, Código VS, JupyterLab, RStudio e MATLAB.

Movimentação de Dados, Provisionamento, Monitoramento e Automação

Prepare o tratamento compartilhado de dados, o provisionamento de projetos, a observabilidade e a automação para que os eventos de dimensionamento permaneçam confiáveis para fluxos de trabalho voltados para o usuário.

Projete a plataforma operacional para que a movimentação de dados, o provisionamento de identidades, o monitoramento e os fluxos de trabalho de manutenção recorrentes sejam consistentes em nós estáticos e dimensionados automaticamente.

  • Defina caminhos de movimentação de dados entre o OCI Object Storage, sistemas de arquivos compartilhados, espaços de trabalho do projeto, caminhos de transição e Lustre.
  • Defina o provisionamento just-in-time (JIT) para diretórios home, diretórios de projeto, permissões e alinhamento de conta Slurm.
  • Use o Prometheus e o Grafana para monitorar os serviços do Slurm, a prontidão do nó, as montagens de armazenamento, o runtime da GPU e a integridade do aplicativo OOD.
  • Execute jobs idempotentes cron e de automação para sincronização de host, workflows de limpeza, verificações de cota, reparo de bootstrap e aplicação de patches OOD pós-upgrade.

Topologia de Cluster HPC e Partições de Slurm

Prepare a topologia do plano de controle e a estratégia de partição Slurm para que a capacidade de CPU e GPU seja dimensionada de forma previsível entre os tipos de carga de trabalho.

Use um design de cluster que separe as atribuições de controlador, log-in, computação permanente, CPU de dimensionamento automático e GPU de dimensionamento automático para maior clareza operacional.

  • Projete serviços de controladores Slurm para agendamento, contabilidade, gerenciamento de estado de nó e integração de dimensionamento automático.
  • Mantenha os nós de log-in focados no envio e no diagnóstico, não na execução pesada da carga de trabalho.
  • Use partições de computação permanentes para cargas de trabalho de baixa latência e solução de problemas de linha de base.
  • Use partições de CPU de dimensionamento automático para cargas de trabalho interativas e em lote interativas.
  • Separe as partições de GPU de dimensionamento automático por tipo de carga de trabalho e faixa de imagem para lidar com dependências de runtime, driver e armazenamento.
  • Valide a prontidão do scheduler com MUNGE, slurmd, identidade do nó, recursos genéricos (GRES) e montagens de armazenamento antes de marcar nós prontos.

Design de Armazenamento em Várias Camadas

Prepare camadas de armazenamento por comportamento de carga de trabalho para que o estado do usuário, os conjuntos de dados compartilhados e as entradas/saídas de alto rendimento usem os serviços e caminhos de montagem apropriados.

Use um design de armazenamento em camadas para separar o estado do usuário persistente, conjuntos de dados de projeto compartilhados e caminhos de E/S de carga de trabalho de alto desempenho.

  • Use o serviço OCI File Storage (FSS) para caminhos compartilhados de usuário e runtime, como /home, /scratch e /apps.
  • Use o OCI Object Storage com JuiceFS para conjuntos de dados compartilhados duráveis e dados de projeto, geralmente montados em /odata.
  • Use o serviço File Storage com Lustre para treinamento de IA de alto rendimento, checkpoint e E/S de simulação, geralmente montados em /lustre.
  • Valide cada montagem independentemente em cada classe de nó usada para fluxos de trabalho interativos e em lote.

Gerenciamento de Identidades

Prepare a identidade centralizada do Linux e a autorização de projetos para que o acesso, as cotas e os controles de programação permaneçam consistentes em toda a plataforma.

Use o gerenciamento centralizado de identidades para manter contas, grupos, controles de acesso de host e autorização do scheduler do Linux alinhados para cargas de trabalho de vários tenants.

  • Use o FreeIPA para usuários LDAP, grupos POSIX, autenticação Kerberos e controle de acesso baseado em host.
  • Mapeie grupos de projetos e laboratórios para contas Slurm para impor isolamento, propriedade de cota e relatórios de chargeback ou showback.
  • Valide o comportamento de reinicialização do serviço de identidade para que SSH, propriedade do diretório home e inicialização do Slurm permaneçam estáveis após os eventos de manutenção.
  • Planeje a integração entre origens de grupos do Microsoft Entra ID e workflows de governança de identidades do Linux em que a autorização do projeto é necessária.