Bereitstellen von On-Demand-HPC- und KI-Plattformen auf OCI

Verwenden Sie diese Vorbereitungsanleitung, um Zugriffs-, Compute-, Speicher-, Identitäts- und Betriebsgrundlagen vor der Bereitstellung der Plattform zu entwerfen.

Prüfen Sie die Vorbereitungsdomains für eine On-Demand-HPC- und KI-Plattform auf OCI.

Benutzerzugriff und OOD-Services

Bereiten Sie den Benutzerzugriffspfad und das OOD-Servicedesign vor, damit browserbasierte Workflows sicher, konsistent und unterstützbar bleiben.

Benutzer greifen über HTTPS über OOD auf die Plattform zu, während genehmigte Administratoren kontrollierte SSH-Pfade für Support- und Notfallzugriffsvorgänge verwenden.

  • Sie können OCI Load Balancer für HTTPS-Einträge mit optionaler OCI Web Application Firewall, Netzwerksicherheitsgruppen (NSGs) oder IP-Ausnahmelisten verwenden.
  • Verwenden Sie Microsoft Entra ID und OIDC für SSO im OOD-Portal.
  • Behandeln Sie OOD als Anwendungsplattform, nicht nur als Paketinstallation und Versionskontrollanpassungen.
  • Validieren Sie das Apache-Routing, OOD-Anwendungen sowie das Proxyverhalten /node und /rnode im Rahmen von Bereitschaftsprüfungen.
  • Bestätigen Sie interaktive Startpfade für Remote Desktop, VS Code, JupyterLab, RStudio und MATLAB.

Verschieben, Provisioning, Monitoring und Automatisierung von Daten

Bereiten Sie die gemeinsame Datenverarbeitung, Projektbereitstellung, Beobachtbarkeit und Automatisierung vor, damit Skalierungsereignisse für benutzerorientierte Workflows zuverlässig bleiben.

Entwerfen Sie die Betriebsplattform, damit Datenverschiebung, Identitätsbereitstellung, Überwachung und wiederkehrende Wartungsworkflows auf statischen und automatisch skalierten Knoten konsistent sind.

  • Definieren Sie Data Mover-Pfade zwischen OCI Object Storage, freigegebenen Dateisystemen, Projekt-Workspaces, Scratch-Pfaden und Lustre.
  • Definieren Sie Just-in-Time-(JIT-)Provisioning für Home-Verzeichnisse, Projektverzeichnisse, Berechtigungen und Slurm-Kontoausrichtung.
  • Mit Prometheus und Grafana können Sie Slurm-Services, Knotenbereitschaft, Speichermounts, GPU-Laufzeit und OOD-Anwendungszustand überwachen.
  • Führen Sie idempotent cron- und Automatisierungsjobs für Hostsynchronisierung, Bereinigungsworkflows, Quota-Prüfungen, Bootstrap-Reparatur und OOD-Patching nach dem Upgrade aus.

HPC Cluster Topologie und Slurm Partitionen

Bereiten Sie die Slurm Control-Plane-Topologie und Partitionsstrategie vor, damit die CPU- und GPU-Kapazität über Workload-Typen hinweg vorhersehbar skaliert wird.

Verwenden Sie ein Clusterdesign, das Controller-, Anmelde-, Permanent Compute-, Autoscaling-CPU- und Autoscaling-GPU-Rollen trennt, um die betriebliche Klarheit zu gewährleisten.

  • Entwerfen Sie Slurm-Controller-Services für Planung, Buchhaltung, Knotenstatusverwaltung und Autoscaling-Integration.
  • Konzentrieren Sie sich bei den Anmeldeknoten auf die Weiterleitung und Diagnose, nicht auf die Ausführung hoher Arbeitslasten.
  • Verwenden Sie permanente Compute-Partitionen für Workloads mit geringer Latenz und Baseline-Fehlerbehebung.
  • Verwenden Sie Autoscaling-CPU-Partitionen für Bursty-Interaktive und Batch-Workloads.
  • Trennen Sie GPU-Partitionen zur automatischen Skalierung nach Workload-Typ und Image-Lane, um Laufzeit-, Treiber- und Speicherabhängigkeiten zu verarbeiten.
  • Validieren Sie die Scheduler-Bereitschaft mit MUNGE, slurmd, Knotenidentität, generischen Ressourcen (GRES) und Speichermounts, bevor Sie Knoten als bereit markieren.

Multi-Tier-Speicherdesign

Bereiten Sie Storage Tiers nach Workload-Verhalten vor, sodass Benutzerstatus, freigegebene Datasets und High-Throughput-I/O geeignete Services und Mountpfade verwenden.

Verwenden Sie ein Tiered Storage-Design, um persistenten Benutzerstatus, freigegebene Projekt-Datasets und leistungsstarke Workload-I/O-Pfade zu trennen.

  • Verwenden Sie OCI File Storage (FSS) für gemeinsame Benutzer- und Laufzeitpfade, wie /home, /scratch und /apps.
  • Verwenden Sie OCI Object Storage mit JuiceFS für dauerhafte freigegebene Datasets und Projektdaten, die häufig unter /odata gemountet sind.
  • Verwenden Sie File Storage with Lustre für KI-Training, Checkpointing und Simulations-I/O mit hohem Durchsatz, das häufig unter /lustre gemountet ist.
  • Validieren Sie jeden Mount unabhängig von jeder Knotenklasse, die für Batch- und interaktive Workflows verwendet wird.

Identity Management

Bereiten Sie zentralisierte Linux-Identität und -Projektautorisierung vor, damit der Zugriff, die Quoten und die Terminierungskontrollen plattformübergreifend konsistent bleiben.

Verwenden Sie zentralisiertes Identitätsmanagement, um Linux-Accounts, -Gruppen, Hostzugriffskontrollen und die Scheduler-Autorisierung für mehrmandantenfähige Workloads aufeinander abzustimmen.

  • Verwenden Sie FreeIPA für LDAP-Benutzer, POSIX-Gruppen, Kerberos-Authentifizierung und hostbasierte Zugriffskontrolle.
  • Ordnen Sie Projekt- und Laborgruppen Slurm-Konten zu, um Isolation, Quotenverantwortung und Chargeback- oder Showback-Reporting durchzusetzen.
  • Validieren Sie das Neustartverhalten des Identitätsservice, damit SSH, der Eigentümer des Home-Verzeichnisses und der Slurm-Start nach Wartungsereignissen stabil bleiben.
  • Planen Sie die Integration zwischen Microsoft Entra ID-Gruppenquellen und Linux-Identity Governance-Workflows, bei denen eine Projektautorisierung erforderlich ist.