OCI에서 온디맨드 HPC 및 AI 플랫폼 배포 준비

이 준비 지침을 사용하여 플랫폼을 배치하기 전에 액세스, 컴퓨트, 스토리지, ID 및 운영 기반을 설계할 수 있습니다.

OCI의 온디맨드 HPC 및 AI 플랫폼용 준비 도메인을 검토해 보세요.

브라우저 기반 워크플로우가 안전하고 일관적이며 지원 가능한 상태로 유지되도록 사용자 액세스 경로 및 OOD 서비스 설계를 준비합니다.

사용자는 OOD를 통해 HTTPS를 통해 플랫폼에 액세스하는 반면 승인된 관리자는 제어된 SSH 경로를 사용하여 지원 및 긴급 작업을 수행합니다.

공유 데이터 처리, 프로젝트 프로비저닝, 관찰 가능성 및 자동화를 준비하여 사용자 대면 워크플로우에 대한 확장 이벤트의 안정성을 유지할 수 있습니다.

운영 플랫폼을 설계하여 데이터 이동, ID 프로비저닝, 모니터링 및 반복적인 유지 관리 워크플로우가 정적 및 자동 스케일링된 노드 간에 일관되도록 합니다.

OCI Object Storage, 공유 파일 시스템, 프로젝트 작업영역, 스크래치 경로 및 Lustre 간 데이터 이동 경로를 정의합니다.
홈 디렉토리, 프로젝트 디렉토리, 권한 및 Slurm 계정 정렬에 대한 JIT(Just-In-Time) 프로비저닝을 정의합니다.
Prometheus 및 Grafana를 사용하여 Slurm 서비스, 노드 준비 상태, 스토리지 마운트, GPU 런타임 및 OOD 애플리케이션 상태를 모니터링합니다.
호스트 동기화, 정리 워크플로우, 할당량 검사, 부트스트랩 복구 및 업그레이드 후 OOD 패치 적용을 위해 idempotent cron 및 자동화 작업을 실행합니다.

워크로드 유형 전반에서 CPU 및 GPU 용량이 예측 가능하도록 Slurm 제어 플레인 토폴로지 및 파티션 전략을 준비합니다.

운영상의 명확성을 위해 컨트롤러, 로그인, 영구 컴퓨팅, CPU 자동 스케일링 및 GPU 자동 스케일링 역할을 분리하는 클러스터 설계를 사용합니다.

스케줄링, 회계, 노드 상태 관리 및 자동 스케일 통합을 위한 Slurm 컨트롤러 서비스를 설계합니다.
로그인 노드는 과도한 작업 로드 실행이 아닌 제출 및 진단에 중점을 둡니다.
대기 시간이 짧은 워크로드 및 기준선 문제 해결을 위해 영구 컴퓨트 파티션을 사용합니다.
버스티 인터랙티브 및 일괄 처리 워크로드를 위해 자동 스케일링 CPU 파티션을 사용합니다.
워크로드 유형 및 이미지 레인별로 자동 스케일링 GPU 파티션을 분리하여 런타임, 드라이버 및 스토리지 종속성을 처리합니다.
노드를 준비 상태로 표시하기 전에 MUNGE, slurmd, 노드 ID, 일반 리소스(GRES) 및 스토리지 마운트를 사용하여 스케줄러 준비 상태를 검증합니다.

사용자 상태, 공유 데이터 세트 및 처리량이 많은 I/O가 적절한 서비스와 마운트 경로를 사용하도록 워크로드 동작별로 스토리지 계층을 준비합니다.

계층형 스토리지 설계를 사용하여 영구적인 사용자 상태, 공유 프로젝트 데이터 세트 및 고성능 워크로드 I/O 경로를 분리합니다.

공유 사용자 및 런타임 경로(예: /home, /scratch 및 /apps)에 대해 OCI 파일 스토리지(FSS)를 사용합니다.
JuiceFS와 함께 OCI Object Storage를 사용하면 일반적으로 /odata에 마운트되는 영구 공유 데이터 세트 및 프로젝트 데이터를 사용할 수 있습니다.
File Storage with Lustre를 사용하면 일반적으로 /lustre에 마운트되는 처리량이 많은 AI 교육, 체크포인트 및 시뮬레이션 I/O를 수행할 수 있습니다.
일괄 처리 및 대화식 워크플로우에 사용되는 모든 노드 클래스에서 각 마운트를 독립적으로 검증합니다.

중앙 집중식 Linux ID 및 프로젝트 권한 부여를 준비하여 플랫폼 전체에서 액세스, 할당량 및 일정 관리가 일관되게 유지되도록 합니다.

중앙 집중식 ID 관리를 사용하여 다중 테넌트 워크로드에 맞게 Linux 계정, 그룹, 호스트 액세스 제어 및 스케줄러 권한 부여를 유지합니다.