컴퓨트 관리

이 섹션에서는 AI 데이터 플랫폼 워크벤치에서 컴퓨트 클러스터를 생성, 변경 또는 제거하는 기본 기능을 다룹니다.

컴퓨트 클러스터 정보

범용 컴퓨트 클러스터는 AI 데이터 플랫폼 워크벤치 인스턴스에서 워크로드를 처리할 수 있는 컴퓨트 리소스를 제공합니다.

Oracle AI Data Platform Workbench의 컴퓨트 페이지에서 컴퓨트 클러스터를 관리합니다.


왼쪽 창에서 Compute가 강조 표시된 AI 데이터 플랫폼 컴퓨트 페이지

컴퓨트 유형

AI 데이터 플랫폼 워크벤치에는 범용 컴퓨트 클러스터와 기본 마스터 카탈로그 컴퓨트 클러스터의 두 가지 유형의 컴퓨트가 있습니다.

AI 데이터 플랫폼 워크벤치에서는 범용 컴퓨트 클러스터만 생성할 수 있습니다. 다목적 컴퓨트 클러스터는 다양한 워크로드에 적합하며 노트북에 연결하고 워크플로에 사용할 수 있습니다. 달리 명시되지 않는 한, 문서에서 '컴퓨트 클러스터' 또는 '클러스터'에 대한 참조는 모든 용도의 컴퓨트 클러스터를 가리킵니다.

모든 용도의 컴퓨트 클러스터를 새로 생성할 때 Quickstart 또는 사용자정의 구성을 선택할 수 있습니다. Quickstart 구성은 빠른 시작을 제공하도록 최적화되어 있으며, 사용자정의 구성을 사용하면 처리하는 데 필요한 특정 워크로드에 맞게 모든 목적의 컴퓨트 클러스터를 미세 조정할 수 있습니다. Quickstart 및 사용자 정의 구성 옵션 모두에서 원가 예측을 보고 유휴 시간 초과 옵션을 수정할 수 있습니다.

주:

Quickstart에 사용자 정의 라이브러리를 설치하면 모든 용도 컴퓨트 클러스터가 사용자 정의 구성으로 자동으로 변경됩니다. 이는 시작 성능에 영향을 줄 수 있습니다.

기본 마스터 카탈로그 컴퓨트 클러스터가 모든 AI 데이터 플랫폼 워크벤치 인스턴스에 있습니다. 이 클러스터는 검색 크롤, 카탈로그 객체 새로고침, 객체 생성, 편집 및 삭제, 접속 테스트와 같은 필수 AI 데이터 플랫폼 워크벤치 기능을 담당합니다.

클러스터 런타임

모든 용도의 컴퓨트 클러스터는 Apache Spark 3.5 런타임으로 생성할 수 있습니다. 런타임 환경은 다음과 호환됩니다.

  • Spark 3.5.0
  • 델타 3.2.0 (사전 포함)
  • Python 3.11
  • Scala 2.12
  • Hadoop 3.3.4
  • Java 17

컴퓨트 구성 익스포트 및 임포트

컴퓨트 클러스터를 생성한 후에는 해당 클러스터에 대해 구성한 설정을 작업영역 또는 카탈로그의 볼륨으로 익스포트하여 다른 클러스터에 다시 사용할 수 있습니다. 저장된 구성을 다른 생성된 클러스터로 임포트하거나 생성 프로세스의 일부로 임포트할 수 있습니다.

구성을 저장한 작업영역 또는 볼륨에 액세스할 수 있는 다른 사용자가 구성을 사용할 수 있으므로 팀 간에 구성을 쉽게 공유할 수 있습니다.

Quickstart 클러스터 생성

AI Data Platform Workbench에서 데이터 및 AI 워크로드를 처리하도록 사전 구성된 설정으로 범용 컴퓨트 클러스터를 생성하도록 선택할 수 있습니다.

QuickStart 구성은 드라이버가 1개, 작업자가 최대 10명인 Apache Spark 클러스터로, 각각 AMD 2 OCPU 및 32GB 메모리가 장착되어 있습니다. 빠른 시작 구성을 위해 자동 스케일링이 기본적으로 사용으로 설정됩니다. 클러스터가 지속적으로 활성화되도록 설정하거나 클러스터가 자동으로 중지될 때까지(유휴 시간 초과) 비활성 간격을 설정할 수 있습니다. 연결된 워크플로우 또는 노트북에서 호출하면 정지된 클러스터가 재개됩니다.

생성 후 언제든지 클러스터를 편집할 수 있습니다.

  1. 왼쪽 탐색 패널에서 생성을 누른 다음 컴퓨트를 누릅니다. 작업영역으로 이동하고 컴퓨트를 누른 다음 클러스터 생성 아이콘 클러스터 생성을 누를 수도 있습니다.

    Quickstart 방사형 옵션이 선택된 상태로 클러스터 생성 대화상자 열기

  2. 클러스터를 식별할 이름과 설명을 제공합니다.
  3. 런타임 버전을 선택합니다.
  4. 클러스터 구성으로 빠른 시작을 선택합니다.
  5. 작업자 수가 정적인지 아니면 자동으로 스케일링되는지 선택합니다. 빠른 시작 구성을 위해 자동 스케일링이 기본적으로 사용으로 설정됩니다.
  6. 실행 기간에 대해 설정된 비활성 기간 후 클러스터 실행이 정지될지 여부를 선택합니다. 유휴 시간 초과가 선택된 경우 클러스터가 시간 초과되기 전의 유휴 시간(분)을 지정합니다.
  7. 생성을 누릅니다.

사용자 정의 클러스터 만들기

Oracle AI Data Platform 워크벤치에서 데이터 및 AI 워크로드를 처리하도록 선택한 구성 설정을 사용하여 범용 컴퓨트 클러스터를 생성할 수 있습니다.

커스터마이징 클러스터는 요구사항에 맞게 전체 범위의 구성 옵션을 활용하려는 고급 사용자를 대상으로 합니다. 처리하려는 워크로드에 가장 적합한 드라이버 및 작업자 옵션을 선택해야 합니다. 클러스터가 지속적으로 활성화되도록 설정하거나 클러스터가 자동으로 중지될 때까지(유휴 시간 초과) 비활성 간격을 설정할 수 있습니다. 연결된 워크플로우 또는 노트북에서 호출하면 정지된 클러스터가 재개됩니다.

생성 후 언제든지 클러스터를 편집할 수 있습니다.

  1. 왼쪽 탐색 패널에서 생성을 누른 다음 컴퓨트를 누릅니다. 작업영역으로 이동하고 컴퓨트를 누른 다음 클러스터 생성 아이콘 클러스터 생성을 누를 수도 있습니다.

    사용자정의 방사형 옵션이 선택된 상태로 컴퓨트 클러스터 생성 대화상자가 열립니다.

  2. 메소드 생성의 경우 새 클러스터 구성을 선택합니다.
  3. 클러스터를 식별할 이름과 설명을 제공합니다.
  4. 런타임 버전을 선택합니다.
  5. 클러스터 구성으로 사용자정의를 선택합니다.
  6. 클러스터에 대한 드라이버 옵션을 선택합니다.
  7. 클러스터에 대한 작업자 옵션을 선택합니다. 이러한 옵션은 모든 클러스터 워커에 적용됩니다.
  8. 워커 수가 정적인지 아니면 자동으로 스케일링되는지 선택합니다.
    • 정적 금액인 경우 워커 수를 지정합니다.
    • 자동 스케일인 경우 클러스터가 확장할 수 있는 최소 및 최대 워커 수를 지정합니다.
  9. 실행 기간에 대해 설정된 비활성 기간 후 클러스터 실행이 정지될지 여부를 선택합니다. 유휴 시간 초과가 선택된 경우 클러스터가 시간 초과되기 전의 유휴 시간(분)을 지정합니다.
  10. 생성을 누릅니다.

임포트된 구성을 사용하여 클러스터 생성

Oracle AI Data Platform 워크벤치의 기존 컴퓨트 클러스터에서 익스포트된 구성 설정을 사용하여 범용 컴퓨트 클러스터를 생성할 수 있습니다.

익스포트된 YAML 파일에서 설정을 임포트하면 동일한 설정으로 클러스터를 빠르게 복제할 수 있습니다. AI 데이터 플랫폼 작업영역 또는 공유된 볼륨에서 YAML 파일을 임포트할 수 있습니다.

생성 후 언제든지 클러스터를 편집할 수 있습니다.

  1. 왼쪽 탐색 패널에서 생성을 누른 다음 컴퓨트를 누릅니다. 작업영역으로 이동하고 컴퓨트를 누른 다음 클러스터 생성 아이콘 클러스터 생성을 누를 수도 있습니다.
  2. 생성 방법에 대해 익스포트된 구성 사용을 선택합니다.
  3. 구성 파일 드롭다운 메뉴에서 새 클러스터에 사용할 내보낸 구성을 선택합니다. 런타임, 라이브러리 및 환경 설정은 임포트된 파일에 의해 미리 채워집니다.
  4. 클러스터를 식별할 이름과 설명을 제공합니다.
  5. 필요에 따라 나머지 설정을 수정합니다.
  6. 생성을 누릅니다.

NVIDIA GPU 클러스터 생성

모든 용도 컴퓨팅 클러스터에서 NVIDIA GPU를 사용하여 통합 AI 및 데이터 파이프라인의 모든 워크로드를 가속화하도록 선택할 수 있습니다.

NVIDIA GPU 구성은 다음과 같은 구성을 사용합니다.

표 9-1 NVIDIA GPU 구성

GPU 수 OCPU 블록 스토리지(GB) GPU 메모리(GB) CPU 메모리(GB)
1 15 1500 24 240
2 30 3000 48 480

주:

NVIDIA GPU 구성을 사용하는 경우 드라이버 및 워커 구성이 모두 NVIDIA GPU여야 합니다. 동일한 클러스터에 대한 CPU 및 GPU 구성 혼합은 현재 지원되지 않습니다.
  1. 왼쪽 탐색 패널에서 생성을 누른 다음 컴퓨트를 누릅니다. 작업영역으로 이동하고 컴퓨트를 누른 다음 클러스터 생성 아이콘 클러스터 생성을 누를 수도 있습니다.

    사용자정의 방사형 옵션이 선택된 상태로 컴퓨트 클러스터 생성 대화상자가 열립니다.

  2. 클러스터를 식별할 이름과 설명을 제공합니다.
  3. 런타임 버전을 선택합니다.
  4. 클러스터 구성으로 사용자정의를 선택합니다.
  5. 클러스터 드라이버 옵션의 경우:
    • 드라이버 구성으로 NVIDIA GPU를 선택합니다.
    • GPU 개수로 1 또는 2를 선택합니다.
  6. 클러스터 작업자 옵션의 경우:
    • NVIDIA GPU를 워커 구성으로 선택합니다.
    • GPU 개수로 1 또는 2를 선택합니다.
  7. 워커 수가 정적인지 아니면 자동으로 스케일링되는지 선택합니다.
    • 정적 금액인 경우 워커 수를 지정합니다.
    • 자동 스케일인 경우 클러스터가 확장할 수 있는 최소 및 최대 워커 수를 지정합니다.
  8. 실행 기간에 대해 설정된 비활성 기간 후 클러스터 실행이 정지될지 여부를 선택합니다. 유휴 시간 초과가 선택된 경우 클러스터가 시간 초과되기 전의 유휴 시간(분)을 지정합니다.
  9. 생성을 누릅니다.

컴퓨트 구성 익스포트

컴퓨트 클러스터 구성 및 종속성을 작업영역의 위치로 익스포트하여 다른 컴퓨트 클러스터로 임포트할 수 있습니다.

  1. 작업영역으로 이동하고 컴퓨트를 누릅니다.
  2. 설정을 익스포트할 컴퓨트 클러스터 옆에 있는 작업 3 점 아이콘 작업을 누른 다음 컴퓨트 구성 익스포트를 누릅니다. 클러스터 이름을 누르고 오른쪽 상단에서 작업을 누른 다음 컴퓨트 구성 익스포트를 누를 수도 있습니다.
  3. 라이브러리 및 환경 변수와 같은 종속성을 확인합니다. 내보내지 않아야 하는 항목의 선택을 해제합니다.
  4. 작업 영역 또는 볼륨에서 저장 위치를 선택합니다.
  5. 내보내기를 누릅니다.

컴퓨트 구성 임포트

작업영역의 YAML 구성 파일을 사용하여 기존 컴퓨트 클러스터 구성 및 해당 종속성을 범용 클러스터로 임포트할 수 있습니다.

  1. 작업영역으로 이동하고 컴퓨트를 누릅니다.
  2. 설정을 임포트할 컴퓨트 클러스터 옆에 있는 작업 3 점 아이콘 작업을 누른 다음 컴퓨트 구성 임포트를 누릅니다. 클러스터 이름을 누르고 오른쪽 상단에서 작업을 누른 다음 컴퓨트 구성 임포트를 누를 수도 있습니다.
  3. 작업영역 또는 볼륨에서 업로드할 구성 YAML 파일을 검색하고 하나 이상을 선택합니다.
  4. 선택한 구성 파일을 검토한 다음 임포트를 누릅니다.

클러스터 수정

설정을 변경하거나 클러스터에 대한 매개변수를 추가할 수 있습니다.

  1. 작업영역으로 이동하고 컴퓨트를 누릅니다.
  2. 수정할 컴퓨트 클러스터 옆에 있는 작업 3 점 아이콘 작업, 편집 순으로 누릅니다.
  3. 컴퓨트 클러스터의 속성을 수정하거나 필요에 따라 매개변수를 추가합니다.
  4. 저장을 누릅니다.

클러스터 삭제

사용되지 않거나 더 이상 필요하지 않은 컴퓨트 클러스터를 삭제할 수 있습니다.

  1. 작업영역으로 이동하고 컴퓨트를 누릅니다.
  2. 삭제할 클러스터 옆에 있는 작업 3 점 아이콘 작업을 누르고 삭제를 누릅니다.
  3. 삭제를 누릅니다.

클러스터 세부정보 보기

언제든지 클러스터의 구성 및 설정을 검토할 수 있습니다.

  1. 작업영역으로 이동하고 컴퓨트를 누릅니다.
  2. 세부정보를 보려는 클러스터의 이름을 누릅니다.
  3. 세부정보 탭을 누릅니다.

컴퓨트 클러스터의 유지보수 업데이트

Oracle AI Data Platform Compute는 사용자 개입 없이 유지보수 업데이트를 자동으로 적용합니다.

유지보수 업데이트는 운영체제 및 AI 데이터 플랫폼 내부 구성요소에 필요한 모든 보안 패치 또는 버그 수정 사항을 다룹니다. AI 데이터 플랫폼은 이러한 월별 유지보수 업데이트를 적용하기 전에 실행 중인 클러스터가 없는지 확인합니다.