일반 AI에 대해 알아보기
생성 AI는 지난 2년 동안 기하급수적으로 성장하여 창의적인 업무 환경을 변화시켰습니다. 인간 영역으로 생각되면 대규모 언어 및 이미지 모델을 사용하여 인공 지능(AI)을 통해 창의적인 콘텐츠가 자동화되고 있습니다.
세대 AI는 다음과 같은 다양한 업계에서 지속적으로 영향을 미칠 것입니다.
- 프로그래밍(텍스트-코드)
- 광고, 소셜 미디어, 이미지 생성(텍스트-이미지 및 텍스트-텍스트)
- 비디오 편집 및 비디오 생성(텍스트-비디오)
- 3D 모델 및 3D 장면(텍스트-3D 모델)
- 게임, 음악, 오디오, 과학 등
이러한 모델의 대부분은 오픈 소스이며 컴퓨트 인스턴스에서 실행할 수 있습니다. 여기에서는 텍스트 및 이미지 생성에 사용할 수 있는 terraform 스크립트를 공유합니다. 이 스크립트는 GPU, 안정된 확산(텍스트-이미지), 블룸(텍스트-텍스트 또는 텍스트-코드) 및 DreamBooth 위에 설치됩니다.
- 안정성 확산은 텍스트에서 이미지를 생성하는 최첨단 텍스트-이미지 모델입니다.
- Bloom은 1760억 개의 매개변수가 있는 개방형 다국어 대형 언어 모델입니다. NVIDIA AI 플랫폼을 사용하여 46개 언어와 13개 프로그래밍 언어로 텍스트 생성 교육을 받았습니다.
- DreamBooth를 사용하면 작은 이미지 샘플을 기반으로 새 레이블을 생성하도록 안정적인 확산 모델을 미세 조정할 수 있습니다. 예를 들어, 20-30개의 이미지를 사용하고 새 이미지를 생성할 수 있도록 모델을 학습할 수 있습니다.
GPU 시스템을 구축하고 다른 앱을 사용하는 모든 지침은 GitHub 저장소에 있습니다.
구조
이 아키텍처는 OCI GPU 인스턴스에 배치된 일반 AI 모델을 보여줍니다.
GPU 시스템은 terraform 스크립트가 OS에 모든 드라이버와 종속성을 설치하므로 이러한 모델의 실행에 적합합니다. 세 개의 응용 프로그램이 서비스로 설치되므로 Instance를 시작합니다.
응용 프로그램은 보안되지 않으므로 웹 응용 프로그램에서 안전하게 액세스하려면 SSH 터널을 만들어야 합니다.
oci-generative-ai-engines-oracle.zip
스크립트를 사용하려면 다음을 설치해야 합니다.
- 테넌트 인증을 위한 OCI 명령행 인터페이스(CLI)입니다.
- SSH-keygen - 인스턴스에 액세스하기 위한 SSH 키를 생성합니다.
- Terraform - 모든 리소스를 생성합니다.
이 구조는 다음 구성 요소를 지원합니다.
- VCN(가상 클라우드 네트워크) 및 서브넷
VCN은 Oracle Cloud Infrastructure 지역에서 설정한 커스터마이징 가능한 소프트웨어 정의 네트워크입니다. 기존 데이터 센터 네트워크와 마찬가지로 VCN은 네트워크 환경을 완벽하게 제어할 수 있습니다. VCN에는 VCN 생성 후 변경할 수 있는 겹치지 않는 여러 CIDR 블록이 있을 수 있습니다. VCN을 서브넷으로 세그먼트할 수 있으며, 지역 또는 가용성 도메인으로 범위를 지정할 수 있습니다. 각 서브넷은 VCN의 다른 서브넷과 겹치지 않는 연속된 주소 범위로 구성됩니다. 생성 후 서브넷의 크기를 변경할 수 있습니다. 서브넷은 공용 또는 전용일 수 있습니다.
- GPU 컴퓨팅
Oracle Cloud Infrastructure Compute는 주류 그래픽 및 비디오에서 가장 까다로운 AI 교육 및 HPC 워크로드에 이르기까지 다양한 사용 사례에 대해 NVIDIA GPU 기반 베어메탈 및 가상 머신 인스턴스를 제공합니다. 인스턴스 간의 RDMA(원격 직접 메모리 접근) 통신은 모델 교육, 추론 계산, 물리학 기반 모델링 및 시뮬레이션, 이미지 렌더링, 대규모 병렬 HPC 애플리케이션과 같은 워크로드에 대해 1,600GB/초의 대역폭이 있는 대규모 GPU 클러스터를 지원합니다.