엔터프라이즈 AI에 Oracle AI Database 26ai 사용 정보
- 기존 Oracle 상주 데이터를 활성화하여 AI의 가치 실현 시간 단축
- 엄선된 정책 조정 컨텍스트를 통해 답변 품질 및 일관성 향상
- Oracle의 엔터프라이즈급 성능, 가용성 및 보안에 대해 자신 있게 확장
- 데이터 스토리지 및 벡터 관리를 통합하여 아키텍처 복잡성 감소
구조
다음 아키텍처는 하나의 OCI 리전 내에서 OCI에 Dify를 배포하는 일반적인 3계층과 고가용성을 위해 3개의 가용성 도메인에 걸쳐 있는 단일 VCN을 보여줍니다.
oracle-adb-dify-arch-oracle.zip
다음 목록에는 배치 및 연결이 요약되어 있습니다.
- 온프레미스 사용자는 인터넷을 통해 애플리케이션에 접속합니다.
- 요청은 VCN의 OCI 로드 밸런서(LB)에서 제공하는 공용 로드 밸런서에서 종료됩니다.
- Dify 콘솔 및 서비스에 대한 외부 액세스를 위해 수신 컨트롤러 및 OCI 로드 밸런서로 플랫폼을 전면화합니다.
- 공용 LB의 경우 HA(고가용성)를 위해 서로 다른 AD(가용성 도메인)에 두 개의 공용 서브넷이 필요합니다.
- 여러 AD에 걸쳐 있는 VCN 내에서 OKE에 Dify Enterprise Edition을 배포합니다.
- 클러스터는 Kubernetes API(애플리케이션 프로그래밍 인터페이스) 엔드포인트를 노출하고 여러 작업자 노드를 실행합니다.
- 각 노드는 애플리케이션 POD를 호스트합니다. NAT 게이트웨이와 함께 전용 프라이빗 Pod 서브넷을 사용하므로 POD가 공개적으로 노출되지 않고 인터넷에 연결됩니다.
- 컨테이너 이미지는 서비스 게이트웨이를 사용하여 OCI Container Registry에서 OSN(Oracle Services Network)을 통해 풀링됩니다.
- Oracle AI Database 26ai를 벡터 데이터베이스로 사용하여 네이티브 벡터 스토리지/검색을 활용하고, 엔터프라이즈 기능(분할, RAC, 샤딩, Exadata 최적화)을 확장 및 안정성을 확보할 수 있습니다.
아키텍처의 구성 요소는 다음과 같습니다.
- OCI 리전
OCI 리전은 가용성 도메인을 호스팅하는 데이터 센터가 하나 이상 포함된 지역화된 지리적 영역입니다. 지역은 다른 지역과 독립적이며, 광대한 거리는 (국가 또는 대륙에 걸쳐) 그들을 분리 할 수 있습니다.
- 가용성 도메인
가용성 도메인은 한 지역 내의 독립형 독립형 데이터 센터입니다. 각 가용성 도메인의 물리적 리소스는 내결함성을 제공하는 다른 가용성 도메인의 리소스와 격리됩니다. 가용성 도메인은 전원 또는 냉각과 같은 인프라나 내부 가용성 도메인 네트워크를 공유하지 않습니다. 따라서 한 가용성 도메인의 장애가 해당 지역의 다른 가용성 도메인에 영향을 미치지 않아야 합니다.
- OCI 가상 클라우드 네트워크 및 서브넷
VCN(가상 클라우드 네트워크)은 OCI 리전에 설정하는 커스터마이징 가능한 소프트웨어 정의 네트워크입니다. 기존 데이터 센터 네트워크와 마찬가지로 VCN을 사용하면 네트워크 환경을 제어할 수 있습니다. VCN에는 VCN을 생성한 후 변경할 수 있는 겹치지 않는 CIDR(클래스리스 도메인 간 경로 지정) 블록이 여러 개 있을 수 있습니다. VCN을 서브넷으로 분할할 수 있으며, 이 서브넷은 지역 또는 가용성 도메인으로 범위가 지정될 수 있습니다. 각 서브넷은 VCN의 다른 서브넷과 겹치지 않는 연속적인 주소 범위로 구성됩니다. 썸네일의 크기는 생성 이후 변경할 수 있습니다. 서브넷은 공용 또는 전용일 수 있습니다.
- 로드 밸런서
Oracle Cloud Infrastructure Load Balancer는 단일 시작점에서 여러 서버로의 자동 트래픽 분산을 제공합니다.
- OCI Kubernetes 엔진
Oracle Cloud Infrastructure Kubernetes Engine(OCI Kubernetes Engine 또는 OKE)는 컨테이너화된 애플리케이션을 클라우드에 배치하는 데 사용할 수 있는 확장 가능한 완전 관리형 고가용성의 서비스입니다. 애플리케이션에 필요한 컴퓨트 리소스를 지정하고 OKE가 기존 테넌시의 OCI에서 프로비저닝합니다. OKE는 Kubernetes를 사용하여 호스트 클러스터 전반에 걸쳐 컨테이너화된 애플리케이션의 배포, 확장 및 관리를 자동화합니다.
- Oracle AI Database 26ai
AI Vector Search가 탑재된 Oracle AI Database 26ai를 사용하면 키워드가 아닌 의미로 데이터를 쿼리할 수 있습니다. 벡터 표현(임베딩)은 유사한 콘텐츠를 효율적으로 찾을 수 있도록 텍스트, 이미지, 오디오 등의 의미를 캡처합니다. 내장된 SQL 거리 함수는 벡터를 사용한 유사성 검색을 허용합니다. 의미상 유사성 및 기타 검색 기준을 RAG(대형 언어 모델)와 결합하여 보다 정확하고 관련성 높은 답변을 얻을 수 있습니다.
- Oracle 자율운영 AI 데이터베이스
Oracle Autonomous AI Database는 탄력적으로 스케일링되고 빠른 쿼리 성능을 제공하는 사용하기 쉬운 완전한 자율운영(자체 관리) 데이터베이스를 제공합니다. 서비스로서 데이터베이스 관리가 필요하지 않습니다. 하드웨어를 구성 또는 관리하거나 소프트웨어를 설치할 필요가 없습니다. 또한 데이터베이스 프로비저닝, 백업, 패치 적용 및 업그레이드, 확장 또는 축소 작업을 자동으로 처리하며 탄력적인 서비스입니다. 내장된 AI 기능을 사용하여 모든 데이터로 확장 가능한 AI 기반 앱을 개발할 수 있습니다. 원하는 대규모 언어 모델(LLM)을 사용하여 클라우드 또는 데이터 센터에 배포할 수 있습니다.
사용 사례
기업이 대규모 언어 모델(LLM) 모델 및 개인 데이터를 기반으로 AI 개발 계획을 구현함에 따라, Oracle AI Database 26ai는 네이티브 벡터 관리와 완성도가 높은 엔터프라이즈급 기능의 두 가지 이점을 갖추고 있으며, Dify Oracle AI Database Agent 개발 프레임워크 및 Dify를 기반으로 구축된 AI 애플리케이션을 위한 안정적이고 효율적이며 낮은 임계값의 데이터 플랫폼 솔루션을 제공합니다.
- 리소스 재사용 및 비용 최적화: 기업은 더 이상 전용 벡터 데이터베이스를 구매할 필요가 없으며 기존 Oracle AI Database 리소스를 완전히 재사용할 수 있어 하드웨어 조달 및 유지 관리 비용이 크게 절감됩니다.
- 기능 확장성: 엔터프라이즈 AI 애플리케이션에서 멀티모달 데이터(예: 산업용 이미지 및 오디오 로그)가 점점 더 보편화됨에 따라 Oracle AI Database 26ai는 멀티모달 벡터 검색 기능을 더욱 확장하여 스마트 제조 및 의료 진단과 같은 시나리오에 대한 보다 포괄적인 AI 지원을 제공할 수 있습니다.
- 안정성 보장: Oracle AI Database의 다년간의 파티셔닝, RAC, Exadata 최적화 경험을 활용한 Oracle AI Database 26ai는 페타바이트급 데이터 볼륨 및 높은 동시성 시나리오를 손쉽게 처리할 수 있어 엔터프라이즈 AI 애플리케이션을 위한 연중무휴 24시간 안정적인 운영을 보장합니다.
Oracle AI Database 26ai는 엔터프라이즈 벡터 데이터 관리의 핵심 캐리어일 뿐만 아니라 데이터 스토리지에서 AI 가치 마이닝으로의 기업 전환을 촉진하기 위한 핵심 기술 토대가 되어 엔터프라이즈 지능형 업그레이드를 위한 견고한 기술 지원을 제공합니다.
고려사항
Dify를 OCI와 통합하는 경우 다음 옵션을 고려해 보십시오.
- 가능한 경우 보안 목록을 통해 앱/데이터 계층, NSG에 전용 서브넷을 사용합니다.
- OCI Vault를 암호(API 키, DB 크레딧), 최소 권한이 부여된 IAM 정책, 관찰 가능성을 위한 OCI 로깅, 모니터링, 알람 등에 사용할 수 있습니다.
- 고가용성 및 자동 확장에 대해 다중 가용성 도메인 노드 풀 및 로드 밸런서 건전성 검사를 고려합니다.
필수 서비스 및 역할 정보
이 솔루션에는 다음 서비스 및 역할이 필요합니다.
- Oracle Cloud Infrastructure
- Oracle 자율운영 AI 데이터베이스
- OCI Kubernetes 엔진
- Enterprise Edition Dify
각 서비스에 필요한 역할입니다.
| 서비스 이름: 역할 | 필수 항목... |
|---|---|
| Dify: 사용자 | 사용자 할당량 unlimited를 사용하여 비밀번호 기본 테이블스페이스로 식별되는 사용자 Dify를 생성합니다.
|
Dify: DB_DEVELOPER_ROLE |
관리자가 개발자가 Oracle Database용 애플리케이션을 설계, 구축 및 배포하는 데 필요한 권한을 빠르게 할당할 수 있습니다. |
필요한 정보를 얻으려면 Oracle 제품, 솔루션 및 서비스를 참조하십시오.