Oracle Integration 및 OCI 생성 AI를 사용하여 로우 코드 모듈식 LLM 앱 엔진 사용
Oracle Integration은 애플리케이션, 비즈니스 프로세스, API 및 데이터를 신속하게 현대화할 수 있는 엔터프라이즈 연결, 확장 및 자동화 기능을 위한 로우 코드 또는 노코드 접근 방식을 지원하는 완전 관리형 서비스입니다. 시각적 개발 경험, 사전 구축된 통합 및 내장된 모범 사례를 통해 Oracle Integration은 API, 앱, 시스템 등을 통합관리하고 AI 기반의 인간 기반 맞춤형 애플리케이션 및 비즈니스 플로우를 지원합니다.
Oracle Cloud Infrastructure Generative AI(OCI Generative AI)는 텍스트 생성, 요약, 내장 및 채팅 완료를 위한 광범위한 사용 사례를 다루는 맞춤형 최신 대규모 언어 모델(LLM) 세트를 제공하는 완전 관리형 서비스입니다. 콘솔의 인터페이스인 플레이그라운드를 사용하면 단일 코드 행을 작성하지 않고도 호스팅된 사전 학습 및 사용자 지정 모델을 탐색하거나 전용 AI 클러스터의 자체 데이터를 기반으로 미세 조정된 사용자 지정 모델을 생성 및 호스팅할 수 있습니다.
Oracle Integration 및 OCI Generative AI 서비스를 Oracle Cloud Infrastructure Streaming(OCI Streaming, Oracle 관리형 Kafka 서비스), OCI Document Understanding(OCR(Optical Character Recognition), 텍스트 추출, 키-값 추출, 테이블 추출 및 문서 분류에 대한 REST API 호출을 사용하여 액세스 가능한 서버리스 서비스), Oracle Cloud Infrastructure Language(텍스트 감정 분석, 명명된 엔티티 인식, REST API 호출을 사용하여 액세스 가능한 서버리스 서비스)와 같은 다른 OCI 서비스와 결합 분류 등), OCI Vision(객체 감지 및 이미지 분류를 위한 REST API 호출을 사용하여 접근 가능한 서버리스 서비스), Oracle Cloud Infrastructure Data Science(데이터 과학 팀이 구축, 교육, 학습에 사용할 수 있는 완전 관리형 서버리스 플랫폼) Oracle Integration의 기본 어댑터 및 시각적 개발 접근 방식을 사용하여 머신 러닝 - ML 모델 등을 관리하고, 모듈식, 확장성, 유지 관리가 가능하고 안전한 맞춤형 LLM 기반 애플리케이션을 사용할 수 있습니다.
구조
이 참조 아키텍처는 다음을 사용하여 AI 기반, 모듈식 및 이벤트 기반 LLM 앱 엔진을 사용으로 설정하는 데 필요한 고려 사항 및 권장 사항을 제공합니다.
- 다양한 소셜, 생산성 및 비즈니스 데이터 채널을 위한 Oracle Integration 시각적 통합관리 도구 및 기본 어댑터(LLM 앱 엔진에 대한 사용자 입력, 문서, 이미지, 비즈니스 데이터 또는 쿼리)를 사용하여 LLM 애플리케이션의 데이터 로더 및 쿼리 엔진 플로우에 대한 로우 코드 또는 노코드 접근 방식 LLM 앱 엔진에서 사용하는 데이터 소스 및 LLM 앱 엔진에서 사용하는 다양한 OCI 서비스에 대한 고유 어댑터(OCI Generative AI REST API, 벡터 데이터베이스 또는 저장소, Oracle Cloud Infrastructure Language REST API, Oracle Cloud Infrastructure Data Science 사용자정의 모델 REST 끝점 등) 이렇게 하면 LLM 신청 비즈니스 플로우를 빠르게 설정할 수 있습니다.
- OCI Streaming Service(Oracle 관리형 Kafka Service) 및 Oracle Integration에서 이 OCI 서비스에 대해 보유한 네이티브 어댑터를 사용하여 LLM 앱 엔진의 데이터 로더 및 쿼리 엔진 모듈에서 문서, 이미지 및 비즈니스 데이터 채널 및 소스를 분리하는 이벤트 기반 패턴입니다. 이렇게 하면 확장 가능하고 성능이 뛰어난 LLM 응용 프로그램을 사용으로 설정할 수 있습니다.
- 하이브리드 및 멀티클라우드 통합 아키텍처를 위한 핵심 요소인 Oracle Integration Connectivity Agent를 사용하여 타사 클라우드, 온프레미스 앱, 시스템 등에 대한 프라이빗 연결 특히 LLM 응용 프로그램에서 문서, 이미지, 비즈니스 데이터, 사용자의 쿼리는 이러한 시스템에서 올 수 있으며 문서 및 데이터에 대한 전송을 비공개 및 보안 유지하고자합니다. 이렇게 하면 개인 네트워크 내에서 트래픽을 유지하면서 종단간 LLM 플로우의 보안을 향상시킬 수 있습니다.
- LLM 앱에서 기본 LLM 모델 또는 미세 조정된 사용자정의 LLM 모델을 OCI의 서비스로 사용할 수 있습니다(Oracle Integration 클라우드 전용 어댑터를 사용하여 OCI 생성 AI 모델 끝점 또는 OCI 데이터 과학 모델 끝점 조정).
- LLM 애플리케이션용 고유 UI(사용자 인터페이스)를 LLM APP 엔진에 연결하거나 연결 해제하는 유연한 접근 방식 또는 Oracle Integration 또는 Oracle APEX에서 Visual App Builder를 사용하여 UI를 구축하는 로우 코드 접근 방식입니다.
다음 다이어그램은 이 참조 아키텍처를 보여 줍니다.
oci-lowcode-ai-arch-oracle.zip
로우 코드 LLM 앱 엔진은 두 가지 주요 블록으로 구성됩니다.
문서, 이미지 및 비즈니스 데이터 로더
oci-generative-ai-llm-data-loader-arch.png 그림에 대한 설명
oci-generative-ai-llm-data-loader-arch-oracle.zip
- 이 블록은 먼저 소셜/생산성 채널(예: Whatsapp, Outlook, Gmail, Twitter 등), 비즈니스 데이터 채널(예: 타사 온프레미스 또는 클라우드 웹 애플리케이션, 콘텐츠 관리 시스템, Microsoft Azure Cloud Storage, AWS S3, Google과 같은 타사 클라우드 스토리지)을 통해 사용자가 추가한 입력 문서, 이미지 또는 비즈니스 데이터를 수신합니다. 클라우드 스토리지, FTP, 파일 서버, ERP, CX, HCM - 온프레미스 또는 SaaS 애플리케이션 등), 사용자정의 지식 검색 엔진 UI(예: Oracle Integration의 Visual Builder 또는 Oracle Database의 Oracle APEX와 같은 로우 코드 시각적 앱 툴을 사용하여 구축된 사용자정의 UI) 또는 Oracle Integration Visual Orchestration 흐름 및 고유 어댑터를 사용하여 OCI Object Storage 버킷으로 직접.
- 문서, 이미지 또는 비즈니스 데이터는 입력 유형에 따라 추출됩니다. 예를 들어 이미지 객체, 텍스트 감지의 경우 OCI AI Vision 서비스를 사용하여 문서 분류, 추출을 수행할 수 있습니다. OCI AI Document Understanding 서비스, 특정 유형의 이미지, OCI Functions를 사용하여 선호하는 프로그래밍 언어로 서버리스 함수를 사용할 수 있는 문서 등을 사용할 수 있습니다.
- 문서, 이미지 또는 비즈니스 데이터는 다음 중 하나를 통해 처리할 수 있습니다.
- OCI AI 언어 서비스(예: 엔티티, 키워드 추출, 키 구문 추출, 감성 분석, 개인 식별 정보/PII 감지 및 난독 처리 등)를 사용하여 메타데이터를 추출하여 관련성 높은 컨텍스트 검색(예: RAG(검색 증강 생성) 사용 등)을 수행합니다.
- 관련성 높은 컨텍스트 검색을 위해 OCI 생성형 AI 서비스를 사용하여 LLM 모델에 데이터를 포함(예: RAG(증강 생성 검색) 사용 등)합니다.
- 관련성 높은 컨텍스트 검색을 위해 OCI 생성형 AI 서비스를 사용하여 LLM 모델로 데이터를 요약합니다(예: 구조화된 계층적 검색이라고도 하는 여러 문서에 대한 검색을 위해 요약 인덱스를 사용으로 설정하는 등).
- 구조화된 데이터(예: Oracle Database, Oracle Database Cloud Service, Autonomous Database, MySQL, PostgreSQL 등)에 대한 추가 검색을 위해 데이터를 관계형 저장소에 저장합니다.
- 비구조적 데이터(예: Vector, Summary, Keyword Indexes with OCI AI Vector Search, OCI Search Service with OpenSearch, Qdrant 등)에 대한 추가 검색을 위해 Vector Store에서 데이터를 인덱스화합니다.
참고: Oracle Database 23.4c에서 새 AI 벡터 유사성 검색 기능을 사용할 수 있습니다.
쿼리 엔진
oci-generative-ai-llm-query-engine-arch.png 그림에 대한 설명
oci-generative-ai-llm-query-engine-arch-oracle.zip
- This block first receives the input query from an user via either a Social, Productivity Channel (for example, Whatsapp, Outlook, Gmail, and so on), a Business Data Channel (for example, 3rd party On-Prem/Cloud Web Application, and so on) or from a custom Knowledge Search Engine UI (for example, custom UI built using low-code visual app tools like Visual Builder under Oracle Integration or Oracle APEX under Oracle Database) using Oracle Integration Visual Orchestration Flows and native adapters.
- 질의는 Oracle Integration을 사용하여 질의 파이프라인을 입력합니다. 여기서 다음 중 하나를 통해 질의 파이프라인을 처리할 수 있습니다.
- 프롬프트 삽입을 방지하기 위해 OCI 생성 AI 서비스를 사용하여 질의를 필터링합니다.
- 관련성 높은 컨텍스트 검색을 위해 OCI 생성형 AI 서비스를 사용하여 쿼리를 재작성하거나 변환합니다.
- 특정 컨텍스트 검색으로 데이터 요약으로 데이터에 대한 질의를 실행하는 방법을 결정하기 위해 OCI 생성 AI를 사용하여 질의 엔진 선택기로 질의의 경로를 지정합니다.
- 채팅 메모리가 필요한 채팅 완료 사용 사례의 경우 Redis와 함께 OCI 캐시를 사용하여 채팅 내역 저장소에서 대화 내역을 추출합니다.
- 관련 컨텍스트 검색 사용 사례(예: RAG(검색 증강 생성) 사용 등)를 위해 OCI 생성 AI 서비스를 사용하여 질의를 포함합니다.
- 입력 질의 응답에 사용할 데이터를 가져올 데이터 소스를 결정하기 위해 OCI 생성 AI 서비스를 사용하여 관련 컨텍스트 검색기의 경로를 지정합니다.
- 관련 컨텍스트 데이터를 검색하여 RAG(Retrieval Augmented Generation) 사용 사례, 관계형 저장소(예: Oracle Database, Oracle Database Cloud Service, Autonomous Database, MySQL, PostgreSQL)에 대한 벡터 저장소(예: OCI AI Vector Search, OCI Search Service with OpenSearch, Qdrant 등)의 쿼리에 응답합니다. 정형 비즈니스 데이터를 검색하거나 소셜, 생산성 및 비즈니스 데이터 소스(예: Twitter, Outlook, Gmail, ERP/HCM/CX 앱 등)에서 비즈니스 데이터에 대한 온디맨드 검색을 수행할 수 있습니다. 이러한 데이터 소스에 연결하기 위해 네이티브 어댑터를 사용하여 Oracle Integration에서 조정합니다.
- 검색을 최적화하기 위해 OCI Data Science에 배포되고 노출된 순위 재지정 모델을 사용하여 검색된 관련 컨텍스트 데이터의 순위를 재지정합니다.
- 요약, 생성 및 채팅 완료를 위한 OCI 생성형 AI 서비스 기능을 사용하여 쿼리에 대한 최종 답변을 생성합니다.
아키텍처의 구성 요소는 다음과 같습니다.
- Oracle Integration
Oracle Integration은 애플리케이션, 비즈니스 프로세스, API 및 데이터를 신속하게 현대화하기 위한 완전 관리형 서비스 및 로우 코드 엔터프라이즈 연결, 확장 및 자동화 플랫폼입니다. 개발자와 클라우드 설계자는 시각적 개발 경험, 사전 구축된 통합 및 내장된 모범 사례를 통해 SaaS 및 온프레미스 애플리케이션을 6배 더 빠르게 연결할 수 있습니다. Oracle Integration은 Oracle Cloud ERP, HCM, CX의 이벤트에 대한 기본 액세스를 제공합니다. 앱별 분석 사일로를 연결하여 구매요청-입고, 채용-지불, 가망고객-송장 및 기타 중요한 프로세스를 간소화합니다. 마지막으로 IT 및 비즈니스 리더에게 포괄적인 가시성을 제공합니다.
- OCI 생성형 AI
Oracle Cloud Infrastructure(OCI) Generative AI는 API를 통해 제공되는 완전 관리형 서비스로, 쓰기 지원, 요약, 채팅 등 다양한 언어 모델을 광범위한 사용 사례에 원활하게 통합할 수 있습니다. OCI 생성형 AI 서비스에는 다음과 같은 기본 모델이 포함되어 있습니다.
- 생성: 텍스트를 생성하거나 텍스트에서 정보를 추출하기 위한 지침을 제공합니다.
- 요약: 지시된 형식, 길이 및 어조로 텍스트를 요약합니다.
- 포함: 의미 검색, 텍스트 분류 또는 텍스트 클러스터화를 위해 애플리케이션에서 사용할 텍스트를 벡터 포함으로 변환합니다.
- OCI Document Understanding
OCI Document Understanding은 개발자가 API 및 명령행 인터페이스 도구를 통해 문서 파일에서 텍스트, 테이블 및 기타 주요 데이터를 추출할 수 있게 해주는 AI 서비스입니다. OCI Document Understanding을 사용하면 사전 구축된 AI 모델로 지루한 비즈니스 처리 작업을 자동화하고, 산업별 니즈에 맞춰 문서 추출을 커스터마이징할 수 있습니다.
- Oracle Cloud Infrastructure Language(OCI)
OCI Language는 REST API 호출을 통해 액세스할 수 있는 서버리스 및 멀티 테넌트 서비스입니다. 자주 재교육되고 모니터링되는 사전 학습 모델을 제공하여 최상의 결과를 제공합니다. 언어는 구조화되지 않은 텍스트에서 언어를 감지할 수 있는 인공 지능 및 머신 러닝 기능을 제공합니다. 또한 텍스트에 대한 통찰력을 더 확보하는 데 도움이 되는 다른 도구를 제공합니다.
- OCI Vision
OCI Vision은 딥 러닝 기반 이미지 분석을 대규모로 수행하기 위한 AI 서비스입니다. 즉시 사용 가능한 사전 구축 모델을 통해 개발자는 머신 러닝(ML) 전문 지식 없이도 애플리케이션에 이미지 인식 및 텍스트 인식을 쉽게 구축할 수 있습니다. 산업별 사용 사례의 경우 개발자는 자체 데이터로 사용자정의 Vision 모델을 자동으로 교육할 수 있습니다. 이러한 모델을 사용하여 제조 과정에서 시각적 이상 징후를 감지하고, 문서에서 텍스트를 추출하여 비즈니스 워크플로우를 자동화하고, 이미지의 항목에 태그를 지정하여 제품 또는 배송을 계산할 수 있습니다. 개발자는 사전 학습된 모델에 액세스할 수 있을 뿐만 아니라 데이터 과학 전문 지식이나 커스텀 모델 인프라 관리 없이도 커스텀 모델을 생성할 수 있습니다.
- 객체 스토리지
오브젝트 스토리지를 사용하면 데이터베이스 백업, 분석 데이터, 이미지 및 비디오와 같은 리치 콘텐츠 등 모든 콘텐츠 유형의 대량의 정형 및 비정형 데이터에 빠르게 액세스할 수 있습니다. 인터넷 또는 클라우드 플랫폼 내에서 직접 안전하고 안전하게 데이터를 저장하고 검색할 수 있습니다. 성능 또는 서비스 안정성의 저하 없이 스토리지를 원활하게 확장할 수 있습니다. 빠르고 즉각적이며 자주 액세스하는 데 필요한 "핫" 스토리지에 표준 스토리지를 사용합니다. 장기간 보관하고 거의 액세스하지 않는 "콜드" 스토리지에는 아카이브 스토리지를 사용합니다.
- Data Science
Oracle Cloud Infrastructure Data Science는 데이터 과학 팀이 Oracle Cloud Infrastructure(OCI)에서 머신 러닝(ML) 모델을 구축, 교육 및 관리하는 데 사용할 수 있는 완전 관리형 서버리스 플랫폼입니다. Oracle Autonomous Data Warehouse, Oracle Cloud Infrastructure Object Storage 등과 같은 다른 OCI 서비스와 쉽게 통합할 수 있습니다. 신뢰할 수 있는 엔터프라이즈 데이터를 신속하게 작동하도록 하여 비즈니스 유연성을 높이는 고품질 머신 러닝 모델을 구축하고 평가할 수 있으며, ML 모델을 보다 쉽게 배포하여 데이터 기반 비즈니스 목표를 지원할 수 있습니다.
- OpenSearch를 사용한 OCI 검색 서비스
OpenSearch가 포함된 OCI Search Service는 Oracle 관리형 서비스로 제공되는 인사이트 엔진입니다. Oracle은 다운타임 없이 서비스 패치, 업데이트, 업그레이드, 백업 및 크기 조정을 자동화합니다. 고객은 대량의 데이터를 신속하게 저장, 검색 및 분석하고 거의 실시간으로 결과를 확인할 수 있습니다.
- Redis가 있는 OCI 캐시
Oracle Cloud Infrastructure Cache with Redis는 오픈 소스 Redis를 기반으로 구축된 포괄적인 관리형 메모리 캐싱 솔루션입니다. 이 완전 관리형 서비스는 데이터 읽기 및 쓰기를 가속화하여 애플리케이션 응답 시간과 데이터베이스 성능을 크게 향상시켜 향상된 고객 경험을 제공합니다.
- APEX 서비스
Oracle APEX Application Development(APEX)는 Oracle Database가 설치된 모든 곳에 배치할 수 있는 확장 가능하고, 기능이 풍부하고, 보안이 뛰어난 엔터프라이즈 앱을 구축하도록 돕는 로우코드 개발 플랫폼입니다. 정교한 솔루션을 제공하기 위해 방대한 기술 분야의 전문가가 될 필요는 없습니다. APEX 서비스에는 애플리케이션 개발 프로세스를 가속화하는 사용자 인터페이스 테마, 탐색 컨트롤, 폼 처리기 및 유연한 보고서와 같은 내장 기능이 포함되어 있습니다.
- Oracle Database 23(AI 벡터 검색)
Oracle Database 23c는 새로운 마이크로서비스, 그래프, 문서 및 관계형을 구축하려는 개발자를 위한 가장 완전하고 간단한 컨버지드 데이터베이스를 제공합니다. applications.Oracle는 AI 벡터를 사용하여 의미 검색 기능을 Oracle Database 23c에 추가할 계획을 발표했습니다. AI Vector Search라는 기능 모음에는 Oracle Database가 문서, 이미지 및 기타 비정형 데이터의 의미 콘텐츠를 벡터로 저장할 수 있게 해주는 새로운 벡터 데이터 유형, 벡터 인덱스 및 벡터 검색 SQL 연산자가 포함되어 있으며, 이러한 연산자를 사용하여 빠른 유사성 쿼리를 실행합니다. 자세한 내용은 자세히 살펴보기 섹션의 보도 자료 링크를 참조하십시오.
- 스트리밍
Oracle Cloud Infrastructure Streaming은 실시간으로 소비하고 처리할 수 있는 대용량의 지속적인 데이터 스트림을 수집할 수 있는 확장 가능한 전담 관리 스토리지 솔루션을 제공합니다. Streaming을 사용하여 애플리케이션 로그, 운영 원격 측정, 웹 클릭-스트림 데이터와 같은 대용량 데이터를 입수하거나, 게시-구독 메시징 모델에서 데이터가 연속적으로 생성되고 처리되는 기타 사용 사례에 사용할 수 있습니다.
- 이벤트
Oracle Cloud Infrastructure 서비스는 리소스 변경 사항을 설명하는 구조화된 메시지인 이벤트를 내보냅니다. 이벤트는 생성, 읽기, 업데이트 또는 삭제(CRUD) 작업, 리소스 수명 주기 상태 변경 및 클라우드 리소스에 영향을 주는 시스템 이벤트에 대해 내보내집니다.
- 함수
Oracle Cloud Infrastructure Functions는 확장성이 뛰어난 완전 관리형 멀티테넌트, 온디맨드 FaaS(Functions-as-a-Service) 플랫폼입니다(FaaS). 그것은 Fn 프로젝트 오픈 소스 엔진에 의해 구동 됩니다. Functions를 사용하면 코드를 배포하고 직접 호출하거나 이벤트에 대한 응답으로 트리거할 수 있습니다. Oracle Functions는 Oracle Cloud Infrastructure Registry에서 호스팅되는 Docker 컨테이너를 사용합니다.
- API 게이트웨이
Oracle API Gateway를 사용하면 네트워크 내에서 액세스할 수 있고 필요한 경우 공용 인터넷에 노출할 수 있는 전용 끝점이 있는 API를 게시할 수 있습니다. 엔드포인트는 API 검증, 요청 및 응답 변환, CORS, 인증 및 권한 부여, 요청 제한을 지원합니다.
- Web Application Firewall(WAF)
Oracle Cloud Infrastructure Web Application Firewall(WAF)은 로드 밸런서 또는 웹 애플리케이션 도메인 이름과 같은 적용 지점에 연결된 PCI(Payment Card Industry) 준수 지역 기반 및 에지 적용 서비스입니다. WAF는 악성 및 원치 않는 인터넷 트래픽으로부터 애플리케이션을 보호합니다. WAF는 인터넷에 접속하는 모든 끝점을 보호할 수 있으며, 고객의 애플리케이션 전반에 걸쳐 일관된 규칙을 적용합니다.
- 지역
Oracle Cloud Infrastructure 지역은 가용성 도메인이라고 하는 하나 이상의 데이터 센터를 포함하는 지역화된 지리적 영역입니다. 지역은 다른 지역과는 독립적이며, 거리는 국가 또는 대륙에 걸쳐 분리될 수 있습니다.
- VCN(가상 클라우드 네트워크) 및 서브넷
VCN은 Oracle Cloud Infrastructure 지역에서 설정한 커스터마이징 가능한 소프트웨어 정의 네트워크입니다. 기존의 데이터 센터 네트워크와 마찬가지로 VCN은 사용자가 네트워크 환경을 완전히 제어할 수 있도록 합니다. VCN에는 VCN 생성 후 변경할 수 있는 겹치지 않는 CIDR 블록이 여러 개 있을 수 있습니다. VCN을 서브넷으로 분할할 수 있습니다. 서브넷은 영역 또는 가용성 도메인으로 범위가 지정될 수 있습니다. 각 서브넷은 VCN의 다른 서브넷과 겹치지 않는 연속적인 주소 범위로 구성됩니다. 서브넷을 생성한 후 크기를 변경할 수 있습니다. 서브넷은 공용 또는 전용일 수 있습니다.
권장사항
- 유지보수 및 고가용성
참조 아키텍처는 거의 Oracle 관리 PaaS 서비스만 사용합니다. 이 솔루션을 사용하여 소프트웨어를 설치, 패치, 업데이트 또는 업그레이드할 필요가 없습니다. Oracle Integration, OCI Generative AI, OCI Document Understanding, OCI Vision, Oracle Cloud Infrastructure Language, Oracle Cloud Infrastructure Data Science, OCI Object Storage, OCI Events, OCI Streaming, OCI Functions, OCI API Gateway, Oracle Cloud Infrastructure Web Application Firewall에 적합합니다.
주의를 요청할 수 있는 유일한 구성요소는 컴퓨트 인스턴스에 설치된 Oracle Integration Connectivity Agent가 전용 네트워크에 상주하는 OCI OpenSearch 클러스터, Autonomous Database 등과 같은 리소스에 액세스하기 위한 것입니다. Oracle Integration 설명서의 지침에 따라 Oracle Integration Connectivity 에이전트를 유지 관리하기 쉽고 고가용성으로 만드십시오.
- 확장성 및 크기
이 참조 아키텍처는 PaaS 서비스를 사용하며, 여기에 포함된 대부분의 서비스에 대해 즉시 사용할 수 있는 확장성을 제공합니다. OCI OpenSearch 클러스터와 Redis를 사용하는 OCI 캐시 클러스터는 자동으로 확장 및 축소되지 않습니다(수동으로만). 따라서 사용 사례에 따라 적절한 솔루션 확장이 필요합니다.
- 접속
OCI 내의 모든 연결은 전용 네트워크를 통해 설정되어야 합니다.
- Oracle Integration의 전용 끝점 옵션 또는 접속 에이전트를 사용하여 OCI Streaming, Oracle Autonomous Database, Oracle Database, Oracle Database Cloud Service 등과 같은 전용 OCI 서비스에 접속할 수 있습니다.
- OCI OpenSearch 클러스터, Redis를 사용하는 OCI 캐시 클러스터 등과 같은 전용 서비스에 접속하는 Oracle Integration 접속 에이전트는 해당 서비스가 배치된 동일한 전용 서브넷 내의 OCI VM에 설치해야 합니다.
- 생성하는 OCI 스트리밍 Kafka 스트림 또는 토픽은 전용 끝점(OCI VCN의 전용 서브넷과 연관됨)에 배치된 스트림 풀과 연관되어야 합니다. OCI Streaming Private Kafka Streams 또는 OCI Events의 OCI Document Understanding Extraction Result 파일 메타데이터를 수신하는 Document and Image Extraction Result Topics(위의 논리적 블록, Document, Image and Business Data Loader 참조)와 같은 Topics의 경우 OCI Events와 함께 OCI Functions를 활용하여 전용 스트리밍 엔드포인트에 메시지를 전달할 수 있습니다.
- 타사 온프레미스 또는 클라우드 서비스(예: Azure SQL 데이터베이스)에 접속하는 접속 에이전트는 이러한 외부 서비스가 배치되는 동일한 전용 서브넷 내의 VM에 설치해야 합니다.
- Oracle Integration 인스턴스로 액세스 제한
Oracle Integration 허용 목록(이전의 허용 목록)을 구성하여 Oracle Integration 인스턴스에 액세스할 수 있는 네트워크를 제한합니다. 사용자, 특정 IP 주소의 시스템, CIDR(Classless Inter-Domain Routing) 블록 및 지정한 가상 클라우드 네트워크만 Oracle Integration 인스턴스에 액세스할 수 있습니다.
이 참조 아키텍처에서 Oracle Integration Allowlist는 Oracle Integration 인스턴스에 대한 액세스를 제한하여 OCI, Oracle SaaS 앱, 비Oracle Cloud, 온프레미스 웹, Saas, 클라우드 애플리케이션 및 Oracle Integration Connectivity Agent를 호스팅하는 VM과 연관된 VCN OCID에 의해 시작된 요청만 허용할 수 있습니다.
고려사항
이 참조 아키텍처를 배포할 때는 다음 사항을 고려하십시오.
- 보안
OCI 생성형 AI의 전용 AI 클러스터는 사용자정의 LLM 모델을 미세 조정하거나 사용자정의 LLM 모델의 끝점을 호스팅하는 데 사용할 수 있는 컴퓨트 리소스입니다. 클러스터는 모델 전용이며 다른 테넌시의 사용자와 공유되지 않습니다. 사용자정의 모델 OCI 생성 AI를 사용하면 고유 데이터를 사용하여 모델을 세분화할 수 있습니다. 그렇지 않으면 OCI Generative AI 온디맨드 모델, Vector Stores(예: OCI Vector Search, Open Search 등) 등을 사용하여 Embedding, Indexing 등의 기술을 결합한 RAG(Retrieval Augmented Generation)를 구현하여 자체 데이터를 사용할 수 있습니다.
Oracle Cloud Infrastructure Identity and Access Management(OCI IAM) 정책을 사용하여 클라우드 리소스에 액세스할 수 있는 사용자(예: Oracle Integration, OCI Language, OCI Vision, OCI Generative AI 서비스, OCI Streaming, OCI Compute Instances 등) 및 수행할 수 있는 작업을 제어할 수 있습니다. 데이터베이스 암호 또는 기타 암호를 보호하려면 OCI Vault 서비스를 사용하는 것이 좋습니다.
문서와 이미지는 전용 OCI Object Storage 버킷에 저장됩니다. 사용자가 지식 검색 엔진 UI 내에서 문서를 누르면 수명이 짧은 임시 링크가 생성됩니다. Oracle Cloud Infrastructure Web Application Firewall(WAF) 필터 및 규칙을 사용하여 DDO 공격, SQL 주입 스레드 등과 같은 악의적인 공격으로부터 OCI API Gateway를 통해 노출되는 Oracle Integration REST 트리거 오케스트레이션 플로우를 보호합니다.
- 확장성
OCI Streaming Streams 또는 Topics를 생성할 때 관리자는 사용할 스트림 수를 지정합니다. 비즈니스 도메인당 스트림을 생성할 수 있습니다(예: InvoiceStream, PurchaseOrderStream 등). 관리자는 스트림 또는 항목별로 사용할 분할 영역도 지정합니다. 파티션을 사용하면 여러 노드에 메시지를 분할하여 스트림, 토픽을 배포할 수 있으므로 여러 소비자가 스트림, 토픽을 동시에 읽을 수 있습니다(이 경우 Oracle Integration에 동일한 소비자 통합 플로우의 여러 복제본이 있을 수 있습니다. 각 복제본은 OCI 스트리밍 어댑터를 트리거로 사용하여 스트림 또는 토픽의 서로 다른 분할 영역에서 읽을 수 있습니다.
Oracle Integration 인스턴스를 생성할 때 관리자는 인스턴스당 사용할 메시지 팩 수를 지정합니다.
- 리소스 제한
테넌시에 대한 모범 사례, 서비스별 제한 및 구획 할당량을 고려하십시오.
추가 탐색
이 참조 아키텍처의 기능에 대해 자세히 알아보려면 다음 추가 리소스를 검토하십시오.
OCI 생성형 AI
Oracle Integration
- Oracle Fusion ERP Cloud에 AI 기반 및 실시간 Gmail 송장 문서 처리
- OCI 생성형 AI, AI 언어 및 통합을 사용하여 WhatsApp 고객 HelpMate 지원
- Oracle Integration 및 AI를 사용한 실시간 Outlook 이메일 분석
- 설명서
- 어댑터
- Oracle Integration에서 Oracle Visual Builder로 애플리케이션 개발
- Oracle Integration을 사용하여 하이브리드 통합 생성
- 전용 VCN(가상 클라우드 네트워크)을 사용하여 끝점에 접속
- Oracle Integration에 대한 액세스 제한
OCI AI 문서 이해
OCI AI 언어
OCI AI 비전