AI 기반 챗봇 배포
이 참조 아키텍처는 Oracle Digital Assistant 및 OCI Generative AI를 사용하여 Oracle Cloud Infrastructure(OCI) 테넌시에 AI 기반 챗봇을 빠르게 배포하는 방법을 보여줍니다. 제공된 인프라 및 구성요소는 조직의 요구사항에 맞게 사용자 정의를 단순화합니다. 주요 기능은 다음과 같습니다.
- 작성자: 판매 계획, 산업 개요 및 고객 조사와 같은 문서를 생성합니다.
- 요약: 간결한 요약을 수신할 성적 증명서 또는 문서를 업로드합니다.
- 질문 및 답변: 일반적인 질문을 하고 웹 콘텐츠 및 챗봇의 교육 데이터를 기반으로 빠른 답변을 얻을 수 있습니다.
이 참조 아키텍처를 사용하면 Oracle Digital Assistant 및 Oracle AI 서비스를 통해 AI 기반 챗봇을 빠르고 쉽게 배포할 수 있습니다.
구조
이 AI 기반 챗봇은 Oracle Digital Assistant 및 OCI Generative AI 대규모 언어 모델(LLM)을 활용합니다. Oracle Visual Builder는 웹 애플리케이션에 챗봇을 내장하는 데 사용됩니다. 사용자는 자연어 질문을 통해 OCI Generative AI와 상호작용하고, 챗봇 인터페이스를 사용해 LLM으로부터 응답을 받을 수 있습니다.
다음 다이어그램은 이 참조 구조를 보여줍니다.
이 아키텍처를 사용하는 사용자와 개발자의 흐름은 다음과 같습니다.
- 개발자 및 챗봇 사용자는 OCI Identity and Access Management로 인증합니다.
- 사용자는 챗봇이 포함된 Oracle Visual Builder 앱을 사용하여 챗봇에 액세스합니다. 개발자는 Oracle Visual Builder 서비스 홈 페이지에서 앱을 구성할 수 있습니다.
- 개발자는 Oracle Digital Assistant 서비스 콘솔을 사용하여 챗봇을 구성합니다.
- 개발자는 API를 사용하여 OCI 생성형 AI LLM에 액세스할 수 있습니다.
아키텍처의 구성 요소는 다음과 같습니다.
- 지역
Oracle Cloud Infrastructure 리전은 가용성 도메인을 호스팅하는 데이터 센터가 하나 이상 포함된 지역화된 지리적 영역입니다. 지역은 다른 지역과 독립적이며, 광대한 거리는 (국가 또는 대륙에 걸쳐) 그들을 분리 할 수 있습니다.
- ID 및 액세스 관리
Oracle Cloud Infrastructure Identity and Access Management(IAM)는 Oracle Cloud Infrastructure(OCI) 및 Oracle Cloud Applications에 대한 사용자 액세스 제어를 제공합니다. IAM API 및 사용자 인터페이스를 통해 ID 도메인 및 해당 도메인 내의 리소스를 관리할 수 있습니다. 각 OCI IAM ID 도메인은 독립형 ID 및 액세스 관리 솔루션 또는 다른 사용자 모집단을 나타냅니다.
- Oracle Visual Builder
Oracle Visual Builder는 개발 및 호스팅 플랫폼 외에도 매력적인 반응형 애플리케이션을 만들 수 있는 직관적인 개발 경험입니다. 사용 편의성과 시각적 개발 접근 방식에 중점을 두어 Oracle의 안전하고 확장 가능한 클라우드 플랫폼에서 호스팅되는 애플리케이션을 쉽게 만들 수 있습니다.
- Digital Assistant
Oracle Digital Assistant는 사용자를 위해 디지털 어시스턴트를 생성하고 배치할 수 있는 플랫폼입니다. Oracle Digital Assistant를 사용하면 텍스트, 채팅 및 음성 인터페이스를 통해 비즈니스 애플리케이션을 위한 AI 기반 인터페이스(또는 챗봇)를 생성할 수 있습니다. 각 디지털 어시스턴트에는 사용자가 자연어 대화에서 다양한 작업을 완료할 수 있도록 지원하는 하나 이상의 전문 기술 모음이 있습니다. 예를 들어 개별 디지털 어시스턴트에는 재고 추적, 근무 기록 카드 제출, 경비 보고서 생성과 같은 특정 유형의 태스크에 중점을 두는 기술이 있을 수 있습니다.
- 생성형 AI
Oracle Cloud Infrastructure Generative AI는 텍스트 생성, 요약, 의미 검색 등에 대한 광범위한 사용 사례를 다루는 최첨단 맞춤형 대규모 언어 모델(LLM) 세트를 제공하는 완전 관리형 OCI 서비스입니다. 플레이그라운드를 사용하여 즉시 사용 가능한 사전 학습 모델을 시험해 보거나, 전용 AI 클러스터의 자체 데이터를 기반으로 자체 미세 조정된 커스텀 모델을 생성 및 호스팅할 수 있습니다.
고려사항
이 AI 기반 챗봇을 배포할 때는 다음을 고려하십시오.
- 지역 가용성
Oracle은 OCI 서비스를 리전 및 가용성 도메인에 호스팅합니다. 지역은 국지화된 지리적 영역이었고 가용성 도메인은 해당 지역 내에 위치한 하나 이상의 데이터 센터입니다. 모든 지역에서 AI 서비스를 항상 사용할 수 있는 것은 아닙니다. 자세한 내용은 더 알아보기 섹션의 생성형 AI를 활용한 지역을 참고하세요.
- 문서 처리
이 아키텍처에서 사용되는 문서 처리 기능은 소규모 문서용으로 사용됩니다. 더 큰 문서를 분석하는 솔루션은 자세히 살펴보기 섹션의 다른 LiveLabs를 참조하십시오.