Oracle Cloud Infrastructure AI 에이전트 플랫폼을 사용하여 에이전트 AI 배치
AI 에이전트는 인공 지능을 기반으로 하며 질문을 이해하고, 정보를 검색하고, 작업을 자동화할 수 있습니다. 또한 정보 액세스를 간소화하고, 신뢰할 수 있는 답변을 제공하고, 사용자 만족도를 높이는 동시에 지원 비용을 절감할 수 있습니다. OCI AI Agent Platform은 기업이 Oracle 에코시스템 전반에서 원활하게 통합되는 지능적이고 안전한 상황 인식 에이전트를 구축할 수 있도록 지원합니다.
사용자가 채팅 또는 웹 인터페이스를 통해 자연스럽게 상호 작용할 수 있는 에이전트 AI 기반 가상 도우미를 구현하여 정형 및 비정형 데이터 소스의 정보에 액세스, 검색 및 처리하고 사용자정의 워크플로우를 트리거할 수 있습니다. 이를 통해 정보 검색 프로세스를 간소화하고 수동 지원에 대한 의존도를 줄이며 전사적으로 확장 가능하고 일관적이며 안전한 사용자 경험을 보장합니다.
사용자는 Oracle Digital Assistant에 연결되는 Oracle Visual Builder로 구축된 웹 애플리케이션을 통해 상호 작용합니다. OCI AI 에이전트 플랫폼은 다음을 수행할 수 있는 도우미를 구축하는 데 사용됩니다.
- RAG(검색 증강 생성)를 사용하여 오브젝트 스토리지에서 정보 검색
- Oracle Autonomous Database에서 SQL 쿼리 실행(Oracle Autonomous Transaction Processing)
- 특수 작업(문서 이해 또는 날씨 데이터 등)에 대해 커스터마이징 비즈니스 기능 실행
이 참조 아키텍처는 단계별 구현 지침을 제공하는 LiveLab로 보완되는 에이전트 AI 솔루션을 신속하게 배포하기 위한 청사진을 제공합니다.
구조
사용자는 Oracle Visual Builder를 사용하여 구축된 웹 애플리케이션과 상호 작용합니다. 이 애플리케이션은 대화형 상호 작용을 관리하고 사용자 쿼리를 적절한 백엔드 서비스로 라우팅하는 Oracle Digital Assistant와 통합됩니다. Digital Assistant는 다양한 도구에 대한 요청을 지능적으로 조정하는 OCI 생성형 AI 에이전트 플랫폼에 연결됩니다.
- RAG Tool은 컨텍스트 인식 응답을 위해 OCI Object Storage에서 관련 정보를 검색합니다.
- SQL Tool은 Oracle Autonomous AI Database(Oracle Autonomous Transaction Processing)에서 구조화된 데이터를 쿼리하여 특정 데이터 기반 질문에 답합니다.
- 사용자 정의 도구는 문서 이해 또는 외부 데이터 통합(예: 날씨)과 같은 특수 작업에 대해 서버리스 기능을 호출합니다.
이 서비스들은 Oracle Cloud Infrastructure(OCI)를 활용해 대화형 AI, 실시간 데이터 액세스, 커스텀 기능 등을 결합한 지능적이고, 응답성이 뛰어나고, 확장 가능한 AI 기반 경험을 제공합니다.
다음 다이어그램은 이 참조 구조를 보여줍니다.
agentic-ai-oci-ai-agent-arch-oracle.zip
아키텍처의 구성 요소는 다음과 같습니다.
- 지역
OCI 리전은 가용성 도메인을 호스팅하는 데이터 센터가 하나 이상 포함된 지역화된 지리적 영역입니다. 지역은 다른 지역과 독립적이며, 광대한 거리는 (국가 또는 대륙에 걸쳐) 그들을 분리 할 수 있습니다.
- Oracle Services Network
OSN(Oracle Services Network)은 Oracle 서비스용으로 예약된 OCI의 개념적 네트워크입니다. 이러한 서비스에는 인터넷을 통해 연결할 수 있는 공용 IP 주소가 있습니다. Oracle Cloud 외부의 호스트는 Oracle Cloud Infrastructure FastConnect 또는 VPN Connect를 사용하여 전용으로 OSN에 액세스할 수 있습니다. VCN의 호스트는 서비스 게이트웨이를 통해 전용으로 OSN에 액세스할 수 있습니다.
- Oracle Visual Builder
Oracle Visual Builder는 개발 및 호스팅 플랫폼 외에도 매력적인 반응형 애플리케이션을 만들 수 있는 직관적인 개발 경험입니다. 사용 편의성과 시각적 개발 접근 방식에 중점을 두어 Oracle의 안전하고 확장 가능한 클라우드 플랫폼에서 호스팅되는 애플리케이션을 쉽게 만들 수 있습니다.
- Oracle Digital Assistant
Oracle Digital Assistant는 사용자를 위해 디지털 어시스턴트를 생성하고 배치할 수 있는 플랫폼입니다. Oracle Digital Assistant를 사용하면 텍스트, 채팅 및 음성 인터페이스를 통해 비즈니스 애플리케이션을 위한 AI 기반 인터페이스(또는 챗봇)를 생성할 수 있습니다. 각 디지털 어시스턴트에는 사용자가 자연어 대화에서 다양한 작업을 완료할 수 있도록 지원하는 하나 이상의 전문 기술 모음이 있습니다. 예를 들어 개별 디지털 어시스턴트에는 재고 추적, 근무 기록 카드 제출, 경비 보고서 생성과 같은 특정 유형의 태스크에 중점을 두는 기술이 있을 수 있습니다.
- OCI AI 에이전트 플랫폼
Oracle Cloud Infrastructure(OCI) AI Agent Platform은 AI 에이전트를 구축, 배포, 관리할 수 있는 완전 관리형 클라우드 네이티브 솔루션을 제공합니다. 최첨단 대규모 언어 모델(LLM)을 활용하면 고객과의 상호 작용 방식을 혁신하고, 복잡한 작업을 자율적으로 수행하고, 워크플로를 자동화하고, 비즈니스 문제에 접근할 수 있습니다. 이 서비스는 데이터베이스 및 클라우드 인프라를 포함한 Oracle 스택 전반에서 통합되어 효율적인 데이터 검색 및 API 상호 작용을 가능하게 합니다.
- OCI 오브젝트 스토리지
OCI Object Storage는 데이터베이스 백업, 분석 데이터, 이미지 및 비디오와 같은 리치 콘텐츠 등 모든 콘텐츠 유형의 대량의 정형 및 비정형 데이터에 대한 액세스를 제공합니다. 애플리케이션 또는 클라우드 플랫폼 내에서 직접 안전하고 안전하게 데이터를 저장할 수 있습니다. 성능 또는 서비스 안정성이 저하되지 않고 스토리지를 확장할 수 있습니다.
- Oracle Autonomous Transaction Processing
Oracle Autonomous Transaction Processing은 트랜잭션 처리 워크로드에 최적화된 자율 구동, 자가 보안, 자가 복구 데이터베이스 서비스입니다. 하드웨어를 구성 또는 관리하거나 소프트웨어를 설치할 필요가 없습니다. OCI는 데이터베이스의 생성, 백업, 패치 적용, 업그레이드 및 튜닝을 처리합니다.
- Oracle AI Database 26ai
AI Vector Search가 탑재된 Oracle AI Database 26ai를 사용하면 키워드가 아닌 의미로 데이터를 쿼리할 수 있습니다. 벡터 표현(임베딩)은 유사한 콘텐츠를 효율적으로 찾을 수 있도록 텍스트, 이미지, 오디오 등의 의미를 캡처합니다. 내장된 SQL 거리 함수는 벡터를 사용한 유사성 검색을 허용합니다. 의미상 유사성 및 기타 검색 기준을 RAG(대형 언어 모델)와 결합하여 보다 정확하고 관련성 높은 답변을 얻을 수 있습니다.
- OCI 기능
Oracle Cloud Infrastructure Functions는 완전 관리형 멀티테넌트, 확장성이 뛰어난 온디맨드 Functions-as-a-Service(FaaS) 플랫폼입니다. 그것은 Fn 프로젝트 오픈 소스 엔진에 의해 구동 됩니다. OCI 함수를 사용하면 코드를 배포하고 직접 호출하거나 이벤트에 대한 응답으로 트리거할 수 있습니다. OCI Functions는 Oracle Cloud Infrastructure Registry에서 호스팅되는 Docker 컨테이너를 사용합니다.