배포 계획 수립
다음 기본 단계를 사용하여 이 구조를 배치합니다.
- Oracle Cloud Infrastructure 서비스에 아키텍처 구성 요소 매핑
- 에이전트 통합관리에 중점을 두고 초기 구현 계획
- 에이전트를 추가하고 고급 LLM 추론을 통합하여 초기 구현 향상
OCI 서비스 매핑
Oracle Cloud Infrastructure(OCI)는 확장 가능한 클라우드 네이티브 방식으로 이 시스템을 구현하는 데 필요한 모든 빌딩 블록을 제공합니다.
다음과 같이 각 구성요소를 OCI 서비스에 매핑합니다.
- 통합관리자 구현
Oracle Linux VM(가상 머신)의 OCI Compute 인스턴스에서 또는 OCI Kubernetes Engine의 컨테이너로 MCP 오케스트레이터를 실행할 수 있습니다. 통합관리자는 에이전트 요청을 수신하고 툴로 라우팅하는 GenAI Toolbox 기반 서버를 호스트합니다. OCI의 확장성은 통합관리자가 여러 동시 사기 조사를 처리할 수 있도록 보장합니다. 선택적으로 외부 시스템 또는 데모 클라이언트가 워크플로우를 시작할 수 있도록 OCI API Gateway를 사용하여 통합관리자에 대한 보안 REST 엔드포인트를 노출할 수 있습니다.
통합관리자는 UI와 인터페이스하는 모든 에이전트를 호스트하고 도구에 대한 경로 지정도 제공합니다. 또한 스트리밍 가능한 HTTP 프로토콜을 사용하여 툴이 노출되는 Oracle Cloud Infrastructure Data Science에서 MCP 서버를 호스팅할 수 있습니다.
- 서버리스 함수로서의 에이전트
각 에이전트의 논리는 OCI 함수(서버리스 마이크로서비스) 또는 경량 컨테이너로 배포할 수 있습니다. 예를 들어, 데이터 검색 에이전트는 매개변수(ID, 쿼리 유형)를 수락하고 Autonomous Database에서 JSON 데이터를 반환하는 OCI 함수일 수 있습니다. 사기 분석기는 데이터를 가져와 점수 및 메시지를 반환하는 또 다른 기능일 수 있습니다. 에이전트에 OCI Functions를 사용하면 배포가 간소화되고, 다수의 사기 분석이 병렬로 실행되는 경우 자동으로 확장할 수 있는 탄력성을 제공합니다. MCP 통합관리자는 OCI API 게이트웨이를 사용하거나 내부 호출을 사용하여 이러한 함수의 REST 엔드포인트를 호출합니다. 1단계에서는 오케스트레이터 자체가 데이터베이스 쿼리 도구를 실행할 수 있도록 GenAI Toolbox와 같이 오케스트레이터 프로세스 내에서 도구를 실행하여 도구 실행이 간소화됩니다. 그러나 에이전트를 독립적인 OCI 함수로 지정하면 모듈성이 제공되며 순서대로 트리거되는 각 함수를 표시하여 데모에 도움이 됩니다.
- 데이터 저장 및 처리
Oracle Autonomous Transaction Processing(ATP)은 거래 로그, 계정 데이터, 정책 정보 및 과거 사기 사례와 같은 모든 관련 재무 데이터를 보관할 수 있는 보안 저장소입니다. Autonomous Database는 내장된 자동 스케일링, 암호화, 구조화된 쿼리 언어(SQL) 분석 기능을 제공합니다. 이 모든 기능은 실제 금융 서비스 워크로드에 매우 중요합니다. 데이터 에이전트는 SQL 및 Oracle 클라이언트 또는 REST API(데이터 애플리케이션 프로그래밍 인터페이스)를 사용하여 데이터베이스에서 데이터를 검색합니다. 또한 사기 모델이 인데이터베이스 교육을 받은 경우 Oracle Machine Learning과 같은 도구를 사용하여 고급 점수 부여를 수행할 수 있습니다. 스트리밍 트랜잭션 데이터의 경우 OCI Streaming 또는 Oracle GoldenGate를 사용하여 시스템에 데이터를 공급할 수 있습니다. 데모 시나리오의 경우 간단한 직접 질의만으로도 충분합니다.
- AI 및 머신 러닝 서비스
사기 감지 논리를 구현하기 위해 OCI는 다양한 옵션을 제공합니다. 1단계에서는 규칙 또는 변형 감지가 직접 코딩됩니다. 2단계: Oracle AI 서비스 구현
- OCI 생성형 AI는 사기 분석기 에이전트의 내러티브 생성 및 추론을 위한 대규모 언어 모델에 대한 액세스를 제공합니다. OCI Generative AI는 애플리케이션에 쉽게 통합할 수 있는 사전 학습된 LLM을 제공하는 완전 관리형 서비스입니다. 사기 분석기는 SDK(소프트웨어 개발 키트) 및 API와 함께 거래 데이터가 포함된 프롬프트를 사용하여 이 서비스를 호출하고 이에 대한 응답으로 사기 설명 텍스트를 수신할 수 있습니다.
- OCI Anomaly Detection은 잠재적 사기를 나타내는 높은 점수를 통해 이상 징후에 대한 트랜잭션을 실시간으로 점수 부여합니다. 먼저 과거 트랜잭션 데이터에 대한 교육을 받은 사기 분석기 에이전트는 단순히 변형 감지 API를 호출하여 지정된 트랜잭션에 대한 변형 점수를 얻습니다. 마찬가지로 OCI는 Data Science 및 Oracle Machine Learning을 제공하여 사기를 위한 그라데이션 강화 또는 그래프 알고리즘과 같은 맞춤형 사기 모델을 교육합니다. 에이전트가 호출할 수 있도록 Data Science 모델 배치를 사용하여 사기용 XGBoost 모델과 같은 모델을 엔드포인트로 배포할 수 있습니다. 데모를 단순화하기 위해 복잡한 모델을 무시하고 작은 규칙 세트 또는 합성 점수부여 함수를 직접 사용할 수 있습니다. 이 아키텍처는 오케스트레이션을 변경하지 않고 나중에 정교한 머신 러닝 모델에서 스와핑을 지원합니다.
- Oracle Cloud Infrastructure Language는 사기 사례에서 비정형 메모 또는 통신을 분석해야 하는 경우 텍스트 분석을 제공합니다. 그러나 주요 사용 사례에서는 구조화된 데이터와 LLM이 필요한 기능을 제공합니다.
- 네트워킹 및 통합
VCN(가상 클라우드 네트워크) 구성 및 OCI 서비스 게이트웨이는 OCI Functions 및 OCI Compute 인스턴스를 사용하는 오케스트레이터 및 에이전트가 공용 인터넷을 통해 데이터를 노출하지 않고도 데이터베이스 및 AI 서비스와 안전하게 통신할 수 있도록 보장합니다. OCI IAM(Identity and Access Management)은 오케스트레이터와 에이전트만 서로의 API를 호출하고 데이터베이스에 액세스할 수 있도록 액세스를 제어합니다. 이는 특히 재정적 맥락에서 보안을 유지하는 데 중요합니다. 데모를 위해 OCI 로깅을 사용하여 에이전트 함수 실행을 추적하고 OCI Application Performance Monitoring 추적을 통해 엔드투엔드 플로우 대기 시간을 표시하여 모니터링을 설정할 수도 있습니다.
- 고객 인터페이스
사용자는 간단한 웹 또는 모바일 프론트 엔드를 사용하여 OCI API 게이트웨이를 호출하여 분석을 트리거하거나 Oracle Digital Assistant(챗봇) 인터페이스를 사용하여 대화형 데모를 통해 시스템과 상호 작용합니다. 예를 들어, 분석가는 "거래 #123 조사"와 같은 챗봇 프롬프트를 제공하여 사기 분석 에이전트와 상호 작용할 수 있으며 시스템은 분석에 응답합니다. Oracle Digital Assistant는 대화형 프론트엔드를 소개하는 선택적 추가 기능일 수 있지만 핵심 사용 사례는 단순히 대시보드에 결과를 표시하거나 OCI Notifications를 사용하여 이메일 경고를 전송할 수 있습니다.
단계 1: MCP를 사용하여 통합관리 구현
초기 구현의 목표는 복잡한 AI 논리를 추가하기 전에 시스템에서 여러 에이전트를 통합관리하고 Oracle 시스템과 통합할 수 있도록 하는 것입니다.
이 목표를 달성하기 위해 이 계획은 에이전트 통합관리 메커니즘을 강조하고 Google MCP Toolbox for Databases(Gen AI Toolbox라고도 함)를 MCP(모델 컨텍스트 프로토콜) 오케스트레이터의 시작점으로 활용합니다. GitHub의 오픈 소스 코드 기반인 이 도구 상자는 LLM 기반 에이전트를 SQL 데이터베이스와 연결하도록 설계된 데이터베이스를 위한 MCP 서버입니다. 이 아키텍처는 Oracle 전용 도구를 연결하고 OCI에 배포하여 Oracle Cloud Infrastructure(OCI)용 도구 상자를 조정합니다.
이 계획의 1단계는 Oracle 데이터베이스와 성공적으로 통합되고, 두 개 이상의 에이전트(데이터 인출 및 분석)를 조정하는 중앙 MCP 서버(생성형 AI 도구 상자)를 포함하는 OCI에 작동 중인 통합관리 백본을 생성합니다. 이 계획의 단계 2는 더 진보 된 추론을 소개합니다.
- 도구 정의
생성형 AI 도구 상자에서 도구는 특정 SQL 쿼리 작성과 같이 에이전트가 수행할 수 있는 작업입니다. 도구는 YAML을 사용하는 등 선언적으로 정의되며 MCP 서버를 통해 액세스됩니다. 현재 사용 사례는 "사용자에 대한 최근 트랜잭션 인출" 또는 "정책 세부정보 가져오기"와 같은 작업에 대해 유사한 도구 레지스트리를 생성하며, 각 작업은 Oracle 데이터베이스 쿼리 또는 OCI 함수 호출에 매핑됩니다. 레지스트리를 사용하면 에이전트가 이름으로 이러한 도구를 호출할 수 있습니다. 구성 기반 접근 방식의 이점은 유연성입니다. 즉, 전체 앱을 재배치하지 않고도 새 도구를 업데이트하거나 추가할 수 있습니다. 데모를 위해 단계 1의 통합관리를 순서대로 호출하는 툴을 사용하여 더 많은 스크립트를 작성할 수 있지만 아키텍처는 에이전트가 사용할 툴을 동적으로 결정할 수 있는 단계 2의 기초가 됩니다.
- 통합관리자 프레임워크
생성형 AI 도구 상자는 LangChain/Langraph 및 LlamaIndex AgentWorkflow와 같은 에이전트 통합관리 프레임워크와 함께 작동합니다. 이 구현에서 MCP 서버는 에이전트 호출 순서를 조정합니다. 데이터 에이전트 호출, 사기 에이전트 호출, 결정 제공과 같은 간단한 워크플로우를 사용하여 통합관리를 스크립트로 작성할 수 있습니다. 사용자정의 코드 또는 기존 워크플로우 라이브러리를 사용하여 이 작업을 수행할 수 있습니다. 컨텍스트 유지 관리를 위해 모든 생성형 AI 도구 상자 클라이언트 라이브러리 또는 패턴을 활용하는 것이 유용합니다. 통합관리자는 데이터 에이전트의 결과를 사기 에이전트의 프롬프트/입력 구조에 대한 입력으로 사용합니다. 단계 1에서는 워크플로우가 올바르게 작동하고 단계 간에 컨텍스트가 정확하게 보존되도록 합니다. 그 결과 AgentWorkflow에 설명된 대로 하나 이상의 에이전트 시스템 실행을 간소화하고, 단계 간 컨텍스트를 유지 관리하고, 다중 에이전트 워크플로우를 지원하지만 OCI 서비스를 통해 이 경우 구현되는 통합관리 계층이 생성됩니다.
- 관찰 및 로깅
Gen AI Toolbox에는 도구 사용 모니터링을 위한 통합 OpenTelemetry 지원이 제공됩니다. OCI Logging은 디버깅을 지원하고 데모 중 각 에이전트가 수행하는 작업에 대한 가시성을 제공하기 위해 각 에이전트 및 도구 호출의 로깅을 제공합니다. 1단계는 OCI 콘솔 또는 로그를 사용하여 통합관리자가 함수를 호출하여 데이터베이스를 쿼리하는 방법, 반환된 항목, 사기 분석 수행 방법을 보여줄 수 있습니다. 이러한 투명성은 이해관계자들에게 매력적이며 AI 의사 결정에 대한 신뢰를 구축하는 데 도움이 됩니다.
단계 2: 향상된 LLM 인텔리전스 구현
이 계획의 두 번째 단계는 고급 대규모 언어 모델(LLM) 추론과 추가 에이전트를 통합하여 시스템을 보다 자율적이고 통찰력 있게 만듭니다.
기본 아키텍처는 1단계와 거의 동일하게 유지되지만 에이전트 내부를 대체하거나 보강하고 새 아키텍처를 추가하기만 하면 됩니다. MCP 서버는 LLM 에이전트와 OCI 데이터베이스, 기능 등을 중개하는 통합 접착제 역할을 계속합니다. 이 단계별 접근 방식은 먼저 OCI의 백본을 간단한 로직으로 시연한 다음 강력한 LLM을 연결하여 시스템을 사기 사례를 설명하고 처리하는 데 훨씬 더 지능적으로 만들어줌으로써 점진적인 진행 상황을 보여줍니다.
- LLM 기반 에이전트 추론
단계 2의 사기 분석기 에이전트는 고정된 순서로 작업을 수행하는 대신 OCI 생성형 AI 및 LLM을 사용하여 통화할 도구와 시기를 동적으로 결정합니다. 예를 들어, 개방형 지침("사기에 대한 청구 조사")이 제공되면 에이전트의 프롬프트에 사용 가능한 도구(데이터베이스 쿼리, 제재 검사 등)가 열거될 수 있으며, LLM은 일련의 호출을 계획할 수 있습니다. 이것은 ReAct 스타일의 에이전트 또는 LangChain의 계획 능력을 사용하는 것과 유사합니다. MCP 통합관리자는 도구 실행 및 결과 반환을 통해 LLM의 결정을 반복하여 이러한 에이전트-툴 상호 작용을 용이하게 합니다. 오라클 클라우드 인프라스트럭쳐(OCI) 생성형 AI 에이전트 서비스는 복잡한 워크플로를 처리하기 위한 도구 통합관리를 강조합니다. 현재 아키텍처에서는 생성형 AI 툴박스 접근 방식과 OCI의 LLM을 결합하여 해당 개념을 구현합니다. LangChain(Oracle Cloud Infrastructure Data Science에서 지원됨)과 같은 프레임워크를 통합하여 "도구: GetRecentTransactions(user_id=123)"과 같은 프롬프트를 관리하고 통합관리자가 실행할 수 있는 LLM 출력을 구문 분석할 수 있습니다. 이 기능을 통해 사기 분석기는 보다 복잡한 사기 조사 대화를 가능하게 하는 다단계 추론을 수행할 수 있는 인지 에이전트가 됩니다.
- 추가 에이전트 및 도구
추가 에이전트를 도입하여 시스템의 기능을 확장할 수 있습니다. 예를 들어 그래프 분석 에이전트는 그래프 데이터베이스 또는 ML 모델과 같은 네트워크 애널리틱스를 사용하여 사기 링에서 사용하는 계정의 공통 전자메일 또는 장치와 같은 엔티티 간의 관계를 찾을 수 있습니다. 또한 출력에서 규정 준수를 구체적으로 확인하거나 고객 대면 설명의 언어를 단순화하는 설명 에이전트일 수 있습니다. 각 에이전트는 특정 OCI 서비스를 사용합니다. 그래프 에이전트는 Data Science에서 Oracle Graph 또는 네트워크 분석 라이브러리를 사용할 수 있습니다. MCP 통합관리자는 필요에 따라 병렬 또는 순서로 이러한 에이전트를 조정할 수 있습니다. 예를 들어 사기 분석기 에이전트가 완료한 후 통합관리자는 OCI Email Delivery 또는 OCI Notifications를 사용하여 조사자에게 보고서를 전송하는 통지 에이전트를 트리거할 수 있습니다. 오케스트레이터는 지휘자 역할을 합니다: 더 많은 에이전트를 추가하면 핵심 논리를 다시 작성할 필요 없이 분석 오케스트라가 강화됩니다.
- 머신 러닝 피드백 루프
2단계는 시간에 따른 학습을 통합할 수 있습니다. 사기 확인 여부에 관계없이 모든 결과를 Oracle Autonomous Data Warehouse에 제공할 수 있으며 Data Science 파이프라인을 사용하여 모델을 재교육하는 데 활용할 수 있습니다. 실시간 에이전트 통합관리의 일부는 아니지만 솔루션 수명 주기에서 루프를 닫습니다. OCI가 AutoML 또는 Oracle Machine Learning과 함께 과거 데이터를 사용하여 감지를 수행할 수 있을 뿐만 아니라 이를 개선한다는 것을 입증함으로써 이해관계자들에게 지속적인 개선을 보여줄 수 있습니다.