Pianifica la distribuzione

Distribuire questa architettura utilizzando i passi di base riportati di seguito.

• Mappa gli elementi costitutivi dell'architettura ai servizi di Oracle Cloud Infrastructure
• Pianifica l'implementazione iniziale con particolare attenzione all'orchestrazione degli agenti
• Migliora l'implementazione iniziale aggiungendo agenti e integrando il ragionamento LLM avanzato

Mappa servizi OCI

Oracle Cloud Infrastructure (OCI) fornisce tutti i componenti di base necessari per implementare questo sistema in modo cloud nativo e scalabile.

Eseguire il mapping di ciascun componente ai servizi OCI come indicato di seguito.

• Implementazione Orchestrator

  Puoi eseguire l'orchestrator MCP su un'istanza di OCI Compute su una virtual machine (VM) Oracle Linux o come container su OCI Kubernetes Engine. L'orchestratore ospita il server basato su Toolbox GenAI che ascolta le richieste degli agenti e le instrada agli strumenti. La scalabilità di OCI garantisce che l'orchestratore sia in grado di gestire più indagini sulle frodi simultanee. Facoltativamente, puoi utilizzare OCI API Gateway per esporre un endpoint REST sicuro per l'orchestratore in modo che i sistemi esterni o i client demo possano avviare il flusso di lavoro.

  L'orchestratore ospita tutti gli agenti che si interfacciano con l'interfaccia utente e fornisce anche l'instradamento agli strumenti. Puoi anche ospitare il server MCP in Oracle Cloud Infrastructure Data Science in cui gli strumenti vengono esposti utilizzando il protocollo HTTP streamable.

  
  
  
  Descrizione dell'illustrazione mcp-architecture.png
  
  

  architettura mcp-oracle.zip

• Agenti come funzioni serverless

  La logica di ogni agente può essere distribuita come funzione OCI (microservizio serverless) o come contenitore leggero. Ad esempio, l'agente di recupero dati può essere una funzione OCI che accetta parametri (ID, tipo di query) e restituisce dati JSON da Autonomous Database. L'analizzatore di frodi potrebbe essere un'altra funzione che prende dati e restituisce un punteggio e un messaggio. L'uso delle funzioni OCI per gli agenti semplifica la distribuzione e fornisce elasticità per eseguire automaticamente lo scale-out se molte analisi delle frodi vengono eseguite in parallelo. L'orchestratore MCP chiama gli endpoint REST di queste funzioni utilizzando il gateway API OCI o utilizzando chiamate interne. Nella fase 1, l'esecuzione degli strumenti è semplificata eseguendo gli strumenti all'interno del processo di orchestrazione (come fa GenAI Toolbox) in modo che l'orchestratore stesso possa eseguire gli strumenti di query del database. Tuttavia, la progettazione di agenti come funzioni OCI indipendenti fornisce modularità e consente di eseguire le dimostrazioni mostrando ogni funzione attivata in sequenza.

• Conservazione e trattamento dei dati

  Oracle Autonomous Transaction Processing (ATP) è il repository sicuro per tutti i dati finanziari pertinenti, ad esempio log delle transazioni, dati degli account, informazioni sui criteri e casi di frode cronologici. Autonomous Database offre funzionalità integrate di ridimensionamento automatico, cifratura e analytics SQL (Structured Query Language), tutte fondamentali per i carichi di lavoro dei servizi finanziari reali. L'agente dati utilizza SQL e un client Oracle o un'interfaccia API (Data Application Programming Interface) REST per recuperare i dati dal database. Puoi anche sfruttare strumenti come Oracle Machine Learning per il punteggio avanzato se il modello di frode viene addestrato nel database. Per i dati delle transazioni in streaming, puoi utilizzare OCI Streaming o Oracle GoldenGate per inserire i dati nel sistema. Per uno scenario dimostrativo, è sufficiente una semplice query diretta.

• Servizi di intelligenza artificiale e machine learning

  Per implementare la logica di rilevamento delle frodi, OCI offre più opzioni. Nella fase 1, le regole o il rilevamento delle anomalie vengono codificati direttamente. La fase 2 implementa i servizi Oracle AI:

  • L'AI generativa OCI fornisce l'accesso a modelli linguistici di grandi dimensioni per la generazione di descrizioni e il ragionamento dell'agente dell'analizzatore di frodi. OCI Generative AI è un servizio completamente gestito che offre LLM pre-addestrati che possono essere facilmente integrati nelle applicazioni. L'analizzatore di frodi può chiamare questo servizio utilizzando il suo kit di sviluppo software (SDK) e l'API con un prompt contenente i dati delle transazioni e ricevere un testo di spiegazione delle frodi in risposta.
  • OCI Anomaly Detection valuta le transazioni per rilevare anomalie in tempo reale con un punteggio elevato che indica potenziali frodi. Prima addestrato sui dati cronologici delle transazioni, l'agente dell'analizzatore di frodi richiama semplicemente l'API di rilevamento delle anomalie per ottenere un punteggio di anomalia per una determinata transazione. Allo stesso modo, OCI offre Data Science e Oracle Machine Learning per la formazione di modelli di frode personalizzati come l'aumento dei gradienti o algoritmi grafici per le frodi. È possibile distribuire modelli, ad esempio un modello XGBoost per le frodi, come endpoint utilizzando la distribuzione del modello di Data Science in modo che possano essere richiamati da un agente. Per semplificare la dimostrazione, è possibile ignorare il modello complesso e utilizzare direttamente un set di regole di piccole dimensioni o una funzione di punteggio sintetico. L'architettura supporta lo scambio in un sofisticato modello di machine learning in un secondo momento senza modificare l'orchestrazione.
  • Oracle Cloud Infrastructure Language fornisce analytics di testo nei casi in cui devi anche analizzare note o comunicazioni non strutturate in un caso di frode. Per il nostro caso d'uso principale, tuttavia, i dati strutturati e i LLM forniscono le funzionalità necessarie.
• Networking e integrazione

  La configurazione della rete cloud virtuale (VCN) e un gateway di servizi OCI garantiscono che l'orchestratore e gli agenti che utilizzano le istanze OCI Functions e OCI Compute possano parlare in modo sicuro con il database e i servizi AI senza esporre i dati sulla rete Internet pubblica. OCI Identity and Access Management (IAM) controlla l'accesso in modo che solo l'orchestratore e gli agenti possano richiamare le rispettive API e accedere al database. Ciò è importante per mantenere la sicurezza, in particolare in un contesto finanziario. A scopo dimostrativo, puoi anche impostare il monitoraggio utilizzando OCI Logging per tenere traccia delle esecuzioni delle funzioni degli agenti e dei trace di OCI Application Performance Monitoring per mostrare la latenza di flusso end-to-end.

• Interfaccia client

  L'utente interagisce con il sistema utilizzando un semplice front-end Web o mobile per chiamare il gateway API OCI per attivare un'analisi o utilizzando un'interfaccia Oracle Digital Assistant (chatbot) per una dimostrazione più interattiva. Ad esempio, un analista potrebbe interagire con l'agente dell'analizzatore di frodi fornendo un prompt chatbot come "Investigate transaction #123" e il sistema risponde con l'analisi. Oracle Digital Assistant può essere un'aggiunta facoltativa per mostrare un front-end conversazionale, ma lo use case di base potrebbe semplicemente visualizzare i risultati in un dashboard o inviare un avviso e-mail utilizzando le notifiche OCI.

Fase 1: implementazione dell'orchestrazione mediante MCP

Nell'implementazione iniziale, l'obiettivo è garantire che il sistema possa orchestrare più agenti e integrarsi con i sistemi Oracle, prima di aggiungere una logica AI complessa.

Per raggiungere questo obiettivo, il piano enfatizza la meccanica di orchestrazione degli agenti e sfrutta Google MCP Toolbox for Databases (chiamato anche Gen AI Toolbox) come punto di partenza per l'orchestratore MCP (Model Context Protocol). La cassetta degli attrezzi, una base di codice open source su GitHub, è un server MCP per database progettati per connettere agenti basati su LLM con database SQL. Questa architettura adatta la cassetta degli attrezzi per Oracle Cloud Infrastructure (OCI) collegando strumenti specifici di Oracle e distribuendoli su OCI.

La fase 1 di questo piano crea un backbone di orchestrazione di lavoro su OCI che si integra con successo con un database Oracle e include un server MCP centrale (Gen AI Toolbox) che orchestra almeno due agenti (recupero e analisi dei dati). La fase 2 di questo piano introduce un ragionamento più avanzato.

• Definizioni degli strumenti

  In Gen AI Toolbox, uno strumento è un'azione che un agente può eseguire, ad esempio eseguire una query SQL specifica. Uno strumento viene definito in modo dichiarativo, ad esempio utilizzando YAML, ed è accessibile tramite il server MCP. Il caso d'uso corrente crea un registro degli strumenti simile per azioni quali "Recupera transazioni recenti per l'utente" o "Recupera dettagli criteri", con ogni azione mappata a una query di database Oracle o a una chiamata di funzione OCI. Il registro consente a un agente di richiamare questi strumenti per nome. Il vantaggio di un approccio basato sulla configurazione è la flessibilità: puoi aggiornare o aggiungere nuovi strumenti senza ridistribuire l'intera app. A scopo dimostrativo, l'orchestrazione in fase 1 può essere più sceneggiata, con strumenti chiamati in sequenza, ma l'architettura pone le basi per la fase 2 in cui l'agente può decidere dinamicamente quali strumenti utilizzare.

• Framework Orchestrator

  Gen AI Toolbox funziona con framework di orchestrazione degli agenti come LangChain/Langraph e LlamaIndex AgentWorkflow. In questa implementazione, il server MCP coordina la sequenza di chiamate dell'agente. È possibile creare uno script per l'orchestrazione utilizzando un flusso di lavoro semplice come chiamare l'agente dati, quindi chiamare l'agente fraudolento e quindi fornire la decisione. È possibile eseguire questa operazione con codice personalizzato o utilizzando una libreria di workflow esistente. È utile sfruttare qualsiasi libreria o pattern client di Gen AI Toolbox per mantenere il contesto. L'orchestratore utilizza il risultato dell'agente dati come input per la struttura prompt/input dell'agente frode. La fase 1 assicura che il flusso di lavoro funzioni correttamente e che il contesto venga conservato accuratamente tra i passi. Il risultato è un livello di orchestrazione che semplifica l'esecuzione di un sistema di uno o più agenti, mantiene il contesto tra i passi e supporta i flussi di lavoro multi-agente come descritto per AgentWorkflow, ma implementati in questo caso con i servizi OCI.

• Osservabilità e registrazione

  Gen AI Toolbox viene fornito con il supporto integrato OpenTelemetry per l'uso degli strumenti di monitoraggio. OCI Logging fornisce la registrazione di ogni chiamata di agente e strumento per facilitare il debug e per fornire visibilità sulle operazioni eseguite da ciascun agente durante le dimostrazioni. La Fase 1 può utilizzare la console o i log OCI per mostrare come l'orchestratore chiama una funzione per eseguire query sul database, cosa è stato restituito e quindi come è stata eseguita l'analisi delle frodi. Questa trasparenza è attraente per gli stakeholder e aiuta a creare fiducia nelle decisioni sull'intelligenza artificiale.

Fase 2: implementare l'intelligence LLM avanzata

La seconda fase di questo piano integra il ragionamento avanzato del modello linguistico di grandi dimensioni (LLM, large language model) e altri agenti per rendere il sistema più autonomo e intuitivo.

L'architettura di base rimane in gran parte la stessa della fase 1, ma è sufficiente sostituire o aumentare gli interni degli agenti e aggiungerne di nuovi. Il server MCP continua a essere la colla per l'integrazione, la negoziazione tra l'agente LLM e il database OCI, le funzioni e così via. Questo approccio a fasi mostra progressi incrementali dimostrando prima la spina dorsale in OCI con una logica semplice e poi collegando un LLM potente per rendere il sistema molto più intelligente nella spiegazione e nella gestione dei casi di frode.

• Ragionamento agente basato su LLM

  Invece di eseguire azioni in una sequenza fissa, l'agente dell'analizzatore di frodi nella fase 2 utilizza l'AI generativa OCI e un LLM per decidere dinamicamente quali strumenti chiamare e quando. Ad esempio, data un'istruzione open-ended ("Investigare questa richiesta di frode"), il prompt dell'agente potrebbe enumerare gli strumenti disponibili (query del database, controllo delle sanzioni e così via) e l'LLM potrebbe pianificare una sequenza di chiamate. Questo è simile a un agente in stile ReAct o all'utilizzo delle capacità di pianificazione di LangChain. L'orchestratore MCP facilita queste interazioni agente-tool, eseguendo il loop delle decisioni dell'LLM attraverso le esecuzioni degli strumenti e restituendo risultati. Il servizio Oracle Cloud Infrastructure Generative AI Agents enfatizza l'orchestrazione degli strumenti per gestire flussi di lavoro complessi. Nell'architettura attuale, implementiamo questo concetto combinando l'approccio Gen AI Toolbox con l'LLM di OCI. Puoi incorporare framework come LangChain (supportati in Oracle Cloud Infrastructure Data Science) per gestire i prompt, ad esempio "Strumento: GetRecentTransactions(user_id=123)", e analizzare gli output LLM che l'orchestratore può eseguire. Questa funzionalità rende l'analizzatore di frodi un agente cognitivo più in grado di ragionare in più fasi che consente dialoghi di indagine sulle frodi più complessi.

• Agenti e strumenti aggiuntivi

  È possibile introdurre agenti aggiuntivi per ampliare le funzionalità del sistema. Ad esempio, un agente di analisi grafica potrebbe utilizzare l'analitica di rete, ad esempio un database grafico o un modello ML, per trovare relazioni tra entità, ad esempio e-mail comuni o dispositivi tra account utilizzati dagli anelli di frode. Un altro potrebbe essere un agente esplicativo che verifica in modo specifico la conformità degli output o semplifica la lingua per una spiegazione rivolta al cliente. Ogni agente utilizza un servizio OCI specifico: un agente grafico potrebbe utilizzare Oracle Graph o una libreria di analisi della rete in Data Science. L'orchestratore MCP può coordinare questi agenti in parallelo o in sequenza, se necessario. Ad esempio, una volta concluso l'agente dell'analizzatore di frodi, l'orchestratore potrebbe attivare un agente di notifica che utilizza il servizio Consegna e-mail OCI o Notifiche OCI per inviare un report agli investigatori. L'orchestra funziona come direttore d'orchestra: l'aggiunta di più agenti arricchisce l'orchestra di analisi senza bisogno di una riscrittura della logica di base.

• Ciclo di feedback sul machine learning

  La fase 2 può integrare l'apprendimento nel tempo. Tutti i risultati, confermati o meno da frodi, possono essere inseriti in un Oracle Autonomous Data Warehouse e sfruttati per riqualificare i modelli utilizzando le pipeline di Data Science. Anche se non fa parte dell'orchestrazione degli agenti in tempo reale, chiude il ciclo di vita della soluzione. Dimostrando che OCI non solo può eseguire il rilevamento, ma anche migliorarlo utilizzando i dati cronologici con AutoML o Oracle Machine Learning, puoi mostrare un miglioramento continuo alle parti coinvolte.