Planifier votre déploiement

Déployez cette architecture à l'aide des étapes de base suivantes :

Mapper les blocs fonctionnels architecturaux aux services Oracle Cloud Infrastructure
Planifier la mise en oeuvre initiale en mettant l'accent sur l'orchestration des agents
Améliorer la mise en œuvre initiale en ajoutant des agents et en intégrant un raisonnement LLM avancé

Mapper les services OCI

Oracle Cloud Infrastructure (OCI) fournit tous les composants de base nécessaires pour mettre en oeuvre ce système de manière native et évolutive en nuage.

Mappez chaque composant aux services OCI comme suit.

Mise en oeuvre de l'orchestration
Vous pouvez exécuter l'orchestrateur MCP sur une instance de calcul OCI sur une machine virtuelle Oracle Linux ou en tant que conteneur sur OCI Kubernetes Engine. L'orchestrateur héberge le serveur basé sur la boîte à outils GenAI qui écoute les demandes d'agent et les achemine vers les outils. L'extensibilité d'OCI garantit que l'orchestrateur peut gérer plusieurs enquêtes de fraude simultanées. Facultativement, vous pouvez utiliser le service de passerelle d'API OCI pour exposer un point d'extrémité REST sécurisé pour l'orchestrateur afin que les systèmes externes ou les clients de démonstration puissent lancer le flux de travail.

L'orchestrateur héberge tous les agents qui interagissent avec l'interface utilisateur et fournit également l'acheminement vers les outils. Vous pouvez également héberger le serveur MCP dans Oracle Cloud Infrastructure Data Science où les outils sont exposés à l'aide du protocole HTTP pouvant être transmis en continu.

Description de l'illustration mcp-architecture.png

mcp-architecture-oracle.zip
Agents comme fonctions sans serveur
La logique de chaque agent peut être déployée en tant que fonction OCI (microservice sans serveur) ou en tant que conteneur léger. Par exemple, l'agent d'extraction de données peut être une fonction OCI qui accepte des paramètres (ID, type d'interrogation) et retourne des données JSON à partir d'Autonomous Database. L'analyseur de fraude peut être une autre fonction qui prend des données et retourne un score et un message. L'utilisation du service Fonctions OCI pour les agents simplifie le déploiement et offre une évolutivité automatique si de nombreuses analyses de fraude sont exécutées en parallèle. L'orchestrateur MCP appelle les points d'extrémité REST de ces fonctions à l'aide du service de passerelle d'API OCI ou à l'aide d'appels internes. Dans la phase 1, l'exécution de l'outil est simplifiée en exécutant les outils dans le processus d'orchestration (comme le fait GenAI Toolbox) afin que l'orchestrateur lui-même puisse exécuter les outils d'interrogation de base de données. Toutefois, la conception d'agents en tant que fonctions OCI indépendantes offre une modularité et facilite les démonstrations en affichant chaque fonction déclenchée dans l'ordre.
Stockage et traitement des données
Oracle Autonomous Transaction Processing (ATP) est le référentiel sécurisé pour toutes les données financières pertinentes, telles que les journaux de transactions, les données de compte, les informations de politique et les cas de fraude historiques. Autonomous Database fournit des capacités intégrées d'ajustement automatique, de chiffrement et d'analyse SQL, qui sont toutes essentielles pour les charges de travail de services financiers du monde réel. L'agent de données utilise SQL et une interface de programmation d'application de données (API) client Oracle ou REST pour extraire les données de la base de données. Vous pouvez également tirer parti d'outils tels qu'Oracle Machine Learning pour obtenir une notation avancée si le modèle de fraude est entraîné dans la base de données. Pour diffuser des données de transaction en continu, vous pouvez utiliser le service de diffusion en continu pour OCI ou Oracle GoldenGate pour transmettre des données au système. Pour un scénario de démonstration, une simple interrogation directe suffit.
Services d'intelligence artificielle et d'apprentissage automatique
Pour mettre en oeuvre la logique de détection des fraudes, OCI offre plusieurs options. Dans la phase 1, les règles ou la détection d'anomalies sont codées directement. La phase 2 met en œuvre les services d'Oracle AI :
- Le service d'intelligence artificielle générative pour OCI fournit un accès à de grands modèles de langage pour la génération et le raisonnement narratifs de l'agent d'analyse de fraude. Le service d'intelligence artificielle générative pour OCI est un service entièrement géré offrant des LLM préentraînés qui peuvent être facilement intégrés aux applications. L'analyseur de fraude peut appeler ce service en utilisant son kit de développement logiciel (SDK) et son API avec une invite contenant les données de transaction et recevoir un texte d'explication de fraude en réponse.
- OCI Anomaly Detection note les transactions pour les anomalies en temps réel avec une note élevée indiquant une fraude potentielle. Entraîné pour la première fois sur les données de transaction historiques, l'agent d'analyse de fraude appelle simplement l'API de détection d'anomalies pour obtenir une note d'anomalie pour une transaction donnée. De même, OCI offre le service de science des données et Oracle Machine Learning pour l'entraînement de modèles de fraude personnalisés tels que l'amélioration du gradient ou des algorithmes de graphique pour la fraude. Vous pouvez déployer des modèles, tels qu'un modèle XGBoost pour la fraude, en tant que points d'extrémité à l'aide du déploiement de modèle du service Science des données afin qu'ils puissent être appelés par un agent. Pour simplifier la démonstration, vous pouvez contourner le modèle complexe et utiliser directement un petit jeu de règles ou une fonction de notation synthétique. L'architecture prend en charge l'échange dans un modèle d'apprentissage automatique sophistiqué plus tard sans modifier l'orchestration.
- Oracle Cloud Infrastructure Language fournit des analyses de texte dans les cas où vous devez également analyser les notes non structurées ou les communications dans un cas de fraude. Toutefois, pour notre cas d'utilisation principal, les données structurées et le LLM fournissent les fonctionnalités nécessaires.
Mise en réseau et intégration
La configuration du réseau en nuage virtuel (VCN) et une passerelle de service OCI garantissent que l'orchestrateur et les agents utilisant les instances du service Fonctions OCI et du service Calcul pour OCI peuvent communiquer en toute sécurité avec la base de données et les services d'intelligence artificielle sans exposer les données sur l'Internet public. Le service Gestion des identités et des accès d'OCI (IAM) contrôle l'accès afin que seuls l'orchestrateur et les agents puissent appeler les API de l'autre et accéder à la base de données. Ceci est important pour maintenir la sécurité, en particulier dans un contexte financier. À des fins de démonstration, vous pouvez également configurer la surveillance à l'aide du service Journalisation OCI pour suivre les exécutions de fonction d'agent et les traces OCI Application Performance Monitoring pour afficher la latence de flux de bout en bout.
Interface client
L'utilisateur interagit avec le système à l'aide d'un élément frontal Web ou mobile simple pour appeler le service de passerelle d'API OCI pour déclencher une analyse ou à l'aide d'une interface Oracle Digital Assistant (agent conversationnel) pour une démonstration plus interactive. Par exemple, un analyste pourrait interagir avec l'agent d'analyse de la fraude en fournissant une invite d'agent conversationnel telle que "Investigate transaction #123" et le système répond à l'analyse. Oracle Digital Assistant peut être un ajout facultatif pour présenter un élément frontal conversationnel, mais le cas d'utilisation principal peut simplement afficher les résultats sur un tableau de bord ou envoyer une alerte par courriel à l'aide du service Avis OCI.

Phase 1 : Implémenter l'orchestration à l'aide de MCP

Dans la mise en œuvre initiale, l'objectif est de s'assurer que le système peut orchestrer plusieurs agents et peut s'intégrer aux systèmes Oracle, avant d'ajouter une logique d'IA complexe.

Pour atteindre cet objectif, le plan met l'accent sur la mécanique d'orchestration des agents et utilise Google MCP Toolbox for Databases (également appelé Gen AI Toolbox) comme point de départ pour l'orchestrateur MCP (Model Context Protocol). La boîte à outils, une base de code open source sur GitHub, est un serveur MCP pour les bases de données conçues pour connecter des agents basés sur LLM à des bases de données SQL. Cette architecture adapte la boîte à outils pour Oracle Cloud Infrastructure (OCI) en connectant des outils propres à Oracle et en le déployant sur OCI.

La phase 1 de ce plan crée un squelette d'orchestration fonctionnel sur OCI qui s'intègre avec succès à une base de données Oracle et inclut un serveur MCP central (boîte à outils d'IA générative) orchestrant au moins deux agents (extraction et analyse des données). La phase 2 de ce plan introduit un raisonnement plus avancé.

Définitions d'outils
Dans la boîte à outils de l'intelligence artificielle générative, un outil est une action qu'un agent peut effectuer, par exemple effectuer une interrogation SQL spécifique. Un outil est défini de manière déclarative, par exemple à l'aide de YAML, et est accessible via le serveur MCP. Le cas d'utilisation courant crée un registre d'outils similaire pour les actions telles que "Extraire les transactions récentes pour l'utilisateur" ou "Obtenir les détails de la politique", chaque action étant mappée à une interrogation de base de données Oracle ou à un appel de fonction OCI. Le registre permet à un agent d'appeler ces outils par nom. L'avantage d'une approche axée sur la configuration est la flexibilité : vous pouvez mettre à jour ou ajouter de nouveaux outils sans redéployer l'ensemble de l'application. À des fins de démonstration, l'orchestration de la phase 1 peut être plus scénarisée, avec des outils appelés en séquence, mais l'architecture jette les bases de la phase 2 où l'agent peut décider dynamiquement quels outils utiliser.
Cadre d'orchestration
La boîte à outils de l'IA générative fonctionne avec les cadres d'orchestration des agents tels que LangChain/Langraph et LlamaIndex AgentWorkflow. Dans cette implémentation, le serveur MCP coordonne la séquence des appels d'agent. Vous pouvez définir un script pour l'orchestration à l'aide d'un flux de travail simple, tel que l'appel de l'agent de données, l'appel de l'agent de fraude, puis la prise de décision. Vous pouvez le faire avec du code personnalisé ou en utilisant une bibliothèque de flux de travail existante. Il est utile d'exploiter toutes les bibliothèques ou modèles de client Gen AI Toolbox pour tenir à jour le contexte. L'orchestrateur utilise le résultat de l'agent de données comme entrée de la structure d'invite/d'entrée de l'agent de fraude. La phase 1 garantit que le flux de travail fonctionne correctement et que le contexte est préservé avec précision entre les étapes. Il en résulte une couche d'orchestration qui simplifie l'exécution d'un système d'un ou plusieurs agents, tient à jour le contexte entre les étapes et prend en charge les flux de travail multi-agents comme décrit pour AgentWorkflow, mais mis en oeuvre dans ce cas avec les services OCI.
Observabilité et journalisation
Gen AI Toolbox est livré avec la prise en charge intégrée OpenTelemetry pour la surveillance de l'utilisation des outils. Le service Journalisation pour OCI fournit la journalisation de chaque agent et appel d'outil pour faciliter le débogage et fournir une visibilité sur ce que chaque agent fait lors des démonstrations. La phase 1 peut utiliser la console OCI ou les journaux pour montrer comment l'orchestrateur appelle une fonction pour interroger la base de données, ce qui a été retourné, puis comment l'analyse de la fraude a été effectuée. Cette transparence est attrayante pour les parties prenantes et contribue à renforcer la confiance dans les décisions en matière d'IA.

Phase 2 : Mettre en oeuvre une intelligence LLM améliorée

La deuxième phase de ce plan intègre le raisonnement avancé du grand modèle de langage (LLM) et des agents supplémentaires pour rendre le système plus autonome et perspicace.

L'architecture fondamentale reste en grande partie la même que dans la phase 1, mais vous remplacez ou augmentez simplement les internes des agents et en ajoutez de nouveaux. Le serveur MCP continue d'être la colle d'intégration, le courtage entre l'agent LLM et la base de données OCI, les fonctions, etc. Cette approche progressive montre la progression incrémentielle en démontrant d'abord l'ossature d'OCI avec une logique simple, puis en connectant un puissant LLM pour rendre le système beaucoup plus intelligent dans l'explication et le traitement des cas de fraude.

Raisonnement d'agent basé sur le GML
Au lieu d'effectuer des actions dans une séquence fixe, l'agent d'analyse de fraude de la phase 2 utilise l'IA générative d'OCI et un LLM pour décider dynamiquement quels outils appeler et quand. Par exemple, étant donné une instruction ouverte ("Investigate this claim for fraud"), l'invite de l'agent pouvait énumérer les outils disponibles (requêtes de base de données, vérification des sanctions, etc.), et le LLM pouvait planifier une séquence d'appels. Cela s'apparente à un agent de type ReAct ou à l'utilisation des capacités de planification de LangChain. L'orchestrateur MCP facilite ces interactions agent-outil, en bouclant les décisions du LLM au moyen d'exécutions d'outils et en retournant des résultats. Le service Agents d'IA générative pour Oracle Cloud Infrastructure met l'accent sur l'orchestration des outils pour gérer des flux de travail complexes. Dans l'architecture actuelle, nous mettons en œuvre ce concept en combinant l'approche Gen AI Toolbox avec le LLM d'OCI. Vous pouvez incorporer des cadres tels que LangChain (pris en charge dans Oracle Cloud Infrastructure Data Science) pour faciliter la gestion des invites, tels que "Outil : GetRecentTransactions(user_id=123)", et pour analyser les sorties LLM que l'orchestrateur peut exécuter. Cette capacité fait de l'analyseur de fraude un agent plus cognitif capable de raisonner en plusieurs étapes qui permet des dialogues d'enquête de fraude plus complexes.
Agents et outils supplémentaires
Vous pouvez introduire des agents supplémentaires pour élargir les capacités du système. Par exemple, un agent d'analyse graphique pourrait utiliser l'analyse réseau, telle qu'une base de données graphique ou un modèle d'apprentissage automatique, pour trouver des relations entre des entités, telles que des courriels ou des appareils courants sur les comptes utilisés par les réseaux de fraude. Un autre peut être un agent d'explication qui vérifie spécifiquement les sorties pour la conformité ou simplifie le langage pour une explication orientée client. Chaque agent utilise un service OCI spécifique : un agent graphique peut utiliser Oracle Graph ou une bibliothèque d'analyses de réseau dans le service de science des données. L'orchestrateur MCP peut coordonner ces agents en parallèle ou en séquence selon les besoins. Par exemple, une fois l'agent d'analyseur de fraude terminé, l'orchestrateur peut déclencher un agent d'avis qui utilise le service de transmission de messages pour OCI ou le service Avis pour OCI pour envoyer un rapport aux enquêteurs. L'orchestrateur fonctionne comme un chef d'orchestre : ajouter plus d'agents enrichit l'orchestre d'analyse sans avoir besoin d'une réécriture de la logique centrale.
Boucle de rétroaction d'apprentissage automatique
La phase 2 peut intégrer l'apprentissage au fil du temps. Tous les résultats, que la fraude soit confirmée ou non, peuvent être intégrés dans Oracle Autonomous Data Warehouse et mis à profit pour entraîner de nouveau des modèles à l'aide des pipelines du service Science des données. Bien qu'elle ne fasse pas partie de l'orchestration des agents en temps réel, elle ferme la boucle dans le cycle de vie de la solution. En démontrant qu'OCI peut non seulement effectuer la détection, mais également l'améliorer à l'aide de données historiques avec AutoML ou Oracle Machine Learning, vous pouvez montrer une amélioration continue aux parties prenantes.