Planificación del despliegue

Despliegue esta arquitectura mediante los siguientes pasos básicos:

  • Asigne los componentes básicos de la arquitectura a los servicios de Oracle Cloud Infrastructure.
  • Planificar la implantación inicial con un enfoque en la orquestación de agentes
  • Mejore la implementación inicial agregando agentes e integrando el razonamiento avanzado del LLM

Asignar servicios de OCI

Oracle Cloud Infrastructure (OCI) proporciona todos los componentes básicos necesarios para implantar este sistema de forma escalable y nativa en la nube.

Asigne cada componente a los servicios de OCI de la siguiente manera.

  • Implantación de Orchestrator

    Puede ejecutar el orquestador de MCP en una instancia de OCI Compute en una máquina virtual (VM) de Oracle Linux o como contenedor en OCI Kubernetes Engine. El orquestador aloja el servidor basado en Toolbox GenAI que escucha las solicitudes de los agentes y las direcciona a las herramientas. La escalabilidad de OCI garantiza que el orquestador pueda manejar múltiples investigaciones de fraude simultáneas. Opcionalmente, puede utilizar OCI API Gateway para exponer un punto final REST seguro para el orquestador, de modo que los sistemas externos o los clientes de demostración puedan iniciar el flujo de trabajo.

    El orquestador aloja todos los agentes que interactúan con la interfaz de usuario y también proporciona enrutamiento a las herramientas. También puede alojar el servidor MCP en Oracle Cloud Infrastructure Data Science, donde las herramientas se exponen mediante el protocolo HTTP que se puede transmitir.


    Descripción de mcp-architecture.png a continuación
    Descripción de la ilustración mcp-architecture.png

    mcp-architecture-oracle.zip

  • Agentes como funciones sin servidor

    La lógica de cada agente se puede desplegar como una función de OCI (microservicio sin servidor) o como un contenedor ligero. Por ejemplo, el agente de recuperación de datos puede ser una función de OCI que acepta parámetros (ID, tipo de consulta) y devuelve datos JSON de Autonomous Database. El analizador de fraude podría ser otra función que tome datos y devuelva una puntuación y un mensaje. El uso de OCI Functions para agentes simplifica el despliegue y proporciona flexibilidad para escalar automáticamente si se ejecutan muchos análisis de fraude en paralelo. El orquestador de MCP llama a los puntos finales de REST de estas funciones mediante OCI API Gateway o mediante llamadas internas. En la fase 1, la ejecución de la herramienta se simplifica mediante la ejecución de las herramientas dentro del proceso de orquestador (como hace GenAI Toolbox) para que el orquestador pueda ejecutar las herramientas de consulta de la base de datos. Sin embargo, el diseño de agentes como funciones independientes de OCI proporciona modularidad y ayuda con las demostraciones al mostrar cada función disparada en secuencia.

  • Almacenamiento y procesamiento de datos

    Oracle Autonomous Transaction Processing (ATP) es el repositorio seguro de todos los datos financieros relevantes, como registros de transacciones, datos de cuentas, información de políticas y casos de fraude históricos. Autonomous Database proporciona capacidades integradas de escalado automático, cifrado y análisis de lenguaje de consulta estructurado (SQL), todas las cuales son cruciales para las cargas de trabajo de servicios financieros del mundo real. El agente de datos utiliza SQL y una interfaz de programación de aplicaciones (API) de datos de cliente o REST de Oracle para recuperar datos de la base de datos. También puede aprovechar herramientas como Oracle Machine Learning para la puntuación avanzada si el modelo de fraude se entrena en la base de datos. Para los datos de transacciones de transmisión, puede utilizar OCI Streaming u Oracle GoldenGate para alimentar los datos en el sistema. Para un escenario de demostración, basta con una consulta directa simple.

  • Servicios de IA y aprendizaje automático

    Para implementar la lógica de detección de fraude, OCI ofrece múltiples opciones. En la fase 1, las reglas o la detección de anomalías se codifican directamente. La fase 2 implementa los servicios de Oracle AI:

    • OCI Generative AI proporciona acceso a grandes modelos de lenguaje para la generación narrativa y el razonamiento del agente del analizador de fraudes. OCI Generative AI es un servicio totalmente gestionado que ofrece LLM preentrenados que se pueden integrar fácilmente en las aplicaciones. El analizador de fraude puede llamar a este servicio utilizando su kit de desarrollo de software (SDK) y API con una petición de datos que contiene los datos de la transacción y recibir un texto de explicación de fraude en respuesta.
    • OCI Anomaly Detection puntúa las transacciones en busca de anomalías en tiempo real con una puntuación alta que indica un posible fraude. Primero entrenado en datos de transacciones históricas, el agente del analizador de fraudes simplemente llama a la API de detección de anomalías para obtener una puntuación de anomalía para una transacción determinada. De manera similar, OCI ofrece Data Science y Oracle Machine Learning para entrenar modelos de fraude personalizados, como el aumento de gradiente o los algoritmos de gráficos para el fraude. Puede desplegar modelos, como un modelo XGBoost para el fraude, como puntos finales mediante el despliegue del modelo de Data Science para que un agente los pueda llamar. Para simplificar la demostración, puede omitir el modelo complejo y utilizar un juego de reglas pequeño o una función de puntuación sintética directamente. La arquitectura soporta el intercambio en un sofisticado modelo de aprendizaje automático más adelante sin cambiar la orquestación.
    • Oracle Cloud Infrastructure Language proporciona análisis de texto en los casos en los que también necesita analizar notas o comunicaciones no estructuradas en un caso de fraude. Sin embargo, para nuestro caso de uso principal, los datos estructurados y el LLM proporcionan la funcionalidad necesaria.
  • Redes e integración

    La configuración de la red virtual en la nube (VCN) y un gateway de servicios de OCI garantizan que el orquestador y los agentes que utilizan instancias de OCI Functions y OCI Compute puedan comunicarse de forma segura con los servicios de base de datos e IA sin exponer datos a través de la red pública de Internet. OCI Identity and Access Management (IAM) controla el acceso para que solo el orquestador y los agentes puedan llamar a las API del otro y acceder a la base de datos. Esto es importante para mantener la seguridad, especialmente en un contexto financiero. Para fines de demostración, también puede configurar la supervisión mediante OCI Logging para realizar un seguimiento de las ejecuciones de funciones del agente y los rastreos de OCI Application Performance Monitoring para mostrar la latencia de flujo de extremo a extremo.

  • Interfaz de cliente

    El usuario interactúa con el sistema mediante un front-end web o móvil simple para llamar al gateway de API de OCI y disparar un análisis, o mediante el uso de una interfaz de Oracle Digital Assistant (bot conversacional) para una demostración más interactiva. Por ejemplo, un analista podría interactuar con el agente del analizador de fraude proporcionando una petición de datos de chatbot como "Investigar transacción #123" y el sistema responde con el análisis. Oracle Digital Assistant puede ser una adición opcional para mostrar un front-end conversacional, pero el caso de uso principal puede simplemente mostrar los resultados en un panel de control o enviar una alerta por correo electrónico mediante OCI Notifications.

Fase 1: Implantación de la Orquestación mediante MCP

En la implementación inicial, el objetivo es garantizar que el sistema pueda orquestar varios agentes y se pueda integrar con los sistemas de Oracle, antes de agregar una lógica de IA compleja.

Para lograr este objetivo, el plan hace hincapié en la mecánica de orquestación de agentes y aprovecha Google MCP Toolbox for Databases (también llamada Gen AI Toolbox) como punto de partida para el orquestador del protocolo de contexto de modelo (MCP). La caja de herramientas, una base de código abierto en GitHub, es un servidor MCP para bases de datos diseñadas para conectar agentes basados en LLM con bases de datos SQL. Esta arquitectura adapta la caja de herramientas de Oracle Cloud Infrastructure (OCI) mediante la conexión de herramientas específicas de Oracle y su despliegue en OCI.

La fase 1 de este plan crea una columna vertebral de orquestación en funcionamiento en OCI que se integra correctamente con una base de datos Oracle e incluye un servidor MCP central (Gen AI Toolbox) que orquesta al menos dos agentes (recuperación y análisis de datos). La fase 2 de este plan introduce un razonamiento más avanzado.

  • Definiciones de herramienta

    En Gen AI Toolbox, una herramienta es una acción que un agente puede realizar, como realizar una consulta SQL específica. Una herramienta se define de forma declarativa, por ejemplo mediante YAML, y se accede a ella a través del servidor MCP. El caso de uso actual crea un registro de herramientas similar para acciones como "Recuperar transacciones recientes para el usuario" u "Obtener detalles de política", con cada acción asignada a una consulta de base de datos Oracle o a una llamada de función de OCI. El registro permite a un agente llamar a estas herramientas por nombre. La ventaja de un enfoque basado en la configuración es la flexibilidad: puede actualizar o agregar nuevas herramientas sin volver a desplegar toda la aplicación. Para fines de demostración, la orquestación en la fase 1 puede tener más scripts, con herramientas llamadas en secuencia, pero la arquitectura sienta las bases para la fase 2, donde el agente puede decidir dinámicamente qué herramientas usar.

  • Marco de orquestación

    Gen AI Toolbox funciona con marcos de orquestación de agentes como LangChain/Langraph y LlamaIndex AgentWorkflow. En esta implantación, el servidor MCP coordina la secuencia de llamadas de agente. Puede crear un script para la orquestación mediante un flujo de trabajo simple, como llamar al agente de datos, llamar al agente de fraude y, a continuación, proporcionar la decisión. Puede hacerlo con código personalizado o mediante una biblioteca de flujos de trabajo existente. Es útil aprovechar cualquier patrón o biblioteca de cliente de Gen AI Toolbox para mantener el contexto. El orquestador utiliza el resultado del agente de datos como entrada a la estructura de entrada/petición de datos del agente de fraude. La fase 1 garantiza que el flujo de trabajo funcione correctamente y que el contexto se mantenga con precisión entre pasos. El resultado es una capa de orquestación que simplifica la ejecución de un sistema de uno o más agentes, mantiene el contexto en los pasos y soporta flujos de trabajo de varios agentes como se describe para AgentWorkflow, pero se implanta en este caso con los servicios de OCI.

  • Observación y registro

    Gen AI Toolbox viene con soporte integrado OpenTelemetry para supervisar el uso de las herramientas. OCI Logging proporciona el registro de cada llamada de agente y herramienta para ayudar en la depuración y para proporcionar visibilidad de lo que hace cada agente durante las demostraciones. La fase 1 puede utilizar la consola o los logs de OCI para mostrar cómo el orquestador llama a una función para consultar la base de datos, qué se devolvió y, a continuación, cómo se realizó el análisis de fraude. Esta transparencia es atractiva para las partes interesadas y ayuda a generar confianza en las decisiones de IA.

Fase 2: Implementación de inteligencia de LLM mejorada

La segunda fase de este plan integra el razonamiento avanzado de modelo de lenguaje grande (LLM) y agentes adicionales para hacer que el sistema sea más autónomo y perspicaz.

La arquitectura fundamental sigue siendo en gran medida la misma que en la fase 1, pero simplemente reemplaza o aumenta los elementos internos de los agentes y agrega otros nuevos. El servidor MCP sigue siendo el pegamento de integración, la intermediación entre el agente de LLM y la base de datos, funciones, etc. de OCI. Este enfoque por fases muestra un progreso incremental al demostrar primero la columna vertebral en OCI con una lógica simple y, luego, al conectar un potente LLM para hacer que el sistema sea mucho más inteligente a la hora de explicar y gestionar casos de fraude.

  • Razonamiento de agentes controlado por LLM

    En lugar de realizar acciones en una secuencia fija, el agente del analizador de fraude en la fase 2 utiliza OCI Generative AI y un LLM para decidir dinámicamente qué herramientas llamar y cuándo. Por ejemplo, dada una instrucción abierta ("Investigar esta reclamación por fraude"), la petición de datos del agente podría enumerar las herramientas disponibles (consultas de base de datos, comprobación de sanciones, etc.), y el LLM podría planificar una secuencia de llamadas. Esto es similar a un agente de estilo ReAct o al uso de las habilidades de planificación de LangChain. El orquestador de MCP facilita estas interacciones de agente a herramienta, haciendo bucles en las decisiones del LLM a través de ejecuciones de herramientas y devolviendo resultados. El servicio Oracle Cloud Infrastructure Generative AI Agents hace hincapié en la orquestación de herramientas para gestionar flujos de trabajo complejos. En la arquitectura actual, implementamos ese concepto combinando el enfoque Gen AI Toolbox con el LLM de OCI. Puede incorporar marcos como LangChain (compatible con Oracle Cloud Infrastructure Data Science) para ayudar a gestionar peticiones de datos, como "Tool: GetRecentTransactions(user_id=123)", y para analizar las salidas de LLM que puede ejecutar el orquestador. Esta capacidad hace que el analizador de fraude sea un agente más cognitivo capaz de razonar en varios pasos que permite diálogos de investigación de fraude más complejos.

  • Agentes y herramientas adicionales

    Puede introducir agentes adicionales para ampliar las capacidades del sistema. Por ejemplo, un agente de análisis de grafos podría utilizar el análisis de red, como una base de datos de grafos o un modelo de aprendizaje automático, para encontrar relaciones entre entidades, como correos electrónicos o dispositivos comunes en las cuentas utilizadas por los anillos de fraude. Otro puede ser un agente de explicación que comprueba específicamente las salidas en busca de conformidad o simplifica el lenguaje para una explicación orientada al cliente. Cada agente utiliza un servicio OCI específico: un agente de grafos puede utilizar Oracle Graph o una biblioteca de análisis de red en Data Science. El orquestador MCP puede coordinar estos agentes en paralelo o en secuencia según sea necesario. Por ejemplo, después de que el agente del analizador de fraude concluya, el orquestador podría disparar un agente de notificación que utilice OCI Email Delivery u OCI Notifications para enviar un informe a los investigadores. El orquestador funciona como director: añadir más agentes enriquece la orquesta de análisis sin necesidad de reescribir la lógica central.

  • Bucle de comentarios de aprendizaje automático

    La fase 2 puede incorporar el aprendizaje a lo largo del tiempo. Todos los resultados, confirmados o no por fraude, se pueden incorporar a un Oracle Autonomous Data Warehouse y aprovechar para volver a entrenar modelos mediante pipelines de Data Science. Aunque no forma parte de la orquestación de agentes en tiempo real, cierra el bucle en el ciclo de vida de la solución. Al demostrar que OCI no solo puede realizar la detección, sino también mejorarla mediante el uso de datos históricos con AutoML u Oracle Machine Learning, puede mostrar una mejora continua a las partes interesadas.