Acerca de la creación y gestión de un agente múltiple con Oracle Digital Assistant

A medida que las empresas adoptan cada vez más agentes de IA generativa (GenAI) para agilizar las operaciones y mejorar las experiencias de los clientes, la necesidad de una plataforma completa para gestionar estos agentes se vuelve primordial. Las organizaciones buscan interfaces de usuario intuitivas donde puedan diseñar, desplegar y orquestar múltiples agentes de IA, integrándolos sin problemas con API, flujos de trabajo y capacidades GenAI según sea necesario.

Oracle planea implementar la plataforma OCI Generative AI Agents Platform. Mientras esperamos la próxima versión, los proyectos de los clientes demostraron que Oracle Digital Assistant (ODA) puede encajar muy bien como orquestador para los agentes de IA. Con su robusta conectividad de API, despliegue multicanal, diseñador de flujos y bloques de LLM, ODA permite a las empresas gestionar de manera eficiente todo el ciclo de vida de los agentes de IA.

Por lo tanto, permite explorar cómo ODA proporciona un enfoque estructurado para crear, gestionar y escalar agentes de IA.

Oracle Digital Assistant proporciona un ecosistema completo para crear, gestionar y escalar agentes de IA con integraciones de API perfectas, despliegue multicanal, capacidades de LLM y automatización del flujo de trabajo. Al aprovechar ODA, las organizaciones pueden gestionar de manera eficiente todo el ciclo de vida de los agentes de IA, garantizando agilidad, escalabilidad y experiencias de usuario mejoradas. Esto también se aplica a los agentes de IA desarrollados con tecnologías que no son de OCI y hay un ejemplo público de ODA + OpenAI en Bosch.

A medida que las empresas continúan su transformación impulsada por IA, ODA se erige como un poderoso habilitador, simplificando el despliegue de asistentes digitales inteligentes al tiempo que garantiza el control, la seguridad y el valor empresarial.

Comprender las ventajas de utilizar Oracle Digital Assistant para crear y gestionar varios agentes

  • ODA proporciona potentes capacidades de integración de servicios de API, lo que permite a los agentes conectarse con cualquier sistema backend. Soporta API de REST, interacciones de bases de datos y servicios externos en la nube. Facilita la recuperación de datos sencilla y flujos de trabajo transaccionales sin el desarrollo de backend personalizado.
  • Los agentes de despliegue multicanal creados con ODA se pueden desplegar en varios canales, incluidas plataformas web, móviles, de mensajería (WhatsApp, Slack, Teams) e interfaces de voz. Esto garantiza una experiencia de usuario coherente en todos los puntos de contacto de interacción.
  • Diseñador de flujo visual para el desarrollo de agentes sin código El diseñador de flujos proporciona un entorno con poco código y sin código para diseñar conversaciones y flujos de trabajo basados en IA. Permite a los usuarios empresariales y desarrolladores crear, probar y desplegar agentes rápidamente sin realizar grandes esfuerzos de codificación.
  • Los bloques de LLM para la integración de IA generativa ODA admiten la integración del modelo de lenguaje grande (LLM), lo que permite a los agentes de IA aprovechar las capacidades de GenAI cuando es necesario. Las organizaciones pueden llamar a cualquier LLM (Oracle GenAI, Cohere, Meta, etc.) dentro del flujo de trabajo de un agente. Soporte para creador de peticiones de datos
  • Gestión centralizada de peticiones de datos: los administradores pueden gestionar y actualizar varias peticiones de datos desde una única ubicación sin modificar el diseñador de flujos, lo que garantiza actualizaciones y coherencia perfectas en las interacciones de IA.
  • Los agentes de IA de automatización y orquestación de flujos de trabajo pueden disparar y gestionar flujos de trabajo dentro de ODA o motores de flujo de trabajo externos. Admite la automatización basada en eventos, lo que permite interacciones de agentes dinámicas y con capacidad de respuesta. Permite la automatización de RR. HH., TI y soporte al cliente a través de flujos de trabajo basados en IA.
  • Advanced Analytics & Monitoring ODA proporciona análisis e informes integrados para realizar un seguimiento del rendimiento de los agentes y las interacciones de los usuarios. Permite la optimización basada en estadísticas en tiempo real y comentarios de los usuarios.
  • Las funciones de seguridad de nivel empresarial garantizan el cumplimiento de las normativas de protección de datos. Control de acceso basado en roles (RBAC) y logs de auditoría para gobernanza.

Arquitectura

El uso de ODA con un bloque de LLM le permite crear agentes de IA para arquitecturas muy simples o complejas (por ejemplo, el supervisor uno). Los agentes de IA pueden llamar a herramientas, a una base de conocimientos y a otros agentes, decidiendo de forma autónoma qué herramienta utilizar en función de la solicitud del usuario.

Aunque su arquitectura específica puede diferir de la que se presenta en este manual, este ejemplo representa una implantación típica de un servicio de varios agentes desarrollado en ODA. En esta arquitectura de ejemplo, el chat se origina en la capa de aplicación, que consta de una instancia de Microsoft Teams y una aplicación personalizada. El contenido de chat, o consulta, se dirige al componente Canales de ODA y, a continuación, a un chatbot de aptitudes. Al utilizar ODA, puede llamar a cualquier API; por ejemplo, en este caso, las API de Oracle Fusion HCM. A continuación, Traffic pasa del chatbot Skills a un agente de enrutador GenAI, que, según el tema del chat, lo dirige al agente HRMS adecuado o, si la consulta no se resuelve o es general, a un agente RAG.

La API puede utilizar cualquier servicio de backend de Fusion o del conjunto de EBS, ya sea mediante Oracle Integration o no. Esto permite a los agentes de IA de ODA utilizar casi todos los tipos de API disponibles en Oracle Cloud. Si la consulta pasa a uno de los agentes de HRMS, se procesa y, a continuación, se envía mediante el middleware de Oracle Integration a uno de los servicios de Oracle Fusion ERP adecuados; por ejemplo, Oracle E-Business Suite,Oracle Procurement, Oracle Fusion Cloud Human Capital Management u Oracle Cloud ERP. Estos servicios procesan la consulta y devuelven la información necesaria a través de los agentes de HRMS y, a continuación, a través del agente de enrutador, el chatbot de aptitudes, el componente Canales y sale de ODA, enlazado a la capa de aplicación desde la que se originó. Cuando está conectado, el agente puede llamar a la API de los backends mediante los derechos otorgados al usuario conectado. Tenga en cuenta que cada agente es en sí mismo un código que realiza llamadas en segundo plano al servicio GenAI. En este ejemplo, puede conectarse mediante Fusion o MS Teams.

El siguiente diagrama ilustra esta arquitectura:


Descripción de multi-agent-oda-arch.png a continuación
Descripción de la ilustración multi-agent-oda-arch.png

multi-agente-oda-arch-oracle.zip

Esta arquitectura de ejemplo contiene los siguientes componentes:
  • Región

    Una región de Oracle Cloud Infrastructure es un área geográfica localizada que contiene uno o más centros de datos, que alojan dominios de disponibilidad. Las regiones son independientes de otras regiones y pueden haber grandes distancias que las separan (entre países o incluso continentes).

  • Oracle Digital Assistant

    Oracle Digital Assistant proporciona un ecosistema completo para crear, gestionar y escalar agentes de IA con integraciones de API perfectas, despliegue multicanal, capacidades de LLM y automatización del flujo de trabajo. Al aprovechar ODA, las organizaciones pueden gestionar de manera eficiente todo el ciclo de vida de los agentes de IA, garantizando agilidad, escalabilidad y experiencias de usuario mejoradas.

  • Canales

    Los canales transportan el chat de ida y vuelta de los usuarios de diversas plataformas de mensajería al asistente digital y sus distintos conocimientos. También hay canales para la escalada y las pruebas del agente de usuario. Puede exponer sus asistentes digitales y aptitudes independientes a los usuarios mediante la configuración de canales en ODA.

  • Aptitudes

    Una aptitud es un chatbot orientado a un conjunto específico de tareas o a atender una solicitud de usuario.

  • Agente de enrutador

    Un agente de enrutador es un agente de IA que dirige las consultas de los usuarios al agente de IA relevante y más adecuado en función de la naturaleza de la consulta. Un agente de enrutador confía en los LLM para analizar y enrutar dinámicamente las consultas en función del contexto, lo que elimina la necesidad de intenciones predefinidas o datos de entrenamiento exhaustivos, al tiempo que logra una funcionalidad sin disparos

  • Agente de RAG

    Un agente RAG combina el poder de la generación aumentada de recuperación (RAG) y los agentes de IA para mejorar la precisión, la adaptabilidad y la complejidad de las tareas de recuperación y generación de información.

  • Abandona al agente

    El agente de hojas permite a un usuario reservar días festivos o tiempo libre en el backend de HCM. Llama a la API necesaria en función de la solicitud de lenguaje natural del usuario.

  • Agente de cartas

    El agente de cartas es un componente de IA que ayuda a escribir cartas, ya sean personales, profesionales o de otro tipo. Aprovecha las capacidades de IA para generar borradores, personalizar el contenido e incluso sugerir un lenguaje o tono adecuado.

  • Agente de gastos

    El agente de gastos le permite gestionar e informar sus gastos.

  • Agente de reclamaciones

    El agente de reclamaciones le permite gestionar y notificar sus reclamaciones. Llama a la API necesaria en función de la solicitud en lenguaje natural del usuario.

  • Middleware de integración de OIC

    Los servicios de integración de OCI conectan cualquier aplicación y origen de datos, incluidos Salesforce, SAP, Shopify, Snowflake y Workday, para automatizar los procesos integrales y centralizar la gestión. La amplia gama de integraciones, con adaptadores incorporados y personalización con poco código, simplifican la migración a la nube al tiempo que optimizan las operaciones híbridas y multinube.

  • Servicio GenAI de OCI

    OCI Generative AI (GenAI) es un servicio totalmente gestionado para integrar a la perfección varios modelos de lenguaje en una amplia gama de casos de uso, incluida la asistencia de escritura, el resumen, el análisis y el chat.

Acerca de las funciones adicionales de bloques del LLM en ODA

Además de los componentes enumerados, Oracle Digital Assistant proporciona funciones avanzadas de bloques de LLM que mejoran el control y la personalización de las respuestas de los agentes de IA:

Entre estas funciones se incluyen:
  • Aplicar respuesta de LLM con formato JSON: asegura que las respuestas de LLM sigan un esquema JSON predefinido para salidas estructuradas. Si es necesario, un manejador de eventos puede transformar el JSON en un formato fácil de usar, como una tabla o un formulario estructurados.

    Note:

    Defina Usar Streaming en False al aplicar formato JSON.
  • Número de reintentos: define el número máximo de reintentos cuando se producen errores de validación (entidad o JSON). La petición de datos de reintento resalta los errores y solicita al LLM que los corrija. Si los reintentos superan el límite, el cuadro de diálogo sigue la transición de error.
  • Mensaje de reintento: notifica a los usuarios cuando se produce un reintento de LLM debido a errores de validación; por ejemplo, mejorando la respuesta.
  • Manejador de personalización de validación: permite la validación especializada mediante un manejador personalizado desplegado en la aptitud. Puede:
    • Procesar más respuestas del LLM.
    • Evaluar las solicitudes de los usuarios de contenido inapropiado.
    • Aplicar la validación de entidades interdependientes, garantizando que determinados valores requieran o excluyan otros.
    Debe preconfigurar el manejador en la configuración de aptitud.
  • Analice las llamadas a los LLM y las respuestas.

Acerca de la gestión del ciclo de vida del agente de IA en Oracle Digital Assistant

La gestión del ciclo de vida del agente de IA se puede resumir en las cinco etapas que se describen a continuación.

  1. Plan y diseño
    1. Defina el caso de uso y el ámbito del agente de AI.
    2. Identifique las integraciones y los flujos de trabajo de API necesarios.
    3. Diseñar el flujo de conversación mediante el diseñador de flujos de ODA.
  2. Desarrollo e integración
    1. Configure los servicios de API y la conectividad de backend.
    2. Implantar bloques de LLM para respuestas generativas.
    3. Configure modelos de entrenamiento y reconocimiento de intenciones para una mayor precisión.
  3. Desplegar y exponer
    1. Despliegue el agente de IA en varios canales (web, móvil, WhatsApp, Teams, etc.).
    2. Garantizar mecanismos de acceso y autenticación seguros.
  4. Control y optimización
    1. Supervise continuamente las interacciones de los agentes mediante análisis de ODA.
    2. Mejore la precisión refinando intenciones y modelos de entrenamiento.
    3. Optimice los flujos de trabajo en función de los comentarios de los usuarios en tiempo real.
  5. Ampliación y mantenimiento
    1. Agregue nuevas capacidades a medida que evolucionan las necesidades empresariales.
    2. Garantice actualizaciones periódicas de seguridad y conformidad.
    3. Ampliar a unidades de negocio o geografías adicionales según sea necesario.