A propos de la création et de la gestion d'un agent multiple avec Oracle Digital Assistant

Alors que les entreprises adoptent de plus en plus des agents d'IA générative (GenAI) pour rationaliser les opérations et améliorer l'expérience client, la nécessité d'une plate-forme complète pour gérer ces agents devient primordiale. Les entreprises recherchent des interfaces utilisateur intuitives où elles peuvent concevoir, déployer et orchestrer plusieurs agents d'IA, en les intégrant de manière transparente aux API, aux workflows et aux fonctionnalités GenAI selon les besoins.

Oracle prévoit de déployer la plate-forme OCI Generative AI Agents. Alors que nous attendons avec impatience la prochaine version, les projets client ont prouvé qu'Oracle Digital Assistant (ODA) peut très bien convenir aux agents d'IA. Grâce à sa connectivité API robuste, son déploiement multicanal, son concepteur de flux et ses blocs de LLM, ODA permet aux entreprises de gérer efficacement l'ensemble du cycle de vie des agents d'IA.

Voyons donc comment ODA fournit une approche structurée pour la création, la gestion et la mise à l'échelle des agents d'IA.

Oracle Digital Assistant fournit un écosystème complet pour la création, la gestion et la mise à l'échelle des agents d'IA avec des intégrations d'API transparentes, un déploiement multicanal, des fonctionnalités de LLM et l'automatisation des workflows. En tirant parti d'ODA, les entreprises peuvent gérer efficacement l'ensemble du cycle de vie des agents d'IA, garantissant l'agilité, l'évolutivité et une expérience utilisateur améliorée. Cela s'applique également aux agents d'IA développés avec des technologies non OCI et il existe un exemple public d'ODA + OpenAI chez Bosch.

Alors que les entreprises poursuivent leur transformation basée sur l'IA, ODA est un puissant catalyseur, simplifiant le déploiement d'assistants numériques intelligents tout en garantissant le contrôle, la sécurité et la valeur commerciale.

Comprendre les avantages de l'utilisation d'Oracle Digital Assistant pour créer et gérer des agents multiples

  • ODA fournit de puissantes fonctionnalités d'intégration de services d'API, permettant aux agents de se connecter à n'importe quel système back-end. Prend en charge les API REST, les interactions de base de données et les services cloud externes. Facilite la récupération de données et les workflows transactionnels sans développement back-end personnalisé.
  • Les agents de déploiement multicanaux créés à l'aide d'ODA peuvent être déployés sur plusieurs canaux, y compris les plates-formes Web, mobiles, de messagerie (WhatsApp, Slack, Teams) et les interfaces vocales. Cela garantit une expérience utilisateur cohérente sur tous les points de contact d'interaction.
  • Concepteur de flux visuel pour le développement d'agents sans code Le concepteur de flux fournit un environnement low code/no code pour la conception de conversations et de workflows basés sur l'IA. Permet aux utilisateurs professionnels et aux développeurs de créer, tester et déployer rapidement des agents sans effort de codage important.
  • LLM Blocks for Generative AI Integration ODA prend en charge l'intégration de grands modèles de langage (LLM), ce qui permet aux agents d'IA d'exploiter les fonctionnalités GenAI si nécessaire. Les entreprises peuvent appeler n'importe quel LLM (Oracle GenAI, Cohere, Meta, etc.) dans le workflow d'un agent. Prise en charge du générateur d'invites
  • Gestion centralisée des invites : les administrateurs peuvent gérer et mettre à jour plusieurs invites à partir d'un seul emplacement sans modifier le concepteur de flux, ce qui garantit des mises à jour transparentes et une cohérence entre les interactions d'IA.
  • Les agents IA d'automatisation et d'orchestration des workflows peuvent déclencher et gérer des workflows au sein d'ODA ou de moteurs de workflow externes. Prend en charge l'automatisation basée sur les événements, permettant des interactions d'agent dynamiques et réactives. Permet l'automatisation du support RH, informatique et client grâce à des workflows basés sur l'IA.
  • Advanced Analytics & Monitoring ODA fournit des analyses et des rapports intégrés pour suivre les performances des agents et les interactions avec les utilisateurs. Permet une optimisation basée sur des informations en temps réel et des commentaires des utilisateurs.
  • Les fonctionnalités de sécurité de niveau entreprise garantissent la conformité aux réglementations en matière de protection des données. Contrôle d'accès basé sur les rôles (RBAC) et journaux d'audit pour la gouvernance.

Architecture

L'utilisation d'ODA avec un bloc LLM vous permet de créer des architectures fpr d'agents d'IA très simples à complexes (par exemple, superviseur). Les agents d'IA peuvent appeler des outils, une base de connaissances et d'autres agents, en décidant de manière autonome quel outil utiliser en fonction de la demande de l'utilisateur.

Bien que votre architecture spécifique puisse différer de celle présentée dans ce guide, cet exemple représente une implémentation typique d'un service multi-agent développé dans ODA. Dans cet exemple d'architecture, la discussion provient de la couche d'application, qui comprend une instance de Microsoft Teams et une application personnalisée. Le contenu du chat, ou requête, est dirigé vers le composant Canaux d'ODA, puis vers un chatbot Skills. Grâce à ODA, vous pouvez appeler n'importe quelle API, par exemple, les API Oracle Fusion HCM. Le trafic passe ensuite du chatbot Compétences à un agent de routeur GenAI qui, selon l'objet du chat, le dirige vers l'agent HRMS approprié ou, si la requête n'est pas résolue ou générale, vers un agent RAG.

L'API peut utiliser n'importe quel service back-end de Fusion ou de la suite EBS, qu'il s'agisse d'Oracle Integration ou non. Les agents d'IA ODA peuvent ainsi utiliser presque tous les types d'API disponibles dans Oracle Cloud. Si la requête passe à l'un des agents HRMS, elle est traitée, puis envoyée via le middleware Oracle Integration vers l'un des services Oracle Fusion ERP appropriés, par exemple, Oracle E-Business Suite, Oracle Procurement, Oracle Fusion Cloud Human Capital Management ou Oracle Cloud ERP. Ces services traitent la requête et transmettent les informations nécessaires via les agents HRMS, puis via l'agent de routeur, le chatbot Skills, puis le composant Channels, et quittent ODA, lié à la couche d'application d'où il provient. Une fois connecté, l'agent peut appeler l'API des back-ends en utilisant les droits accordés à l'utilisateur connecté. Chaque agent est lui-même un code qui effectue des appels en arrière-plan vers le service GenAI. Dans cet exemple, vous pouvez vous connecter en utilisant Fusion ou MS Teams.

Le schéma suivant illustre cette architecture :


Description de l'image multi-agent-oda-arch.png
Description de l'image multi-agent-oda-arch.png

multi-agent-oda-arch-oracle.zip

Cet exemple d'architecture contient les composants suivants :
  • Région

    Une région Oracle Cloud Infrastructure est une zone géographique localisée qui contient des centres de données, hébergeant des domaines de disponibilité. Les régions sont indépendantes les une des autres et peuvent les séparer d'un pays ou d'un continent à l'autre par de grandes distances.

  • Oracle Digital Assistant

    Oracle Digital Assistant fournit un écosystème complet pour la création, la gestion et la mise à l'échelle des agents d'IA avec des intégrations d'API transparentes, un déploiement multicanal, des fonctionnalités de LLM et l'automatisation des workflows. En tirant parti d'ODA, les entreprises peuvent gérer efficacement l'ensemble du cycle de vie des agents d'IA, garantissant l'agilité, l'évolutivité et une expérience utilisateur améliorée.

  • Canaux

    Les canaux véhiculent les discussions avec les utilisateurs de différentes plates-formes de messagerie vers l'assistant numérique et ses différentes briques. Il existe également des canaux pour l'escalade et le test des agents utilisateur. Vous pouvez exposer vos assistants numériques et vos briques autonomes aux utilisateurs en configurant des canaux dans ODA.

  • Compétences

    Une compétence est un chatbot orienté vers un ensemble spécifique de tâches ou répond à une demande utilisateur.

  • Agent de routeur

    Un agent de routeur est un agent AI qui dirige les requêtes utilisateur vers l'agent AI pertinent et le plus approprié en fonction de la nature de la requête. Un agent de routeur s'appuie sur les LLM pour analyser et acheminer dynamiquement les requêtes en fonction du contexte, éliminant ainsi le besoin d'intentions prédéfinies ou de données d'entraînement étendues tout en obtenant une fonctionnalité zéro tir

  • Agent RAG

    Un agent RAG combine la puissance des agents de génération augmentée par récupération (RAG) et d'IA pour améliorer la précision, l'adaptabilité et la complexité des tâches de récupération et de génération d'informations.

  • quitte l'agent

    L'agent Leaves permet à un utilisateur de réserver des vacances ou des congés dans le back-end HCM. Il appelle l'API nécessaire en fonction de la demande en langage naturel de l'utilisateur.

  • Agent de lettre

    L'agent de lettres est un composant d'IA qui aide à écrire des lettres, personnelles, professionnelles ou autres. Il tire parti des fonctionnalités d'IA pour générer des brouillons, personnaliser le contenu et même suggérer un langage ou un ton approprié.

  • Agent de frais

    L'agent des dépenses vous permet de gérer et de déclarer vos dépenses.

  • Agent des réclamations

    L'agent Réclamations vous permet de gérer et de signaler vos réclamations. Il appelle l'API requise en fonction de la demande en langage naturel de l'utilisateur.

  • OIC - Middleware d'intégration

    Les services d'intégration OCI connectent toutes les applications et sources de données, y compris Salesforce, SAP, Shopify, Snowflake et Workday, pour automatiser les processus de bout en bout et centraliser la gestion. La large gamme d'intégrations, avec des adaptateurs prédéfinis et une personnalisation low code, simplifie la migration vers le cloud tout en rationalisant les opérations hybrides et multiclouds.

  • Service OCI GenAI

    OCI Generative AI (GenAI) est un service entièrement géré permettant d'intégrer facilement divers modèles de langage dans un large éventail de cas d'utilisation, notamment l'aide à la rédaction, la synthèse, l'analyse et les discussions.

A propos des fonctionnalités de bloc LLM supplémentaires dans ODA

Outre les composants répertoriés, Oracle Digital Assistant fournit des fonctionnalités de bloc LLM avancées qui améliorent le contrôle et la personnalisation des réponses des agents d'IA :

Ces fonctionnalités incluent :
  • Application d'une réponse LLM au format JSON : assure que les réponses LLM suivent un schéma JSON prédéfini pour les sorties structurées. Si nécessaire, un gestionnaire d'événements peut transformer le JSON en un format convivial, comme une table ou un formulaire structuré.

    Remarques :

    Définissez Utiliser Streaming sur Faux lors de l'application du formatage JSON.
  • Nombre de nouvelles tentatives : définit le nombre maximal de nouvelles tentatives lorsque des erreurs de validation (entité ou JSON) se produisent. L'invite de nouvelle tentative met en évidence les erreurs et demande au LLM de les corriger. Si les nouvelles tentatives dépassent la limite, la boîte de dialogue suit la transition d'erreur.
  • Message de nouvelle tentative : avertit les utilisateurs lorsqu'une nouvelle tentative de LLM se produit en raison d'erreurs de validation, par exemple, en améliorant la réponse.
  • Gestionnaire de personnalisation de validation : permet une validation spécialisée via un gestionnaire personnalisé déployé dans la brique. On peut:
    • Traiter davantage les réponses LLM.
    • Évaluer les demandes des utilisateurs concernant un contenu inapproprié.
    • Appliquez la validation d'entité interdépendante, en vous assurant que certaines valeurs en nécessitent ou en excluent d'autres.
    Vous devez préconfigurer le gestionnaire dans les paramètres de brique.
  • Analysez les appels aux LLM et les réponses.

A propos de la gestion du cycle de vie de l'agent AI dans Oracle Digital Assistant

La gestion du cycle de vie de l'agent AI peut être résumée en cinq étapes décrites ci-dessous.

  1. Conception et planification
    1. Définissez le cas d'utilisation et la portée de l'agent AI.
    2. Identifier les intégrations et les workflows d'API requis.
    3. Concevez le flux de conversation à l'aide du concepteur de flux ODA.
  2. Développement et intégration
    1. Configurez les services d'API et la connectivité back-end.
    2. Implémenter des blocs LLM pour les réponses génératives.
    3. Configurez des modèles de reconnaissance d'intention et d'entraînement pour une meilleure précision.
  3. Déployer et afficher
    1. Déployez l'agent d'IA sur plusieurs canaux (Web, mobile, WhatsApp, Teams, etc.).
    2. Garantir des mécanismes d'accès et d'authentification sécurisés.
  4. Surveillance et optimisation
    1. Surveiller en permanence les interactions avec les agents à l'aide des analyses ODA.
    2. Améliorez la précision en affinant les intentions et les modèles d'entraînement.
    3. Optimisez les workflows en fonction des commentaires des utilisateurs en temps réel.
  5. Evolutivité et maintenance
    1. Ajoutez de nouvelles fonctionnalités à mesure que les besoins de l'entreprise évoluent.
    2. Assurez des mises à jour périodiques de la sécurité et de la conformité.
    3. Développez les zones géographiques ou les unités opérationnelles supplémentaires, le cas échéant.