À propos de la création et de la gestion d'un agent multiple avec Oracle Digital Assistant

Comme les entreprises adoptent de plus en plus des agents d'IA générative (GenAI) pour rationaliser leurs opérations et améliorer l'expérience client, la nécessité d'une plate-forme complète pour gérer ces agents devient primordiale. Les entreprises recherchent des interfaces utilisateur intuitives où elles peuvent concevoir, déployer et orchestrer plusieurs agents d'IA, en les intégrant de façon transparente aux API, aux flux de travail et aux fonctionnalités GenAI selon les besoins.

Oracle prévoit de déployer la plate-forme OCI Generative AI Agents. Bien que nous attendions avec impatience la prochaine version, les projets des clients ont prouvé, Oracle Digital Assistant (ODA) peut s'adapter parfaitement à l'orchestration des agents d'IA. Grâce à sa connectivité d'API robuste, son déploiement multicanal, son concepteur de flux et ses blocs LLM, ODA permet aux entreprises de gérer efficacement l'ensemble du cycle de vie des agents d'IA.

Découvrez comment ODA propose une approche structurée pour créer, gérer et mettre à l'échelle des agents d'IA.

Oracle Digital Assistant fournit un écosystème complet pour la création, la gestion et l'évolutivité d'agents d'IA avec des intégrations d'API transparentes, un déploiement multicanal, des capacités de LLM et l'automatisation des flux de travail. En tirant parti de l'APD, les organisations peuvent gérer efficacement l'ensemble du cycle de vie des agents d'IA, en assurant agilité, extensibilité et expériences utilisateur améliorées. Cela s'applique également aux agents d'IA développés avec des technologies non OCI et il existe un exemple public d'ODA + OpenAI chez Bosch.

Alors que les entreprises poursuivent leur transformation fondée sur l'intelligence artificielle, l'APD représente un puissant catalyseur, simplifiant le déploiement d'assistants numériques intelligents tout en assurant le contrôle, la sécurité et la valeur commerciale.

Comprendre les avantages d'Oracle Digital Assistant pour créer et gérer des agents multiples

  • ODA offre de puissantes capacités d'intégration de service d'API, ce qui permet aux agents de se connecter à n'importe quel système dorsal. Prend en charge les API REST, les interactions de base de données et les services en nuage externes. Facilite l'extraction des données et les flux de travail transactionnels sans développement dorsal personnalisé.
  • Les agents de déploiement multicanaux créés à l'aide d'ODA peuvent être déployés sur plusieurs canaux, notamment le Web, les appareils mobiles, les plateformes de messagerie (WhatsApp, Slack, Teams) et les interfaces vocales. Cela garantit une expérience utilisateur uniforme dans tous les points de contact d'interaction.
  • Concepteur de flux visuel pour le développement d'agents sans code Le concepteur de flux fournit un environnement à faible code/sans code pour la conception de conversations et de flux de travail basés sur l'IA. Permet aux utilisateurs professionnels et aux développeurs de créer, de tester et de déployer rapidement des agents sans effort de codage important.
  • Les blocs de LLM pour l'intégration de l'IA générative ODA prennent en charge l'intégration des grands modèles de langage (LLM), ce qui permet aux agents d'IA d'exploiter les capacités GenAI si nécessaire. Les organisations peuvent appeler n'importe quel LLM (Oracle GenAI, Cohere, Meta, etc.) dans le flux de travail d'un agent. Prise en charge du générateur d'invites
  • Gestion centralisée des invites : Les administrateurs peuvent gérer et mettre à jour plusieurs invites à partir d'un emplacement unique sans modifier le concepteur de flux, ce qui garantit des mises à jour et une cohérence transparentes dans toutes les interactions d'IA.
  • Les agents d'IA d'automatisation et d'orchestration de flux de travail peuvent déclencher et gérer des flux de travail au sein d'ODA ou de moteurs de flux de travail externes. Prend en charge l'automatisation basée sur les événements, permettant des interactions dynamiques et réactives avec les agents. Permet l'automatisation des RH, des TI et du soutien à la clientèle grâce à des flux de travail axés sur l'IA.
  • Advanced Analytics & Monitoring ODA fournit des analyses et des rapports intégrés pour suivre le rendement des agents et les interactions des utilisateurs. Permet une optimisation basée sur des informations en temps réel et les commentaires des utilisateurs.
  • Sécurité et gouvernance Les fonctions de sécurité de niveau entreprise garantissent la conformité aux réglementations en matière de protection des données. Contrôle d'accès basé sur les rôles (RBAC) et journaux de vérification pour la gouvernance.

Architecture

L'utilisation d'ODA avec un bloc LLM vous permet de créer des agents d'IA avec des architectures très simples à complexes (par exemple, un superviseur). Les agents d'IA peuvent appeler des outils, une base de connaissances et d'autres agents, pour décider de manière autonome quel outil utiliser en fonction de la demande de l'utilisateur.

Bien que votre architecture spécifique puisse différer de celle présentée dans ce livre de jeux, cet exemple représente une implémentation typique d'un service multi-agents développé dans ODA. Dans cet exemple d'architecture, le clavardage provient de la couche d'application, qui comprend une instance de Microsoft Teams et une application personnalisée. Le contenu du clavardage, ou interrogation, est dirigé vers le composant Canaux d'ODA, puis vers un agent conversationnel de compétences. En utilisant ODA, vous pouvez appeler n'importe quelle API; par exemple, dans ce cas, les API Oracle Fusion HCM. Le trafic passe ensuite de l'agent conversationnel Compétences à un agent de routeur GenAI, qui, selon l'objet du clavardage, le dirige vers l'agent HRMS approprié ou, si l'interrogation n'est pas résolue ou générale, vers un agent RAG.

L'API peut utiliser n'importe quel service dorsal de Fusion ou de la suite EBS, que ce soit à l'aide d'Oracle Integration ou non. Les agents d'IA ODA peuvent ainsi utiliser presque tous les types d'API disponibles dans Oracle Cloud. Si l'interrogation passe à l'un des agents HRMS, elle est traitée puis envoyée par l'intermédiaire d'Oracle Integration à l'un des services Oracle Fusion ERP appropriés; par exemple, Oracle E-Business Suite,Oracle Procurement, Oracle Fusion Cloud Human Capital Management ou Oracle Cloud ERP. Ces services traitent l'interrogation et transmettent les informations nécessaires par l'intermédiaire des agents HRMS, puis par l'intermédiaire de l'agent routeur, de l'agent conversationnel des compétences, puis du composant Canaux, et sortent d'ODA, lié à la couche d'application d'où il provient. Lorsqu'il est connecté, l'agent peut appeler l'API des serveurs dorsaux en utilisant les droits accordés à l'utilisateur connecté. Notez que chaque agent est lui-même un code qui effectue des appels en arrière-plan au service GenAI. Dans cet exemple, vous pouvez vous connecter à l'aide de Fusion ou MS Teams.

Le diagramme suivant illustre cette architecture :


Description de multi-agent-oda-arch.png :
Description de l'illustration multi-agent-oda-arch.png

multi-agent-oda-arch-oracle.zip

Cet exemple d'architecture contient les composants suivants :
  • Région

    Une région Oracle Cloud Infrastructure est une zone géographique précise qui contient un ou plusieurs centres de données et qui héberge des domaines de disponibilité. Les régions sont indépendantes les unes des autres, et de grandes distances peuvent les séparer (à travers les pays ou même les continents).

  • Oracle Digital Assistant

    Oracle Digital Assistant fournit un écosystème complet pour la création, la gestion et l'évolutivité d'agents d'IA avec des intégrations d'API transparentes, un déploiement multicanal, des capacités de LLM et l'automatisation des flux de travail. En tirant parti de l'APD, les organisations peuvent gérer efficacement l'ensemble du cycle de vie des agents d'IA, en assurant agilité, extensibilité et expériences utilisateur améliorées.

  • Canaux

    Les canaux permettent le clavardage entre les utilisateurs sur différentes plates-formes de messagerie et l'assistant numérique et ses diverses compétences. Il existe également des canaux pour l'escalade et le test de l'agent utilisateur. Vous pouvez présenter vos assistants numériques et vos compétences autonomes aux utilisateurs en configurant des canaux dans ODA.

  • Aptitudes

    Une compétence est un agent conversationnel orienté vers un jeu spécifique de tâches ou répondant à une demande d'utilisateur.

  • Agent routeur

    Un agent de routeur est un agent d'IA qui dirige les requêtes des utilisateurs vers l'agent d'IA pertinent et le plus approprié en fonction de la nature de la requête. Un agent de routeur s'appuie sur des LLM pour analyser et acheminer dynamiquement des interrogations en fonction du contexte, éliminant ainsi le besoin d'intentions prédéfinies ou de données d'entraînement étendues tout en obtenant une fonctionnalité zéro coup

  • Agent ROV

    Un agent RAG combine la puissance des agents RAG (Retrieval-Augmented Generation) et IA pour améliorer la précision, l'adaptabilité et la complexité des tâches de récupération et de génération d'informations.

  • Quitte l'agent

    L'agent Leaves permet à un utilisateur de réserver des vacances ou des congés dans le système dorsal HCM. Il appelle l'API nécessaire en fonction de la demande en langage naturel de l'utilisateur.

  • Agent de lettre

    L'agent de lettres est un composant d'intelligence artificielle qui aide à écrire des lettres, personnelles, professionnelles ou autres. Il tire parti des capacités de l'IA pour générer des brouillons, personnaliser le contenu et même suggérer un langage ou un ton approprié.

  • Agent de frais

    L'agent Frais vous permet de gérer et de déclarer vos frais.

  • Agent de réclamations

    L'agent des réclamations vous permet de gérer et de signaler vos réclamations. Il appelle l'API nécessaire en fonction de la demande en langage naturel de l'utilisateur.

  • Intergiciel d'intégration OIC

    Les services d'intégration d'OCI connectent n'importe quelle application et source de données, y compris Salesforce, SAP, Shopify, Snowflake et Workday, pour automatiser des processus de bout en bout et centraliser la gestion. La vaste gamme d'intégrations, avec des adaptateurs prédéfinis et une personnalisation à faible code, simplifie la migration vers le nuage tout en simplifiant les opérations hybrides et multinuages.

  • Service OCI GenAI

    OCI Generative AI (GenAI) est un service entièrement géré permettant d'intégrer de manière transparente divers modèles de langage dans un large éventail de cas d'utilisation, notamment l'aide à la rédaction, le résumé, l'analyse et le clavardage.

À propos des fonctions de bloc LLM supplémentaires dans ODA

En plus des composants répertoriés, Oracle Digital Assistant fournit des fonctions de bloc de LLM avancées qui améliorent le contrôle et la personnalisation des réponses des agents d'IA :

Ces fonctions sont les suivantes :
  • Imposer une réponse de GML au format JSON : S'assure que les réponses de GML suivent un schéma JSON prédéfini pour les sorties structurées. Si nécessaire, un gestionnaire d'événements peut transformer le JSON en un format convivial, comme un tableau structuré ou un formulaire.

    Note :

    Réglez Utiliser le service de diffusion en continu à Faux lors de l'application du formatage JSON.
  • Nombre de tentatives : Définit le nombre maximal de tentatives lorsque des erreurs de validation (entité ou JSON) se produisent. L'invite de nouvelle tentative met en évidence les erreurs et demande au GML de les corriger. Si les nouvelles tentatives dépassent la limite, la boîte de dialogue suit la transition d'erreur.
  • Message de nouvelle tentative : Avise les utilisateurs lorsqu'un nouveau GML se produit en raison d'erreurs de validation; par exemple, amélioration de la réponse.
  • Programme de traitement des personnalisations de validation : Permet une validation spécialisée au moyen d'un programme de traitement personnalisé déployé dans la compétence. Il peut :
    • Traiter davantage les réponses au GML.
    • Évaluer les demandes d'utilisateur pour un contenu inapproprié.
    • Appliquer la validation d'entité interdépendante, en s'assurant que certaines valeurs en nécessitent d'autres ou en excluent d'autres.
    Vous devez préconfigurer le programme de traitement dans les paramètres de compétence.
  • Analyser les appels aux LLM et les réponses.

À propos de la gestion du cycle de vie de l'agent d'intelligence artificielle dans Oracle Digital Assistant

La gestion du cycle de vie de l'agent d'IA peut être résumée dans les cinq étapes décrites ci-dessous.

  1. Planifier et concevoir
    1. Définir le cas d'utilisation et la portée de l'agent d'IA.
    2. Identifier les intégrations et les flux de travail d'API requis.
    3. Concevez le flux de conversation à l'aide du concepteur de flux ODA.
  2. Développer et intégrer
    1. Configurer les services d'API et la connectivité dorsale.
    2. Implémentez des blocs LLM pour les réponses génératives.
    3. Configurez des modèles de reconnaissance d'intention et d'entraînement pour une meilleure précision.
  3. Déployer et exposer
    1. Déployez l'agent AI sur plusieurs canaux (web, mobile, WhatsApp, Teams, etc.).
    2. Garantir des mécanismes d'accès et d'authentification sécurisés.
  4. Surveiller et optimiser
    1. Surveiller en continu les interactions avec les agents à l'aide de l'analyse ODA.
    2. Améliorez la précision en affinant les intentions et les modèles d'entraînement.
    3. Optimisez les flux de travail en fonction des commentaires des utilisateurs en temps réel.
  5. Mise à l'échelle et maintenance
    1. Ajoutez de nouvelles capacités à mesure que les besoins d'affaires évoluent.
    2. Assurer des mises à jour périodiques de la sécurité et de la conformité.
    3. Développez jusqu'à des unités d'affaires ou des géographies supplémentaires, au besoin.