Résumer le clavardage à l'aide de l'IA générative d'Oracle sur une grappe d'IA dédiée

Aujourd'hui, les entreprises comptent sur leurs centres de soutien pour résoudre les problèmes des clients externes. Dans le cadre du processus d'engagement de soutien, l'ingénieur de soutien utilise la communication par clavardage pour interagir efficacement avec le client. Après le chat, pour améliorer l'expérience client, l'ingénieur doit passer plus de temps à partager des notes sommaires sur ce qui a été discuté.
Avec l'aide du service d'intelligence artificielle générative d'Oracle Cloud Infrastructure(OCI), l'ingénieur peut résumer le contenu du clavardage et automatiser le processus de communication de bout en bout. De plus, l'IA générative OCI vous permet de raffiner les modèles et de les personnaliser à l'aide de vos propres données. Vous pouvez tirer parti de la grappe d'IA dédiée pour peaufiner les modèles personnalisés ou héberger des points d'extrémité pour les modèles personnalisés. Les modèles d'apprentissage peuvent résumer efficacement la conversation sur un ton lisible et convivial, ce qui permet à l'ingénieur de gagner un temps précieux et d'augmenter la productivité de l'engagement client.

Cette architecture de référence décrit comment le service d'intelligence artificielle générative OCI résume la communication de clavardage entre les utilisateurs.

Architecture

Cette architecture de référence exploite Oracle Digital Assistant (ODA) pour simuler une conversation avec des utilisateurs humains sur Internet. Les ODA sont des interfaces basées sur l'IA qui aident les utilisateurs à accomplir une variété de tâches dans des conversations en langage naturel. Vous pouvez intégrer ODA à une recherche personnalisée basée sur les connaissances pour fournir à l'utilisateur plus d'informations sur le contexte. Cette architecture utilise également une passerelle d'API OCI pour sécuriser et gérer les API de Generative AI et Digital Assistant. Vous pouvez utiliser ces API pour l'intégration à n'importe quelle application; par exemple, cette architecture s'intègre à Oracle B2C Service Cloud. En utilisant le code de webhook, le robot ODA peut transférer des clavardages à un agent humain pour une analyse détaillée et la résolution des problèmes. Une fois la communication par clavardage fermée, l'IA générative OCI utilise le modèle ajusté hébergé sur la grappe d'IA dédiée pour générer un sommaire du clavardage. Le sommaire est partagé avec le client à l'aide du service de transmission de messages OCI. Cette architecture tire également parti des services de journalisation et de surveillance OCI pour une meilleure visibilité et un meilleur contrôle des ressources. Si le réglage de précision n'est pas nécessaire, vous pouvez utiliser le service géré pour appeler le modèle de base, ce qui élimine le besoin d'une grappe d'IA dédiée.
Dans cette architecture de référence, les services OCI suivants sont provisionnés :
  • Service d'IA générative OCI avec grappe d'IA dédiée pour la récapitulation de texte
  • Oracle Digital Assistant
  • Passerelle d'API OCI
  • Service de transmission de messages OCI
  • Oracle B2C Service Cloud

Le diagramme suivant illustre cette architecture de référence.


Une description de summary-chat-oci-gen-ai.png suit
Description de l'illustration summary-chat-oci-gen-ai.png

résumer-chat-oci-gen-ai-oracle.zip

L'architecture comprend les composants suivants :
  • Région

    Une région OCI est une zone géographique localisée qui contient un ou plusieurs centres de données, appelés domaines de disponibilité. Les régions sont indépendantes les unes des autres, et de grandes distances peuvent les séparer (dans différents pays ou continents).

  • Réseau en nuage virtuel (VCN) et sous-réseaux

    Un VCN est un réseau défini par logiciel personnalisable, configuré dans une région OCI. Comme les réseaux de centre de données traditionnels, les réseaux en nuage virtuels vous offrent un contrôle complet sur votre environnement de réseau. Un VCN peut disposer de plusieurs blocs CIDR sans chevauchement que vous pouvez modifier après avoir créé le VCN. Vous pouvez segmenter un VCN en sous-réseaux, dont la portée peut concerner une région ou un domaine de disponibilité. Un sous-réseau est constitué d'un intervalle contigu d'adresses qui ne chevauchent pas les autres sous-réseaux dans le réseau en nuage virtuel. Vous pouvez modifier la taille d'un sous-réseau après sa création. Un sous-réseau peut être public ou privé.

  • Stockage d'objets

    Le service de stockage d'objets offre un accès rapide à de grandes quantités de données structurées et non structurées de tous types, notamment des sauvegardes de base de données, des données analytiques et du contenu riche, comme des images et des vidéos. Vous pouvez stocker des données en toute sécurité, puis les extraire directement à partir d'Internet ou de la plate-forme en nuage. Vous pouvez faire évoluer le stockage de façon transparente sans que la performance ou la fiabilité des services soit affectée. Utilisez le stockage standard pour le stockage "à chaud" auquel vous devez accéder rapidement, immédiatement et fréquemment. Utilisez le stockage d'archives pour le stockage "à froid" que vous conservez pendant de longues périodes et auquel vous accédez rarement.

  • IA générative OCI
    L'IA générative OCI est un service entièrement géré disponible au moyen d'une API pour intégrer de façon transparente ces modèles de langage polyvalents à un large éventail de cas d'utilisation, notamment l'aide à la rédaction, la récapitulation et le clavardage. Le service d'intelligence artificielle générative pour OCI comprend les modèles de base suivants :
    • Génération : Donnez des instructions pour générer du texte ou extraire des informations de votre texte.
    • Sommaire : Résumez le texte avec le format, la longueur et la tonalité indiqués.
    • Intégration : Convertissez du texte en intégrations de vecteurs à utiliser dans les applications pour les recherches sémantiques, la classification de texte ou la mise en grappe de texte.
  • Grappes d'intelligence artificielle dédiées

    Les grappes dédiées à l'IA sont des ressources de calcul que vous pouvez utiliser pour régler avec précision des modèles personnalisés ou pour héberger des points d'extrémité pour des modèles personnalisés. Les grappes sont dédiées à vos modèles et ne sont pas partagées avec les utilisateurs d'autres locations. L'intelligence artificielle générative OCI de modèle personnalisé vous permet d'utiliser vos propres données pour affiner les modèles.

  • Oracle Digital Assistant

    Digital Assistant est une plate-forme permettant de créer des interfaces conversationnelles ou des agents conversationnels. Un agent conversationnel est un programme informatique qui simule et traite une conversation humaine (écrite ou orale), permettant à des humains d'interagir avec des applications et des données comme s'ils étaient de vraies personnes. Les développeurs assemblent des assistants numériques à partir d'une ou de plusieurs compétences. Les compétences peuvent être basées sur des compétences prédéfinies fournies par Oracle ou des tiers, développées sur mesure ou basées sur l'un des nombreux modèles de compétences disponibles. Digital Assistant achemine la demande de l'utilisateur vers la compétence la plus appropriée pour répondre à la demande de l'utilisateur. Les compétences combinent un moteur d'apprentissage profond multilingue en TLN, un puissant moteur de flux de dialogue et des composants d'intégration pour se connecter aux systèmes dorsaux.

  • API Gateway

    Oracle API Gateway vous permet de publier des API avec des points d'extrémité privés qui sont accessibles depuis votre réseau, mais que vous pouvez exposer au réseau Internet public, au besoin. Les points d'extrémité prennent en charge la transformation, les demandes et les réponses, la spécification CORS, l'authentification et l'autorisation, ainsi que la limitation des demandes pour les API.

  • Service de transmission de messages

    Le service de transmission de messages d'OCI est un service de transmission de messages hautement évolutif, rentable et fiable pour envoyer un volume élevé de courriels générés par les applications pour des communications marketing, d'avis et transactionnelles essentielles, telles que des reçus, des alertes de détection de fraude, une vérification d'identité à plusieurs facteurs et des réinitialisations de mot de passe.

  • Service de gestion des identités et des accès (GIA)

    Le service de gestion des identités et des accès pour OCI (IAM) est le plan de contrôle d'accès pour OCI et Oracle Cloud Applications. L'API IAM et l'interface utilisateur vous permettent de gérer les domaines d'identité et les ressources du domaine d'identité. Chaque domaine d'identité IAM OCI représente une solution autonome de gestion des identités et des accès ou une population d'utilisateurs différente.

  • Journalisation
    Le service de journalisation est un service hautement évolutif entièrement géré qui permet d'accéder aux types de journal suivants à partir de vos ressources en nuage :
    • Journaux du service de vérification : Journaux liés aux événements émis par le service.
    • Journaux de service : Journaux émis par des services individuels tels que passerelle d'API, événements, fonctions, équilibreur de charge, stockage d'objets et journaux de flux VCN.
    • Journaux personnalisés : Journaux contenant des informations de diagnostic provenant d'applications personnalisées, d'autres fournisseurs de services en nuage ou d'un environnement sur place.
  • Surveillance

    Le service de surveillance pour OCI surveille vos ressources en nuage de manière active et passive, à l'aide de mesures pour surveiller les ressources et d'alarmes pour vous aviser lorsque ces mesures répondent aux déclencheurs spécifiés par une alarme.

Confirmation

Auteur : Rajsagar Rawool