Résumez les discussions à l'aide d'Oracle Generative AI sur un cluster d'IA dédié

Aujourd'hui, les entreprises s'appuient sur leurs centres de support pour résoudre les problèmes des clients externes. Dans le cadre du processus d'engagement du support, l'ingénieur du support utilise la communication par chat pour interagir efficacement avec le client. Après la discussion, pour améliorer l'expérience client, l'ingénieur doit consacrer plus de temps à partager des notes récapitulatives sur ce qui a été discuté.
Avec l'aide du service d'IA générative Oracle Cloud Infrastructure (OCI), l'ingénieur peut résumer le contenu de la discussion et automatiser le processus de communication de bout en bout. En outre, OCI Generative AI vous permet d'affiner les modèles et de les personnaliser à l'aide de vos propres données. Vous pouvez tirer parti du cluster d'IA dédié pour affiner les modèles personnalisés ou pour héberger des adresses pour les modèles personnalisés. Les modèles d'apprentissage peuvent résumer efficacement la conversation d'un ton lisible et convivial, ce qui permet à l'ingénieur de gagner un temps précieux et d'augmenter la productivité de l'engagement client.

Cette architecture de référence décrit la façon dont le service OCI Generative AI résume la communication de discussion entre les utilisateurs.

Architecture

Cette architecture de référence s'appuie sur Oracle Digital Assistant (ODA) pour simuler des conversations avec des utilisateurs humains sur Internet. Les ODA sont des interfaces basées sur l'IA qui aident les utilisateurs à exécuter diverses tâches dans des conversations en langage naturel. Vous pouvez intégrer ODA à une recherche personnalisée basée sur les connaissances pour fournir à l'utilisateur plus d'informations sur le contexte. Cette architecture utilise également une passerelle d'API OCI pour sécuriser et gérer les API à partir de l'IA générative et de l'assistant numérique. Vous pouvez utiliser ces API pour l'intégration à n'importe quelle application. Par exemple, cette architecture s'intègre à Oracle B2C Service Cloud. En utilisant le code de webhook, le bot ODA peut transférer des discussions à un agent physique pour une analyse détaillée et une résolution des problèmes. Une fois la communication de discussion fermée, OCI Generative AI utilise le modèle affiné hébergé sur le cluster d'IA dédié pour générer un récapitulatif de la discussion. Le récapitulatif est partagé avec le client à l'aide du service OCI Email Delivery. Cette architecture tire également parti des services OCI Logging et Monitoring pour une meilleure visibilité et un meilleur contrôle des ressources. Si le réglage fin n'est pas requis, vous pouvez utiliser le service géré pour appeler le modèle de base, ce qui élimine la nécessité d'un cluster AI dédié.
Dans cette architecture de référence, les services OCI suivants sont provisionnés :
  • Service OCI Generative AI avec cluster d'IA dédié pour l'agrégation de texte
  • Oracle Digital Assistant
  • OCI API Gateway
  • Distribution de courriels OCI
  • Oracle B2C Service Cloud

Le diagramme suivant illustre cette architecture de référence.


Description de l'image summary-chat-oci-gen-ai.png
Description de l'illustration summary-chat-oci-gen-ai.png

résumé-chat-oci-gen-ai-oracle.zip

L'architecture comporte les composants suivants :
  • Région

    Une région OCI est une zone géographique précise qui contient un ou plusieurs centres de données, appelés domaines de disponibilité. Les régions sont indépendantes les unes des autres et de grandes distances peuvent les séparer (à travers les pays ou même les continents).

  • Réseau cloud virtuel (VCN) et sous-réseaux

    Un VCN est un réseau personnalisable défini par logiciel que vous configurez dans une région OCI. Comme les réseaux de centre de données traditionnels, les réseaux cloud virtuels vous donnent un contrôle total sur l'environnement réseau. Un réseau cloud virtuel peut comporter plusieurs blocs CIDR qui ne se chevauchent pas et que vous pouvez modifier après l'avoir créé. Vous pouvez segmenter un réseau cloud virtuel en plusieurs sous-réseaux ciblant une région ou un domaine de disponibilité. Chaque sous-réseau est composé d'une plage contiguë d'adresses qui ne chevauchent pas celles des autres sous-réseaux du réseau cloud virtuel. Vous pouvez modifier la taille d'un sous-réseau après sa création. Un sous-réseau peut être public ou privé.

  • Stockage d'objet

    Le stockage d'objets fournit un accès rapide à de grandes quantités de données, structurées ou non, de tout type de contenu, y compris des sauvegardes de base de données, des données analytiques et du contenu enrichi tel que des images et des vidéos. Vous pouvez stocker les données, puis les extraire directement à partir d'Internet ou de la plate-forme cloud, et ce, en toute sécurité. Vous pouvez redimensionner le stockage de manière transparente sans dégradation des performances ni de la fiabilité des services. Utilisez le stockage standard pour le stockage "à chaud" auquel vous devez accéder rapidement, immédiatement et fréquemment. Utilisez le stockage d'archive pour le stockage "à froid" que vous conservez pendant de longues périodes et auquel vous accédez rarement.

  • OCI Generative AI
    OCI Generative AI est un service entièrement géré disponible via une API pour intégrer de manière transparente ces modèles de langage polyvalents dans un large éventail de cas d'utilisation, notamment l'aide à la rédaction, la synthèse et la discussion. Le service OCI Generative AI inclut les modèles de base suivants :
    • Génération : donnez des instructions pour générer du texte ou extraire des informations de votre texte.
    • Synthèse : synthétise le texte en fonction du format, de la longueur et du ton indiqués.
    • Incorporation : Convertissez du texte en incorporations vectorielles à utiliser dans les applications pour les recherches sémantiques, la classification de texte ou la mise en cluster de texte.
  • Clusters AI dédiés

    Les clusters d'IA dédiés sont des ressources de calcul que vous pouvez utiliser afin d'affiner des modèles personnalisés ou afin d'héberger des adresses pour des modèles personnalisés. Les clusters sont dédiés à vos modèles et ne sont pas partagés avec les utilisateurs d'autres locations. Le modèle personnalisé OCI Generative AI vous permet d'utiliser vos propres données pour affiner les modèles.

  • Oracle Digital Assistant

    Digital Assistant est une plate-forme permettant de créer des interfaces de conversation ou des chatbots. Un chatbot est un programme informatique qui simule et traite une conversation humaine (écrite ou parlée), permettant aux humains d'interagir avec des applications et des données comme s'ils communiquaient avec une personne réelle. Les développeurs assemblent des assistants numériques à partir d'une ou de plusieurs briques. Les compétences peuvent être basées sur des compétences prédéfinies fournies par Oracle ou des tiers, développées sur mesure ou basées sur l'un des nombreux modèles de compétences disponibles. Digital Assistant achemine la demande de l'utilisateur vers la brique la plus appropriée pour satisfaire la demande de l'utilisateur. Les compétences combinent un moteur d'apprentissage en profondeur du traitement du langage naturel multilingue, un puissant moteur de flux de dialogue et des composants d'intégration pour se connecter aux systèmes back-end.

  • API Gateway

    Oracle API Gateway vous permet de publier des API avec des adresses privées accessibles à partir de votre réseau. Si nécessaire, vous pouvez les afficher sur le réseau Internet public. Les adresses prennent en charge la validation d'API, la transformation des demandes et des réponses, la spécification CORS, l'authentification et l'autorisation, ainsi que la limitation des demandes.

  • Distribution par courriel

    OCI Email Delivery est un service de remise de courriels hautement évolutif, rentable et fiable permettant d'envoyer des courriels volumineux générés par des applications pour le marketing stratégique, les notifications et les communications transactionnelles telles que les reçus, les alertes de détection des fraudes, la vérification d'identité multifacteur et la réinitialisation de mot de passe.

  • Identity and Access Management (IAM)

    OCI Identity and Access Management (IAM) est le plan de contrôle d'accès pour OCI et Oracle Cloud Applications. L'API IAM et l'interface utilisateur vous permettent de gérer les domaines d'identité et les ressources au sein du domaine d'identité. Chaque domaine d'identité OCI IAM représente une solution autonome de gestion des identités et des accès ou une population d'utilisateurs différente.

  • Logging
    Logging est un service hautement évolutif et entièrement géré qui permet d'accéder aux types de journal suivants à partir des ressources du cloud.
    • Journaux d'audit : journaux liés aux événements émis par le service Audit.
    • Journaux de service : journaux émis par des services individuels tels que API Gateway, Events, Functions, Load Balancing, Object Storage et les journaux de flux VCN.
    • Journaux personnalisés : journaux contenant des informations de diagnostic issues d'applications personnalisées, d'autres fournisseurs de cloud ou d'un environnement sur site.
  • Monitoring

    Le service OCI Monitoring surveille activement et passivement vos ressources cloud à l'aide de mesures pour surveiller les ressources et les alarmes afin de vous avertir lorsque ces mesures répondent aux déclencheurs spécifiés par l'alarme.

Remerciements

Auteur : Rajsagar Rawool