Riepiloga la chat utilizzando l'AI generativa Oracle su un cluster AI dedicato

Oggi, le aziende si affidano ai loro centri di supporto per risolvere i problemi dei clienti esterni. Nell'ambito del processo di coinvolgimento del supporto, il tecnico del supporto utilizza la comunicazione via chat per interagire in modo efficiente con il cliente. Dopo la chat, per migliorare la Customer Experience, l'ingegnere deve dedicare ulteriore tempo alla condivisione di note di riepilogo su ciò che è stato discusso.

Con l'aiuto del servizio di intelligenza artificiale generativa Oracle Cloud Infrastructure(OCI), l'ingegnere può riepilogare il contenuto della chat e automatizzare il processo di comunicazione end-to-end. Inoltre, l'AI generativa OCI ti consente di perfezionare i modelli e personalizzarli utilizzando i tuoi dati. Puoi sfruttare il cluster AI dedicato per ottimizzare i modelli personalizzati o per ospitare gli endpoint per i modelli personalizzati. I modelli di apprendimento possono riassumere efficacemente la conversazione in un tono leggibile a misura d'uomo, risparmiando così il tempo prezioso dell'ingegnere e aumentando la produttività del coinvolgimento dei clienti.

Questa architettura di riferimento descrive il modo in cui il servizio AI generativa OCI riepiloga la comunicazione chat tra gli utenti.

Architettura

Questa architettura di riferimento sfrutta Oracle Digital Assistant (ODA) per simulare la conversazione con gli utenti umani su Internet. Gli ODA sono interfacce basate sull'AI che consentono agli utenti di eseguire una vasta gamma di task in conversazioni nel linguaggio naturale. È possibile integrare ODA con una ricerca basata sulla conoscenza personalizzata per fornire all'utente ulteriori informazioni sul contesto. Questa architettura utilizza anche un gateway API OCI per proteggere e gestire le API da AI generativa e Digital Assistant. È possibile utilizzare queste interfacce API per l'integrazione con qualsiasi applicazione, ad esempio questa architettura si integra con Oracle B2C Service Cloud. Utilizzando il codice webhook, il bot ODA può trasferire le chat a un agente reale per analisi dettagliate e risoluzione dei problemi. Una volta chiusa la comunicazione chat, OCI Generative AI utilizza il modello ottimizzato ospitato nel cluster AI dedicato per generare un riepilogo della chat. Il riepilogo viene condiviso con il cliente utilizzando OCI Email Delivery Service. Questa architettura sfrutta anche i servizi di registrazione e monitoraggio OCI per una migliore visibilità e un controllo delle risorse. Se l'ottimizzazione non è un requisito, è possibile utilizzare il servizio gestito per chiamare il modello di base, eliminando la necessità di un cluster AI dedicato.

In questa architettura di riferimento, viene eseguito il provisioning dei seguenti servizi OCI:

Servizio AI generativa OCI con cluster AI dedicato per la generazione del sintetico del testo
Oracle Digital Assistant
OCI API Gateway
Consegna tramite posta elettronica OCI
Oracle B2C Service nel cloud

Il seguente diagramma illustra questa architettura di riferimento.

Descrizione di summary-chat-oci-gen-ai.png
Descrizione dell'immagine riepilogativa-chat-oci-gen-ai.png

riassumere-chat-oci-gen-ai-oracle.zip

L'architettura presenta i seguenti componenti:

Area
Un'area geografica OCI è un'area geografica localizzata che contiene uno o più data center, denominati domini di disponibilità. Le regioni sono indipendenti da altre regioni e grandi distanze possono separarle (tra paesi o addirittura continenti).
Rete cloud virtuale (VCN) e subnet
Una VCN è una rete personalizzabile definita dal software impostata in un'area geografica OCI. Come le tradizionali reti di data center, le reti VCN offrono un controllo completo sull'ambiente di rete. Una VCN può avere più blocchi CIDR non sovrapposti che è possibile modificare dopo aver creato la VCN. Puoi segmentare una VCN in subnet, che possono essere definite in un'area o in un dominio di disponibilità. Ogni subnet è costituita da un intervallo contiguo di indirizzi che non si sovrappongono alle altre subnet nella VCN. È possibile modificare le dimensioni di una subnet dopo la creazione. Una subnet può essere pubblica o privata.
Memorizzazione degli oggetti
Lo storage degli oggetti offre un accesso rapido a grandi quantità di dati strutturati e non strutturati di qualsiasi tipo di contenuto, inclusi backup del database, dati analitici e contenuti avanzati come immagini e video. Puoi memorizzare e quindi recuperare i dati direttamente da Internet o dall'interno della piattaforma cloud. Puoi ridimensionare lo storage senza problemi senza compromettere le prestazioni o l'affidabilità del servizio. Utilizza lo storage standard per lo storage "caldo" a cui è necessario accedere rapidamente, immediatamente e frequentemente. Utilizza lo storage di archivio per lo storage "freddo" che conservi per lunghi periodi di tempo e a cui accedi raramente o raramente.
AI generativa OCI
OCI Generative AI è un servizio completamente gestito disponibile tramite un'API per integrare perfettamente questi versatili modelli linguistici in una vasta gamma di casi d'uso, tra cui assistenza alla scrittura, riepilogo e chat. Il servizio AI generativa OCI include i seguenti modelli di base:
- Generazione: fornire istruzioni per generare testo o estrarre informazioni dal testo.
- Riepilogo: riepilogare il testo con il formato, la lunghezza e il tono specificati.
- Integrazione: consente di convertire il testo in incorporazioni vettoriali da utilizzare nelle applicazioni per ricerche semantiche, classificazione del testo o configurazione cluster del testo.
Cluster AI dedicati
I cluster AI dedicati sono risorse di computazione che è possibile utilizzare per ottimizzare i modelli personalizzati o per ospitare gli endpoint per i modelli personalizzati. I cluster sono dedicati ai modelli e non vengono condivisi con gli utenti di altre tenancy. L'AI generativa OCI del modello personalizzato ti consente di utilizzare i tuoi dati per perfezionare i modelli.
Oracle Digital Assistant
Digital Assistant è una piattaforma per la creazione di interfacce di conversazione o chatbot. Un chatbot è un programma per computer che simula ed elabora la conversazione umana (scritta o parlata), consentendo agli esseri umani di interagire con applicazioni e dati come se stessero comunicando con una persona reale. Gli sviluppatori assemblano assistenti digitali da una o più competenze. Le competenze possono essere basate su competenze predefinite fornite da Oracle o da terze parti, sviluppate su misura o basate su uno dei numerosi modelli di competenze disponibili. Digital Assistant instrada la richiesta dell'utente alla competenza più appropriata per soddisfare la richiesta dell'utente. Le competenze combinano un motore di deep learning NLP multilingue, un potente motore di flusso di dialogo e componenti di integrazione per connettersi ai sistemi backend.
API Gateway
Oracle API Gateway ti consente di pubblicare le API con endpoint privati accessibili dall'interno della tua rete e che, se necessario, puoi esporre alla rete Internet pubblica. Gli endpoint supportano la convalida delle API, la trasformazione delle richieste e delle risposte, il CORS, l'autenticazione e l'autorizzazione e la limitazione delle richieste.
Consegna tramite posta elettronica
OCI Email Delivery è un servizio di consegna delle e-mail altamente scalabile, conveniente e affidabile per l'invio di e-mail ad alto volume generate dalle applicazioni per comunicazioni di marketing, notifiche e transazionali mission-critical come ricevute, avvisi di rilevamento delle frodi, verifica dell'identità multifattore e reimpostazioni delle password.
Gestione delle identità e degli accessi (IAM)
OCI Identity and Access Management (IAM) è il piano di controllo dell'accesso per OCI e Oracle Cloud Applications. L'API IAM e l'interfaccia utente consentono di gestire i domini di Identity e le risorse all'interno del dominio di Identity. Ogni dominio di Identity IAM OCI rappresenta una soluzione standalone per la gestione delle identità e degli accessi o una popolazione di utenti diversa.
Log
Logging è un servizio altamente scalabile e completamente gestito che fornisce l'accesso ai seguenti tipi di log dalle risorse nel cloud:
- Log di audit: log correlati agli eventi emessi dal servizio di audit.
- Log dei servizi: log emessi da singoli servizi, quali gateway API, eventi, funzioni, bilanciamento del carico, storage degli oggetti e log di flusso VCN.
- Log personalizzati: log che contengono informazioni di diagnostica di applicazioni personalizzate, altri provider cloud o di un ambiente in locale.
Monitoraggio
Il servizio di monitoraggio OCI monitora attivamente e passivamente le risorse cloud utilizzando le metriche per monitorare le risorse e gli allarmi e ricevere una notifica quando queste metriche soddisfano i trigger specificati dall'allarme.

Visualizza altro

Per ulteriori informazioni sulla generazione del sintetico chat mediante i servizi AI generativi OCI, vedere le risorse riportate di seguito.

Esaminare le risorse aggiuntive riportate di seguito.

Conferme

Autore: Rajsagar Rawool