Informazioni sulla creazione e la gestione di un agente multiplo con Oracle Digital Assistant

Man mano che le aziende adottano sempre più agenti di intelligenza artificiale generativa (GenAI) per semplificare le operazioni e migliorare le customer experience, la necessità di una piattaforma completa per gestire questi agenti diventa fondamentale. Le organizzazioni cercano interfacce utente intuitive in cui possono progettare, distribuire e orchestrare più agenti AI, integrandoli perfettamente con API, flussi di lavoro e funzionalità GenAI, in base alle esigenze.

Oracle sta pianificando di implementare OCI Generative AI Agents Platform. Sebbene non vediamo l'ora della prossima release, i progetti dei clienti hanno dimostrato che Oracle Digital Assistant (ODA) può adattarsi molto bene come orchestratore per gli agenti AI. Grazie alla sua solida connettività API, alla distribuzione multicanale, al designer di flussi e AI blocchi LLM, ODA consente alle aziende di gestire in modo efficiente l'intero ciclo di vita degli agenti AI.

Pertanto, consente di esplorare in che modo ODA offre un approccio strutturato alla creazione, alla gestione e alla scalabilità degli agenti AI.

Oracle Digital Assistant offre un ecosistema completo per la creazione, la gestione e il ridimensionamento di agenti AI con integrazioni API trasparenti, distribuzione multicanale, funzionalità LLM e automazione del flusso di lavoro. Sfruttando ODA, le organizzazioni possono gestire in modo efficiente l'intero ciclo di vita degli agenti AI, garantendo agilità, scalabilità e user experience ottimizzate. Questo vale anche per gli agenti AI sviluppati con tecnologie non OCI e c'è un esempio pubblico di ODA + OpenAI in Bosch.

Mentre le aziende continuano la loro trasformazione basata sull'intelligenza artificiale, ODA è un potente fattore abilitante, semplificando l'implementazione di assistenti digitali intelligenti e garantendo al contempo controllo, sicurezza e valore aziendale.

Comprendere i vantaggi derivanti dall'uso di Oracle Digital Assistant per creare e gestire più agenti

  • ODA offre potenti funzionalità di integrazione dei servizi API che consentono agli agenti di connettersi a qualsiasi sistema backend. Supporta API REST, interazioni con il database e servizi cloud esterni. Semplifica il recupero dei dati e i flussi di lavoro transazionali senza lo sviluppo di backend personalizzati.
  • Gli Deployment Agent multicanale creati utilizzando ODA possono essere distribuiti su più canali, tra cui piattaforme Web, mobile, di messaggistica (WhatsApp, Slack, team) e interfacce vocali. Ciò garantisce un'esperienza utente coerente in tutti i punti di contatto dell'interazione.
  • Il Flow Designer fornisce un ambiente low-code/no-code per la progettazione di conversazioni e flussi di lavoro basati sull'intelligenza artificiale. Consente agli utenti business e agli sviluppatori di creare, testare e implementare rapidamente agenti senza sforzi di codifica estesi.
  • I blocchi LLM per l'integrazione dell'AI generativa ODA supportano l'integrazione LLM (Large Language Model), consentendo agli agenti AI di sfruttare le funzionalità GenAI quando necessario. Le organizzazioni possono chiamare qualsiasi LLM (Oracle GenAI, Cohere, Meta e così via) all'interno del flusso di lavoro di un agente. Supporto per Prompt Builder
  • Gestione centralizzata dei prompt: gli amministratori possono gestire e aggiornare più prompt da un'unica posizione senza modificare Flow Designer, garantendo aggiornamenti senza interruzioni e coerenza tra le interazioni AI.
  • Gli agenti AI di Workflow Automation & Orchestration possono attivare e gestire i flussi di lavoro all'interno di ODA o di motori di flussi di lavoro esterni. Supporta l'automazione basata sugli eventi, consentendo interazioni dinamiche e reattive con gli agenti. Abilita l'automazione di HR, IT e assistenza clienti attraverso flussi di lavoro basati sull'intelligenza artificiale.
  • Advanced Analytics & Monitoring ODA fornisce analytics e report integrati per monitorare le prestazioni degli agenti e le interazioni con gli utenti. Consente l'ottimizzazione basata su insight in tempo reale e feedback degli utenti.
  • Le funzionalità di sicurezza di livello Enterprise garantiscono la conformità alle normative sulla protezione dei dati. Controllo dell'accesso basato sui ruoli (RBAC, Role-Based Access Control) e log di audit per la governance.

Architettura

L'uso di ODA con un blocco LLM consente di creare architetture AI agent da molto semplici a complesse (ad esempio, supervisore uno). Gli agenti AI possono chiamare gli strumenti, una knowledge base e altri agenti, decidendo autonomamente quale strumento utilizzare in base alla richiesta dell'utente.

Sebbene la tua architettura specifica possa differire da quella presentata in questo playbook, questo esempio rappresenta un'implementazione tipica di un servizio multi-agente sviluppato in ODA. In questa architettura di esempio, la chat ha origine nel livello dell'applicazione, che comprende un'istanza di Microsoft Teams e un'applicazione personalizzata. Il contenuto della chat, o query, viene indirizzato al componente Canali di ODA e quindi a un chatbot Skills. Utilizzando ODA, puoi chiamare qualsiasi API, ad esempio le API Oracle Fusion HCM. Il traffico passa quindi dal chatbot Skills a un agente router GenAI, che, a seconda dell'oggetto della chat, lo indirizza all'agente HRMS appropriato o, se la query non è risolta o in generale, a un agente RAG.

L'API può utilizzare qualsiasi servizio backend della suite Fusion o EBS, sia utilizzando Oracle Integration che non. Ciò consente agli agenti AI ODA di utilizzare quasi tutti i tipi di API disponibili in Oracle Cloud. Se la query passa a uno degli agenti HRMS, viene elaborata e quindi inviata tramite il middleware di Oracle Integration a uno dei servizi Oracle Fusion ERP appropriati, ad esempio Oracle E-Business Suite,Oracle Procurement, Oracle Fusion Cloud Human Capital Management o Oracle Cloud ERP. Questi servizi elaborano la query e restituiscono le informazioni necessarie tramite gli agenti HRMS, quindi tramite l'agente router, il chatbot Skills, quindi il componente Channels e esce da ODA, associato al livello di applicazione da cui ha avuto origine. Una volta eseguito il login, l'agente può chiamare l'API dei backend utilizzando i diritti concessi all'utente che ha eseguito il login. Si noti che ogni agente è esso stesso un codice che effettua chiamate in background al servizio GenAI. In questo esempio è possibile eseguire il login utilizzando Fusion o MS Teams.

Questo diagramma illustra questa architettura:


Description of multi-agent-oda-arch.png follows
Descrizione dell'illustrazione multi-agent-oda-arch.png

multi-agente-oda-arch-oracle.zip

Questa architettura di esempio contiene i seguenti componenti:
  • Area

    Un'area geografica Oracle Cloud Infrastructure è un'area geografica localizzata che contiene uno o più data center che ospitano domini di disponibilità. Le regioni sono indipendenti da altre regioni e vaste distanze possono separarle (tra paesi o addirittura continenti).

  • Oracle Digital Assistant

    Oracle Digital Assistant offre un ecosistema completo per la creazione, la gestione e il ridimensionamento di agenti AI con integrazioni API trasparenti, distribuzione multicanale, funzionalità LLM e automazione del flusso di lavoro. Sfruttando ODA, le organizzazioni possono gestire in modo efficiente l'intero ciclo di vita degli agenti AI, garantendo agilità, scalabilità e user experience ottimizzate.

  • Canali

    I canali veicolano la chat dagli utenti sulle diverse piattaforme di messaggistica all'assistente digitale e alle relative competenze. Esistono anche canali per l'escalation e il test dell'agente utente. Puoi esporre gli assistenti digitali e le competenze autonome agli utenti configurando i canali in ODA.

  • Competenze

    Un'abilità è un chatbot orientato a un set specifico di attività o per soddisfare una richiesta dell'utente.

  • Agente router

    Un agente router è un agente AI che indirizza le query degli utenti all'agente AI pertinente e più appropriato in base alla natura della query. Un agente router si affida agli LLM per analizzare e instradare dinamicamente le query in base al contesto, eliminando la necessità di intenti predefiniti o di dati di formazione estesi, ottenendo al contempo funzionalità a zero colpi

  • Agente RAG

    Un agente RAG combina la potenza della Retrieval-Augmented Generation (RAG) e degli agenti AI per migliorare l'accuratezza, l'adattabilità e la complessità delle attività di recupero e generazione delle informazioni.

  • Agente foglie

    L'agente Lascia consente a un utente di prenotare ferie o periodi di assenza nel backend HCM. Richiama l'API necessaria in base alla richiesta del linguaggio naturale dell'utente.

  • Agente lettera

    L'agente della lettera è un componente AI che assiste nella scrittura di lettere, sia personali che professionali o di altro tipo. Sfrutta le funzionalità AI per generare bozze, personalizzare i contenuti e persino suggerire un linguaggio o un tono appropriati.

  • Agente spese

    L'agente spese consente di gestire e segnalare le spese.

  • Agente risarcimenti

    L'agente delle richieste consente di gestire e segnalare le richieste. Richiama l'API necessaria in base alla richiesta del linguaggio naturale dell'utente.

  • Middleware integrazione OIC

    I servizi di integrazione OCI connettono qualsiasi applicazione e origine dati, tra cui Salesforce, SAP, Shopify, Snowflake e Workday, per automatizzare i processi end-to-end e centralizzare la gestione. L'ampia gamma di integrazioni, con adattatori predefiniti e personalizzazione low-code, semplifica la migrazione al cloud semplificando al contempo le operazioni ibride e multicloud.

  • Servizio GenAI OCI

    OCI Generative AI (GenAI) è un servizio completamente gestito per l'integrazione perfetta di vari modelli linguistici in una vasta gamma di casi d'uso, tra cui assistenza alla scrittura, riepilogo, analisi e chat.

Informazioni sulle funzioni di blocco LLM aggiuntive in ODA

Oltre AI componenti elencati, Oracle Digital Assistant fornisce funzioni di blocco LLM avanzate che migliorano il controllo e la personalizzazione delle risposte degli agenti AI:

Queste funzioni comprendono:
  • Applica risposta LLM in formato JSON: assicura che le risposte LLM seguano uno schema JSON predefinito per gli output strutturati. Se necessario, un gestore di eventi può trasformare il file JSON in un formato intuitivo, ad esempio una tabella o un modulo strutturato.

    Nota

    Impostare Usa streaming su False durante l'applicazione della formattazione JSON.
  • Numero di nuovi tentativi: definisce il numero massimo di nuovi tentativi quando si verificano errori di convalida (entità o JSON). Il prompt dei nuovi tentativi evidenzia gli errori e richiede all'LLM di correggerli. Se i nuovi tentativi superano il limite, la finestra di dialogo segue la transizione di errore.
  • Riprova messaggio: notifica agli utenti quando si verifica un nuovo tentativo LLM a causa di errori di convalida, ad esempio migliorando la risposta.
  • Handler personalizzazione convalida: consente la convalida specializzata tramite un handler personalizzato distribuito nella skill. Può:
    • Ulteriori risposte LLM processo.
    • Valuta le richieste degli utenti per contenuti inappropriati.
    • Applica la convalida dell'entità interdipendente, assicurando che determinati valori richiedano o escludano altri valori.
    È necessario preconfigurare l'handler nelle impostazioni skill.
  • Analizza le chiamate agli LLM e le risposte.

Informazioni sulla gestione del ciclo di vita degli agenti AI in Oracle Digital Assistant

La gestione del ciclo di vita dell'agente AI può essere riassunta nelle cinque fasi descritte di seguito.

  1. Piano e progetto
    1. Definire il caso d'uso e l'ambito dell'agente AI.
    2. Identifica le integrazioni API e i flussi di lavoro richiesti.
    3. Progettare il flusso di conversazione utilizzando Flow Designer di ODA.
  2. Sviluppa e integra
    1. Configurare i servizi API e la connettività backend.
    2. Implementa blocchi LLM per risposte generative.
    3. Imposta modelli di riconoscimento e formazione degli intenti per una maggiore precisione.
  3. Distribuisci ed espandi
    1. Distribuisci l'agente AI su più canali (web, mobile, WhatsApp, team e così via).
    2. Garantire meccanismi di accesso e autenticazione sicuri.
  4. Monitora e ottimizza
    1. Monitora continuamente le interazioni con gli agenti utilizzando gli analytics ODA.
    2. Migliora l'accuratezza perfezionando intenti e modelli di formazione.
    3. Ottimizza i flussi di lavoro in base al feedback degli utenti in tempo reale.
  5. Ridimensiona e mantieni
    1. Aggiungi nuove funzionalità man mano che le esigenze aziendali si evolvono.
    2. Garantisci aggiornamenti periodici di sicurezza e conformità.
    3. Espandere in business unit o aree geografiche aggiuntive in base alle esigenze.