Multi-Agent mit Oracle Digital Assistant erstellen und verwalten

Da Unternehmen zunehmend generative KI-Agenten (GenAI) einsetzen, um den Betrieb zu optimieren und die Kundenerfahrung zu verbessern, wird die Notwendigkeit einer umfassenden Plattform zur Verwaltung dieser Agents von größter Bedeutung. Unternehmen suchen nach intuitiven Benutzeroberflächen, auf denen sie mehrere KI-Agents entwerfen, bereitstellen und orchestrieren können, und integrieren sie bei Bedarf nahtlos in APIs, Workflows und GenAI-Funktionen.

Oracle plant die Einführung der OCI Generative AI Agents Platform. Während wir uns auf das nächste Release freuen, haben Kundenprojekte bewiesen, dass Oracle Digital Assistant (ODA) sehr gut als Orchestrator für KI-Agenten geeignet ist. Mit seiner robusten API-Konnektivität, der Multi-Channel-Bereitstellung, dem Ablaufdesigner und den LLM-Blöcken ermöglicht ODA Unternehmen, den gesamten Lebenszyklus von KI-Agenten effizient zu verwalten.

Sehen Sie sich daher an, wie ODA einen strukturierten Ansatz für die Erstellung, Verwaltung und Skalierung von KI-Agenten bietet.

Oracle Digital Assistant bietet ein vollständiges Ökosystem für die Erstellung, Verwaltung und Skalierung von KI-Agenten mit nahtlosen API-Integrationen, Multi-Channel-Bereitstellung, LLM-Funktionen und Workflow-Automatisierung. Durch die Nutzung von ODA können Unternehmen den gesamten Lebenszyklus von KI-Agenten effizient verwalten und so Agilität, Skalierbarkeit und verbesserte Benutzererfahrung sicherstellen. Dies gilt auch für KI-Agents, die mit Nicht-OCI-Technologien entwickelt wurden, und es gibt ein öffentliches Beispiel für ODA + OpenAI bei Bosch.

Während Unternehmen ihre KI-gesteuerte Transformation fortsetzen, ist ODA ein leistungsstarker Enabler, der die Bereitstellung intelligenter digitaler Assistenten vereinfacht und gleichzeitig Kontrolle, Sicherheit und Geschäftswert sicherstellt.

Vorteile von Oracle Digital Assistant zum Erstellen und Verwalten von Multi-Agents verstehen

  • Nahtlose API-Integrationen ODA bietet leistungsstarke API-Service-Integrationsfunktionen, mit denen Agents eine Verbindung zu jedem Backend-System herstellen können. Unterstützt REST-APIs, Datenbankinteraktionen und externe Cloud-Services. Vereinfacht den einfachen Datenabruf und Transaktionsworkflows ohne benutzerdefinierte Backend-Entwicklung.
  • Multi-Channel-Deployment-Agents, die mit ODA erstellt wurden, können über mehrere Kanäle bereitgestellt werden, darunter Web-, Mobil-, Messaging-Plattformen (WhatsApp, Slack, Teams) und Sprachschnittstellen. Dies gewährleistet eine konsistente Benutzererfahrung über alle Interaktionstouchpoints hinweg.
  • Visual Flow Designer für No-Code Agent Development Der Flow Designer bietet eine Low-Code/No-Code-Umgebung für das Entwerfen von KI-gesteuerten Unterhaltungen und Workflows. Ermöglicht Business-Anwendern und Entwicklern schnelles Erstellen, Testen und Bereitstellen von Agents ohne umfangreichen Programmieraufwand.
  • LLM-Blöcke für generative KI-Integration ODA unterstützt die Large Language Model-(LLM-)Integration, sodass KI-Agenten bei Bedarf die GenAI-Funktionen nutzen können. Organisationen können jedes LLM (Oracle GenAI, Cohere, Meta usw.) im Workflow eines Agents aufrufen. Unterstützung für Prompt Builder
  • Zentralisierte Eingabeaufforderungsverwaltung: Administratoren können mehrere Eingabeaufforderungen von einem einzigen Standort aus verwalten und aktualisieren, ohne den Ablaufdesigner zu ändern. So werden nahtlose Updates und Konsistenz über KI-Interaktionen hinweg sichergestellt.
  • KI-Agents für Workflowautomatisierung und Orchestrierung können Workflows in ODA oder externen Workflow-Engines auslösen und verwalten. Unterstützt ereignisgesteuerte Automatisierung und ermöglicht dynamische und reaktionsschnelle Agent-Interaktionen. Ermöglicht Automatisierung von HR-, IT- und Kundensupport durch KI-gesteuerte Workflows.
  • Advanced Analytics & Monitoring ODA bietet integrierte Analysen und Berichte, um die Agent-Performance und Benutzerinteraktionen zu verfolgen. Ermöglicht die Optimierung basierend auf Echtzeiteinblicken und Benutzerfeedback.
  • Sicherheits- und Governance-Sicherheitsfunktionen der Unternehmensklasse gewährleisten die Einhaltung der Datenschutzbestimmungen. Rollenbasierte Zugriffskontrolle (Role-Based Access Control, RBAC) und Auditlogs für Governance.

Architektur

Mit ODA mit einem LLM-Block können Sie KI-Agents mit sehr einfachen bis komplexen Architekturen erstellen (z.B. Supervisor). KI-Agents können Tools, eine Wissensdatenbank und andere Agents aufrufen und autonom entscheiden, welches Tool basierend auf der Benutzeranforderung verwendet werden soll.

Während Ihre spezifische Architektur von der in diesem Playbook dargestellten abweichen kann, stellt dieses Beispiel eine typische Implementierung eines in ODA entwickelten Multi-Agent-Service dar. In dieser Beispielarchitektur stammt der Chat aus der Anwendungsebene, die eine Instanz von Microsoft Teams und eine benutzerdefinierte App umfasst. Der Chatinhalt oder die Abfrage wird an die ODA-Komponente "Kanäle" und dann an einen Skill-Chatbot weitergeleitet. Mit ODA können Sie eine beliebige API aufrufen. Beispiel: Oracle Fusion HCM-APIs. Der Traffic wird dann vom Skill-Chatbot zu einem GenAI-Router-Agent verschoben, der ihn je nach Thema des Chats entweder an den entsprechenden HRMS-Agent oder, falls die Abfrage nicht gelöst oder allgemein ist, an einen RAG-Agent leitet.

Die API kann jeden Backend-Service aus Fusion oder der EBS-Suite verwenden, unabhängig davon, ob Oracle Integration verwendet wird oder nicht. Dadurch können die ODA-KI-Agents nahezu alle API-Typen verwenden, die in der Oracle Cloud verfügbar sind. Wenn die Abfrage zu einem der HRMS-Agents weitergeleitet wird, wird sie verarbeitet und dann über die Oracle Integration-Middleware an einen der entsprechenden Oracle Fusion ERP-Services gesendet. Beispiel: Oracle E-Business Suite,Oracle Procurement, Oracle Fusion Cloud Human Capital Management oder Oracle Cloud ERP. Diese Services verarbeiten die Abfrage und übergeben die erforderlichen Informationen zurück an die HRMS-Agents, dann an den Router-Agent, den Skill-Chatbot und dann die Channels-Komponente und beenden ODA, gebunden an die Anwendungsebene, von der aus sie stammt. Wenn der Agent angemeldet ist, kann er die API der Backends aufrufen, indem er Rechte verwendet, die dem angemeldeten Benutzer erteilt wurden. Beachten Sie, dass jeder Agent selbst ein Code ist, der Hintergrundaufrufe an den GenAI-Service ausführt. In diesem Beispiel können Sie sich mit Fusion oder MS Teams anmelden.

Das folgende Diagramm veranschaulicht diese Architektur:


Beschreibung von multiagentisch-oda-arch.png folgt
Beschreibung der Abbildung multi-agent-oda-arch.png

Multi-Agent-oda-arch-oracle.zip

Diese Beispielarchitektur enthält folgende Komponenten:
  • Region

    Eine Oracle Cloud Infrastructure-Region ist ein lokalisierter geografischer Bereich, der mindestens ein Data Center enthält und Availability-Domains hostet. Regionen sind unabhängig von anderen Regionen, und große Entfernungen können über Länder oder Kontinente voneinander getrennt werden.

  • Oracle Digital Assistant

    Oracle Digital Assistant bietet ein vollständiges Ökosystem für die Erstellung, Verwaltung und Skalierung von KI-Agenten mit nahtlosen API-Integrationen, Multi-Channel-Bereitstellung, LLM-Funktionen und Workflow-Automatisierung. Durch die Nutzung von ODA können Unternehmen den gesamten Lebenszyklus von KI-Agenten effizient verwalten und so Agilität, Skalierbarkeit und verbesserte Benutzererfahrung sicherstellen.

  • Kanäle

    Kanäle senden den Chat von Benutzern auf verschiedenen Messagingplattformen an den digitalen Assistenten und seine verschiedenen Skills hin und her. Es gibt auch Kanäle für die Eskalation und das Testen von Benutzer-Agents. Sie können Ihre digitalen Assistenten und Standalone-Skills Benutzern zur Verfügung stellen, indem Sie Kanäle in ODA konfigurieren.

  • Qualifikationen

    Ein Skill ist ein Chatbot, der auf eine bestimmte Gruppe von Aufgaben ausgerichtet ist oder auf eine Benutzeranforderung zugeschnitten ist.

  • Router-Agent

    Ein Router-Agent ist ein AI-Agent, der Benutzerabfragen basierend auf der Art der Abfrage an den relevanten und am besten geeigneten AI-Agent leitet. Ein Router-Agent verlässt sich auf LLMs, um Abfragen basierend auf dem Kontext dynamisch zu analysieren und weiterzuleiten. Dadurch entfällt die Notwendigkeit vordefinierter Intents oder umfangreicher Trainingsdaten, während die Zero-Shot-Funktionalität erreicht wird

  • RAG-Agent

    Ein RAG-Agent kombiniert die Leistungsfähigkeit von Retrieval-Augmented Generation (RAG) und KI-Agenten, um die Genauigkeit, Anpassungsfähigkeit und Komplexität von Informationsabruf- und Generierungsaufgaben zu verbessern.

  • Agent verlassen

    Der Leaves-Agent ermöglicht es Benutzern, Feiertage oder Abwesenheitszeiten im HCM-Backend zu buchen. Er ruft die erforderliche API basierend auf der Anforderung des Benutzers in natürlicher Sprache auf.

  • Briefvermittler

    Der Briefagent ist eine KI-Komponente, die beim Schreiben von Briefen hilft, sei es persönlich, professionell oder anderweitig. Es nutzt KI-Funktionen, um Entwürfe zu erstellen, Inhalte zu personalisieren und sogar eine geeignete Sprache oder einen geeigneten Ton vorzuschlagen.

  • Spesen-Agent

    Mit dem Spesen-Agent können Sie Ihre Spesen verwalten und melden.

  • Anspruchsagent

    Mit dem Claims Agent können Sie Ihre Ansprüche verwalten und melden. Er ruft die erforderliche API basierend auf der Anforderung des Benutzers in natürlicher Sprache auf.

  • OIC Integrations-Middleware

    OCI-Integrationsservices verbinden jede Anwendung und Datenquelle, einschließlich Salesforce, SAP, Shopify, Snowflake und Workday, um End-to-End-Prozesse zu automatisieren und das Management zu zentralisieren. Das breite Spektrum an Integrationen mit vordefinierten Adaptern und Low-Code-Anpassung vereinfacht die Migration in die Cloud und optimiert gleichzeitig Hybrid- und Multicloud-Vorgänge.

  • OCI GenAI-Service

    OCI Generative AI (GenAI) ist ein vollständig verwalteter Service, mit dem verschiedene Sprachmodelle nahtlos in eine Vielzahl von Anwendungsfällen integriert werden können, einschließlich Schreibunterstützung, Zusammenfassung, Analyse und Chat.

Weitere LLM-Blockfeatures in ODA

Zusätzlich zu den aufgeführten Komponenten bietet Oracle Digital Assistant erweiterte LLM-Blockfeatures, mit denen die Kontrolle und Anpassung von KI-Agent-Antworten verbessert wird:

Diese Features umfassen:
  • JSON-formatierte LLM-Antwort erzwingen: Stellt sicher, dass LLM-Antworten einem vordefinierten JSON-Schema für strukturierte Ausgaben folgen. Bei Bedarf kann ein Ereignis-Handler die JSON in ein benutzerfreundliches Format wie eine strukturierte Tabelle oder ein strukturiertes Formular transformieren.

    Hinweis:

    Setzen Sie Streaming verwenden auf "Falsch", wenn Sie die JSON-Formatierung anwenden.
  • Anzahl Wiederholungen: Definiert die maximale Anzahl Wiederholungsversuche, wenn Validierungsfehler (Entity oder JSON) auftreten. Der Wiederholungs-Prompt hebt Fehler hervor und fordert das LLM auf, sie zu korrigieren. Wenn Wiederholungen den Grenzwert überschreiten, folgt das Dialogfeld dem Fehlerübergang.
  • Nachricht wiederholen: Benachrichtigt Benutzer, wenn ein LLM-Wiederholungsversuch aufgrund von Validierungsfehlern auftritt. Beispiel: Verbesserung der Antwort.
  • Validierungsanpassungs-Handler: Ermöglicht die spezialisierte Validierung über einen im Skill bereitgestellten benutzerdefinierten Handler. Es kann:
    • Weitere LLM-Antworten verarbeiten.
    • Bewerten Sie Benutzeranfragen auf unangemessene Inhalte.
    • Wenden Sie die Validierung von abhängigen Entitys an, und stellen Sie sicher, dass bestimmte Werte andere erfordern oder ausschließen.
    Sie müssen den Handler in den Skilleinstellungen vorkonfigurieren.
  • Analysieren Sie die Anrufe bei den LLMs und die Antworten.

KI-Agent-Lebenszyklus in Oracle Digital Assistant verwalten

Die Verwaltung des AI-Agent-Lebenszyklus kann in den fünf unten beschriebenen Phasen zusammengefasst werden.

  1. Planung und Design
    1. Definieren Sie den Anwendungsfall und den Geltungsbereich des AI-Agents.
    2. Identifizieren Sie erforderliche API-Integrationen und Workflows.
    3. Konversationsfluss mit ODA Flow Designer entwerfen
  2. Entwickeln und integrieren
    1. API-Services und Backend-Konnektivität konfigurieren
    2. Implementieren Sie LLM-Blöcke für generative Antworten.
    3. Richten Sie Modelle zur Intent-Erkennung und -Schulung ein, um die Genauigkeit zu verbessern.
  3. Bereitstellen und bereitstellen
    1. Stellen Sie den KI-Agent über mehrere Kanäle bereit (Web, Mobil, WhatsApp, Teams usw.).
    2. Sicheren Zugriff und Authentifizierungsverfahren sicherstellen
  4. Überwachen und optimieren
    1. Kontinuierliche Überwachung von Agent-Interaktionen mithilfe von ODA-Analysen.
    2. Verbessern Sie die Genauigkeit, indem Sie Intents und Trainingsmodelle verfeinern.
    3. Optimieren Sie Workflows auf Basis von Benutzerfeedback in Echtzeit.
  5. Skalieren und verwalten
    1. Fügen Sie neue Funktionen hinzu, wenn sich die Geschäftsanforderungen weiterentwickeln.
    2. Stellen Sie regelmäßige Sicherheits- und Complianceupdates sicher.
    3. Erweitern Sie bei Bedarf auf weitere Geschäftseinheiten oder Geografien.