Agentische KI mit der Oracle Cloud Infrastructure AI Agent Platform bereitstellen

Organisationen stehen oft vor Herausforderungen, wenn sie Benutzern einen zeitnahen, genauen und einfachen Zugriff auf Informationen bieten, die über mehrere Systeme und Formate verteilt sind, wie Dokumente, Datenbanken und benutzerdefinierte Geschäftsprozesse. Dies kann zu Ineffizienzen, inkonsistenten Reaktionen, höheren Supportkosten und einer geringeren Benutzerzufriedenheit führen, da Einzelpersonen viel Zeit damit verbringen, nach den benötigten Informationen zu suchen oder auf Unterstützung zu warten.

KI-Agenten basieren auf künstlicher Intelligenz und können Fragen verstehen, Informationen abrufen und Aufgaben automatisieren. Außerdem können sie dazu beitragen, den Informationszugriff zu optimieren, zuverlässige Antworten zu liefern und die Benutzerzufriedenheit zu verbessern und gleichzeitig die Supportkosten zu senken. Mit der OCI AI Agent Platform können Unternehmen intelligente, sichere und kontextbezogene Agents erstellen, die sich nahtlos in das gesamte Oracle Ökosystem integrieren lassen.

Implementieren Sie einen agenten KI-gestützten virtuellen Assistenten, der es Benutzern ermöglicht, auf natürliche Weise über Chat- oder Webschnittstellen zu interagieren, auf Informationen aus strukturierten und unstrukturierten Datenquellen zuzugreifen, sie abzurufen und zu verarbeiten sowie benutzerdefinierte Workflows auszulösen. Dadurch wird der Informationserkennungsprozess optimiert, die Abhängigkeit vom manuellen Support reduziert und eine skalierbare, konsistente und sichere Benutzererfahrung im gesamten Unternehmen sichergestellt.

Benutzer interagieren über eine Webanwendung, die mit Oracle Visual Builder erstellt wurde und eine Verbindung zu Oracle Digital Assistant herstellt. Mit der OCI AI Agent Platform wird der Assistent erstellt, der:

  • Informationen mit Retrieval-Augmented Generation (RAG) aus dem Objektspeicher abrufen
  • SQL-Abfragen in einer Oracle Autonomous Database ausführen (Oracle Autonomous Transaction Processing)
  • Benutzerdefinierte Geschäftsfunktionen für spezielle Aufgaben ausführen (z. B. Dokumentverständnis oder Wetterdaten)

Diese Referenzarchitektur bietet einen Blueprint für die schnelle Bereitstellung einer agenten KI-Lösung, ergänzt durch eine LiveLab, die eine schrittweise Implementierungsanleitung bietet.

Architektur

Dies ist eine OCI-Architektur der Unternehmensklasse für die Erstellung fortschrittlicher generativer KI-Chatbots, die Konversations-KI, sicheren Datenzugriff, RAG und erweiterbare Geschäftslogik kombinieren.

Benutzer interagieren mit einer Webanwendung, die mit Oracle Visual Builder erstellt wurde. Die Anwendung lässt sich in Oracle Digital Assistant integrieren. Dadurch werden Konversationsinteraktionen verwaltet und Benutzerabfragen an die entsprechenden Backend-Services weitergeleitet. Der Digital Assistant stellt eine Verbindung zur OCI Generative AI Agent-Plattform her, mit der Anforderungen intelligent an verschiedene Tools orchestriert werden:

  • Das RAG-Tool ruft relevante Informationen aus OCI Object Storage für kontextbezogene Antworten ab.
  • Das SQL-Tool fragt strukturierte Daten in der Oracle Autonomous AI Database (Oracle Autonomous Transaction Processing) ab, um bestimmte datengesteuerte Fragen zu beantworten.
  • Das benutzerdefinierte Tool ruft serverlose Funktionen für spezielle Aufgaben auf, wie das Verstehen von Dokumenten oder die Integration externer Daten (z.B. Wetter).

Gemeinsam nutzen diese Services Oracle Cloud Infrastructure, um ein intelligentes, reaktionsschnelles und erweiterbares KI-gestütztes Erlebnis zu bieten, das dialogorientierte KI, Echtzeit-Datenzugriff und benutzerdefinierte Funktionen kombiniert.

Das folgende Diagramm veranschaulicht diese Referenzarchitektur.



agentic-ai-oci-ai-agent-arch-oracle.zip

Die Architektur umfasst folgende Komponenten:

  • Region

    Eine OCI-Region ist ein lokalisierter geografischer Bereich, der mindestens ein Data Centre enthält, das Availability-Domains hostet. Regionen sind unabhängig von anderen Regionen, und große Entfernungen können über Länder oder Kontinente voneinander getrennt werden.

  • Oracle Services Network

    Das Oracle Services Network (OSN) ist ein konzeptionelles Netzwerk auf OCI, das für Oracle-Services reserviert ist. Diese Services umfassen öffentliche IP-Adressen, die Sie sonst über das Internet erreichen können. Hosts außerhalb von Oracle Cloud können über Oracle Cloud Infrastructure FastConnect oder VPN Connect privat auf das OSN zugreifen. Hosts in Ihren VCNs können über ein Servicegateway privat auf das OSN zugreifen.

  • Oracle Visual Builder

    Oracle Visual Builder ist eine intuitive Entwicklungserfahrung auf einer Entwicklungs- und Hostingplattform, mit der Sie ansprechende responsive Anwendungen erstellen können. Mit dem Fokus auf Benutzerfreundlichkeit und einem visuellen Entwicklungsansatz können Sie auf einfache Weise Anwendungen erstellen, die in der sicheren und skalierbaren Cloud-Plattform von Oracle gehostet werden.

  • Oracle Digital Assistant

    Oracle Digital Assistant ist eine Plattform, mit der Sie digitale Assistenten für Ihre Benutzer erstellen und bereitstellen können. Mit Oracle Digital Assistant können Sie KI-gesteuerte Schnittstellen (oder Chatbots) für Geschäftsanwendungen über Text-, Chat- und Sprachschnittstellen erstellen. Jeder digitale Assistent verfügt über eine Sammlung von einem oder mehreren spezialisierten Skills, mit denen Benutzer eine Vielzahl von Aufgaben in Unterhaltungen in natürlicher Sprache ausführen können. Beispiel: Ein einzelner digitaler Assistent verfügt über Skills, die sich auf bestimmte Aufgabentypen konzentrieren, wie das Verfolgen von Bestand, das Weiterleiten von Stundennachweisen und das Erstellen von Spesenabrechnungen.

  • OCI AI Agent-Plattform

    Die Oracle Cloud Infrastructure (OCI) AI Agent Platform bietet eine vollständig verwaltete, Cloud-native Lösung, mit der Sie KI-Agents erstellen, bereitstellen und verwalten können. Durch die Nutzung hochmoderner großer Sprachmodelle (LLMs) können die von Ihnen erstellten KI-Agents die Art und Weise, wie Sie mit Kunden interagieren, komplexe Aufgaben autonom ausführen, Workflows automatisieren und Geschäftsprobleme angehen, revolutionieren. Der Service ist im gesamten Oracle-Stack integriert, einschließlich Datenbanken und Cloud-Infrastruktur, und ermöglicht einen effizienten Datenabruf und API-Interaktionen.

  • OCI Object Storage

    OCI Object Storage bietet Zugriff auf große Mengen an strukturierten und unstrukturierten Daten eines beliebigen Inhaltstyps, darunter Datenbankbackups, Analysedaten und umfangreiche Inhalte, wie Bilder und Videos. Sie können Daten sicher und sicher direkt aus Anwendungen oder aus der Cloud-Plattform speichern. Sie können den Storage skalieren, ohne dass die Performance oder Servicezuverlässigkeit beeinträchtigt wird.

  • Oracle Autonomous Transaction Processing

    Oracle Autonomous Transaction Processing ist ein selbststeuernder, selbstsichernder, selbstreparierender Datenbankservice, der für Transaktionsverarbeitungs-Workloads optimiert ist. Sie müssen weder Hardware konfigurieren oder verwalten noch Software installieren. OCI übernimmt das Erstellen, Sichern, Patchen, Upgraden und Optimieren der Datenbank.

  • Oracle AI Database 26ai

    Mit Oracle AI Database 26ai mit AI Vector Search können Sie Daten nach Bedeutung und nicht nach Schlüsselwörtern abfragen. Vektor-Darstellungen (Einbettungen) erfassen die Semantik von Text, Bildern, Audio und mehr, damit Sie ähnliche Inhalte effizient finden können. Integrierte SQL-Distanzfunktionen ermöglichen Ähnlichkeitssuchen mit Vektoren. Sie können semantische Ähnlichkeit und andere Suchkriterien kombinieren, um große Sprachmodelle (RAG) für genauere und relevantere Antworten zu erstellen.

  • OCI Functions

    Oracle Cloud Infrastructure Functions ist eine vollständig verwaltete, mehrmandantenfähige, hoch skalierbare, On-Demand-Funktionen-as-a-Service-(FaaS-)Plattform. Sie wird von der Open Source-Engine Fn Project unterstützt. Mit OCI Functions können Sie Ihren Code bereitstellen, direkt aufrufen oder auch als Reaktion auf Ereignisse auslösen. OCI Functions verwendet Docker-Container, die in Oracle Cloud Infrastructure Registry gehostet werden.

Deploy

Um diese Architektur bereitzustellen, befolgen Sie die Anweisungen in dieser Liveübung:

Bestätigungen

  • Autoren: Luke Farley, Abhinav Jain
  • Mitwirkender: Kaushik Kundu