Abfragen in natürlicher Sprache aus einer beliebigen Oracle ERP-Anwendung ausführen

Führen Sie Abfragen in natürlicher Sprache (NLQs) aus Oracle E-Business Suite, PeopleSoft und JD Edwards EnterpriseOne aus, indem Sie eine native AskFinance-Lösung in natürlicher Sprache verwenden, die auf Oracle Cloud Infrastructure basiert.

Da Finanzteams weltweit Schwierigkeiten haben, mit den ständig wachsenden Mengen an Finanztransaktionen Schritt zu halten, werden Abfragen in natürlicher Sprache schnell zum Dreh- und Angelpunkt schnellerer, besser informierter Entscheidungen des Unternehmens. Eine wichtige Funktion von NLQs ist, dass sie es jedem autorisierten Benutzer leicht machen, Abfragen auszuführen, schwierige Fragen zu beantworten und Umsatz, Gewinne und Gewinne auf eine Weise positiv zu beeinflussen, die zuvor nicht möglich war.

Da NLQs für die Beantwortung von Fragen mit großen Sprachmodellen (LLMs) entwickelt wurden, können autorisierte Benutzer ihre Fragen einfach mit Sprache, Sprache oder Text im Garten stellen. Und da NLQs keine IT-Experten benötigen, um datenbankspezifische Abfragesprachen zu codieren und zu entschlüsseln, können nicht-technische Mitarbeiter jetzt Daten analysieren und geschäftskritische Erkenntnisse auf Anforderung erstellen.

Die Ausführung von NLQs war noch nie einfacher mit einer AskFinance-Lösung, die nativ auf Oracle Cloud Infrastructure basiert. Mit Oracle AskFinance können sowohl technische als auch nicht-technische Mitarbeiter Abfragen ausführen, sodass sie die Finanzdaten ihres Unternehmens sofort abrufen und analysieren können. Durch die Verwendung einer Chatbot-Schnittstelle von Oracle Digital Assistant (ODA) können alle autorisierten Benutzer Fragen zum Status der Verbindlichkeiten (AP), Forderungen (DE) oder Hauptbuch (GL) ihres Unternehmens stellen, ohne eine Serviceanfrage zur Abfrageentwicklung erstellen, auf Support warten oder ein überzeichnetes IT-Personal belasten zu müssen.

Durch die Verbindung von Oracle Autonomous Database, Oracle Cloud Infrastructure GoldenGate, Oracle Cloud Infrastructure Cache with Redis und Oracle Cloud Infrastructure Generative AI mit den ERP-Anwendungen Ihres Unternehmens können Ihre Finanzteams sofort Trends erkennen, Ergebnisse vorhersagen und Aktionen aus riesigen Mengen neuer und älterer Daten planen, die in Ihren Oracle E-Business Suite-, PeopleSoft- und JD Edwards EnterpriseOne-Systemen verborgen sind.

Zu den Highlights dieser Lösung gehören:

  • Bietet unmittelbaren Geschäftswert: Diese Lösung demokratisiert den Datenzugriff, sodass nicht-technische Benutzer Daten effektiv nutzen können und gleichzeitig technische Teams von routinemäßigen Berichtsaufgaben befreien können, sodass sie sich auf wichtigere Prioritäten konzentrieren können.
  • Nutzt generative KI sinnvoll: Viele Unternehmen haben aufgrund von Use-Case- und Skill-Set-Überlegungen Schwierigkeiten, sinnvolle Wege zur Einführung von KI und maschinellem Lernen (ML) zu finden. Diese Lösungen bieten einen echten Mehrwert und reduzieren die Hindernisse für die KI/ML-Einführung.
  • Arbeitet mit flexiblen Datenquellen: Diese Lösung funktioniert nahtlos mit praktisch jeder strukturierten Datenquelle und mit Daten aus On-Premises- oder cloudbasierten Systemen. Dieses Muster ist auch sehr anpassungsfähig, sodass es einfach ist, seine Kompatibilität auf mehrere Datenquellen zu erweitern.
  • Nutzt Open LLM: Bei diesem Ansatz wird ein Open-Source-Modell NL2SQL verwendet, das speziell für die SQL-Generierung entwickelt wurde. Sie können mühelos in verschiedene oder verbesserte Modelle wechseln, während sich die Technologie weiterentwickelt und eine kontinuierliche Optimierung gewährleistet.

Webinar wiedergeben

Webinar wiedergeben:

Architektur

Ein Best-Practice-Architekturdesign für die Bereitstellung einer Natural Language Query (NLQ) sollte Finanzteams die gleiche außergewöhnliche Performance bieten, wenn es auf Anwendungen, Datenbanken oder andere Datenquellen angewendet wird.

Damit Finanzteams die Finanzdaten ihres Unternehmens bewerten, analysieren und auswerten können, empfiehlt Oracle, eine Oracle Autonomous Database bereitzustellen, um zuerst Finanzdaten aus einer ERP-Anwendung zu lesen. Oracle empfiehlt zwar die Verwendung von Autonomous Database, Sie können jedoch jede relationale Datenbank verwenden.

Sie können Oracle Digital Assistant verwenden, um Abfragen in natürlicher Sprache zu verarbeiten, oder Sie können einen benutzerdefinierten Chatbot mit Tools wie Oracle APEX Application Development (APEX) oder einem Open-Source-Tool zur Anwendungsentwicklung wie StreamLit erstellen.

Mit Oracle Cloud Infrastructure Generative AI können Sie entweder Ihre eigenen LLM-Modelle (Großsprachenmodelle) optimieren oder hosten. Alternativ können Sie die sofort einsatzbereiten großen Sprachmodelle verwenden, die in OCI Generative AI angeboten werden, wie Cohere und Llama.

Zum Hosten des Modells können Sie eine GPU-Instanz auf Bare-Metal- oder virtuellen Maschinen ausführen oder ein dediziertes Cluster aus OCI Generative AI verwenden.

Im folgenden Diagramm wird die Architektur dargestellt:



askfinance-nlq-erp-prozess-oracle.zip

Die Architektur umfasst die folgenden Komponenten:

  • Tenancy

    Ein Mandant ist eine sichere und isolierte Partition, die Oracle in Oracle Cloud einrichtet, wenn Sie sich für Oracle Cloud Infrastructure registrieren. Sie können Ihre Ressourcen in Oracle Cloud in Ihrem Mandanten erstellen, organisieren und verwalten. Ein Mandant ist ein Synonym für ein Unternehmen oder eine Organisation. In der Regel verfügt ein Unternehmen über einen einzigen Mandanten und spiegelt seine Organisationsstruktur innerhalb dieses Mandanten wider. Ein einzelner Mandant ist in der Regel mit einem einzelnen Abonnement verknüpft, und ein einzelnes Abonnement hat in der Regel nur einen Mandanten.

  • Region

    Eine Oracle Cloud Infrastructure-Region ist ein lokalisierter geografischer Bereich, der mindestens ein Data Center enthält, das als Availability-Domain bezeichnet wird. Regionen sind unabhängig von anderen Regionen, und große Entfernungen können sie trennen (über Länder oder sogar Kontinente).

  • Availability-Domain

    Availability-Domains sind eigenständige, unabhängige Data Center innerhalb einer Region. Die physischen Ressourcen in jeder Availability-Domain sind von den Ressourcen in den anderen Availability-Domains isoliert, was eine Fehlertoleranz sicherstellt. Availability-Domains haben keine gemeinsame Infrastruktur wie Stromversorgung oder Kühlung oder das interne Availability-Domainnetzwerk. Daher sollte ein Fehler in einer Availability-Domain sich nicht auf die anderen Availability-Domains in der Region auswirken.

  • Virtuelles Cloud-Netzwerk (VCN) und Subnetze

    Ein VCN ist ein anpassbares, softwaredefiniertes Netzwerk, das Sie in einer Oracle Cloud Infrastructure-Region einrichten können. Wie herkömmliche Data Center-Netzwerke erhalten Sie mit VCNs die Kontrolle über Ihre Netzwerkumgebung. Ein VCN kann mehrere sich nicht überschneidende CIDR-Blöcke aufweisen, die Sie nach dem Erstellen des VCN ändern können. Sie können ein VCN in Subnetze segmentieren, die sich auf eine Region oder eine Availability-Domain beschränken. Jedes Subnetz besteht aus einem Bereich zusammenhängender Adressen, die sich nicht mit anderen Subnetzen im VCN überschneiden. Sie können die Größe eines Subnetzes nach der Erstellung ändern. Ein Subnetz kann öffentlich oder privat sein.

  • Routentabelle

    Virtuelle Routentabellen enthalten Regeln zum Weiterleiten von Traffic von Subnetzen an Ziele außerhalb eines VCN, in der Regel über Gateways.

  • Sicherheitsliste

    Für jedes Subnetz können Sie Sicherheitsregeln erstellen, die Quelle, Ziel und Typ des Traffics angeben, der im Subnetz und aus dem Subnetz zugelassen werden muss.

  • Compute

    Mit dem Oracle Cloud Infrastructure Compute-Service können Sie Compute-Hosts in der Cloud bereitstellen und verwalten. Sie können Compute-Instanzen mit Ausprägungen starten, die Ihre Ressourcenanforderungen für CPU, Speicher, Netzwerkbandbreite und Speicher erfüllen. Nach dem Erstellen einer Compute-Instanz können Sie sicher darauf zugreifen, die Compute-Instanz neu starten, Volumes zuordnen und trennen und die Compute-Instanz beenden, wenn Sie sie nicht mehr benötigen.

  • OCI GoldenGate

    Oracle Cloud Infrastructure GoldenGate ist ein verwalteter Service, der eine Echtzeit-Data-Mesh-Plattform bereitstellt, die mithilfe von Replikation Daten hoch verfügbar macht und Echtzeitanalysen ermöglicht. Sie können Ihre Datenreplikations- und Datenverarbeitungslösungen entwerfen, ausführen und überwachen, ohne Compute-Umgebungen zuzuweisen oder zu verwalten.

  • Autonomous Database

    Oracle Autonomous Database ist eine vollständig verwaltete, vorkonfigurierte Datenbankumgebung, die Sie für Transaktionsverarbeitungs- und Data Warehousing-Workloads verwenden können. Sie müssen keine Hardware konfigurieren oder verwalten oder Software installieren. Oracle Cloud Infrastructure übernimmt das Erstellen der Datenbank sowie Backup, Patching, Upgrade und Optimierung der Datenbank.

  • Cache mit Redis

    Oracle Cloud Infrastructure Cache with Redis ist eine umfassende, verwaltete In-Memory-Caching-Lösung, die auf der Grundlage von Open Source Redis basiert. Dieser vollständig verwaltete Service beschleunigt das Lesen und Schreiben von Daten und verbessert die Reaktionszeiten von Anwendungen und die Datenbankleistung erheblich, um ein besseres Kundenerlebnis zu bieten.

  • Digital Assistant

    Oracle Digital Assistant ist eine Plattform, mit der Sie digitale Assistenten für Ihre Benutzer erstellen und bereitstellen können. Mit Oracle Digital Assistant können Sie KI-gesteuerte Schnittstellen (oder Chatbots) für Geschäftsanwendungen über Text-, Chat- und Sprachschnittstellen erstellen. Jeder digitale Assistent verfügt über eine Sammlung von mindestens einem spezialisierten Skill, mit dem Benutzer eine Vielzahl von Aufgaben in Unterhaltungen in natürlicher Sprache ausführen können. Beispiel: Ein einzelner digitaler Assistent verfügt über Skills, die sich auf bestimmte Aufgabentypen konzentrieren, wie das Verfolgen von Bestand, das Weiterleiten von Stundennachweisen und das Erstellen von Spesenabrechnungen.

Stellen Sie

Verwenden Sie die folgenden allgemeinen Schritte, um die Architektur bereitzustellen.

  1. Bereitstellen von Oracle Cloud Infrastructure GoldenGate, um Finanzberichtsdaten in Echtzeit aus einer Oracle E-Business Suite, PeopleSoft, JD Edwards EnterpriseOne oder einer anderen Finanzdatenquelle zu lesen. OCI GoldenGate bietet Echtzeiterfassung, Transformation, Routing und Zustellung Ihrer Datenbanktransaktionen über verschiedene Anwendungen hinweg. Darüber hinaus bietet die zertifizierte Konfiguration von Oracle E-Business Suite mit GoldenGate 19c (und höher) auch eine unidirektionale Methode zum Replizieren der Quelldatenbank von Oracle E-Business Suite in eine Remote-Zieldatenbank von Oracle, die für das operative Reporting verwendet werden kann.
  2. Stellen Sie Oracle Autonomous Data Warehouse bereit, um Ihre Finanzdaten zusammenzufassen und zu persistieren. Autonomous Database ermöglicht es Ihren Finanzteams nicht nur, die zugrunde liegenden Rentabilitätsfaktoren schnell aufzudecken, sondern auch Unternehmen mit Autonomous Database dabei zu unterstützen, die Art und Weise zu verbessern, wie sie Betriebskapital nutzen, Geschäftsausgaben zu kontrollieren und vieles mehr.
    1. Wählen Sie basierend auf Ihrem Hardwaresetup gemeinsame oder dedizierte Bereitstellungsoptionen aus. Zu den Deployment-Optionen gehören Unterstützung für Oracle Exadata Database Service on Cloud@Customer, OCI Dedicated Region und Multi-Cloud.
    2. Verwenden Sie Autoscaling, um die Kontinuität bei Trafficspitzen und anderen Schwankungen aufrechtzuerhalten, die sich auf Workload-Volumes auswirken.
  3. Bereitstellen von Oracle Digital Assistant (ODA), um Chat- und Sprachschnittstellen mit erweiterter natürlicher Sprachverarbeitung zu unterstützen, die einfache Chatbots übertrifft. Verwenden Sie ODA, um eine einfache und sichere Verbindung zu jeder Anwendung und Datenquelle herzustellen, indem Sie einfache REST-Services oder Oracle Integration verwenden. Die hier gezeigte Architektur verwendet die REST-Funktionen von ODA.
  4. Erstellen Sie eine Linux-OCI-Compute-Instanz, um die python-App zu hosten, und eine NVIDIA-GPU-Instanz, um das Large Language Model zu hosten (LLM - NL2SQL Model, wie SQL coder-7B-2).
  5. Richten Sie Oracle Cloud Infrastructure Cache with Redis ein, um die Chathistorie zu verwalten und die zuvor generierten SQL-Abfragen zu cachen, um die Performance zu steigern.
  6. Implementieren Sie ein großes Sprachmodell aus OCI Generative AI, um die vom Benutzer angegebene Frage (Intent) mit zusätzlichem Kontext anzureichern.

Danksagungen

  • Autoren: Raj Arora, Raja Vijjapu
  • Mitwirkende: Sasha Banks-Louie, Patrick Shepherd, Robert Lies