Erweiterte Abrufgenerierung mit Oracle Integration implementieren

Retrieval-Augmented Generation (RAG) ist ein leistungsstarkes generatives KI-Implementierungsmuster, das generative Modelle verbessert, indem Unternehmensinformationen über Datenabrufmechanismen ohne zusätzliches Modelltraining integriert werden. Mit RAG können Sie die Ausgabe eines großen Sprachmodells (LLM) mit gezielten Informationen optimieren, ohne das zugrunde liegende Modell selbst zu ändern. Zielinformationen können aktueller sein als das LLM und spezifisch für eine bestimmte Organisation und Branche sein. Dadurch kann das GenAI-System kontextbezogenere Antworten auf Prompts bereitstellen und diese Antworten auf extrem aktuelle Daten basieren.

RAG hilft LLMs, bessere Antworten zu geben, weil:

Es ist eine relativ neue Technik der künstlichen Intelligenz, die die Qualität von GenAI verbessern kann, indem LLMs zusätzliche Datenressourcen ohne Umschulung nutzen können.
RAG-Modelle erstellen Wissens-Repositorys basierend auf den unternehmenseigenen Daten. Diese Repositorys können kontinuierlich aktualisiert werden, um GenAI dabei zu unterstützen, zeitnahe, kontextbezogene Antworten bereitzustellen.
Chatbots und andere Konversationssysteme, die Natural Language Processing verwenden, können stark von RAG und GenAI profitieren.
Die Implementierung von RAG erfordert Technologien wie Vektordatenbanken, die eine schnelle Codierung neuer Daten ermöglichen, und sucht anhand dieser Daten in das LLM ein.

Architektur

Diese Referenzarchitektur zeigt, wie Sie ein RAG-Framework mit semantischer Suchmethode implementieren können, um eine Benutzerabfrage für Unternehmensdaten mit einer Low-Code- oder No-Code-Integrationsplattform wie Oracle Integration-(OIC-)Services zu beantworten.

In dieser Architektur wird Oracle Cloud Infrastructure Generative AI verwendet, um Einbettungen zu erstellen und basierend auf den kontextspezifischen Unternehmensdaten optimierte oder hilfreiche Antworten/Antworten zu generieren. Oracle Autonomous Database 23ai wird verwendet, um die Vektoreinbettungen zu speichern, Indizes zu erstellen und eine semantische Suche basierend auf der Ähnlichkeit oder Entfernung anstelle einer keywordbasierten Suche durchzuführen. OCI Functions wird verwendet, um ein Chunking von Unternehmensdokumenten oder -daten mit den Standard-python-Packages LangChain auszuführen. OIC-Services verarbeiten den gesamten Orchestrierungs- und Automatisierungsprozess vom Empfang der Unternehmensdaten bis zum Speichern/Abfragen dieser als Vektoreinbettungen und generieren die optimierten und kreativen kontextspezifischen Antworten für die Benutzerabfragen in Echtzeit oder nahezu in Echtzeit.

Die folgenden Diagramme veranschaulichen zwei Prozesse, die von dieser Referenzarchitektur unterstützt werden:

Abrufprozess:

Beschreibung der Abbildung rag-oic.png

rag-oic-oracle.zip

Dabei geschieht Folgendes:
1. Unternehmens- oder Unternehmensdaten werden an den Oracle Integration Retriever-Service in verschiedenen Formaten wie PDF, TXT, CSV, XML, JSON usw. über REST, File oder sFTP oder andere Protokolle empfangen.
2. Der Retriever-Service optimiert die Dokumente oder Daten mit OCI Functions.
3. Der Retriever-Service ruft dann die Vektoreinbettungen für jeden Datenblock ab, indem er den OCI Generative AI-Einbettungsservice aufruft, indem er Modelle wie Cohere oder andere einbettet.
4. Schließlich speichert der Retriever-Service diese Einbettungen in der Oracle Autonomous Database 23ai zusammen mit den geteilten Daten.
Erweiterungs- und Generierungsprozess:

Beschreibung der Abbildung rag-oic-aug-gen.png

rag-oic-aug-gen-oracle.zip

Dabei geschieht Folgendes:
1. Unternehmens- oder Unternehmensbenutzer stellen über Frontend-Anwendungen Fragen oder Fragen zu Unternehmensdaten wie Richtlinien, Personalwesen, Vertrieb, Kaufhistorie, Finanzberichte, Probleme usw.
2. OICs Generate-Service empfängt die Abfragedaten und ruft den Augment-Service der lokalen Integration auf, um den Kontext für diese Abfrage abzurufen.
3. Der Augment-Service von OIC ruft nach dem Aufruf den Einbettungsservice von OCI Generative AI auf, um die Vektoreinbettungen der Abfragedaten abzurufen.
4. Der Augment-Service von OIC ruft den in Oracle Autonomous Database 23ai gespeicherten Kontext basierend auf der semantischen Suche nach den Einbettungen des Abfragedatenvektors ab. Der abgerufene Kontext wird als Antwort auf den Generierungsservice zurückgesendet.
5. Der Generierungsservice ruft mit dem empfangenen Kontext und der Abfrage den OCI Generative AI-Generierungsservice auf, um die entsprechende Antwort zu generieren.
6. Schließlich antwortet der Generierungsservice mit der generierten Antwort an den Benutzer.

OIC unterstützt Kunden bei der Automatisierung des End-to-End-RAG-Prozesses. Kunden oder Unternehmen können von der Verwendung einer Low-Code-No-Code-Integrationsplattform profitieren, um RAG auf ihren Unternehmensdaten zu implementieren. Die Entwicklung von RAG mit einer Low-Code-No-Code-Plattform ermöglicht die Entwicklung und Markteinführung innerhalb von Stunden oder Tagen statt Monaten.

Die Architektur umfasst die folgenden Komponenten:

Autonomous Database
Oracle Autonomous Database ist eine vollständig verwaltete, vorkonfigurierte Datenbankumgebung, die Sie für Transaktionsverarbeitungs- und Data Warehousing-Workloads verwenden können. Sie müssen keine Hardware konfigurieren oder verwalten oder Software installieren. Oracle Cloud Infrastructure übernimmt das Erstellen der Datenbank sowie Backup, Patching, Upgrade und Optimierung der Datenbank.
Autonomous Transaction Processing
Oracle Autonomous Transaction Processing ist ein selbststeuernder, selbstsichernder und selbstreparierender Datenbankservice, der für Transaktionsverarbeitungs-Workloads optimiert ist. Sie müssen keine Hardware konfigurieren oder verwalten oder Software installieren. Oracle Cloud Infrastructure übernimmt das Erstellen der Datenbank sowie Backup, Patching, Upgrade und Optimierung der Datenbank.
Functions
Oracle Cloud Infrastructure Functions ist eine vollständig verwaltete, mehrmandantenfähige, hoch skalierbare, bedarfsgesteuerte Functions-as-a-Service-(FaaS-)Plattform. Es wird von der Open-Source-Engine Fn Project angetrieben. Mit Funktionen können Sie Ihren Code bereitstellen und entweder direkt aufrufen oder als Reaktion auf Ereignisse auslösen. Oracle Functions verwendet Docker-Container, die in Oracle Cloud Infrastructure Registry gehostet werden.
Integration
Oracle Integration ist ein vollständig verwalteter Service, mit dem Sie Ihre Anwendungen integrieren, Prozesse automatisieren, Einblicke in Ihre Geschäftsprozesse erlangen und visuelle Anwendungen erstellen können.
Generative KI
Oracle Cloud Infrastructure Generative AI ist ein vollständig verwalteter OCI-Service, der eine Reihe hochmoderner, anpassbarer großer Sprachmodelle (Large Language Models, LLMs) bereitstellt, die eine Vielzahl von Anwendungsfällen für die Textgenerierung, Zusammenfassung, semantische Suche und mehr abdecken. Mit dem Playground können Sie vortrainierte Modelle sofort verwenden oder eigene optimierte benutzerdefinierte Modelle basierend auf Ihren eigenen Daten auf dedizierten KI-Clustern erstellen und hosten.
Oracle Database 23ai
Oracle Database 23ai ist das nächste langfristige Support-Release von Oracle Database. Es umfasst über 300 neue Funktionen mit Schwerpunkt auf künstlicher Intelligenz (KI) und Entwicklerproduktivität. Mit Features wie AI Vector Search können Sie eine neue Generation von KI-Modellen nutzen, um Vektoren von Dokumenten, Bildern, Ton usw. zu generieren und zu speichern. Sie können sie indizieren und schnell nach Ähnlichkeit suchen, während Sie die vorhandenen Analysefunktionen von Oracle Database nutzen. In Kombination mit den bereits umfangreichen Algorithmen für maschinelles Lernen können Sie schnell anspruchsvolle KI-fähige Anwendungen erstellen. Oracle Database 23ai verwendet KI auch, um viele der wichtigsten Datenbankfunktionen zu optimieren, um genauere Schätzungen für Zeitpläne und Ressourcenkosten zu erstellen.

Mehr erfahren

Erfahren Sie mehr über die Implementierung von RAG mit Oracle Integration.

Prüfen Sie diese zusätzlichen Ressourcen:

Prüfen Sie diese OCI Generative AI-Ressourcen:

Danksagungen

Autor: Pavan Rajalbandi