Oracle Cloud Infrastructure-Dokumentation

AI mit Retrieval Augmented Generation (RAG) auswählen

Wählen Sie AI mit RAG aus, um Ihre Eingabeaufforderung in natürlicher Sprache zu erweitern, indem Sie mit der semantischen Ähnlichkeitssuche Inhalte aus dem angegebenen Vektorspeicher abrufen. Dies reduziert Halluzinationen, indem Sie Ihre spezifischen und aktuellen Inhalte verwenden, und liefert relevantere Antworten in natürlicher Sprache auf Ihre Aufforderungen.

Select AI automatisiert den Prozess Retrieval Augmented Generation (RAG). Diese Technik ruft Daten aus Unternehmensquellen mithilfe der KI-Vektorsuche ab und erweitert Benutzer-Prompts für das angegebene Large Language Model (LLM). Durch die Nutzung von Informationen aus Unternehmensdatenspeichern reduziert RAG Halluzinationen und generiert geerdete Antworten.

RAG verwendet die AI-Vektorsuche auf einem Vektorindex, um semantisch ähnliche Daten für die angegebene Frage zu finden. Vector Store verarbeitet Vektoreinbettungen, bei denen es sich um mathematische Darstellungen verschiedener Datenpunkte wie Text, Bilder und Audio handelt. Diese Einbettungen erfassen die Bedeutung der Daten und ermöglichen eine effiziente Verarbeitung und Analyse. Weitere Informationen zu Vektoreinbettungen und zur KI-Vektorsuche finden Sie unter Überblick über die KI-Vektorsuche.

Select AI lässt sich in die KI-Vektorsuche integrieren, die in Oracle Autonomous Database 23ai für die Ähnlichkeitssuche mit Vektoreinbettungen verfügbar ist.

Themen

Übergeordnetes Thema: Select AI für Natural Language Interaction mit Ihrer Datenbank verwenden

Erstellen Sie Ihren Vector Store

Select AI automatisiert die Erstellung und Auffüllung von Vektorspeichern, indem Eingabedokumente (z.B. PDF, DOC, JSON, XML oder HTML) aus dem Objektspeicher in Nur-Text konvertiert werden. Oracle Text unterstützt rund 150 Dateitypen. Eine vollständige Liste aller unterstützten Dokumentformate finden Sie unter Unterstützte Dokumentformate.

Select AI verarbeitet Dokumente automatisch in Chunks, generiert Einbettungen, speichert sie im angegebenen Vektorspeicher und aktualisiert den Vektorindex, sobald neue Daten eintreffen.

So wird die Eingabe aus Object Storage mit Select AI RAG verwendet:
Beschreibung von adb-obj-storage-select-ai-rag.png folgt
Beschreibung der Abbildung adb-obj-storage-select-ai-rag.png

  1. Eingabe: Die Daten werden zunächst in einem Objektspeicher gespeichert.
  2. Oracle Autonomous Database ruft die Eingabedaten oder das Dokument ab, segmentiert sie und sendet die Chunks an ein Einbettungsmodell.
  3. Das Einbettungsmodell verarbeitet die Chunk-Daten und gibt Vektoreinbettungen zurück.
  4. Die Vektoreinbettungen werden dann in einem Vektorspeicher für die Verwendung mit RAG gespeichert. Beim Hinzufügen von Inhalten wird der Vektorindex automatisch aktualisiert.

RAG ruft relevante Informationen aus der Unternehmensdatenbank ab, um die Frage eines Benutzers zu beantworten. Diese Informationen werden zusammen mit der Benutzereingabe an das angegebene große Sprachmodell übermittelt. Select AI verwendet diese zusätzlichen Unternehmensinformationen, um die Eingabeaufforderung zu verbessern und die Antwort des LLM zu verbessern. RAG kann die Antwortqualität mit aktualisierten Unternehmensinformationen aus dem Vektorspeicher verbessern.


Beschreibung von adb-diagram-third-party-vector-db-select-ai-rag.eps folgt
Beschreibung der Abbildung adb-diagram-third-party-vector-db-select-ai-rag.eps

Wählen Sie AI, um RAG wie folgt zu implementieren:

  1. Eingabe: Der Benutzer stellt eine Frage (gibt einen Prompt an) mit der Aktion "AI narrate auswählen".

  2. Bei Auswahl von AI werden Vektoreinbettungen des Prompts mit dem im AI-Profil angegebenen Einbettungsmodell generiert.

  3. Der Vektorsuchindex verwendet die Vektoreinbettung der Frage, um übereinstimmende Inhalte aus den indizierten Unternehmensdaten des Kunden (Suche des Vektorspeichers) zu finden.

  4. Die Vektorsuche gibt die besten K-Texte zurück, die der Eingabe für Ihre Autonomous Database-Instanz ähneln.
  5. Autonomous Database sendet diese Top-K-Abfrageergebnisse mit Benutzerfrage an das LLM.
  6. Der LLM gibt seine Antwort an die Autonomous Database-Instanz zurück.
  7. Autonomous Database Select AI stellt dem Benutzer die Antwort bereit.

Verwenden Sie DBMS_CLOUD_AI, um Vektorindizes zu erstellen und zu verwalten

Verwenden Sie das Package DBMS_CLOUD_AI, um Vektorindizes zu erstellen und zu verwalten und JSON-Parameter für Vektordatenbanken zu konfigurieren.

Nachdem Sie Zugangsdaten erstellt und Netzwerkzugriff auf die Vektordatenbank und den KI-Provider erteilt haben, verwendet Ihre Autonomous Database-Instanz KI-Profile, um den Zugriff auf LLMs zu konfigurieren. Ein vollständiges Beispiel zum Einrichten und Verwenden von Select AI mit RAG finden Sie unter Beispiel: Select AI mit RAG einrichten und verwenden.
Hinweis

Wenn Sie nicht möchten, dass Tabellendaten oder Vektorsuchdokumente an ein LLM gesendet werden, kann ein Benutzer mit Administratorberechtigungen diesen Zugriff für alle Benutzer der angegebenen Datenbank deaktivieren. Dadurch wird die Aktion narrate für RAG deaktiviert.

Sie können AI-Profile für Provider konfigurieren, die unter AI-Provider und LLMs auswählen im Package DBMS_CLOUD_AI aufgeführt sind.

Siehe auch:

Übergeordnetes Thema: AI mit Retrieval Augmented Generation (RAG) auswählen

Datenbankinterne Transformer-Modelle verwenden

Mit Select AI RAG können Sie vortrainierte ONNX-Transformermodelle verwenden, die in Ihre Datenbank in der Oracle Database 23ai-Instanz importiert werden, um Einbettungsvektoren aus Dokumentblöcken und Benutzer-Prompts zu generieren.

Weitere Informationen zum Importieren eines vortrainierten ONNX-Modells in Ihre Oracle Database 23ai-Instanz finden Sie unter
Hinweis

Sie müssen ein vortrainiertes Transformer-Modell im ONNX-Format in die Oracle Database 23ai-Instanz importieren, um Select AI RAG mit importiertem datenbankinternem Transformer-Modell zu verwenden. Sie können auch andere Transformer-Modelle von unterstützten KI-Providern verwenden.

Informationen zum Feature finden Sie unter Beispiel: AI mit datenbankinternen Transformer-Modellen auswählen.

Vorteile von Select AI RAG

Vereinfachen Sie die Abfrage, verbessern Sie die Antwortgenauigkeit mit aktuellen Daten und gewinnen Sie Transparenz, indem Sie die vom LLM verwendeten Quellen prüfen.

Select AI RAG bietet die folgenden Vorteile:

  • Vereinfachen Sie die Datenabfrage und erhöhen Sie die Antwortgenauigkeit: Ermöglichen Sie Benutzern, Unternehmensdaten in natürlicher Sprache abzufragen, und stellen Sie LLMs detaillierten Kontext aus Unternehmensdaten zur Verfügung, um genauere und relevantere Antworten zu generieren und Instanzen von LLM-Halluzinationen zu reduzieren.

  • Aktuelle Informationen: Bieten Sie LLMs Zugriff auf aktuelle Unternehmensinformationen mithilfe von Vektorspeichern, sodass keine kostspieligen, zeitaufwendigen Optimierungen von LLMs erforderlich sind, die auf statischen Datasets trainiert werden.

  • Nahtlose Integration: Integration mit Oracle AI Vector Search für optimierte Datenverarbeitung und verbesserte Performance.

  • Automatisierte Datenorchestrierung: Automatisieren Sie Orchestrierungsschritte mit einer vollständig verwalteten Vector Index-Pipeline, um eine effiziente Verarbeitung neuer Daten sicherzustellen.

  • Verständliche kontextbezogene Ergebnisse: Hat Zugriff und ruft die vom LLM verwendeten Quellen aus Vektorspeichern ab, um Transparenz und Vertrauen in die Ergebnisse zu gewährleisten. Zeigt Daten im Text in natürlicher Sprache oder im JSON-Format an und extrahiert sie für eine einfachere Integration und Anwendungsentwicklung.