Vector Stores und Semantic Stores

Vektorspeicher

• Speicherung:Vektoren (auch als Einbettungen bezeichnet), die numerische Darstellungen von Inhalten wie Dokumenten, Passagen, Chatnachrichten, Code oder Bildern sowie Metadaten (ID, Zeitstempel, Quelle usw.) darstellen.
• Was es tut: Unterstützt eine schnelle Ähnlichkeitssuche (und oft eine hybride Suche), damit Sie die relevantesten Informationen aus den bereitgestellten Daten abrufen können.

Vektorspeicher in generativer KI

• Powers Retrieval-Augmented Generation (RAG): Integrieren Sie Wissensquellen in einen Vektorspeicher, rufen Sie die ähnlichsten Chunks zur Abfragezeit ab, und stellen Sie sie dann dem LLM als geerdeten Kontext zur Verfügung.
• Rundet die Antworten: Verbessert die Relevanz der abgerufenen Informationen und verringert die Wahrscheinlichkeit, halluzinierte Informationen zu verwenden, indem Antworten in abgerufenen Unternehmensinhalten geerdet werden.

Beispielanwendungsfälle

• Suche nach relevanten Dokumenten, die den Fragen eines Benutzers entsprechen.
• Unterstützung der kontextbezogenen Suche in Chatbots.

Beispielworkflow

1. Ein PDF in Absätze zerlegen.
2. Erstellen Sie einen Einbettungsvektor für jeden Absatz.
3. Speichern Sie Vektoren + Absatztext + Metadaten im Vektorspeicher.
4. Wenn ein Benutzer eine Frage stellt, betten Sie die Frage ein, und rufen Sie die nächsten Absätze ab, die als Kontext für das Modell aufgenommen werden sollen.

Um NL2SQL zu verwenden, erstellen Sie eine OCI-semantische Speicherressource.

Ein semantischer Speicher wird von einem Vektorspeicher mit strukturierten Daten gesichert und enthält die folgenden DBTools-Verbindungen:

• Anreicherungsverbindung
• Abfrageverbindung

Um in der Konsole einen semantischen Speicher zu erstellen, erstellen Sie einen Vektorspeicher mit strukturierten Daten. In der API können Sie die API CreateSemanticStore verwenden.

Weitere Informationen zu SQL Search (NL2SQL).