RAG-Tool - Oracle Database-Richtlinien für generative KI-Agents

Bevor Sie einen Oracle Database-Vektorspeicher der Version 23ai als Datenoption für generative KI-Agents verwenden, stellen Sie sicher, dass Sie verstehen, was unterstützt wird, und führen Sie alle erforderlichen Aufgaben aus.

Datenbanktypen

Generative KI-Agents unterstützen BYO-Vektoreinbettungen von:

• Oracle Base Database 23ai: Die Datenbank kann in einem privaten Netzwerk konfiguriert werden. Siehe DB-Systeme erstellen.

• Nur Oracle Autonomous Database 23ai der folgenden Netzwerkzugriffstypen:

  • Nur Zugriff auf privaten Endpunkt: Die gegenseitige TLS-(mTLS-)Authentifizierung kann aktiviert werden, um Verbindungen zur Datenbank zu authentifizieren. Aktivieren Sie das Kontrollkästchen Gegenseitige TLS-Authentifizierung (mTLS) erforderlich, um die mTLS-Authentifizierung zu aktivieren.

  • Sicherer Zugriff von überall: Die mTLS-Authentifizierung ist standardmäßig aktiviert und erforderlich.

  Siehe Autonomous Database-Instanz erstellen.

Autonome Datenbanken für mTLS-Authentifizierung aktiviert

Wenn die autonome Datenbank für die mTLS-Authentifizierung aktiviert ist, müssen Sie das Wallet herunterladen, ein Wallet-Kennwort erstellen und eine Datei aus dem Wallet extrahieren. Siehe Wallet-Sicherheitsanforderungen in Schritt 3. Netzwerk- und Sicherheitsanforderungen konfigurieren

Regionsübergreifende und mandantenübergreifende Datenbankunterstützung

Regionsübergreifende und mandantenübergreifende Datenbankunterstützung ist nur für Oracle Database 23ai mit privatem Netzwerkzugriff verfügbar. Dazu gehören Oracle Base Database und Oracle Autonomous Database, die mit dem Netzwerkzugriffstyp Nur Zugriff auf privaten Endpunkt konfiguriert sind. Autonome Datenbanken mit öffentlichem Zugriff werden nicht unterstützt.

Wenn Sie generative AI-Agents in einer gehosteten Region verwenden, können Sie eine Verbindung zu einer privaten Zugriffsdatenbank herstellen, die sich in Folgendem befindet:

• Eine andere Region innerhalb desselben Mandanten. Aktivieren Sie die Konnektivität, indem Sie eine Verbindung zu den Datenbanktools in der Region erstellen, in der der Agent-Service verfügbar ist.
• Weiterer Mandant. Aktivieren Sie die Konnektivität, indem Sie eine Verbindung zu Datenbanktools in dem Mandanten erstellen, in dem der Agent-Service verfügbar ist.

Informationen zum Einrichten der Netzwerkeinstellungen finden Sie unter Netzwerkanforderungen (regional und mandantenübergreifend) in Schritt 3. Netzwerk- und Sicherheitsanforderungen konfigurieren

Um eine Verbindung zu erstellen, geben Sie die Verbindungszeichenfolge manuell ein, wie in Schritt 5 beschrieben. Datenbanktoolverbindungen erstellen.

Neben dem Benutzerzugriff auf alle generativen KI-Agent-Ressourcen, wie unter Policys hinzufügen, bevor Sie den Service verwenden können beschrieben, müssen Sie eine dynamische Gruppe mit Zugriff auf Vault Secrets und Datenbanktools erstellen.

1. Erstellen Sie eine dynamische Gruppe, und fügen Sie die folgende Vergleichsregel hinzu.

   ALL {resource.type='genaiagent'}

   Wenn Sie Hilfe benötigen, finden Sie weitere Informationen unter Dynamische Gruppen erstellen.

2. Erteilen Sie der dynamischen Gruppe Berechtigungen.

   • Schreiben Sie die folgenden Policys, die mit der Standardidentitätsdomain verwendet werden können:

     allow dynamic-group <dynamic-group-name> 
     to read database-tools-family in compartment <compartment-name>
     
     allow dynamic-group <dynamic-group-name> 
     to read secret-bundle in compartment <compartment-name>
     

   • Verwenden Sie die folgenden Policys mit einer Identitätsdomain, die nicht standardmäßig ist, und geben Sie den Oracle Identity Cloud Service-(IDCS-)Domainnamen und den Namen der dynamischen Gruppe an:

     allow dynamic-group '<idcs-domain-name>/<dynamic-group-name>' 
     to read database-tools-family in compartment <compartment-name>
     
     allow dynamic-group '<idcs-domain-name>/<dynamic-group-name>' 
     to read secret-bundle in compartment <compartment-name>
     

allow any-user to read database-tools-family in compartment <compartment-name> where any {request.principal.type='genaiagent'}

allow any-user to read secret-bundle in compartment <compartment-name> where any {request.principal.type='genaiagent'}

Führen Sie diese Aufgaben aus, wenn Sie die erforderlichen Ressourcen noch nicht konfiguriert oder erstellt haben.

Netzwerkanforderungen

• Fügen Sie die Datenbank dem privaten Subnetz eines VCN hinzu.
• Richten Sie die folgenden Eigenschaften für die Ingress-Regel des Subnetzes ein:
  • Quelltyp: CIDR
  • Source CIDR: The VCN's IPv4 CIDR Block (such as 10.0.0.0/16)
  • IP-Protokoll: TCP
  • Quellportbereich: Alle
  • Zielportbereich: 1521-1522

Netzwerkanforderungen (regionale und mandantenübergreifende Datenbank)

Die folgenden Anforderungen gelten nur für Oracle Database 23ai mit privatem Netzwerkzugriff. Dazu gehören Oracle Base Database und Oracle Autonomous Database, die mit dem Netzwerkzugriffstyp Nur Zugriff auf privaten Endpunkt konfiguriert sind. Autonome Datenbanken mit öffentlichem Zugriff werden nicht unterstützt.

Netzwerkeinstellungen

• Richten Sie zwei VCNs mit sich nicht überschneidenden CIDRs ein. Informationen zum Konfigurieren der Netzwerkeinstellungen finden Sie unter Remote-VCN-Peering.
• Stellen Sie im VCN der Datenbank sicher, dass Sie die Ingress-Regel für das VCN-CIDR der Verbindung mit den Datenbanktools hinzufügen, um auf die Datenbankports 1521-1522 zuzugreifen.

Beispiel für regionsübergreifende Datenbanken: Sie können eine Verbindung zu einer Datenbank herstellen, die sich in einer anderen Region befindet als der Service für generative AI-Agents. Beispiele:

• Der Agent-Service wird in Mandant A in der ORD-Region ausgeführt.

• Die Oracle Base Database oder Oracle Autonomous Database mit privatem Netzwerkzugriff wird in der PHX-Region bereitgestellt.

• Um auf die private Datenbank zuzugreifen, konfigurieren Sie dynamische Routinggateways (DRGs) in beiden Regionen, und richten Sie eine Verbindung mit Datenbanktools in ORD ein, um eine Verbindung zur Datenbank in PHX herzustellen.

Beispiel für mandantenübergreifende Datenbanken: Sie können eine Verbindung zu einer Datenbank herstellen, die sich in einem anderen Mandanten als der Service für generative AI-Agents befindet. Beispiele:

• Der Agent-Service wird in Mandant A in der ORD-Region ausgeführt.

• Die Oracle Base Database oder Oracle Autonomous Database mit privatem Netzwerkzugriff wird in Mandant B in der PHX-Region bereitgestellt.

• Um auf die private Datenbank zuzugreifen, konfigurieren Sie dynamische Routinggateways (DRGs) in beiden Mandanten, und richten Sie eine Verbindung zu Datenbanktools in Mandant A (ORD-Region) ein, um eine Verbindung zur Datenbank in Mandant B (PHX-Region) herzustellen.

Die mandantenübergreifende Netzwerkkonfiguration gilt unabhängig davon, ob sich der Datenbankservice und der Agent-Service in derselben Region oder in verschiedenen Regionen befinden.

Vault-Sicherheitsanforderungen

Ein Vault in OCI Vault ist zum Speichern von Secrets für die Datenbank erforderlich, wie z.B. das Kennwort für die Datenbank.

Erstellen Sie den Vault in demselben Compartment wie die Verbindung mit den Datenbanktools. Dies gilt für Datenbanken in derselben Region wie der Service "Generative AI Agents" sowie für regions- oder mandantenübergreifende Datenbanken.

1. Vault erstellen.
2. Master-Verschlüsselungsschlüssel erstellen.
3. Erstellen Sie im Vault ein Secret für das Datenbankkennwort.

Wallet-Sicherheitsanforderungen

Wenn die autonome Datenbank für die mTLS-Authentifizierung aktiviert ist, führen Sie die folgenden Aufgaben aus:

1. Laden Sie das Wallet herunter, und erstellen Sie ein Wallet-Kennwort. Siehe Clientzugangsdaten (Wallets) herunterladen.
2. Extrahieren Sie aus der heruntergeladenen Wallet-ZIP die Datei ewallet.p12, und legen Sie sie beiseite. Sie benötigen das Wallet PKCS#12, um die Verbindung zu den Datenbanktools zu erstellen.

Erstellen Sie in der Datenbank, die Sie für die Verwendung mit generativen KI-Agents erstellt haben, eine Datenbanktabelle mit bestimmten erforderlichen Feldern, und richten Sie eine Datenbankfunktion ein, die Vektorsuchergebnisse aus Abfragen zurückgibt.

Datenbanktabelle

Erstellen Sie eine Oracle Database 23ai-Tabelle mit den folgenden Feldern:

Pflichtfelder

• DOCID: Eine ID, die jedem Datensatz oder Dokument zugewiesen ist
• BODY: Der tatsächliche Inhalt, nach dem der Agent suchen soll
• VECTOR: Der Vektor, der aus einem Einbettungsmodell basierend auf dem body-Inhalt generiert wird

Optionale Felder

• CHUNKID: Eine ID für das geteilte Dokument, falls das Dokument größer als 512 Token ist.
• URL: Eine URL-Referenz für den Inhalt, sofern verfügbar.
• TITLE: Der Titel des body-Inhalts
• PAGE_NUMBERS: Die Seitenzahlen für den Inhalt, sofern verfügbar.

Tipp

Sie können Texteinbettungen in OCI Generative AI erstellen.

Datenbankfunktion

Eine Funktion ist ein Unterprogramm, das Parameter aufnimmt und einen Wert zurückgibt. Sie müssen eine Datenbankfunktion einrichten, die Vektorsuchergebnisse aus jeder Abfrage zurückgeben kann. Hier sind die Anforderungen:

Eingabeparameter

• p_query: Die Abfragezeichenfolge
• top_k: Anzahl der Top-Ergebnisse

Rücksendungstyp

• SYS_REFCURSOR

Anforderungen

• Das Einbettungsmodell, das Sie für das Abfragefeld der Funktion verwenden, muss mit dem Einbettungsmodell identisch sein, das den BODY-Inhalt der Tabelle in Vektoreinbettungen transformiert.

• Die Rückgabefelder der Funktion müssen mit den erforderlichen Feldern der Tabelle (DOCID, BODY und SCORE) und den optionalen Feldern (CHUNKID, TITLE und URL) übereinstimmen.

  Der BODY-Inhalt wird von einem Einbettungsmodell verarbeitet, um eine VECTOR für jeden Inhalt zu erstellen. Die Funktion berechnet die Entfernungen zwischen dem Abfragevektor und jedem VECTOR und gibt die top_k-Zeilen zurück. Das Feld SCORE stellt die Entfernungen zwischen dem Abfragevektor und VECTOR von BODY dar.

• Wenn die Rückgabefeldnamen der Funktion nicht mit den Tabellenfeldnamen übereinstimmen, müssen Sie Aliasnamen in der Funktion verwenden.

Beispiel

Beispiel für eine Datenbankfunktion:

create or replace FUNCTION RETRIEVAL_FUNC (p_query IN VARCHAR2,top_k IN NUMBER) RETURN SYS_REFCURSOR IS
    v_results SYS_REFCURSOR;
    query_vec VECTOR;
BEGIN
    query_vec := dbms_vector.utl_to_embedding(
        p_query,
        json('{
            "provider": "OCIGenAI",
            "credential_name": "OCI_VECTOR_CREDENTIAL",
            "url": "https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/embedText",
            "model": "cohere.embed-english-v3.0"
        }')
    );

    OPEN v_results FOR
        select l.id as DOCID, lv.chunk_id as CHUNKID, l.file_name as TITLE, 
        'https://objectstorage.us-chicago-1.oraclecloud.com/n/{namespace}/b/{bucket_name}/o/' || l.file_name as URL,
        lv.chunk_txt as BODY, vector_distance(embed_vector, query_vec) AS SCORE
        from legislation_vector lv, legislation l
        where l.id = lv.id
        order by SCORE 
        fetch first top_k rows only;

    RETURN v_results;
END;

Mit dem Datenbanktools-Service können Sie wiederverwendbare Verbindungen zu einer Oracle-Datenbank in OCI erstellen.

Befolgen Sie diese Richtlinien, um eine Verbindung für die Datenbank zu erstellen.