Diretrizes do Oracle Database para Agentes de IA Generativa da Ferramenta RAG

Antes de usar um armazenamento de vetores do Oracle Database versão 23ai como opção de dados para Agentes de IA Generativa, certifique-se de entender o que é suportado e concluir todas as tarefas necessárias.

Tipos de Banco de Dados

Agentes de IA generativa suportam incorporações de vetores BYO de:

• Oracle Base Database 23ai: O banco de dados pode ser configurado em uma rede privada. Consulte Criar um Sistema de Banco de Dados.

• Somente o Oracle Autonomous Database 23ai dos seguintes tipos de acesso de rede:

  • Somente acesso de ponto final privado: A autenticação mTLS (TLS mútuo) pode ser ativada para autenticar conexões com seu banco de dados. Marque a caixa de seleção Exigir autenticação mTLS (TLS mútuo) para ativar a autenticação mTLS.

  • Acesso seguro de qualquer lugar: a autenticação mTLS é ativada por padrão e é necessária.

  Consulte Criar uma Instância do Autonomous Database.

Autonomous Databases Ativados para Autenticação mTLS

Se o banco de dados autônomo estiver ativado para autenticação mTLS, faça download da wallet, crie uma senha da wallet e extraia um arquivo da wallet. Consulte Requisitos de Segurança de Wallet na Etapa 3. Configurar Requisitos de Rede e Segurança.

Suporte ao Banco de Dados entre Regiões e entre Tenancies

O suporte a banco de dados entre regiões e tenancies só está disponível para o Oracle Database 23ai com acesso à rede privada. Isso inclui o Oracle Base Database e o Oracle Autonomous Database configurados pelo tipo de acesso de rede Somente acesso de ponto final privado. Não há suporte para bancos de dados autônomos com acesso público.

Ao usar Agentes de IA Generativa em uma região hospedada, você pode estabelecer conexão com um banco de dados de acesso privado que reside em:

• Outra região na mesma tenancy. Ative a conectividade criando uma conexão de ferramentas de banco de dados na região em que o serviço do agente está disponível.
• Outra tenancy. Ative a conectividade criando uma conexão de ferramentas de banco de dados na tenancy em que o serviço de agente está disponível.

Para configurar as definições de rede, consulte Requisitos de Rede (banco de dados entre regiões e entre tenancies) na Etapa 3. Configurar Requisitos de Rede e Segurança.

Para criar uma conexão, informe a string de conexão manualmente, conforme descrito na Etapa 5. Crie Conexões do Serviço Database Tools.

Além de conceder ao usuário acesso a todos os recursos dos Agentes de IA Generativa, conforme descrito em Adicionando Políticas Antes de Usar o Serviço, você precisa criar um grupo dinâmico com acesso a segredos do vault e Ferramentas de Banco de Dados.

1. Crie um grupo dinâmico e adicione a regra de correspondência a seguir.

   ALL {resource.type='genaiagent'}

   Se precisar de ajuda, consulte Criando um Grupo Dinâmico.

2. Conceda permissões ao grupo dinâmico.

   • Escreva as seguintes políticas, que podem ser usadas com o domínio de identidades Padrão:

     allow dynamic-group <dynamic-group-name> 
     to read database-tools-family in compartment <compartment-name>
     
     allow dynamic-group <dynamic-group-name> 
     to read secret-bundle in compartment <compartment-name>
     

   • Use as seguintes políticas com um domínio de identidades que não seja Padrão, fornecendo o nome de domínio do Oracle Identity Cloud Service (IDCS) e o nome do grupo dinâmico:

     allow dynamic-group '<idcs-domain-name>/<dynamic-group-name>' 
     to read database-tools-family in compartment <compartment-name>
     
     allow dynamic-group '<idcs-domain-name>/<dynamic-group-name>' 
     to read secret-bundle in compartment <compartment-name>
     

allow any-user to read database-tools-family in compartment <compartment-name> where any {request.principal.type='genaiagent'}

allow any-user to read secret-bundle in compartment <compartment-name> where any {request.principal.type='genaiagent'}

Execute essas tarefas se você ainda não tiver configurado ou criado os recursos necessários.

Requisitos de Rede

• Adicione o banco de dados à sub-rede privada de uma VCN.
• Configure as seguintes propriedades para a regra de entrada da sub-rede:
  • Tipo de Origem: CIDR
  • CIDR de Origem: O Bloco IPv4 CIDR da VCN (como 10.0.0.0/16)
  • Protocolo IP: TCP
  • Intervalo de Portas de Origem: Tudo
  • Intervalo de Porta de Destino: 1521-1522

Requisitos de Rede (banco de dados entre regiões e entre tenancies)

Os requisitos a seguir só são aplicáveis ao Oracle Database 23ai com acesso à rede privada. Isso inclui o Oracle Base Database e o Oracle Autonomous Database configurados pelo tipo de acesso de rede Somente acesso de ponto final privado. Não há suporte para bancos de dados autônomos com acesso público.

Definições da rede

• Configure duas VCNs com CIDRs não sobrepostos. Para definir as definições de rede, consulte Pareamento Remoto de VCN.
• Na VCN do banco de dados, certifique-se de adicionar a regra de entrada para o CIDR da VCN da conexão de ferramentas de banco de dados para acessar as portas de banco de dados 1521-1522.

Exemplo de banco de dados entre regiões: Você pode estabelecer conexão com um banco de dados que está em uma região diferente da qual o serviço Agentes de IA Generativa está em execução. Por exemplo:

• O serviço do agente está em execução na tenancy A na região ORD.

• O Oracle Base Database ou o Oracle Autonomous Database com acesso à rede privada é implantado na região PHX.

• Para acessar o banco de dados privado, configure gateways de roteamento dinâmico (DRGs) em ambas as regiões e configure uma conexão de ferramentas de banco de dados no ORD para estabelecer conexão com o banco de dados no PHX.

Exemplo de banco de dados entre tenancies: Você pode estabelecer conexão com um banco de dados localizado em outra tenancy do serviço Agentes de IA Generativa. Por exemplo:

• O serviço do agente está em execução na tenancy A na região ORD.

• O Oracle Base Database ou o Oracle Autonomous Database com acesso à rede privada é implantado na tenancy B na região PHX.

• Para acessar o banco de dados privado, configure gateways de roteamento dinâmico (DRGs) em tenancies e configure uma conexão de ferramentas de banco de dados na tenancy A (região ORD) para estabelecer conexão com o banco de dados na tenancy B (região PHX).

A configuração de rede entre tenancies se aplica independentemente de o serviço de banco de dados e o serviço de agente estarem na mesma região ou em regiões diferentes.

Requisitos de Segurança do Vault

Um vault no OCI Vault é necessário para armazenar segredos do banco de dados, como a senha do banco de dados.

Crie o vault no mesmo compartimento da conexão de ferramentas de banco de dados. Isso se aplica a bancos de dados na mesma região do serviço Generative AI Agents e a bancos de dados entre regiões ou entre tenancies.

1. Criar um vault.
2. Crie uma chave de criptografia principal.
3. No vault, crie um segredo para a senha do banco de dados.

Requisitos de Segurança da Wallet

Se o banco de dados autônomo estiver ativado para autenticação mTLS, execute as seguintes tarefas:

1. Faça download da wallet e crie uma senha da wallet. Consulte Fazer Download das Credenciais do Cliente (Wallets).
2. No zip da wallet baixado, extraia o arquivo ewallet.p12 e coloque-o de lado. Você precisa da wallet PKCS#12 para criar a conexão de ferramentas de banco de dados.

No banco de dados que você criou para usar com Agentes do Generative AI, crie uma tabela de banco de dados com determinados campos obrigatórios e configure uma função de banco de dados que retorne resultados de pesquisa vetorial de consultas.

Tabela de Banco de Dados

Crie uma tabela do Oracle Database 23ai com os seguintes campos:

Campos Obrigatórios

• DOCID: Um ID atribuído a cada registro ou documento
• BODY: O conteúdo real que você deseja que o agente pesquise
• VECTOR: O vetor gerado de um modelo de incorporação com base no conteúdo body

Campos Opcionais

• CHUNKID: Um id para o documento dividido, caso o documento seja maior que 512 tokens.
• URL: Uma referência de URL para o conteúdo, se disponível.
• TITLE: O título do conteúdo body
• PAGE_NUMBERS: Os números de página do conteúdo, se disponível.

Dica

Você pode criar incorporações de texto na OCI Generative AI.

Função do Banco de Dados

Função é um subprograma que pode obter parâmetros e retornar um valor. Você precisa configurar uma função de banco de dados que possa retornar resultados de pesquisa vetorial de cada consulta. Aqui estão os requisitos:

Parâmetros de Entrada

• p_query: A string de consulta
• top_k: Número dos principais resultados

Retornar Tipo

• SYS_REFCURSOR

Requisitos

• O modelo de incorporação que você usa para o campo de consulta da função deve ser o mesmo que o modelo de incorporação que transforma o conteúdo BODY da tabela em incorporações de vetor.

• Os campos de retorno da função devem corresponder aos campos obrigatórios da tabela (DOCID, BODY e SCORE) e opcionais (CHUNKID, TITLE e URL).

  O conteúdo BODY é processado por um modelo de incorporação para produzir um VECTOR para cada conteúdo. A função calcula as distâncias entre o vetor de consulta e cada VECTOR, retornando as linhas top_k. O campo SCORE representa as distâncias entre o vetor de consulta e o VECTOR do BODY.

• Se os nomes dos campos de retorno da função não corresponderem aos nomes dos campos da tabela, você deverá usar aliases na função.

Exemplo

Veja a seguir um exemplo de função de banco de dados:

create or replace FUNCTION RETRIEVAL_FUNC (p_query IN VARCHAR2,top_k IN NUMBER) RETURN SYS_REFCURSOR IS
    v_results SYS_REFCURSOR;
    query_vec VECTOR;
BEGIN
    query_vec := dbms_vector.utl_to_embedding(
        p_query,
        json('{
            "provider": "OCIGenAI",
            "credential_name": "OCI_VECTOR_CREDENTIAL",
            "url": "https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/embedText",
            "model": "cohere.embed-english-v3.0"
        }')
    );

    OPEN v_results FOR
        select l.id as DOCID, lv.chunk_id as CHUNKID, l.file_name as TITLE, 
        'https://objectstorage.us-chicago-1.oraclecloud.com/n/{namespace}/b/{bucket_name}/o/' || l.file_name as URL,
        lv.chunk_txt as BODY, vector_distance(embed_vector, query_vec) AS SCORE
        from legislation_vector lv, legislation l
        where l.id = lv.id
        order by SCORE 
        fetch first top_k rows only;

    RETURN v_results;
END;

Você pode criar conexões reutilizáveis com um banco de dados Oracle no OCI usando o serviço Database Tools.

Siga estas diretrizes para criar uma conexão para seu banco de dados.