Armazenamentos de Vetores

Um armazenamento de vetores é um armazenamento de dados especializado que indexa e recupera dados por significado (similaridade semântica) em vez de correspondências de palavras-chave exatas.

Sobre Lojas Vetoriais

Armazenamento de Vetores
  • O que ele armazena:Vetores (também chamados de incorporações), que são representações numéricas de conteúdo, como documentos, passagens, mensagens de chat, código ou imagens, mais metadados (ID, timestamp, origem etc.).
  • O que ele faz: Suporta pesquisa de similaridade rápida (e muitas vezes pesquisa híbrida), para que você possa recuperar as informações mais relevantes dos dados fornecidos.
Armazenamento de Vetores em IA Generativa
  • Geração aumentada de recuperação (RAG) de poderes: Incorpore fontes de conhecimento com um armazenamento de vetores, recupere os chunks mais semelhantes no momento da consulta e forneça-os ao LLM como contexto fundamentado.
  • Arredonda as respostas: Melhora a relevância das informações recuperadas e reduz as chances de usar informações alucinadas aterrando respostas no conteúdo corporativo recuperado.
Exemplo de casos de uso
  • Encontrar documentos relevantes que correspondam às perguntas de um usuário.
  • Impulsionando a pesquisa contextual em chatbots.
Exemplo de workflow
  1. Coloque um PDF em parágrafos.
  2. Crie um vetor de incorporação para cada parágrafo.
  3. Armazene vetores + texto de parágrafo + metadados no armazenamento de vetores.
  4. Quando um usuário faz uma pergunta, incorpore a pergunta e recupere os parágrafos mais próximos para incluir como contexto para o modelo.

Instalação do Cliente

from oci_openai import OciOpenAI, OciSessionAuth

cp_client = OciOpenAI(
            base_url="https://generativeai.<region-code>.oci.oraclecloud.com/20231130/openai/v1",
            auth=OciSessionAuth(profile_name="DEFAULT"),
            compartment_id="ocid1.compartment.oc1..aaaaaaaaexample",
        )