Armazenamentos de Vetores
Um armazenamento de vetores é um armazenamento de dados especializado que indexa e recupera dados por significado (similaridade semântica) em vez de correspondências de palavras-chave exatas.
Sobre Lojas Vetoriais
- Armazenamento de Vetores
-
- O que ele armazena:Vetores (também chamados de incorporações), que são representações numéricas de conteúdo, como documentos, passagens, mensagens de chat, código ou imagens, mais metadados (ID, timestamp, origem etc.).
- O que ele faz: Suporta pesquisa de similaridade rápida (e muitas vezes pesquisa híbrida), para que você possa recuperar as informações mais relevantes dos dados fornecidos.
- Armazenamento de Vetores em IA Generativa
-
- Geração aumentada de recuperação (RAG) de poderes: Incorpore fontes de conhecimento com um armazenamento de vetores, recupere os chunks mais semelhantes no momento da consulta e forneça-os ao LLM como contexto fundamentado.
- Arredonda as respostas: Melhora a relevância das informações recuperadas e reduz as chances de usar informações alucinadas aterrando respostas no conteúdo corporativo recuperado.
- Exemplo de casos de uso
-
- Encontrar documentos relevantes que correspondam às perguntas de um usuário.
- Impulsionando a pesquisa contextual em chatbots.
- Exemplo de workflow
-
- Coloque um PDF em parágrafos.
- Crie um vetor de incorporação para cada parágrafo.
- Armazene vetores + texto de parágrafo + metadados no armazenamento de vetores.
- Quando um usuário faz uma pergunta, incorpore a pergunta e recupere os parágrafos mais próximos para incluir como contexto para o modelo.
Instalação do Cliente
from oci_openai import OciOpenAI, OciSessionAuth
cp_client = OciOpenAI(
base_url="https://generativeai.<region-code>.oci.oraclecloud.com/20231130/openai/v1",
auth=OciSessionAuth(profile_name="DEFAULT"),
compartment_id="ocid1.compartment.oc1..aaaaaaaaexample",
)