Magasins de vecteurs

Banque de vecteurs

• Stockage : vecteurs (également appelés embarquements), qui sont des représentations numériques de contenu telles que des documents, des passages, des messages de discussion, du code ou des images, ainsi que des métadonnées (ID, horodatage, source, etc.).
• Ce qu'il fait : prend en charge la recherche de similarité rapide (et souvent la recherche hybride) afin que vous puissiez extraire les informations les plus pertinentes des données fournies.

Stockage de vecteurs dans Generative AI

• Génération augmentée d'extraction des pouvoirs (RAG) : intégrez des sources de connaissances avec une banque de vecteurs, extrayez les blocs les plus similaires au moment de la requête, puis fournissez-les au LLM en tant que contexte basé sur la base.
• Résout les réponses : améliore la pertinence des informations extraites et réduit les chances d'utiliser des informations hallucinées en basant les réponses sur le contenu d'entreprise extraites.

Exemples de situations d'emploi

• Recherche de documents pertinents correspondant aux questions d'un utilisateur.
• Optimiser la recherche contextuelle dans les chatbots.

Exemple de workflow

1. Divisez un PDF en paragraphes.
2. Créez un vecteur d'intégration pour chaque paragraphe.
3. Stockez les vecteurs + le texte du paragraphe + les métadonnées dans la banque de vecteurs.
4. Lorsqu'un utilisateur pose une question, intégrez la question et récupérez les paragraphes les plus proches à inclure en tant que contexte pour le modèle.

from oci_openai import OciOpenAI, OciSessionAuth

cp_client = OciOpenAI(
            base_url="https://generativeai.<region-code>.oci.oraclecloud.com/20231130/openai/v1",
            auth=OciSessionAuth(profile_name="DEFAULT"),
            compartment_id="ocid1.compartment.oc1..aaaaaaaaexample",
        )