Magasins de vecteurs

Magasin de vecteurs

• Ce qu'il stocke :Vecteurs (également appelés embedings), qui sont des représentations numériques de contenu tel que des documents, des passages, des messages de clavardage, du code ou des images, plus des métadonnées (ID, horodatage, source, etc.).
• Ce qu'il fait : Prend en charge la recherche de similitude rapide (et souvent la recherche hybride), afin que vous puissiez extraire les informations les plus pertinentes des données fournies.

Stockage de vecteurs dans l'intelligence artificielle générative

• Génération augmentée par extraction de pouvoirs (RAG) : Intégrez des sources de connaissances à un magasin de vecteurs, extrayez les fragments les plus similaires au moment de l'interrogation, puis fournissez-les au LLM en tant que contexte basé.
• Rondit les réponses : améliore la pertinence des informations extraites et réduit les chances d'utiliser des informations hallucinées en ancrant les réponses dans le contenu d'entreprise extrait.

Exemples de cas d'utilisation

• Recherche des documents pertinents qui correspondent aux questions d'un utilisateur.
• Optimisation de la recherche contextuelle dans les agents conversationnels.

Exemple de flux de travail

1. Fragmenter un PDF en paragraphes.
2. Créez un vecteur d'intégration pour chaque paragraphe.
3. Stocker les vecteurs + le texte du paragraphe + les métadonnées dans le magasin de vecteurs.
4. Lorsqu'un utilisateur pose une question, incorporez la question et récupérez les paragraphes les plus proches à inclure comme contexte pour le modèle.

from oci_openai import OciOpenAI, OciSessionAuth

cp_client = OciOpenAI(
            base_url="https://generativeai.<region-code>.oci.oraclecloud.com/20231130/openai/v1",
            auth=OciSessionAuth(profile_name="DEFAULT"),
            compartment_id="ocid1.compartment.oc1..aaaaaaaaexample",
        )