Aree di vendita vettoriali

Aree di memorizzazione vettori

• Informazioni memorizzate:vettori (chiamati anche embeding), rappresentazioni numeriche di contenuti quali documenti, passaggi, messaggi di chat, codice o immagini, oltre a metadati (ID, indicatore orario, origine e così via).
• Che cosa fa: supporta la ricerca di somiglianza rapida (e spesso la ricerca ibrida), in modo da poter recuperare le informazioni più pertinenti dai dati forniti.

Vector Store nell'AI generativa

• Potenzia la retrieval-augmented generation (RAG): integra le fonti di conoscenza con una memoria di vettore, recupera i blocchi più simili al momento delle query e poi li fornisce all'LLM come contesto di base.
• Incorpora le risposte: migliora la pertinenza delle informazioni recuperate e riduce le possibilità di utilizzare informazioni allucinate basando le risposte sui contenuti aziendali recuperati.

Casi d'uso di esempio

• Ricerca di documenti pertinenti corrispondenti alle domande di un utente.
• Potenziamento della ricerca contestuale nei chatbot.

Workflow di esempio

1. Inserire un PDF nei paragrafi.
2. Creare un vettore di incorporamento per ogni paragrafo.
3. Memorizza vettori + testo del paragrafo + metadati nella memoria di vettore.
4. Quando un utente fa una domanda, incorporare la domanda e recuperare i paragrafi più vicini da includere come contesto per il modello.

from oci_openai import OciOpenAI, OciSessionAuth

cp_client = OciOpenAI(
            base_url="https://generativeai.<region-code>.oci.oraclecloud.com/20231130/openai/v1",
            auth=OciSessionAuth(profile_name="DEFAULT"),
            compartment_id="ocid1.compartment.oc1..aaaaaaaaexample",
        )