Progetti
I progetti AI generativa OCI organizzano conversazioni e risposte in un set condiviso di impostazioni. In un progetto, si definisce il tempo di conservazione dei dati, si consente alla memoria a lungo termine di rendere persistente il contesto tra le conversazioni e si abilita la compattazione della memoria a breve termine per ottimizzare il modo in cui viene elaborata la cronologia delle conversazioni.
I progetti sono isolati l'uno dall'altro per supportare la gestione del ciclo di vita e i limiti di compliance. Fare riferimento all'OCID del progetto nelle chiamate API e SDK per applicare le impostazioni del progetto in runtime.
Informazioni su Projects
Un progetto è una risorsa OCI che organizza artifact specifici dell'agente creati tramite il servizio di intelligenza artificiale generativa, tra cui risposte, conversazioni, file e container. I progetti sono isolati l'uno dall'altro, pertanto gli artifact di un progetto non sono accessibili da un altro progetto. È necessario un progetto per chiamare l'API compatibile con OCI OpenAI per i task relativi all'agente.
Un'impostazione di progetto può includere:
- Conservazione dei dati per risposte e conversazioni
- Impostazioni memoria a lungo termine
- Impostazioni compattazione cronologia conversazioni (compattazione memoria a breve termine)
- L'eliminazione di un progetto comporta l'eliminazione di tutti gli artifact associati (risposte, conversazioni, file e contenitori) creati all'interno del progetto.
- Le chiamate API utilizzano l'OCID progetto.
Memoria agente
La memoria agente consente agli agenti di conservare e utilizzare il contesto tra le interazioni. Supporta sia la memoria a breve termine all'interno di una conversazione che la memoria a lungo termine nelle conversazioni, contribuendo a migliorare la continuità, la pertinenza e l'efficienza.
Memoria a breve termine
La memoria a breve termine si riferisce al contesto di conversazione portato avanti in una conversazione in corso. L'API Responses e Conversations semplifica la gestione dello stato delle conversazioni, consentendo interazioni in più turni.
Memoria a lungo termine
La memoria a lungo termine fornisce un contesto persistente nelle conversazioni. Se abilitato, il servizio estrae le informazioni chiave dalle conversazioni e le memorizza in modo che possano essere richiamate nelle interazioni future all'interno dello stesso progetto.
La memoria a lungo termine è utile per scenari che richiedono continuità tra le sessioni, ad esempio:
- Memorizzazione delle preferenze utente stabili
- Mantieni contesto background ricorrente
- Mantenimento della continuità tra le interazioni
Compattazione memoria a breve termine
Man mano che la cronologia delle conversazioni aumenta, l'invio della cronologia completa può aumentare l'uso e la latenza del token. La compattazione della memoria a breve termine riassume e comprime la cronologia delle conversazioni precedenti in una rappresentazione più piccola e strutturata. Ciò consente di conservare i dettagli chiave riducendo al contempo la quantità di contesto inviata al modello.
Questo approccio:
- Mantiene le informazioni chiave dai turni precedenti
- Riduce l'uso dei token per conversazioni lunghe
- Migliora la latenza mantenendo il contesto leggero
Conservazione dati
La conservazione dei dati definisce il tempo di conservazione degli artifact del progetto prima che vengano rimossi automaticamente. Nei progetti di OCI Generative AI, puoi impostare la fidelizzazione separatamente per le risposte e le conversazioni.
- Conservazione delle risposte: controlla il tempo di conservazione delle risposte generate.
- Conservazione delle conversazioni: controlla il tempo di conservazione delle conversazioni dopo l'aggiornamento più recente.
Le impostazioni di conservazione ti aiutano a controllare la durata dello storage e ad allinearti ai requisiti di gestione dei dati della tua organizzazione.
Limiti
Vedere Limiti dell'applicazione.
Autorizzazioni QuickStart
Gestisci
È possibile eseguire i task riportati di seguito per creare, elencare e utilizzare i progetti.