20 Memoria agente

La memoria agente fa parte di un sistema agente AI che consente all'agente di conservare e riutilizzare le informazioni tra turni, task o sessioni.

A differenza della finestra di contesto del modello, che è temporanea e limitata al prompt corrente, la memoria può mantenere fatti, preferenze, decisioni precedenti, output degli strumenti, piani intermedi o osservazioni sull'ambiente.

Memoria agente in Oracle AI Data Platform

AI Data Platform fornisce memoria a breve termine limitata alla durata di una sessione. È possibile configurare gli elementi che possono essere conservati in memoria nella scheda Contesto dell'agente.

Configurazione memoria agente singolo

La configurazione della memoria di un singolo sistema agente è disponibile nella scheda Contesto del nodo agente.

Configurazione memoria	Descrizione
Abilita memoria agente	Questa impostazione abilita la memoria dell'agente. Se disabilitato, l'agente è essenzialmente un sistema senza conservazione dello stato. Ogni turno viene trattato in modo indipendente e non è possibile porre alcuna domanda di follow-up. Si consiglia di abilitare la memoria.
Limita la cronologia delle conversazioni	Quando questa selezione è disabilitata, i giri precedenti riempiranno la memoria fino a quando il modello non esaurisce il contesto e viene restituito un errore. Se sono previste sessioni brevi, è possibile disabilitare questa impostazione. Tuttavia, per la maggior parte dei casi d'uso, Oracle consiglia di limitare la cronologia delle conversazioni.
Configurazione troncamento	Se si sceglie di limitare la cronologia delle conversazioni, è possibile decidere di troncare la cronologia mediante: Mantenere solo gli ultimi N messaggi (utente + agente) Impostazione di un budget token complessivo (first in, first out) O entrambi, a seconda di quale evento si verifichi per primo attiva il troncamento della memoria dell'agente
Limite massimo messaggi	Se si sceglie di mantenere gli ultimi N messaggi, è possibile impostare un valore di N.
Budget token	In alternativa, è possibile impostare un budget token complessivo. I primi token vengono eliminati per mantenere in memoria quelli più recenti.

Configurazione memoria di sistema con più agenti (modello supervisore)

La memoria di un sistema con più agenti viene configurata nella scheda Contesto dell'agente supervisore.

La memoria per un sistema con più agenti viene applicata e non può essere disabilitata e le opzioni di troncamento della memoria visualizzate nel nodo dell'agente supervisore vengono applicate solo alla memoria dell'agente supervisore. Ogni criterio di troncamento della memoria dell'agente esecutore può essere configurato nella scheda Contesto del nodo esecutore in base al criterio di isolamento dello stato selezionato per l'intero sistema.

La configurazione della memoria di sistema multi-agente consente inoltre di selezionare il criterio di condivisione della memoria degli agenti esecutore. Sono possibili tre opzioni: Stateless, Private e Shared. Tenere presente che il criterio viene applicato a tutti gli agenti esecutore.

Isolamento dello stato per gli agenti esecutori	Descrizione
Senza stato	Ogni agente esecutore vede solo il task assegnato dal supervisore. Nessuna storia viene riportata tra le chiamate. Nessuna richiesta di follow-up può essere effettuata all'agente supervisore dall'agente esecutore. Se si seleziona senza conservazione dello stato, la memoria di ciascun agente esecutore viene disabilitata.
Privato	Ogni agente esecutore vede solo le proprie interazioni passate. Non è possibile visualizzare altri agenti esecutore o la conversazione utente originale con l'agente supervisore. Se si seleziona Privato, è possibile configurare il criterio di troncamento della memoria separatamente per ogni agente esecutore in ogni scheda di memoria Contesto del nodo agente.
Condiviso	Gli agenti esecutori possono visualizzare la cronologia completa delle conversazioni tra agenti e utenti. Tutti gli agenti lavorano da un contesto condiviso. Se è selezionata l'opzione Condiviso, è possibile configurare il criterio di troncamento della memoria separatamente per ogni agente esecutore in ogni scheda Contesto del nodo agente.

Memoria memorizzata negli agenti

Poiché il tuo agente viene distribuito e serve più utenti, diventa importante monitorare la quantità di capacità del database utilizzata per memorizzare i dati di sessione per il tuo agente. È possibile visualizzare e modificare le impostazioni della memoria memorizzata per l'agente nella scheda Memoria memorizzata. È possibile fare clic su Modifica per modificare le impostazioni di conservazione della memoria e della sessione a lungo termine.

Impostazione	Descrizione
Stato della connessione	Stato della connessione a Oracle Autonomous AI Lakehouse in cui vengono memorizzati tutti i dati della sessione.
Capacità ADB utilizzata	Capacità totale del database utilizzata in tutte le sessioni di questo agente.
Sessioni	Numero totale di sedute per questo agente. Include sia sessioni di test (Playground) che sessioni di distribuzione.
Computazione AI	Nome della computazione AI che ospita l'agente. Se l'agente viene distribuito, si tratta della computazione AI che ospita la distribuzione. Altrimenti, questa è la computazione AI che ospita il Playground.

Memoria a lungo termine

È possibile configurare gli agenti in modo che gli utenti interagiscano con lo stesso agente in più sessioni. L'utente può condividere informazioni importanti, come le preferenze, e l'agente può anche imparare da modelli comuni adottati in più sessioni, come gli strumenti utilizzati. La possibilità di accedere alle memorie estratte in più sessioni è abilitata attraverso la memoria a lungo termine.

È possibile configurare la memoria a lungo termine dalla scheda Memoria memorizzata nell'agente.

Conservazione dati sessione

I dati di sessione in Oracle AI Data Platform si riferiscono a tutti i messaggi scambiati tra un agente e un utente durante una sessione.

Nota

Oracle consiglia di creare copie di cold storage dei dati di sessione memorizzati nel database di Oracle Autonomous AI Lakehouse per conservare i record completi di tutti i messaggi scambiati tra utenti e agenti per supportare audit, ricerca automatica legale e contenzioso.

Le sessioni possono potenzialmente durare ore, giorni o addirittura settimane, portando a un gran numero di messaggi scambiati e conservati dai dati delle sessioni. Tutti i dati della sessione di AI Data Platform vengono memorizzati in Autonomous AI Lakehouse di cui è stato eseguito il provisioning per l'istanza in uso per abilitare le funzioni AI. Per ulteriori informazioni, vedere Gestione delle funzioni AI.

Per impostazione predefinita, AI Data Platform non limita la quantità di dati di sessione memorizzati per ogni sessione nell'Autonomous AI Lakehouse di cui è stato eseguito il provisioning. Di conseguenza, i dati delle sessioni possono crescere rapidamente in scenari in cui gli agenti sono in uso regolare per molti utenti in più sessioni. Per gestire questa situazione, Oracle consiglia di configurare i limiti alla quantità di dati della sessione conservati.

La prima volta che si crea un agente, è possibile configurarne le impostazioni di conservazione della sessione. Vedere Creare un agente. Se l'agente è già stato creato e si desidera riconfigurarne le impostazioni di conservazione della sessione, è possibile farlo dalla scheda Memoria sessione.

Impostazione	Descrizione
Conservazione sessione	Abilitare Applica criterio di conservazione per configurare le modalità e i tempi di rimozione dei dati della sessione quando vengono raggiunti i limiti specificati.
Limite di conservazione	Selezionare il metodo per la gestione dei limiti di dati della sessione. Il periodo di conservazione definisce un intervallo di tempo in giorni per il quale i dati della sessione vengono conservati. Quando i dati della sessione raggiungono l'età di scadenza, vengono eliminati dal tuo Autonomous AI Lakehouse. Il limite delle dimensioni della sessione definisce un limite in MB per la quantità di dati della sessione conservati. Quando viene raggiunto questo limite, i dati meno recenti vengono eliminati per primi. Il limite di conteggio thread definisce un limite per il numero di thread, ovvero combinazioni di messaggi utente e risposte dell'agente, che vengono conservati nei dati della sessione. Quando viene raggiunto il limite massimo, i thread meno recenti vengono eliminati per primi.

Generazione sintetico automatica

Il riepilogo automatico può essere abilitato indipendentemente dalla conservazione della sessione. I riepiloghi automatici vengono applicati ai dati conversazionali inseriti nella finestra Contesto del modello. Questa opzione riepiloga i messaggi meno recenti che supererebbero l'80% della lunghezza del contesto del modello selezionato.

Questa è una buona opzione da abilitare se si desidera rendere persistenti i dati da sessioni lunghe nel database, evitando al contempo che queste sessioni lunghe superino la finestra di contesto dell'agente.

Nota

I riepiloghi vengono generati da un LLM per mantenere un contesto importante prima che i messaggi di origine meno recenti vengano eliminati. Alcune parole esatte, passaggi intermedi o dettagli con priorità inferiore potrebbero non essere conservati.

Abilita memoria a lungo termine per un agente

È possibile abilitare la memoria a lungo termine per gli agenti in modo da poter interagire con lo stesso agente in più sessioni.

1. Passare all'agente.
2. Fare clic sulla scheda Memoria memorizzata.
3. Selezionare Abilita memoria a lungo termine.
4. Selezionare il modello e l'area da utilizzare per supportare la memoria a lungo termine per l'agente.
5. Facoltativo: è possibile abilitare la condivisione della memoria dell'agente tra le sessioni. Se disabilitato, l'agente è limitato solo alle memorie estratte all'interno della stessa sessione. Se questa opzione è abilitata, l'agente ha accesso alle memorie estratte in tutte le sessioni avviate dallo stesso utente.

Visualizza impostazioni conservazione dati sessione agente

È possibile visualizzare la configurazione corrente delle impostazioni di conservazione dei dati di sessione per gli agenti nella scheda Memoria memorizzata.

1. Passare all'agente.
2. Fare clic sulla scheda Memoria memorizzata.

Modifica impostazioni di conservazione dati sessione agente

È possibile abilitare, disabilitare e modificare le impostazioni di conservazione dei dati di sessione per gli agenti.

1. Passare all'agente.
2. Fare clic sulla scheda Memoria memorizzata.
3. Fare clic Modifica.
4. Selezionare Applica criterio di conservazione per abilitarlo o deselezionarlo per disabilitarlo.
5. Configurare il limite di conservazione:
   • Per il periodo di conservazione, fornire il numero di giorni in cui i dati della sessione vengono conservati prima che vengano eliminati dal tuo Oracle Autonomous AI Lakehouse.
   • Per Limite dimensione sessione, fornire il limite massimo di storage in MB per i dati della sessione conservati. Quando viene raggiunto questo limite, i messaggi di sessione meno recenti vengono eliminati.
   • Per il limite di conteggio thread, specificare un limite al numero di thread (combinazioni di messaggi utente e risposte agente) conservati. Quando viene raggiunto questo limite, i thread di sessione meno recenti vengono eliminati.
6. Selezionare Riepilogo automatico per conservare i riepiloghi delle informazioni importanti sulla sessione.
7. Fare clic su Salva le modifiche.