Abilitazione della memoria a breve termine

Nell'API Conversazioni è possibile abilitare la compattazione della memoria a breve termine impostando il parametro dei metadati short_term_memory_optimization su true.

È possibile abilitare la compattazione della memoria a breve termine a livello di progetto quando si crea un progetto. Se non è stato abilitato durante la creazione del progetto, è possibile abilitarlo in un secondo momento modificando il progetto.

È inoltre possibile abilitarla per una conversazione specifica impostando il parametro metadata.short_term_memory_optimization su true quando si crea la conversazione.

Se non si imposta short_term_memory_optimization nei metadati della conversazione, il sistema utilizza le impostazioni predefinite del progetto.

Per informazioni dettagliate sul modello utilizzato per la compattazione, vedere Per la compattazione della memoria a breve termine (Cronologia conversazione).

Esempio:

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)