Activation de la mémoire à court terme

Dans l'API Conversations, vous pouvez activer la compression de mémoire à court terme en définissant le paramètre de métadonnées short_term_memory_optimization sur true.

Vous pouvez activer la compression de mémoire à court terme au niveau du projet lorsque vous créez un projet. Si vous ne l'avez pas activé lors de la création du projet, vous pouvez l'activer ultérieurement en modifiant le projet.

Vous pouvez également l'activer pour une conversation spécifique en définissant le paramètre metadata.short_term_memory_optimization sur true lorsque vous créez la conversation.

Si vous ne définissez pas short_term_memory_optimization dans les métadonnées de conversation, le système utilise les paramètres par défaut du projet.

Pour plus d'informations sur le modèle utilisé pour le compactage, reportez-vous à 2.1 Compaction de mémoire à court terme (compaction d'historique de conversation).

Par exemple :

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)