Activation de la mémoire à court terme

Dans l'API Conversations, vous pouvez activer le compactage de mémoire à court terme en réglant le paramètre de métadonnées short_term_memory_optimization à true.

Vous pouvez activer le compactage de mémoire à court terme au niveau du projet lorsque vous créez un projet. Si vous ne l'avez pas activé lors de la création du projet, vous pouvez l'activer ultérieurement en modifiant le projet.

Vous pouvez également l'activer pour une conversation spécifique en réglant le paramètre metadata.short_term_memory_optimization à true lors de la création de la conversation.

Si vous ne définissez pas short_term_memory_optimization dans les métadonnées de conversation, le système utilise les paramètres par défaut du projet.

Pour plus de détails sur le modèle utilisé pour le compactage, voir 2.1 Compaction de mémoire à court terme (compaction d'historique de conversation).

Exemple :

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)