Activación de Memoria a Corto Plazo

En la API Conversations, puede activar la compactación de memoria a corto plazo definiendo el parámetro de metadatos short_term_memory_optimization en true.

Puede activar la compactación de memoria a corto plazo en el nivel de proyecto al crear un proyecto. Si no lo activó durante la creación del proyecto, puede activarlo más tarde editando el proyecto.

También puede activarla para una conversación específica definiendo el parámetro metadata.short_term_memory_optimization en true al crear la conversación.

Si no define short_term_memory_optimization en los metadatos de la conversación, el sistema utiliza la configuración por defecto del proyecto.

Para obtener detalles sobre el modelo que se utiliza para la compactación, consulte 2.1 Short-Term Memory Compaction (Conversation History Compaction).

Ejemplo:

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)