Kurzzeitspeicher aktivieren

In der Conversations-API können Sie die Kurzzeitspeicherkomprimierung aktivieren, indem Sie den Metadatenparameter short_term_memory_optimization auf true setzen.

Sie können die Kurzzeitgedächtnisverdichtung auf Projektebene aktivieren, wenn Sie ein Projekt erstellen. Wenn Sie es während der Projekterstellung nicht aktiviert haben, können Sie es später aktivieren, indem Sie das Projekt bearbeiten.

Sie können sie auch für eine bestimmte Unterhaltung aktivieren, indem Sie den Parameter metadata.short_term_memory_optimization beim Erstellen der Unterhaltung auf true setzen.

Wenn Sie short_term_memory_optimization nicht in den Unterhaltungsmetadaten festlegen, verwendet das System die Projekteinstellungen.

Details dazu, welches Modell für die Komprimierung verwendet wird, finden Sie unter Komprimierung von Kurzzeitarbeitsspeicher (Konversationshistorie).

Beispiel:

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)