短期メモリーの有効化

会話APIでは、short_term_memory_optimizationメタデータ・パラメータをtrueに設定することで、短期メモリー圧縮を有効にできます。

プロジェクトの作成時に、プロジェクト・レベルで短期間のメモリー圧縮を有効にできます。プロジェクトの作成時に有効にしなかった場合は、後でプロジェクトを編集して有効にできます。

また、会話の作成時にmetadata.short_term_memory_optimizationパラメータをtrueに設定することで、特定の会話に対してこれを有効にすることもできます。

会話メタデータにshort_term_memory_optimizationを設定しない場合、プロジェクトのデフォルト設定が使用されます。

どのモデルを圧縮に使用するかの詳細は、2.1短期メモリー圧縮(会話履歴圧縮)を参照してください。

例:

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)