短期メモリーの有効化

会話APIでは、short_term_memory_optimizationメタデータ・パラメータをtrueに設定することで、短期メモリー圧縮を有効にできます。

プロジェクトの作成時に、プロジェクト・レベルで短期間のメモリー圧縮を有効にできます。プロジェクトの作成時に有効にしなかった場合は、後でプロジェクトを編集して有効にできます。

また、会話の作成時にmetadata.short_term_memory_optimizationパラメータをtrueに設定することで、特定の会話に対してこれを有効にすることもできます。

会話メタデータにshort_term_memory_optimizationを設定しない場合、プロジェクトのデフォルト設定が使用されます。

圧縮に使用されるモデルの詳細は、短期メモリー(会話履歴)圧縮についてを参照してください。

例:

conversation1 = client.conversations.create(
	metadata={"topic": "demo", "short_term_memory_optimization": "True"},
	items=[{"type": "message", "role": "user", "content": "Tell me a joke."}],
)