20 代理程式記憶體

代理程式記憶體是 AI 代理程式系統的一部分,可讓代理程式跨回合、工作或階段作業保留及重複使用資訊。

與模型的相關資訊環境視窗不同 (暫時性且僅限於目前的提示),記憶體可以保存環境的事實、偏好設定、先前的決策、工具輸出、中繼計畫或監測項目。

AI 資料平台中的代理程式記憶體

AI Data Platform 提供短期記憶體,僅限於階段作業的持續時間。您可以在代理程式的「記憶體」頁籤中設定可保留在記憶體中的項目。

單一代理程式記憶體組態

您可以在代理程式節點的「記憶體」頁籤中找到單一代理程式系統的記憶體組態。


視覺化產生器工作區會以單一代理程式節點 InvoiceAnalyst 顯示。已選取節點並反白顯示「記憶體」頁籤。

記憶體組態 描述
啟用代理程式記憶體 此設定會啟用代理程式記憶體。停用時,代理程式基本上是無狀態系統。每輪流均獨立處理,不會詢問後續問題。建議您啟用記憶體。
限制通話歷史記錄 停用此選項時,前一輪會填滿記憶體,直到模型用完環境定義並傳回錯誤為止。如果預期短暫階段作業,則可以停用此設定。不過,對於大多數使用案例,建議您限制對話歷史記錄。
截斷組態 如果您選擇限制對話歷史記錄,可以決定透過下列方式截斷歷史記錄:
  • 僅保留最後 N 則訊息 (使用者 + 專員)
  • 設定整體權杖預算 (先進先出)
  • 或者兩者,以先觸發代理程式記憶體截斷的條件為準
訊息上限 如果您選擇保留最後 N 則訊息,您可以將值設為 N。
權杖預算 或者,您可以設定整體的記號預算。消除第一個記號,以將最新的記號保留在記憶體中。

多代理程式系統記憶體組態 (監督器樣式)

多重代理程式系統的記憶體是在監督器代理程式的「記憶體」頁籤中設定。


視覺化產生器工作區會顯示一個多代理程式。會選取 AccountsManager 節點,並顯示「記憶體」頁籤。

多重代理程式系統的記憶體已強制執行且無法停用,而且監督器代理程式節點中顯示的記憶體截斷選項只會套用至監督器代理程式記憶體。您可以根據為整個系統選取的狀態隔離原則,在執行程式節點「記憶體」頁籤中設定每個執行程式代理程式記憶體截斷原則。

多代理程式系統記憶體組態也可讓您選取執行程式代理程式的記憶體共用原則。可能有三個選項:「無狀態」、「專用」和「共用」。請注意,原則會套用至所有執行程式代理程式。

執行器代理程式的狀態隔離 描述
無狀態 每個執行程式代理程式只會見到主管所指派的工作。通話之間不會結轉任何歷史記錄。執行程式代理程式無法對監督器代理程式提出後續追蹤要求。

如果選取無狀態,則會停用每個執行程式代理程式的記憶體。

私人 每個執行程式代理程式只會看到自己的過去互動。

它無法看到其他執行程式代理程式或與主管代理程式的原始使用者對話。

分享 執行者代理程式可以查看所有代理程式和使用者的完整對話歷史記錄。所有代理程式都從一個共用相關資訊環境運作。

如果選取共用,您可以為每個代理程式節點「記憶體」頁籤中的每個執行程式代理程式分別設定記憶體截斷原則。