第 V 部分 AI 代理程式

本章提供有關在您的工作區中建立、測試、部署及監督代理程式的資訊。

代理程式是端對端代理程式應用程式。代理程式是透過不同類型 (觸發程式、代理程式、監護人或工具) 的節點所代表的步驟圖表來定義。代理程式可透過無程式碼視覺化流程產生器或透過第三方程式庫 (例如 LangGraph) 的程式碼來定義。

Oracle AI Data Platform Workbench 提供多種工具範本,可進行設定以存取您的資料及符合使用案例。支援的工具包括:
  • 自訂工具:代理程式開發人員可使用自己的 Python 程式碼擴充 AI 資料平台。您可以將工具實行封裝為 ZIP 檔案、將它上傳至您的工作區,然後進行設定。代理程式會在程式實際執行時使用 LLM 提供的參數,將您的程式碼呼叫為工具。
  • HTTP :HTTP 要求工具可讓您的代理程式呼叫任何 HTTPS REST API。您可以設定要求,包括方法、URL、標頭、查詢參數、要求主體、認證,以及選擇性地設定回應最佳化步驟。代理程式接著會在程式實際執行時呼叫端點。視覺化產生器和程式碼產生器都提供 HTTP 要求工具。在程式碼產生器中,此工具是透過 aidpUtils Python 程式庫進行設定。
  • 提示:提示工具可讓 AI 開發人員定義參數化的提示,以便針對其選擇發放給 LLM。提示工具的一般使用案例包括電子郵件草擬工作、翻譯工作、樣式轉換、Git 確認訊息,以及程式碼說明。
  • 遠端 MCP 伺服器:代理程式開發人員可以使用「遠端 MCP 伺服器」工具,將其代理程式連線至遠端模型相關資訊環境協定 (MCP) 伺服器。
  • RAG :RAG 工具可讓專員在產生回應之前提取相關的外部知識。在 AI Data Platform Workbench 中,RAG 工具會查詢知識庫 (23ai Vector Search),並擷取與語意相關的文件區塊。接著,這些區塊會傳送給代理程式以產生回應。
  • SQL :此 SQL 工具可讓代理程式針對透過外部目錄 (例如 Oracle Autonomous AI Lakehouse、Oracle Autonomous AI Transaction Processing 或 Oracle AI Database) 註冊的結構化資料來源執行 SQL 查詢。此工具適用於預先定義 SQL 查詢且可參數化的案例。目標是讓專員將值指派給參數。此工具不是根據自然語言提示產生 SQL 查詢的 NL2SQL 工具。

    附註:

    SQL 工具只會針對外部目錄中的資料執行查詢。它不支援儲存在標準目錄中的資料。

附註:

您必須先將 AI 運算連附至您的代理程式,才能測試系統工具。如果未連附運算,則會停用「測試」頁籤。

在 AI Data Platform Workbench 中建立代理程式會在您選取的工作區資料夾中產生代理程式使用者自建物件檔案 (.aflow)。無法修改此檔案。

第 V 部分代理程式記憶體

代理程式記憶體是 AI 代理程式系統的一部分,可讓代理程式跨回合、工作或階段作業保留及重複使用資訊。

與模型的相關資訊環境視窗不同 (暫時性且僅限於目前的提示),記憶體可以保存環境的事實、偏好設定、先前的決策、工具輸出、中繼計畫或監測項目。

AI 資料平台中的代理程式記憶體

AI Data Platform 提供短期記憶體,僅限於階段作業的持續時間。您可以在代理程式的「記憶體」頁籤中設定可保留在記憶體中的項目。

單一代理程式記憶體組態

您可以在代理程式節點的「記憶體」頁籤中找到單一代理程式系統的記憶體組態。


視覺化產生器工作區會以單一代理程式節點 InvoiceAnalyst 顯示。已選取節點並反白顯示「記憶體」頁籤。

記憶體組態 描述
啟用代理程式記憶體 此設定會啟用代理程式記憶體。停用時,代理程式基本上是無狀態系統。每輪流均獨立處理,不會詢問後續問題。建議您啟用記憶體。
限制通話歷史記錄 停用此選項時,前一輪會填滿記憶體,直到模型用完環境定義並傳回錯誤為止。如果預期短暫階段作業,則可以停用此設定。不過,對於大多數使用案例,建議您限制對話歷史記錄。
截斷組態 如果您選擇限制對話歷史記錄,可以決定透過下列方式截斷歷史記錄:
  • 僅保留最後 N 則訊息 (使用者 + 專員)
  • 設定整體權杖預算 (先進先出)
  • 或者兩者,以先觸發代理程式記憶體截斷的條件為準
訊息上限 如果您選擇保留最後 N 則訊息,您可以將值設為 N。
權杖預算 或者,您可以設定整體的記號預算。消除第一個記號,以將最新的記號保留在記憶體中。

多代理程式系統記憶體組態 (監督器樣式)

多重代理程式系統的記憶體是在監督器代理程式的「記憶體」頁籤中設定。


視覺化產生器工作區會顯示一個多代理程式。會選取 AccountsManager 節點,並顯示「記憶體」頁籤。

多重代理程式系統的記憶體已強制執行且無法停用,而且監督器代理程式節點中顯示的記憶體截斷選項只會套用至監督器代理程式記憶體。您可以根據為整個系統選取的狀態隔離原則,在執行程式節點「記憶體」頁籤中設定每個執行程式代理程式記憶體截斷原則。

多代理程式系統記憶體組態也可讓您選取執行程式代理程式的記憶體共用原則。可能有三個選項:「無狀態」、「專用」和「共用」。請注意,原則會套用至所有執行程式代理程式。

執行器代理程式的狀態隔離 描述
無狀態 每個執行程式代理程式只會見到主管所指派的工作。通話之間不會結轉任何歷史記錄。執行程式代理程式無法對監督器代理程式提出後續追蹤要求。

如果選取無狀態,則會停用每個執行程式代理程式的記憶體。

專用 每個執行程式代理程式只會看到自己的過去互動。

它無法看到其他執行程式代理程式或與主管代理程式的原始使用者對話。

共用 執行者代理程式可以查看所有代理程式和使用者的完整對話歷史記錄。所有代理程式都從一個共用相關資訊環境運作。

如果選取共用,您可以為每個代理程式節點「記憶體」頁籤中的每個執行程式代理程式分別設定記憶體截斷原則。