規劃您的部署

使用下列基本步驟部署此架構:

  • 將架構建置區塊對應至 Oracle Cloud Infrastructure 服務
  • 規劃著重於專員協調的初始導入
  • 透過新增代理並整合進階 LLM 推理來增強初始導入

對應 OCI 服務

Oracle Cloud Infrastructure (OCI) 以雲端原生且可擴展的方式提供導入此系統所需的所有建構區塊。

將每個元件對應至 OCI 服務,如下所示。

  • 協調器導入

    您可以在 Oracle Linux 虛擬機器 (VM) 上的 OCI Compute 執行處理上執行 MCP 協調器,或作為 OCI Kubernetes Engine 上的容器。協調器會代管以 GenAI 工具箱為基礎的伺服器,以監聽代理程式要求並將它們遞送至工具。OCI 的可擴展性可確保協調器可以處理多個並行詐騙調查。您也可以選擇使用 OCI API 閘道來顯示協調器的安全 REST 端點,讓外部系統或示範從屬端能夠起始工作流程。

    協調器會代管與 UI 連接的所有代理程式,並提供遞送至工具。您也可以在 Oracle Cloud Infrastructure Data Science 代管 MCP 伺服器,使用可串流 HTTP 通訊協定公開工具。



    mcp- 架構 -oracle.zip

  • 代理程式作為無伺服器函數

    每個代理程式的邏輯都可以部署為 OCI 函數 (無伺服器微服務) 或輕量型容器。例如,資料擷取代理程式可以是接受參數 (ID、查詢類型) 並傳回 Autonomous Database 中 JSON 資料的 OCI 函數。詐騙分析器可以是取得資料並傳回分數和訊息的另一個功能。針對代理程式使用 OCI Functions 可簡化部署,並提供彈性,以在許多詐騙分析同時執行時自動擴展。MCP 協調器會使用 OCI API Gateway 或使用內部呼叫來呼叫這些函數的 REST 端點。在階段 1 中,藉由在協調器處理作業 (GenAI 工具箱) 內執行工具來簡化工具執行,以便協調器本身可以執行資料庫查詢工具。不過,將代理程式設計為獨立的 OCI 函數可提供模組性,並透過顯示依序觸發的每個函數來協助進行示範。

  • 資料儲存與處理

    Oracle Autonomous Transaction Processing (ATP) 是所有相關財務資料的安全儲存區域,例如交易日誌、帳戶資料、原則資訊以及歷史詐騙案例。Autonomous Database 提供內建自動調整、加密及結構化查詢語言 (SQL) 分析功能,這些功能對於實際金融服務工作負載至關重要。資料代理程式使用 SQL 和 Oracle 用戶端或 REST 資料應用程式設計介面 (API) 從資料庫擷取資料。如果欺詐模型是在資料庫內接受培訓,您也可以利用 Oracle Machine Learning 等工具進行進階評分。對於串流處理交易資料,您可以使用 OCI StreamingOracle GoldenGate 將資料饋送至系統中。對於示範案例,簡單直接查詢已足夠。

  • AI 和機器學習服務

    為了實作詐騙偵測邏輯,OCI 提供多個選項。在階段 1 中,規則或異常偵測會直接編碼。Phase 2 實作 Oracle AI 服務:

    • OCI Generative AI 可存取大型語言模型,以供詐騙分析師代理產生敘述和推理。OCI Generative AI 是一項完全託管的服務,提供預先訓練的 LLM,可輕鬆整合至應用程式。詐騙分析器可以使用其軟體開發套件 (SDK) 和 API,在提示中包含交易資料,並接收詐騙說明文字以回應此服務。
    • OCI Anomaly Detection 會即時對異常進行評分,且分數高表示潛在詐騙。首先針對歷史交易資料進行訓練,詐騙分析器代理程式只會呼叫異常偵測 API,以取得指定交易的異常分數。同樣地,OCI 提供 Data ScienceOracle Machine Learning 來訓練自訂詐欺模型,例如用於詐欺的漸層增強或圖形演算法。您可以使用資料科學模型部署將模型 (例如詐騙的 XGBoost 模型) 部署為端點,讓代理程式可以呼叫模型。若要簡化示範,您可以略過複雜的模型,並直接使用小型規則集或合成評分功能。此架構稍後支援在複雜的機器學習模型中進行交換,而無須變更協調流程。
    • Oracle Cloud Infrastructure Language 在您需要分析非結構化備註或詐騙案例中的通訊的情況下提供文字分析。不過,對於我們的主要使用案例,結構化資料與 LLM 會提供所需的功能。
  • 網路與整合

    虛擬雲端網路 (VCN) 組態和 OCI 服務閘道可確保使用 OCI FunctionsOCI Compute 執行處理的協調器和代理程式可以安全地與資料庫和 AI 服務交談,而無需透過公用網際網路公開資料。OCI Identity and Access Management (IAM) 可控制存取,因此只有協調器和代理程式可以呼叫彼此的 API 並存取資料庫。這對於維護安全性至關重要,尤其是在財務環境中。為了示範目的,您也可以使用 OCI Logging 來追蹤代理程式功能執行,並使用 OCI Application Performance Monitoring 追蹤來顯示端對端流程延遲。

  • 從屬端介面

    使用者透過使用簡單的 Web 或行動前端呼叫 OCI API Gateway 來觸發分析,或使用 Oracle Digital Assistant (聊天機器人) 介面進行互動式示範,與系統互動。例如,分析師可以透過提供聊天機器人提示 (例如「調查交易 #123」) 與詐騙分析師專員互動,而系統會回應分析。Oracle Digital Assistant 可以是選擇性新增來展示對話式前端,但核心使用案例可能只是將結果顯示在儀表板上,或使用 OCI 通知傳送電子郵件警示。

階段 1:使用 MCP 實作協調流程

在最初的導入中,目標是確保系統能夠協調多個專員,並在新增複雜的 AI 邏輯之前與 Oracle 系統整合。

為了達成這個目標,該計畫強調了代理協調機制,並利用資料庫的 Google MCP 工具箱 (也稱為生成式 AI 工具箱) 作為模型內容通訊協定 (MCP) 協調器的起點。該工具箱是基於 GitHub 的開放原始碼程式碼,是用於資料庫的 MCP 伺服器,旨在將 LLM 型代理程式與 SQL 資料庫連接。此架構透過插入 Oracle 特定工具並在 OCI 上部署,來調整 Oracle Cloud Infrastructure (OCI) 的工具箱。

此計畫的第 1 階段會在 OCI 上建立成功與 Oracle 資料庫整合的工作協調骨幹,並包含至少協調兩個代理程式 (資料擷取與分析) 的中央 MCP 伺服器 (Gen AI Toolbox)。此計畫的第 2 階段引進更進階的推理。

  • 工具定義

    在生成式 AI 工具箱中,工具是專員可執行的動作,例如進行特定 SQL 查詢。宣告式定義工具 (例如使用 YAML),可透過 MCP 伺服器存取。目前的使用案例會為「擷取使用者的最近交易」或「取得原則詳細資訊」等動作建立類似的工具登錄,每個動作都會對應至 Oracle 資料庫查詢或 OCI 函數呼叫。登錄允許代理程式依名稱呼叫這些工具。組態導向方法的優點在於彈性:您可以在不重新部署整個應用程式的情況下更新或新增工具。基於示範目的,階段 1 中的協調可以透過按順序呼叫的工具進行更多指令碼化,但架構會為階段 2 提供基礎作業,讓代理程式能夠動態決定要使用的工具。

  • 協調器架構

    「生成式 AI 工具箱」與 LangChain/Langraph 和 LlamaIndex AgentWorkflow 等代理程式協調架構搭配使用。在此實作中,MCP 伺服器會協調代理程式呼叫的順序。您可以使用簡單的工作流程 (例如呼叫資料代理程式、呼叫詐騙代理程式,然後提供決策) 來編寫協調流程的命令檔。您可以使用自訂程式碼或現有的工作流程庫來執行此操作。利用任何生成式 AI 工具箱用戶端程式庫或樣式來維護環境定義是很有用的。協調器會使用資料代理程式的結果作為詐騙代理程式之提示 / 輸入結構的輸入。階段 1 可確保工作流程正確運作,且內容可在步驟之間正確保留。結果是一個協調層,可簡化一或多個代理程式的執行系統、跨步驟維護相關資訊環境,並支援如 AgentWorkflow 所述的多代理程式工作流程,但在本案例中則透過 OCI 服務實行。

  • 可觀測性與記錄日誌

    Gen AI Toolbox 隨附整合的 OpenTelemetry 支援,可監控工具使用情況。OCI 日誌記錄提供每個代理程式和工具呼叫的日誌記錄,以協助進行除錯,並提供每個代理程式在示範期間執行的作業。階段 1 可以使用 OCI 主控台或日誌來顯示協調器如何呼叫函數來查詢資料庫、傳回的內容,以及如何進行詐騙分析。此透明度吸引利害關係人,並協助建立對 AI 決策的信任。

第二階段:導入增強型 LLM 智慧

此計畫的第二階段整合了進階大型語言模型 (LLM) 推理和其他專員,讓系統更自主且更具洞察力。

基礎架構大致上與第 1 階段相同,但您只需取代或擴增專員的內部並加入新的架構。MCP 伺服器會持續成為整合佇列,在 LLM 代理程式與 OCI 資料庫、功能等之間進行中介。此階段方法顯示逐步進展,首先使用簡單邏輯示範 OCI 中的骨幹,然後插入強大的 LLM,讓系統在說明和處理詐騙案例時更加聰明。

  • LLM 驅動代理推理

    第 2 階段的詐騙分析器代理程式使用 OCI Generative AI 和 LLM 動態決定呼叫的工具及時機,而不是依固定順序執行動作。例如,根據開放式指示 (「調查此詐騙索賠」),專員的提示可以列舉可用的工具 (資料庫查詢、制裁檢查等等),而 LLM 可以規劃一系列的呼叫。這適用於 ReAct 樣式的代理程式,或是使用 LangChain 的規劃功能。MCP 協調器可協助這些代理程式對工具的互動,透過工具執行迴圈 LLM 的決策並傳回結果。Oracle Cloud Infrastructure Generative AI Agents 服務強調了工具協調來處理複雜的工作流程。在目前的架構中,我們將 Gen AI 工具箱方法與 OCI 的 LLM 結合,以導入該概念。您可以結合 LangChain (Oracle Cloud Infrastructure Data Science 支援) 等架構來協助管理提示,例如「工具:GetRecentTransactions (user_id=123)」,以及剖析協調器可執行的 LLM 輸出。此功能可讓詐騙分析器成為更具認知性的代理程式,能夠進行多步驟推理,從而進行更複雜的詐騙調查對話。

  • 其他代理程式和工具

    您可以導入其他專員來擴大系統的功能。例如,圖形分析代理程式可以使用網路分析 (例如圖形資料庫或 ML 模型) 來尋找實體之間的關係,例如詐騙環所使用帳戶中的通用電子郵件或裝置。另一個則是說明代理程式,專門檢查輸出是否符合規範,或簡化客戶說明的語言。每個代理程式都使用特定的 OCI 服務:圖形代理程式可能會使用 Oracle Graph 或 Data Science 中的網路分析程式庫。MCP 協調器可以視需要以平行或順序協調這些代理程式。例如,在詐騙分析器代理程式結束後,協調器便可觸發使用 OCI Email DeliveryOCI Notifications 將報告傳送給調查員的通知代理程式。協調器可作為導體:新增更多代理程式可強化分析管弦樂團,而不需要重新寫入核心邏輯。

  • 機器學習回饋迴圈

    階段 2 可以納入一段時間的學習。無論是否已確認詐欺,所有結果都可以饋送至 Oracle Autonomous Data Warehouse 中,並使用資料科學管線重新訓練模型。雖然不屬於即時代理程式協調流程,但它會關閉解決方案生命週期中的迴圈。透過展示 OCI 不僅能執行偵測,還能搭配 AutoML 或 Oracle Machine Learning 使用歷史資料來改善偵測,您可以向利害關係人持續改進。