使用 Oracle Cloud Infrastructure AI Agent Platform 部署代理程式 AI

企業通常面臨著挑戰,因為要讓使用者能夠及時、準確且輕鬆地存取分散在多個系統和格式的資訊,例如文件、資料庫和自訂業務流程。這可能會導致效率不彰、回應不一致、支援成本較高,以及使用者滿意度降低,因為個人花費大量時間搜尋所需的資訊或等待協助。

AI 代理由人工智慧提供支援,可以瞭解問題、擷取資訊及自動化任務。他們還可以協助簡化資訊存取、提供可靠的答案,以及提升使用者滿意度,同時降低支援成本。OCI AI Agent Platform 可讓企業建置智慧型、安全且具情境感知的代理程式,並在 Oracle 生態系統中無縫整合。

導入代理 AI 驅動的虛擬助理,讓使用者能夠透過交談或 Web 介面自然互動,從結構化和非結構化資料來源存取、擷取和處理資訊,以及觸發自訂工作流程。這簡化了資訊探索流程、減少對手動支援的依賴,並確保整個企業都能提供可擴展、一致且安全的使用者體驗。

使用者可以透過使用 Oracle Visual Builder 建立的 Web 應用程式進行互動,此應用程式會連線至 Oracle Digital Assistant。OCI AI 代理平台用於建置助理,可以:

  • 使用檢索增強生成 (RAG) 從物件儲存擷取資訊
  • 在 Oracle Autonomous Database 上執行 SQL 查詢 (Oracle Autonomous Transaction Processing)
  • 執行特殊任務的自訂業務功能 (例如文件理解或氣象資料)

此參考架構提供快速部署代理程式 AI 解決方案的藍圖,並由提供逐步導入指引的 LiveLab 輔助。

架構

這是一個企業級 OCI 架構,用於建置融合對話式 AI、安全資料存取、RAG 和可擴展業務邏輯的進階生成式 AI 聊天機器人。

使用者可以與使用 Oracle Visual Builder 建立的 Web 應用程式互動。此應用程式與 Oracle Digital Assistant 整合,可管理對話互動,並將使用者查詢遞送至適當的後端服務。數位助理可連線至 OCI Generative AI Agent Platform,以智慧方式協調對不同工具的要求:

  • RAG 工具會從 OCI Object Storage 擷取相關資訊環境感知回應的相關資訊。
  • SQL 工具會查詢 Oracle Autonomous AI Database (Oracle Autonomous Transaction Processing) 中的結構化資料,以回答特定的資料導向問題。
  • 自訂工具會針對文件瞭解或整合外部資料 (例如天氣) 等特殊工作呼叫無伺服器功能。

這些服務結合使用 Oracle Cloud Infrastructure,提供智慧型、回應迅速且可擴展的 AI 導向體驗,結合對話式 AI、即時資料存取和自訂功能。

下圖說明此參照架構。



agent-ai-oci-ai-agent-arch-oracle.zip

此架構具有下列元件:

  • 地區

    OCI 區域是本地化的地理區域,包含一或多個代管可用性網域的資料中心。區域獨立於其他地區,且遠距離能夠分離它們 (跨國家,甚至是大陸)。

  • Oracle Services Network

    Oracle Services Network (OSN) 是 OCI 上的概念網路,保留給 Oracle 服務使用。這些服務具有公用 IP 位址,您可以透過網際網路連線。Oracle Cloud 以外的主機可以使用 Oracle Cloud Infrastructure FastConnect 或 VPN Connect 以私密方式存取 OSN。您 VCN 中的主機可以透過服務網關私下存取 OSN。

  • Oracle Visual Builder

    Oracle Visual Builder 是在開發和託管平台上的直觀式開發體驗,可讓您建立引人入勝的響應式應用程式。它專注於易用性和視覺化開發方法,可讓您輕鬆建立託管在 Oracle 安全且可擴展的雲端平台中的應用程式。

  • Oracle Digital Assistant

    Oracle Digital Assistant 是一個平台,可讓您為使用者建立和部署數位助理。藉助 Oracle Digital Assistant ,您可以透過文字、交談和語音介面,為業務應用程式建立 AI 導向介面 (或聊天機器人)。每個數位助理都有一或多個專業技能的集合,可協助使用者在自然語言對話中完成各種任務。例如,個別數位助理可能會具備專注於特定類型任務的技能,例如追蹤存貨、提交工時卡及建立費用報表。

  • OCI AI 代理程式平台

    Oracle Cloud Infrastructure (OCI) AI Agent Platform 提供完全託管的雲端原生解決方案,可讓您建置、部署及管理 AI 代理。透過利用最先進的大型語言模型 (LLM),您建立的 AI 代理可以改變您與客戶互動的方式、自主執行複雜任務、自動化工作流程、解決業務問題。該服務整合了整個 Oracle 堆疊,包括資料庫和雲端基礎架構,從而實現高效的資料擷取和 API 互動。

  • OCI Object Storage

    OCI Object Storage 可讓您存取任何內容類型的大量結構化和非結構化資料,包括資料庫備份、分析資料,以及豐富的內容 (例如影像和影片)。您可以直接從應用程式或雲端平台內安全地儲存資料。您可以擴展儲存,而不會發生任何效能或服務可靠性的降低情況。

  • Oracle Autonomous Transaction Processing

    Oracle Autonomous Transaction Processing 是一種自主驅動、自主防護、自主修復的資料庫服務,已針對交易處理工作負載進行最佳化。您不需要設定或管理任何硬體,或安裝任何軟體。OCI 會處理資料庫的建立、備份、修正、升級及調整。

  • Oracle AI Database 26ai

    Oracle AI Database 26ai 搭配 AI Vector Search,可讓您依意義而非關鍵字查詢資料。向量表示法 (內嵌) 會擷取文字、影像、音訊等語意,讓您能夠有效率地找到相似的內容。內建 SQL 距離函數允許使用向量進行相似性搜尋。您可以將語意相似性和其他搜尋條件與基礎大型語言模型 (RAG) 結合,以獲得更準確且相關的答案。

  • OCI 功能

    Oracle Cloud Infrastructure Functions 是一個完全託管、多租用戶、可高度擴展、隨選、函數即服務 (FaaS) 平台。它由 Fn Project 開放原始碼引擎提供技術支援。OCI Functions 可讓您部署程式碼,以及直接呼叫程式碼或觸發程式碼以回應事件。OCI Functions 使用 Oracle Cloud Infrastructure Registry 中代管的 Docker 容器。

Deploy

若要部署此架構,請依照此即時實驗環境中的指示進行:

確認

  • 作者Luke Farley, Abhinav Jain
  • 貢獻者Kaushik Kundu