關於使用 Oracle AI Database 26ai for Enterprise AI

使您的企業能夠將 Oracle AI Database 26ai 中管理的業務資料轉化為掌控的高品質知識，為 AI 應用程式提供動力，而無需添加單獨的向量儲存。您可以使用 Dify Enterprise Edition 的知識管線，直接在 Oracle AI Database 26ai 中協調多模型資料 (文字、影像、音訊) 的擷取、強化及編製索引。接著，您可以針對使用案例 (例如客戶支援共同體、知識搜尋及專員輔助工作流程) 快速可靠地擷取作業，並提供下列優點：

透過啟用現有的 Oracle 居民資料，加快 AI 價值實現時間
透過符合政策的精選情境提升答案品質和一致性
自信地擴展 Oracle 的企業級效能、可用性和安全性
透過統一資料儲存和向量管理來降低架構複雜性

在本解決方案手冊中，您將瞭解如何整合 Dify 與 Oracle AI Database ，以提供可重複的參考，用於建立在生產規模執行的檢索增強生成 (RAG) 和知識應用程式。

架構

Dify 在單一虛擬雲端網路 (VCN) 內跨多個可用性網域的 Oracle Cloud Infrastructure Kubernetes Engine (OKE) 上執行，採用三層網路設計。

下列架構顯示一個 OCI 區域內 OCI 上的典型三層式 Dify 部署，以及跨三個可用性網域以提供高可用性的單一 VCN：

oracle-adb-dify-arch.png 圖解描述

oracle-adb-dify-arch-oracle.zip

下列清單摘要了部署和連線：

內部部署使用者透過網際網路連線至應用程式。
要求會在 VCN 中的 OCI 負載平衡器 (LB) 所提供的公用負載平衡器上終止。
在平台前方使用傳入控制器和 OCI 負載平衡器，以從外部存取 Dify 主控台和服務。
公用 LB 需要不同可用性網域 (AD) 中的兩個公用子網路，才能提供高可用性 (HA)。
在跨多個 AD 的 VCN 內的 OKE 上部署 Dify Enterprise Edition。
叢集公開 kubernetes 應用程式設計介面 (API) 端點，並執行多個工作節點。
每個節點都代管應用程式 Pod。在 NAT 閘道使用專用的專用 Pod 子網路，讓 Pod 連線至網際網路而不公開。
容器映像檔是使用服務閘道從 OCI Container Registry 透過 Oracle Services Network (OSN) 提取。
使用 Oracle AI Database 26ai 作為向量資料庫，利用其原生向量儲存 / 檢索以及企業功能 (分割、RAC、分區、Exadata 最佳化) 來實現規模和可靠性。

此架構具有下列元件：

OCI 地區
OCI 區域是本地化的地理區域，包含一或多個代管可用性網域的資料中心。區域獨立於其他地區，且遠距離能夠分離它們 (跨國家，甚至是大陸)。
可用性網域
可用性網域是區域內獨立的資料中心。每個可用性網域中的實體資源會與其他可用性網域中的資源隔離，以提供容錯能力。可用性網域不會共用基礎架構，例如電源或冷卻系統，或內部可用性網域網路。因此，一個可用性網域發生故障不應影響該區域中的其他可用性網域。
OCI 虛擬雲端網路與子網路
虛擬雲端網路 (VCN) 是您在 OCI 區域中設定的可自訂軟體定義網路。與傳統資料中心網路一樣，VCN 可讓您控制網路環境。VCN 可以有多個非重疊的無類別網域間路由 (CIDR) 區塊，您可以在建立 VCN 之後變更這些區塊。您可以將 VCN 分隔到子網路中，而子網路的作用領域可以調整到某個區域或可用性網域。每個子網路都是由連續的位址範圍所組成，這些位址不會與 VCN 中的其他子網路重疊。您可以在建立子網路後變更其大小。子網路可以是公用網路或專用網路。
負載平衡器
Oracle Cloud Infrastructure Load Balancer 提供從單一進入點到多部伺服器的自動化流量分配功能。
OCI Kubernetes 引擎
Oracle Cloud Infrastructure Kubernetes Engine ( OCI Kubernetes Engine 或 OKE) 是完全託管、可擴展且高可用性的服務，可用來將容器化應用程式部署到雲端。您可以指定應用程式所需的運算資源，然後確定在現有租用戶的 OCI 上佈建這些資源。OKE 使用 Kubernetes 將跨主機叢集的容器化應用程式部署、調整規模及管理自動化。
Oracle AI Database 26ai
Oracle AI Database 26ai 搭配 AI Vector Search，可讓您依意義而非關鍵字查詢資料。向量表示法 (內嵌) 會擷取文字、影像、音訊等語意，讓您能夠有效率地找到相似的內容。內建 SQL 距離函數允許使用向量進行相似性搜尋。您可以將語意相似性和其他搜尋條件與基礎大型語言模型 (RAG) 結合，以獲得更準確且相關的答案。
Oracle Autonomous AI Database
Oracle Autonomous AI Database 提供易於使用、完全自主 (自我管理) 的資料庫，可彈性調整規模並提供快速查詢效能。此服務不需要資料庫管理。您不需要設定或管理任何硬體，或安裝任何軟體。它會自動處理佈建、備份、修正與升級，以及增加或縮小資料庫，而且是一項彈性服務。使用內建的 AI 功能，使用任何資料開發可擴展的 AI 應用程式。使用您選擇的大型語言模型 (LLM)，並部署在雲端或資料中心。

使用案例

當企業根據大型語言模型 (LLM) 模型和私人資料 Oracle AI Database 26ai 導入 AI 開發計畫時，其原生向量管理和成熟企業級功能的雙重優勢，為驗證 Oracle AI Database 代理程式開發架構和以驗證為基礎的 AI 應用程式提供穩定、高效且低臨界值的資料平台解決方案。

資源重複使用和成本最佳化：企業不再需要購買專屬向量資料庫，而且可以完全重複使用現有的 Oracle AI Database 資源，大幅降低硬體採購和維護成本。
能力擴展性：隨著企業 AI 應用程式中的多模型資料 (例如工業影像和音訊日誌) 變得越來越普遍，Oracle AI Database 26ai 可進一步擴展多模型向量擷取功能，為智慧製造和醫療診斷等案例提供更全面的 AI 支援。
穩定性保證：Oracle AI Database 在分割、RAC 和 Exadata 最佳化方面擁有多年經驗，Oracle AI Database 26ai 可以輕鬆處理 PB 級資料量和高貨幣案例，確保企業 AI 應用程式的作業全天候穩定。

Oracle AI Database 26ai 不僅是企業向量資料管理的核心營運商，也是推動企業從資料儲存轉型到 AI 價值探勘的重要技術基礎，為企業智慧型升級提供完善的技術支援。

注意事項

整合 Dify 與 OCI 時，請考慮使用這些選項。

儘可能使用應用程式 / 資料層的專用子網路，透過安全清單使用 NSG。
使用 OCI Vault 作為加密密碼 (API 金鑰、資料庫證明資料)、最低權限的 IAM 原則，以及可觀察的 OCI 日誌記錄、監控和警訊。
請考慮使用多個可用性網域節點集區和負載平衡器狀況檢查，以進行高可用性和自動調整。

關於必要服務與角色

此解決方案需要下列服務與角色：

Oracle Cloud Infrastructure
Oracle Autonomous AI Database
OCI Kubernetes 引擎
Dify Enterprise Edition

這些是每項服務所需的角色。

服務名稱：角色	必須為 ...
日期：使用者	建立由密碼預設表格空間 (使用者配額為 `unlimited`) 識別的使用者識別。
日期：`DB_DEVELOPER_ROLE`	讓管理員能夠快速指派開發人員為 Oracle Database 設計、建置及部署應用程式所需的權限。

請參閱 Oracle 產品、解決方案和服務，以取得您需要的內容。