規劃部署

若要部署此架構,請使用下列高階步驟。

  1. 準備向量儲存區。

    使用 Oracle Database 23ai 上傳產品目錄資料。請確定有一個資料欄包含產品的部分描述。這是要向量化的欄位 。在運算執行處理上使用程式碼 (在此情況下為 Oracle Cloud Infrastructure Data Science 記事本) 會使用 96 個記號的區塊大小,將 Oracle Cloud Infrastructure Generative AI 內嵌模型套用至描述資料欄,以建立向量類型資料欄。然後,將資料集推送至 Oracle Database 23ai。

  2. 建立運算執行處理並部署函數。

    建立運算執行處理以從前端零售 App 接收 API 呼叫,並能夠對各種 AI 服務進行 API 呼叫。使用 Oracle Cloud Infrastructure Functions 部署函數。此運算執行處理也可作為任何特定運算需求的中央樞紐。

  3. 建立前端整合。

    您的運算執行處理現在已準備好與您的應用程式整合,並且可連線至 configure-price-quote (CPQ) 應用程式。此架構使用 Oracle APEX Application Development 來建立 Web 應用程式,但您也可以將此解決方案與現有的聊天機器人或 Oracle Digital Assistant 整合。

此架構提供數個部署選項。

選取 AI 部署選項

Oracle Database 23ai 提供 Select AI,這是資料庫內建的 NL2SQL 工具。

此建置選項的優點在於資料會維持在適當位置,而且非常適合 SQL 開發。不過,此選項不會儲存非結構化資料。


select_ai_shopping_cart.png 的描述如下
說明 select_ai_shopping_cart.png

Select-ai-shopping- 購物車 -oracle.zip

RAG 代理程式部署選項

使用 Oracle Cloud Infrastructure RAG Agent 將大型語言模型 (LLM) 和檢索增強生成 (RAG) 的強大功能與企業資料結合,讓使用者查詢各種企業知識庫。

此服務透過自然語言介面提供最新資訊,並能夠直接對其採取行動。

此部署選項可讓知識庫使用資料來源,例如 PDF 檔案、手冊、部落格等等。不過,LLM 僅限於 RAG Agent。



ai-rag-agent-shopping-cart-oracle.zip

自訂部署選項

使用 Oracle Cloud Infrastructure Data Science 快速操作管理資料和 LLM 管線的每個元件。

資料科學快速操作是一組動作,可在 Oracle Cloud Infrastructure Data Science 中一起部署、評估及微調基礎模型。

此部署選項的優點是能夠微調模型並完全控制資料流程。建議為此部署提供資料科學專長。



ai-custom-shopping- 購物車 -oracle.zip