部署 AI 驅動的聊天機器人
此參考架構示範如何使用 Oracle Digital Assistant 和 OCI Generative AI ，在 Oracle Cloud Infrastructure (OCI) 租用戶中快速部署 AI 驅動的聊天機器人。提供的基礎架構和元件可簡化對組織需求的自訂作業。主要功能包含：
- 作者：產生銷售計畫、產業概要及客戶研究等文件。
- 摘要：上傳成績單或文件以接收簡明摘要。
- 問題與答案：提出一般問題，並根據 Web 內容與聊天機器人的訓練資料快速獲得答案。
使用此參考架構可快速輕鬆地部署具備 Oracle Digital Assistant 和 Oracle AI 服務的 AI 聊天機器人。
架構
此 AI 驅動的聊天機器人利用 Oracle Digital Assistant 和 OCI Generative AI 大型語言模型 (LLM)。Oracle Visual Builder 用於將聊天機器人內嵌至 Web 應用程式中。使用者可以透過自然語言問題與 OCI Generative AI 互動，並透過聊天機器人介面從 LLM 接收回應。
下圖說明此參照架構。
使用者和開發人員使用此架構的流程類似於：
- 開發人員和聊天機器人使用者可以使用 OCI Identity and Access Management 進行認證。
- 使用者可以使用內嵌聊天機器人的 Oracle Visual Builder 應用程式存取聊天機器人。開發人員可以從 Oracle Visual Builder 服務首頁設定應用程式。
- 開發人員使用 Oracle Digital Assistant 服務主控台設定聊天機器人。
- 開發人員使用 API 存取 OCI Generative AI LLM。
此架構具有下列元件：
- 地區
Oracle Cloud Infrastructure 區域是本地化的地理區域，包含一或多個代管可用性網域的資料中心。區域獨立於其他地區，且遠距離能夠分離它們 (跨國家，甚至是大陸)。
- 識別與存取管理
Oracle Cloud Infrastructure Identity and Access Management (IAM) 為 Oracle Cloud Infrastructure (OCI) 和 Oracle Cloud Applications 提供使用者存取控制。IAM API 和使用者介面可讓您管理識別網域及其中的資源。每個 OCI IAM 識別網域都代表獨立的識別與存取管理解決方案，或代表不同的使用者群體。
- Oracle Visual Builder
Oracle Visual Builder 是在開發和託管平台上的直觀式開發體驗，可讓您建立引人入勝的響應式應用程式。它專注於易用性和視覺化開發方法，可讓您輕鬆建立託管在 Oracle 安全且可擴展的雲端平台中的應用程式。
- 數位助理
Oracle Digital Assistant 是一個平台，可讓您為使用者建立和部署數位助理。藉助 Oracle Digital Assistant ，您可以透過文字、交談和語音介面，為業務應用程式建立 AI 導向介面 (或聊天機器人)。每個數位助理都有一或多個專業技能的集合，可協助使用者在自然語言對話中完成各種任務。例如，個別數位助理可能會具備專注於特定類型任務的技能，例如追蹤存貨、提交工時卡及建立費用報表。
- 生成式 AI
Oracle Cloud Infrastructure Generative AI 是完全受管理的 OCI 服務，提供一組最先進、可自訂的大型語言模型 (LLM)，涵蓋廣泛的文字產生、摘要、語意搜尋等使用案例。使用操場試用現成的預先訓練模型，或根據專屬 AI 叢集上的自己資料建立及代管自己的微調自訂模型。
注意事項
部署此 AI 驅動的聊天機器人時，請考慮下列事項。
- 地區可用性
Oracle 會在區域和可用性網域中代管其 OCI 服務。區域是本地化的地理區域，可用性網域則是該區域的一或多個資料中心。AI 服務並非一律在所有地區提供。若要深入瞭解，請參閱探索更多區段中的使用生成式 AI 的區域。
- 文件處理
此架構中使用的文件處理功能適用於較小的文件。如需分析大型文件的解決方案，請參閱瀏覽更多區段中的其他 LiveLabs。