在專屬 AI 叢集上使用 Oracle Generative AI 來彙總交談
此參考架構說明 OCI Generative AI 服務如何彙總使用者之間的交談通訊。
架構
- OCI Generative AI Service with Dedicated AI Cluster for Text Summarization
- Oracle Digital Assistant
- OCI API 閘道
- OCI 電子郵件傳遞
- Oracle B2C Service 雲
下圖說明此參照架構。
summarize-chat-oci-gen-ai.png 圖解描述
總結 -chat-oci-gen-ai-oracle.zip
- 地區
OCI 區域是包含一或多個資料中心 (稱為可用性網域) 的本地化地理區域。區域與其他區域無關，且遠距離可加以區分 (跨國家，甚至是大陸)。
- 虛擬雲端網路 (VCN) 與子網路
VCN 是您在 OCI 區域中設定的可自訂軟體定義網路。就像傳統資料中心網路一樣，VCN 可讓您完整控制網路環境。VCN 可以有多個非重疊的 CIDR 區塊，您可以在建立 VCN 之後加以變更。您可以將 VCN 分割成子網路，子網路可以限定為區域或可用性網域。每個子網路都是由不與 VCN 中其他子網路重疊的連續位址範圍所組成。您可以在建立子網路後變更其大小。子網路可以是公用或專用。
- 物件儲存
物件儲存可讓您快速存取各種內容類型的大量結構化和非結構化資料，包括資料庫備份、分析資料，以及豐富的內容 (例如影像和影片)。您可以安全地儲存資料，然後直接從網際網路或雲端平台內擷取資料。您可以無縫擴充儲存體，而不會發生任何效能或服務可靠性的降低情況。針對快速、立即且經常存取的「熱」儲存體，使用標準儲存體。將封存儲存用於保留很長一段時間、極少或極少存取的「冷」儲存。
- OCI 世代 AI
OCI Generative AI 是一個透過 API 提供的完全託管服務，可將這些多功能語言模型無縫整合至廣泛的使用案例，包括撰寫協助、摘要及交談。OCI Generative AI 服務包括下列基礎模型：
- 層代：提供從文字產生文字或擷取資訊的指示。
- 彙總：以指示的格式、長度及語調來彙總文字。
- 內嵌：將文字轉換成要在應用程式中用於語意搜尋、文字分類或文字叢集的向量內嵌。
- 專用的 AI 叢集
專用的 AI 叢集是運算資源，可用來微調自訂模型或代管自訂模型的端點。叢集專供您的模型使用，不會與其他租用戶共用。自訂模型 OCI Generative AI 可讓您使用自己的資料來調整模型。
- Oracle Digital Assistant
Digital Assistant 是建立對話式介面或聊天機器人的平台。聊天機器人是模擬並處理人類對話 (書面或口語) 的電腦程式，能讓人類與應用程式和資料互動，就像與真實人溝通一樣。開發人員從一個或多個技能組合數位助理。技能可以基於 Oracle 或第三方提供的預建技能、自訂開發技能或基於提供的眾多技能範本之一。Digital Assistant 會將使用者的要求遞送至最適當的技能，以滿足使用者的要求。技能結合了多語言 NLP 深度學習引擎、強大的對話流程引擎和整合元件，以連線至後端系統。
- API 閘道
Oracle API Gateway 可讓您發布內含可從您網路存取之專用端點的 API，以及在必要時對公用網際網路公開的 API。端點支援 API 驗證、要求與回應轉換、CORS、認證與授權，以及要求限制。
- 電子郵件傳遞
OCI Email Delivery 是一種可高度擴展、符合成本效益且可靠的電子郵件傳遞服務，可針對關鍵任務行銷、通知和交易通訊 (例如收據、詐騙偵測警示、多重要素身分驗證和密碼重設) 傳送大量應用程式產生的電子郵件。
- 身分識別與存取管理 (IAM)
OCI Identity and Access Management (IAM) 是 OCI 和 Oracle Cloud Applications 的存取控制層。IAM API 和使用者介面可讓您管理識別網域和識別網域內的資源。每個 OCI IAM 識別網域都代表一個獨立的識別和存取管理解決方案，或是不同的使用者群體。
- 記錄日誌
日誌記錄是一種可高度擴展且完全受管理的服務，可讓您從雲端資源存取下列類型的日誌：
- 稽核日誌：與稽核服務所發出之事件相關的日誌。
- 服務日誌： 由個別服務 (例如 API 閘道、事件、函數、負載平衡、物件儲存以及 VCN 流量日誌) 傳送的日誌。
- 自訂日誌：包含自訂應用程式、其他雲端提供者或內部部署環境之診斷資訊的日誌。
- 監督
OCI Monitoring 服務使用指標主動和被動監控您的雲端資源，以監控資源和警報，在這些指標符合警報指定的觸發器時通知您。