在专用 AI 集群上使用 Oracle 生成式 AI 汇总聊天
此参考架构介绍了 OCI Generative AI 服务如何汇总用户之间的聊天通信。
体系结构
- OCI 生成式 AI 服务和专用 AI 集群，用于文本汇总
- Oracle Digital Assistant
- OCI API 网关
- OCI 电子邮件传送
- Oracle B2C Service 云
下图说明了此参考体系结构。
插图 summaryize-chat-oci-gen-ai.png 的说明
summary-chat-oci-gen-ai-oracle.zip
- 区域
OCI 区域是一个本地化的地理区域，其中包含一个或多个称为可用性域的数据中心。区域独立于其他区域，远距离可以区分它们（跨国家甚至大陆）。
- 虚拟云网络 (VCN) 和子网
VCN 是您在 OCI 区域中设置的可定制软件定义网络。与传统数据中心网络一样，VCN 允许您完全控制您的网络环境。一个 VCN 可以具有多个不重叠的 CIDR 块，您可以在创建 VCN 后更改这些块。您可以将 VCN 细分为多个子网，这些子网可以限定在某个区域或可用性域中。每个子网都包含一系列不与 VCN 中的其他子网重叠的地址。您可以在创建后更改子网的大小。子网可以是公共子网，也可以是专用子网。
- 对象存储
通过对象存储，可以快速访问任意内容类型的大量结构化和非结构化数据，包括数据库备份、分析数据以及图像和视频等丰富内容。您可以安全、安全地存储数据，然后直接从互联网或云平台检索数据。您可以无缝扩展存储，而不会在性能或服务可靠性方面出现任何下降。将标准存储用于“热”存储，以便您快速、立即和频繁地访问。将归档存储用于长时间保留的“冷”存储，很少或很少访问。
- OCI 生成式 AI
OCI Generative AI 是一项完全托管的服务，可通过 API 将这些通用语言模型无缝集成到各种用例中，包括编写帮助、汇总和聊天。OCI Generative AI 服务包括以下基础模型：
- 生成：提供从文本生成文本或提取信息的说明。
- 汇总：使用指示的格式、长度和语气汇总文本。
- 嵌入：将文本转换为矢量嵌入，以便在用于语义搜索、文本分类或文本聚类的应用程序中使用。
- 专用 AI 集群
专用 AI 集群是可用于微调定制模型或托管定制模型端点的计算资源。这些集群专用于您的模型，不与其他租户中的用户共享。通过自定义模型 OCI 生成式 AI，您可以使用自己的数据来优化模型。
- Oracle Digital Assistant
数字助手是创建对话接口或聊天机器人的平台。聊天机器人是一个模拟和处理人类对话（书面或口头）的计算机程序，允许人类与应用程序和数据交互，就像他们与真实的人沟通一样。开发人员通过一种或多种技能组合数字助手。技能可以基于 Oracle 或第三方提供的预构建技能、定制开发技能，也可以基于可用的众多技能模板之一。数字助手将用户的请求路由到最合适的技能，以满足用户的请求。技能组合了多语言 NLP 深度学习引擎、强大的对话流引擎和集成组件，以连接到后端系统。
- API 网关
通过 Oracle API Gateway，您可以使用可从网络访问的专用端点发布 API，并且您可以根据需要向公共互联网公开这些端点。端点支持 API 验证、请求和响应转换、CORS、验证和授权以及请求限制。
- 电子邮件发送
OCI 电子邮件传送是一项高度可扩展、经济高效且可靠的电子邮件传送服务，可为关键任务营销、通知和事务通信（例如收据、欺诈检测预警、多因素身份验证和密码重置）发送大量应用生成的电子邮件。
- 身份和访问管理 (IAM)
OCI 身份和访问管理 (IAM) 是 OCI 和 Oracle Cloud Applications 的访问控制层。通过 IAM API 和用户界面，您可以管理身份域和身份域中的资源。每个 OCI IAM 身份域表示一个独立的身份和访问管理解决方案或不同的用户群体。
- 日志记录
日志记录是一项高度可扩展且完全托管的服务，它支持从云中的资源访问以下类型的日志：
- 审计日志：与审计服务发出的事件相关的日志。
- 服务日志：各个服务发出的日志，如 API 网关、事件、函数、负载平衡、对象存储和 VCN 流日志。
- 定制日志：包含来自定制应用程序、其他云提供商或内部部署环境的诊断信息的日志。
- 监视
OCI 监视服务使用指标主动和被动监视云资源，并在这些指标满足警报指定的触发器时通知您。