部署 AI 驱动的聊天机器人

由于多种可用选项,设计聊天机器人可能既复杂又耗时。企业希望快速、个性化、全天候的客户服务和降低成本,尽可能减少人工座席的需求,但希望快速、经济高效地部署聊天机器人。

此参考架构演示了如何使用 Oracle Digital AssistantOCI Generative AIOracle Cloud Infrastructure (OCI) 租户中快速部署 AI 驱动的聊天机器人。提供的基础设施和组件可简化自定义,满足企业需求。主要功能包括:

  • 作者:生成销售计划、行业概述和客户调查等文档。
  • 汇总:上载成绩单或文档以接收简明的汇总。
  • 问题和答案:根据 Web 内容和聊天机器人的培训数据提出一般性问题并快速获得答案。

使用此参考架构,通过 Oracle Digital Assistant 和 Oracle AI 服务快速轻松地部署 AI 驱动的聊天机器人。

体系结构

此参考架构概述如何在您自己的 OCI 租户中配置和部署 AI 驱动的聊天机器人。此聊天机器人可以生成或汇总内容、回答问题、翻译语言等。

此 AI 驱动的聊天机器人利用 Oracle Digital AssistantOCI Generative AI 大语言模型 (LLM)。Oracle Visual Builder 用于将聊天机器人嵌入到 Web 应用中。用户可以通过自然语言问题与 OCI Generative AI 进行交互,并通过聊天机器人界面接收来自 LLM 的响应。

下图说明了此参考体系结构。



deployment-ai-chatbot-arch.zip

使用此体系结构的用户和开发人员流程类似于:

  1. 开发人员和聊天机器人用户使用 OCI Identity and Access Management 进行身份验证。
  2. 用户使用嵌入了聊天机器人的 Oracle Visual Builder 应用程序访问聊天机器人。开发人员可以从 Oracle Visual Builder 服务主页配置应用程序。
  3. 开发人员使用 Oracle Digital Assistant 服务控制台配置聊天机器人。
  4. 开发人员使用 API 访问 OCI Generative AI LLM。

该体系结构包含以下组件:

  • 区域

    Oracle Cloud Infrastructure 区域是一个本地化的地理区域,包含一个或多个托管可用性域的数据中心。区域独立于其他区域,并且很远的距离可以将它们分开(跨越国家甚至大洲)。

  • 身份和访问管理

    Oracle Cloud Infrastructure Identity and Access Management (IAM) 为 Oracle Cloud Infrastructure (OCI) 和 Oracle Cloud Applications 提供用户访问控制。借助 IAM API 和用户界面,您可以管理身份域及其中的资源。每个 OCI IAM 身份域都代表一个独立的身份和访问管理解决方案或不同的用户群体。

  • Oracle Visual Builder

    Oracle Visual Builder 是一个基于开发和托管平台的直观开发体验,可帮助您创建富有吸引力的响应式应用。它以易用性和可视化开发方法为重点,可帮助您轻松创建托管在 Oracle 安全且可扩展的云平台中的应用。

  • 数字助手

    Oracle Digital Assistant 是一个平台,可用于为用户创建和部署数字助手。借助 Oracle Digital Assistant ,您可以通过文本、聊天和语音界面为业务应用创建 AI 驱动的界面(或聊天机器人)。每个数字助手都具有一个或多个专业技能的集合,以帮助用户完成自然语言对话中的各种任务。例如,个人数字助手可能具有专注于特定类型任务(例如跟踪库存、提交工时记录卡和创建费用报告)的技能。

  • 生成式 AI

    Oracle Cloud Infrastructure Generative AI 是一个完全托管的 OCI 服务,提供一组先进的、可定制的大语言模型 (LLM),涵盖文本生成、汇总、语义搜索等各种用例。使用操场来试用现成可用的预训练模型,或者基于您自己的数据在专用 AI 集群上创建和托管您自己的微调定制模型。

注意事项

部署此 AI 驱动的聊天机器人时,请考虑以下事项。

  • 区域可用性

    Oracle 在区域和可用性域中托管 OCI 服务。区域是一个局部地理区域,可用性区域是指该区域中的一个或多个数据中心。AI 服务并非在所有区域中始终可用。要了解更多信息,请参阅了解更多信息部分中的生成式 AI 区域

  • 文档处理

    此体系结构中使用的文档处理功能适用于较小的文档。有关分析较大文档的解决方案,请参阅浏览更多部分中的其他 LiveLabs。

Deploy

要部署此体系结构,请按照以下 Live Lab 中的说明进行操作:

确认

  • 作者Luke Farley, Abhinav Jain
  • 贡献者Kaushik Kundu