使用 Oracle Cloud Infrastructure AI Agent Platform 部署代理 AI

企业在为用户提供及时、准确且易于访问跨多个系统和格式(例如文档、数据库和定制业务流程)的信息方面经常面临挑战。这可能导致效率低下、响应不一致、支持成本较高以及用户满意度降低,因为个人需要花费大量时间搜索所需信息或等待帮助。

AI 座席由人工智能提供支持,可以理解问题、检索信息和自动执行任务。它们还可以帮助简化信息访问,提供可靠的答案,并提高用户满意度,同时降低支持成本。OCI AI Agent Platform 可帮助企业构建智能、安全和情境感知代理,并在 Oracle 生态系统中无缝集成。

实施 AI 驱动的代理虚拟助手,让用户可以通过聊天或 Web 界面自然交互,从结构化和非结构化数据源访问、检索和处理信息,并触发定制工作流。这简化了信息发现流程,降低了对手动支持的依赖性,并确保了整个企业的可扩展性、一致性和安全的用户体验。

用户通过使用 Oracle Visual Builder 构建的 Web 应用程序进行交互,该应用程序连接到 Oracle Digital Assistant。OCI AI Agent Platform 用于构建助手,该助手可以:

  • 使用检索增强生成 (Retrieval-Augmented Generation,RAID) 从对象存储中检索信息
  • 对 Oracle Autonomous Database 运行 SQL 查询 (Oracle Autonomous Transaction Processing )
  • 为专门任务(例如文档理解或天气数据)执行定制业务功能

此参考架构提供了快速部署代理 AI 解决方案的蓝图,并辅以 LiveLab,提供分步实施指导。

体系结构

这是用于构建高级生成式 AI 聊天机器人的企业级 OCI 架构,该聊天机器人融合了会话式 AI、安全数据访问、RAG 和可扩展业务逻辑。

用户可与使用 Oracle Visual Builder 构建的 Web 应用进行交互。该应用与 Oracle Digital Assistant 集成,可管理对话交互,并将用户查询路由到适当的后端服务。数字助手连接到 OCI Generative AI Agent Platform,该平台可智能地将请求编排到不同的工具:

  • RAG ToolOCI Object Storage 中检索上下文感知响应的相关信息。
  • SQL Tool 查询 Oracle Autonomous AI Database (Oracle Autonomous Transaction Processing ) 中的结构化数据来回答特定数据驱动的问题。
  • 自定义工具为文档理解或集成外部数据(例如天气)等特殊任务调用无服务器功能。

这些服务共同利用 Oracle Cloud Infrastructure 提供智能、响应迅速且可扩展的 AI 驱动体验,结合了会话式 AI、实时数据访问和自定义功能。

下图说明了此参考体系结构。



agentic-ai-oci-ai-agent-arch-oracle.zip

该体系结构包含以下组件:

  • 区域

    OCI 区域是一个本地化的地理区域,其中包含一个或多个托管可用性域的数据中心。区域独立于其他区域,并且很远的距离可以将它们分开(跨越国家甚至大洲)。

  • Oracle 服务网络

    Oracle 服务网络 (OSN) 是一个基于 OCI 的概念网络,专为 Oracle 服务保留。这些服务具有可通过互联网访问的公共 IP 地址。Oracle Cloud 外部的主机可以使用 Oracle Cloud Infrastructure FastConnect 或 VPN Connect 私下访问 OSN。VCN 中的主机可以通过服务网关以专用方式访问 OSN。

  • Oracle Visual Builder

    Oracle Visual Builder 是一个基于开发和托管平台的直观开发体验,可帮助您创建富有吸引力的响应式应用。它以易用性和可视化开发方法为重点,可帮助您轻松创建托管在 Oracle 安全且可扩展的云平台中的应用。

  • Oracle Digital Assistant

    Oracle Digital Assistant 是一个平台,可用于为用户创建和部署数字助手。借助 Oracle Digital Assistant ,您可以通过文本、聊天和语音界面为业务应用创建 AI 驱动的界面(或聊天机器人)。每个数字助手都具有一个或多个专业技能的集合,以帮助用户完成自然语言对话中的各种任务。例如,个人数字助手可能具有专注于特定类型任务(例如跟踪库存、提交工时记录卡和创建费用报告)的技能。

  • OCI AI 代理平台

    Oracle Cloud Infrastructure (OCI) AI Agent Platform 提供了一个完全托管的云原生解决方案,支持您构建、部署和管理 AI 代理。通过利用先进的大语言模型 (LLM),您创建的 AI 代理可以彻底改变您与客户的交互方式,自动执行复杂任务,自动执行工作流,处理业务问题。该服务集成了整个 Oracle 堆栈,包括数据库和云基础设施,从而实现高效的数据检索和 API 交互。

  • OCI 对象存储

    OCI Object Storage 可访问任意内容类型的大量结构化和非结构化数据,包括数据库备份、分析数据以及图像和视频等丰富内容。您可以安全地直接从应用或云平台内存储数据。您可以扩展存储,而不会出现性能或服务可靠性下降的情况。

  • Oracle Autonomous Transaction Processing

    Oracle Autonomous Transaction Processing 是一个自治驱动、自我保护和自我修复的数据库服务,针对事务处理工作负载进行了优化。您不需要配置或管理任何硬件,也不需安装任何软件。OCI 可处理数据库创建、备份、打补丁、升级和调优。

  • Oracle AI Database 26ai

    借助 Oracle AI Database 26ai 和 AI Vector Search,您可以按含义而不是关键字查询数据。向量表示(嵌入)捕获文本、图像、音频等的语义,以便您高效地找到类似的内容。内置的 SQL 距离函数允许使用向量的相似性搜索。您可以将语义相似性和其他搜索标准组合到大语言模型 (RAG) 中,以获得更准确和相关的答案。

  • OCI 功能

    Oracle Cloud Infrastructure Functions 是一个完全托管、多租户、高度可扩展、按需提供的函数即服务 (FaaS) 平台。它由 Fn Project 开源引擎提供支持。使用 OCI Functions ,您可以部署代码,直接调用代码或触发代码以响应事件。OCI Functions 使用 Oracle Cloud Infrastructure Registry 中托管的 Docker 容器。

Deploy

要部署此体系结构,请按照以下 Live Lab 中的说明进行操作:

确认

  • 作者Luke Farley, Abhinav Jain
  • 贡献者Kaushik Kundu