关于使用 Oracle Digital Assistant 构建和管理多代理

随着企业越来越多地采用生成式 AI (GenAI) 代理来简化运营并增强客户体验，因此需要一个全面的平台来管理这些代理变得至关重要。企业需要使用直观的用户界面来设计、部署和编排多个 AI 代理，并根据需要将它们与 API、工作流和 GenAI 功能无缝集成。

Oracle 计划推出 OCI Generative AI Agents Platform。虽然我们期待下一个版本，但客户项目证明 Oracle Digital Assistant (ODA) 可以很好地满足 AI 座席的需求。ODA 拥有强大的 API 连接、多渠道部署、流设计器和 LLM 块，可帮助企业高效管理 AI 代理的整个生命周期。

因此，您可以了解 ODA 如何提供结构化方法来构建、管理和扩展 AI 代理。

Oracle Digital Assistant 提供了一个完整的生态系统，可用于构建、管理和扩展 AI 代理，包括无缝的 API 集成、多渠道部署、LLM 功能和工作流自动化。通过利用 ODA，企业可以高效管理 AI 代理的整个生命周期，确保敏捷性、可扩展性和增强用户体验。这也适用于使用非 OCI 技术开发的 AI Agents，博世有一个公开的 ODA + OpenAI 示例。

随着企业继续进行 AI 驱动的转型，ODA 是一个强大的推动因素，可简化智能数字助手的部署，同时确保控制、安全性和业务价值。

了解使用 Oracle Digital Assistant 构建和管理多代理的优势

  • 无缝 API 集成 ODA 提供了强大的 API 服务集成功能，使代理能够与任何后端系统连接。支持 REST API、数据库交互和外部云服务。无需定制后端开发，即可轻松执行数据检索和事务处理工作流。
  • 使用 ODA 构建的多渠道部署代理可以跨多个渠道部署，包括 Web、移动、消息传递平台（WhatsApp、Slack、Team）和语音界面。这可确保在所有交互接触点提供一致的用户体验。
  • 用于无代码代理开发的可视流设计器流设计器提供了一个低代码/无代码环境，用于设计 AI 驱动的对话和工作流。让业务用户和开发人员无需大量编码即可快速构建、测试和部署代理。
  • 生成式 AI 集成 ODA 的 LLM 块支持大语言模型 (LLM) 集成，使 AI 代理能够在需要时利用 GenAI 功能。组织可以在座席的工作流中调用任何 LLM（Oracle GenAI、Cohere、Meta 等）。支持提示构建器
  • 集中式提示管理：管理员可以从一个位置管理和更新多个提示，而无需修改流设计器，从而确保在 AI 交互之间无缝更新和一致性。
  • 工作流自动化和编排 AI 代理可以在 ODA 或外部工作流引擎中触发和管理工作流。支持事件驱动的自动化，支持动态和响应式座席交互。通过 AI 驱动的工作流实现 HR、IT 和客户支持自动化。
  • 高级分析和监视 ODA 提供内置分析和报告功能，可跟踪座席绩效和用户交互。支持基于实时洞察和用户反馈进行优化。
  • 安全性和监管企业级安全功能可确保遵守数据保护法规。基于角色的访问控制 (Role-based Access Control，RBAC) 和用于监管的审计日志。

体系结构

通过将 ODA 与 LLM 块结合使用，您可以创建非常简单到复杂的体系结构（例如，主管 1）的 AI 代理。AI 代理可以调用工具、知识库和其他代理，根据用户请求自主决定要使用的工具。

虽然您的特定体系结构可能与本手册中介绍的体系结构有所不同，但本示例代表了 ODA 中开发的多代理服务的典型实施。在此示例体系结构中，聊天源自应用程序层，该层由 Microsoft Teams 的实例和定制应用程序组成。聊天内容或查询将定向到 ODA 的渠道组件，然后定向到技能聊天机器人。通过使用 ODA，您可以调用任何 API；例如，在这种情况下，可以调用 Oracle Fusion HCM API。然后，流量从 Skills 聊天机器人移动到 GenAI 路由器代理，该代理根据聊天的主题将其定向到相应的 HRMS 代理，或者，如果查询未解决或一般，则定向到 RAG 代理。

无论是否使用 Oracle Integration ，API 都可以使用来自 Fusion 或 EBS 套件的任何后端服务。这允许 ODA AI 代理使用 Oracle Cloud 中几乎所有类型的 API。如果查询移至其中一个 HRMS 代理，则会对其进行处理，然后通过 Oracle Integration 中间件将其发送到相应的 Oracle Fusion ERP 服务之一；例如 Oracle E-Business Suite 、Oracle Procurement 、Oracle Fusion Cloud Human Capital Management 或 Oracle Cloud ERP 。这些服务处理查询，并通过 HRMS 代理传回必要的信息，然后通过路由器代理、Skills 聊天机器人，再通过渠道组件，然后退出为源自它的应用程序层绑定的 ODA。登录后，代理可以使用授予已登录用户的权限来调用后端的 API。请注意，每个代理本身就是对 GenAI 服务进行后台调用的代码。在此示例中，您可以使用 Fusion 或 MS Teams 登录。

下图说明了此体系结构：


后面是 mult-agent-oda-arch.png 的说明
插图 mult-agent-oda-arch.png 的说明

多代理 -oda-arch-oracle.zip

此示例体系结构包含以下组件：
  • 区域

    Oracle Cloud Infrastructure 区域是一个本地化的地理区域，包含一个或多个托管可用性域的数据中心。区域独立于其他区域，并且很远的距离可以将它们分开（跨越国家甚至大洲）。

  • Oracle Digital Assistant

    Oracle Digital Assistant 提供了一个完整的生态系统，可用于构建、管理和扩展 AI 代理，包括无缝的 API 集成、多渠道部署、LLM 功能和工作流自动化。通过利用 ODA，企业可以高效管理 AI 代理的整个生命周期，确保敏捷性、可扩展性和增强用户体验。

  • 通道

    渠道将来自各种消息转发平台上的用户交谈内容传递到数字助手及其各种技能。还提供了用户代理升级和测试的渠道。您可以通过在 ODA 中配置渠道，向用户公开您的数字助手和独立技能。

  • 技能

    技能是指面向特定任务集或响应用户请求的聊天机器人。

  • 路由器代理

    路由器代理是一种 AI 代理，可根据查询的性质将用户查询定向到相关且最合适的 AI 代理。路由器代理依靠 LLM 根据上下文动态分析和路由查询，无需预定义的意图或大量训练数据，同时实现零截图功能

  • RAG 代理

    RAG 代理将检索增强生成 (RAG) 和 AI 代理的强大功能相结合，以提高信息检索和生成任务的准确性、适应性和复杂性。

  • 离开代理

    “休假”代理允许用户在 HCM 后端中预订假期或休假时间。它根据用户的自然语言请求调用必要的 API。

  • 信函代理

    信函代理是一个 AI 组件，可协助撰写信函，无论是个人信函、专业信函还是其他信函。它利用人工智能功能来生成草稿，个性化内容，甚至建议适当的语言或语调。

  • 费用代理

    “费用”代理允许您管理和报告费用。

  • 索赔代理

    索赔代理允许您管理和报告索赔。它根据用户的自然语言请求来调用所需的 API。

  • OIC 集成中间件

    OCI 集成服务可连接任何应用和数据源，包括 Salesforce、SAP、Shopify、Snowflake 和 Workday，从而实现端到端流程自动化和集中管理。广泛的集成、预构建适配器和低代码定制功能可简化云迁移，同时简化混合云和多云运营。

  • OCI GenAI 服务

    OCI Generative AI (GenAI) 是一项完全托管的服务，可用于将各种语言模型无缝集成到各种用例中，包括编写帮助、汇总、分析和聊天。

关于 ODA 中的其他 LLM 块功能

除了列出的组件外，Oracle Digital Assistant 还提供高级 LLM 块功能，以增强对 AI 代理响应的控制和自定义：

这些功能包括：
  • 强制使用 JSON 格式的 LLM 响应：为结构化输出确保 LLM 响应遵循预定义的 JSON 方案。如果需要，事件处理程序可以将 JSON 转换为用户友好的格式，例如结构化表或表单。

    注意：

    在应用 JSON 格式设置时，将使用流处理设置为“假”。
  • 重试次数：定义发生验证错误（实体或 JSON）时的最大重试次数。重试提示会突出显示错误，并请求 LLM 更正错误。如果重试次数超过限制，则该对话框将跟随错误转换。
  • 重试消息：当 LLM 重试因验证错误而发生时通知用户；例如，增强响应。
  • 验证自定义处理程序：允许通过在技能中部署的自定义处理程序进行专门验证。它可以：
    • 进一步处理 LLM 响应。
    • 评估用户对不适当内容的请求。
    • 应用相互依赖的实体验证，确保某些值需要或排除其他值。
    必须在技能设置中预配置处理程序。
  • 分析对 LLM 的调用和响应。

关于在 Oracle Digital Assistant 中管理 AI Agent 生命周期

可以将 AI 代理生命周期的管理总结为下面介绍的五个阶段。

  1. 计划和设计
    1. 定义 AI 代理的用例和范围。
    2. 确定所需的 API 集成和工作流。
    3. 使用 ODA 的流设计器设计对话流。
  2. 开发和集成
    1. 配置 API 服务和后端连接。
    2. 为生成式响应实施 LLM 块。
    3. 设置意图识别和训练模型以提高准确性。
  3. 部署和公开
    1. 在多个渠道（Web、移动设备、WhatsApp、团队等）部署 AI 代理。
    2. 确保安全访问和验证机制。
  4. 监视和优化
    1. 使用 ODA 分析持续监视座席交互。
    2. 通过改进意图和训练模型来提高准确性。
    3. 根据实时用户反馈优化工作流。
  5. 扩展和维护
    1. 随着业务需求的发展添加新功能。
    2. 确保定期更新安全性和合规性。
    3. 根据需要扩展到其他业务单位或地理位置。