Sobre como Criar e Gerenciar um Multiagente com o Oracle Digital Assistant

À medida que as empresas adotam cada vez mais agentes de IA generativa (GenAI) para agilizar as operações e aprimorar as experiências dos clientes, a necessidade de uma plataforma abrangente para gerenciar esses agentes se torna primordial. As organizações buscam interfaces de usuário intuitivas nas quais podem projetar, implementar e orquestrar vários agentes de IA, integrando-os perfeitamente com APIs, fluxos de trabalho e recursos GenAI conforme necessário.

A Oracle está planejando implementar a OCI Generative AI Agents Platform. Embora estejamos ansiosos para a próxima versão, os projetos de clientes provaram que o Oracle Digital Assistant (ODA) pode se encaixar muito bem como orquestrador para agentes de IA. Com sua conectividade de API robusta, implementação multicanal, designer de fluxo e blocos de LLM, o ODA permite que as empresas gerenciem com eficiência todo o ciclo de vida dos agentes de IA.

Portanto, vamos explorar como o ODA fornece uma abordagem estruturada para criar, gerenciar e dimensionar agentes de IA.

O Oracle Digital Assistant fornece um ecossistema completo para criar, gerenciar e dimensionar agentes de IA com integrações de API contínuas, implementação multicanal, recursos de LLM e automação de fluxo de trabalho. Ao aproveitar o ODA, as organizações podem gerenciar com eficiência todo o ciclo de vida dos agentes de IA, garantindo agilidade, escalabilidade e experiências de usuário aprimoradas. Isso também se aplica a Agentes de IA desenvolvidos com tecnologias não OCI e há um exemplo público de ODA + OpenAI na Bosch.

À medida que as empresas continuam sua transformação orientada por IA, o ODA se destaca como um capacitador poderoso, simplificando a implementação de assistentes digitais inteligentes, garantindo controle, segurança e valor comercial.

Entenda os Benefícios do Uso do Oracle Digital Assistant para Criar e Gerenciar Multiagentes

  • O ODA oferece recursos avançados de integração de serviços de API, permitindo que os agentes se conectem com qualquer sistema de backend. Suporta APIs REST, interações de banco de dados e serviços de nuvem externos. Facilita a recuperação fácil de dados e fluxos de trabalho transacionais sem desenvolvimento de backend personalizado.
  • Os Agentes de Implantação Multicanal criados com o ODA podem ser implantados em vários canais, incluindo web, dispositivos móveis, plataformas de mensagens (WhatsApp, Slack, Equipes) e interfaces de voz. Isso garante uma experiência de usuário consistente em todos os pontos de contato de interação.
  • Designer de Fluxo Visual para Desenvolvimento de Agente No-Code O Designer de Fluxo fornece um ambiente low-code/no-code para projetar conversas e workflows orientados por IA. Permite que usuários corporativos e desenvolvedores criem, testem e implementem agentes rapidamente sem esforços extensivos de codificação.
  • O ODA de Blocos LLM para Integração de IA Generativa oferece suporte à integração de LLM (Large Language Model), permitindo que os agentes de IA aproveitem os recursos GenAI quando necessário. As organizações podem chamar qualquer LLM (Oracle GenAI, Cohere, Meta etc.) dentro do workflow de um agente. Suporte para Criador de prompts
  • Gerenciamento centralizado de prompts: os administradores podem gerenciar e atualizar vários prompts de um único local sem modificar o Flow Designer, garantindo atualizações e consistência contínuas entre as interações de IA.
  • Os agentes de IA do Workflow Automation & Orchestration podem acionar e gerenciar fluxos de trabalho no ODA ou em mecanismos de fluxo de trabalho externos. Suporta automação orientada a eventos, permitindo interações dinâmicas e responsivas com agentes. Permite a automação de RH, TI e suporte ao cliente por meio de fluxos de trabalho orientados por IA.
  • O ODA de Análise Avançada e Monitoramento fornece análises e relatórios integrados para rastrear o desempenho do agente e as interações do usuário. Permite a otimização com base em insights em tempo real e feedback do usuário.
  • Os recursos de segurança de nível empresarial garantem a conformidade com os regulamentos de proteção de dados. Controle de acesso baseado em atribuição (RBAC) e logs de auditoria para governança.

Arquitetura

O uso do ODA com um bloco LLM permite que você crie agentes de IA de arquiteturas muito simples a complexas (por exemplo, a do supervisor). Os agentes de IA podem chamar ferramentas, uma base de conhecimento e outros agentes, decidindo autonomamente qual ferramenta usar com base na solicitação do usuário.

Embora sua arquitetura específica possa ser diferente da apresentada neste manual, este exemplo representa uma implementação típica de um serviço de vários agentes desenvolvido no ODA. Neste exemplo de arquitetura, o chat se origina na camada do aplicativo, que compreende uma instância do Microsoft Teams e um aplicativo personalizado. O conteúdo do chat, ou consulta, é direcionado para o componente Canais do ODA e, em seguida, para um chatbot do Skills. Usando o ODA, você pode chamar qualquer API; por exemplo, neste caso, as APIs do Oracle Fusion HCM. Em seguida, o tráfego passa do chatbot do Skills para um agente do roteador GenAI, que, dependendo do assunto do chat, o direciona para o agente HRMS apropriado ou, se a consulta não for resolvida ou geral, para um agente RAG.

A API pode usar qualquer serviço de backend do Fusion ou da suíte EBS, usando ou não o Oracle Integration. Isso permite que os agentes de IA do ODA usem quase todos os tipos de API disponíveis no Oracle Cloud. Se a consulta passar para um dos agentes do HRMS, ela será processada e depois enviada por meio do middleware do Oracle Integration para um dos serviços apropriados do Oracle Fusion ERP; por exemplo, Oracle E-Business Suite,Oracle Procurement, Oracle Fusion Cloud Human Capital Management ou Oracle Cloud ERP. Esses serviços processam a consulta e passam as informações necessárias de volta pelos agentes do HRMS, por meio do agente do roteador, do chatbot de Habilidades, do componente Canais e saem do ODA, vinculados à camada de aplicativo da qual ele se originou. Quando conectado, o agente pode chamar a API dos backends usando direitos concedidos ao usuário conectado. Observe que cada agente é um código que faz chamadas em segundo plano para o serviço GenAI. Neste exemplo, você pode fazer login usando o Fusion ou o MS Teams.

Este diagrama ilustra esta arquitetura:


Veja a seguir a descrição da ilustração multiagente-oda-arch.png
Descrição da ilustração multiagente-oda-arch.png

multiagente-oda-arch-oracle.zip

Esta arquitetura de amostra contém estes componentes:
  • Região

    Uma região do Oracle Cloud Infrastructure é uma área geográfica localizada que contém um ou mais data centers, hospedando domínios de disponibilidade. Regiões são independentes de outras regiões, e grandes distâncias podem separá-las (entre países ou mesmo continentes).

  • Oracle Digital Assistant

    O Oracle Digital Assistant fornece um ecossistema completo para criar, gerenciar e dimensionar agentes de IA com integrações de API contínuas, implementação multicanal, recursos de LLM e automação de fluxo de trabalho. Ao aproveitar o ODA, as organizações podem gerenciar com eficiência todo o ciclo de vida dos agentes de IA, garantindo agilidade, escalabilidade e experiências de usuário aprimoradas.

  • Canais

    Os canais transportam o chat de usuários em várias plataformas para o assistente digital e suas diversas habilidades. Há também canais para escalação e teste do agente do usuário. Você pode expor seus assistentes digitais e habilidades autônomas aos usuários configurando canais no ODA.

  • Habilidades

    Uma habilidade é um chatbot voltado para um conjunto específico de tarefas ou para atender a uma solicitação do usuário.

  • Agente do roteador

    Um agente de roteador é um agente de IA que direciona as consultas do usuário para o agente de IA relevante e mais apropriado com base na natureza da consulta. Um agente de roteador conta com LLMs para analisar e rotear consultas dinamicamente com base no contexto, eliminando a necessidade de intenções predefinidas ou dados de treinamento extensivos, ao mesmo tempo em que obtém funcionalidade zero

  • Agente RAG

    Um agente RAG combina o poder da geração aumentada de recuperação (RAG) e dos agentes de IA para melhorar a precisão, a adaptabilidade e a complexidade das tarefas de recuperação e geração de informações.

  • Agente de Licenças

    O agente de Folhas permite que um usuário reserve feriados ou tempo de folga no backend do HCM. Ele chama a API necessária com base na solicitação de linguagem natural do usuário.

  • Agente da Carta

    O agente de cartas é um componente de IA que auxilia na escrita de cartas, sejam pessoais, profissionais ou outras. Ele aproveita os recursos de IA para gerar rascunhos, personalizar conteúdo e até mesmo sugerir linguagem ou tom apropriados.

  • Agente de Despesas

    O agente de Despesas permite gerenciar e relatar suas despesas.

  • Agente de Reivindicações

    O agente de Reivindicações permite gerenciar e relatar suas reivindicações. Ele chama a API necessária com base na solicitação de linguagem natural do usuário.

  • Middleware de Integração do OIC

    Os serviços de integração da OCI conectam qualquer aplicação e fonte de dados, incluindo Salesforce, SAP, Shopify, Snowflake e Workday, para automatizar processos de ponta a ponta e centralizar o gerenciamento. A ampla variedade de integrações, com adaptadores predefinidos e personalização low-code, simplifica a migração para a nuvem enquanto simplifica as operações híbridas e multicloud.

  • Serviço GenAI do OCI

    A OCI Generative AI (GenAI) é um serviço totalmente gerenciado para integrar perfeitamente vários modelos de linguagem em uma ampla variedade de casos de uso, incluindo assistência por escrito, resumo, análise e chat.

Sobre Recursos Adicionais do Bloco LLM no ODA

Além dos componentes listados, o Oracle Digital Assistant fornece recursos avançados de bloco LLM que aprimoram o controle e a personalização das respostas do agente de IA:

Essas funcionalidades incluem:
  • Impor Resposta do LLM formatada em JSON: Garante que as respostas do LLM sigam um esquema JSON predefinido para saídas estruturadas. Se necessário, um handler de eventos pode transformar o JSON em um formato amigável, como uma tabela ou um formulário estruturado.

    Observação:

    Defina Usar Streaming como Falso ao aplicar a formatação JSON.
  • Número de Repetições: Define o máximo de tentativas de repetição quando ocorrem erros de validação (entidade ou JSON). O prompt de repetição destaca erros e solicita que o LLM os corrija. Se as novas tentativas excederem o limite, a caixa de diálogo seguirá a transição de erro.
  • Mensagem de Repetição: Notifica os usuários quando ocorre uma nova tentativa de LLM devido a erros de validação; por exemplo, aprimorando a resposta.
  • Handler de Personalização de Validação: Permite a validação especializada por meio de um handler personalizado implantado na habilidade. Ela também:
    • Outras respostas do LLM do processo.
    • Avaliar as solicitações do usuário para conteúdo impróprio.
    • Aplicar validação de entidade interdependente, garantindo que determinados valores exijam ou excluam outros.
    Você deve pré-configurar o handler nas definições de habilidade.
  • Analise as chamadas para os LLMs e as respostas.

Sobre o Gerenciamento do Ciclo de Vida do Agente de IA no Oracle Digital Assistant

O gerenciamento do ciclo de vida do agente de IA pode ser resumido nos cinco estágios descritos abaixo.

  1. Plano e Design
    1. Defina o caso de uso e o escopo do agente AI.
    2. Identifique as integrações e fluxos de trabalho de API necessários.
    3. Projete o fluxo de conversas usando o Designer de Fluxo do ODA.
  2. Desenvolva e Integre
    1. Configure serviços de API e conectividade de backend.
    2. Implemente blocos LLM para respostas generativas.
    3. Configure modelos de treinamento e reconhecimento de intenção para melhor precisão.
  3. Implantar e Expor
    1. Implemente o agente de IA em vários canais (web, dispositivos móveis, WhatsApp, equipes etc.).
    2. Garanta mecanismos seguros de acesso e autenticação.
  4. Monitore e Otimize
    1. Monitore continuamente as interações do agente usando a análise do ODA.
    2. Melhore a precisão refinando intenções e modelos de treinamento.
    3. Otimize fluxos de trabalho com base no feedback do usuário em tempo real.
  5. Dimensione e Mantenha
    1. Adicione novos recursos à medida que as necessidades de negócios evoluem.
    2. Garanta atualizações periódicas de segurança e conformidade.
    3. Expanda para unidades de negócio ou geografias adicionais, conforme necessário.