Oracle Digital Assistantを使用したマルチエージェントの作成および管理について

企業が業務を合理化し、カスタマー・エクスペリエンスを向上するために生成AI(GenAI)エージェントを採用する傾向が高まる中、これらのエージェントを管理するための包括的なプラットフォームが不可欠になります。組織は直感的なユーザー・インタフェースを求め、複数のAIエージェントを設計、デプロイおよび調整し、必要に応じてAPI、ワークフローおよびGenAI機能とシームレスに統合できます。

Oracleは、OCI Generative AI Agents Platformの導入を計画しています。次のリリースを楽しみにしていますが、お客様のプロジェクトでは、Oracle Digital Assistant(ODA)がAIエージェントのオーケストレータにぴったり合うことが証明されました。堅牢なAPI接続、マルチチャネル・デプロイメント、フロー・デザイナ、LLMブロックにより、ODAは企業がAIエージェントのライフサイクル全体を効率的に管理できるようにします。

そのため、ODAがAIエージェントを構築、管理、スケーリングするための構造化されたアプローチを提供する方法を探ります。

Oracle Digital Assistantは、シームレスなAPI統合、マルチチャネル導入、LLM機能、ワークフロー自動化により、AIエージェントを構築、管理およびスケーリングするための完全なエコシステムを提供します。ODAを活用することで、組織はAIエージェントのライフサイクル全体を効率的に管理し、俊敏性、スケーラビリティ、ユーザー・エクスペリエンスの強化を実現できます。これは、OCI以外のテクノロジーで開発されたAIエージェントにも適用され、BoschのODA + OpenAIの公開例があります。

企業がAIによる変革を続ける中、ODAは強力なイネーブラとして機能し、制御、セキュリティ、ビジネス価値を確保しながら、インテリジェントなデジタル・アシスタントの導入を簡素化します。

Oracle Digital Assistantを使用してマルチエージェントを構築および管理する利点の理解

  • シームレスなAPI統合ODAは、強力なAPIサービス統合機能を提供し、エージェントはあらゆるバックエンド・システムに接続できます。REST API、データベース・インタラクションおよび外部クラウド・サービスをサポートします。カスタム・バックエンド開発なしで、簡単なデータ取得およびトランザクション・ワークフローを容易にします。
  • ODAを使用して構築されたマルチチャネル・デプロイメント・エージェントは、Web、モバイル、メッセージング・プラットフォーム(WhatsApp、Slack、Teams)、音声インタフェースなど、複数のチャネルにデプロイできます。これにより、すべてのインタラクション・タッチポイントで一貫したユーザー・エクスペリエンスが保証されます。
  • Visual Flow Designer for No-Code Agent Developmentフローデザイナーは、AI主導の会話とワークフローを設計するためのローコード/ノーコード環境を提供します。ビジネス・ユーザーおよび開発者は、広範なコーディング作業を行わずに、エージェントを迅速に構築、テストおよびデプロイできます。
  • LLM Blocks for Generative AI Integration ODAは、大規模言語モデル(LLM)統合をサポートしているため、AIエージェントは必要に応じてGenAI機能を活用できます。組織は、エージェントのワークフロー内でLLM(Oracle GenAI、Cohere、Metaなど)を呼び出すことができます。プロンプト・ビルダーのサポート
  • 一元化されたプロンプト管理: 管理者は、フロー・デザイナを変更することなく、単一の場所から複数のプロンプトを管理および更新できるため、AIインタラクション全体でシームレスな更新と一貫性が確保されます。
  • ワークフロー自動化およびオーケストレーションAIエージェントは、ODAまたは外部のワークフロー・エンジン内のワークフローをトリガーおよび管理できます。イベントドリブンの自動化をサポートし、動的で応答性の高いエージェント・インタラクションを実現します。AI主導のワークフローを通じて、人事、IT、カスタマーサポートの自動化を実現します。
  • Advanced Analytics & Monitoring ODAは、エージェントのパフォーマンスとユーザー・インタラクションを追跡するための組込みの分析とレポートを提供します。リアルタイムのインサイトとユーザー・フィードバックに基づいて最適化を有効にします。
  • セキュリティおよびガバナンス エンタープライズグレードのセキュリティ機能により、データ保護規則への準拠が保証されます。ガバナンスのためのロールベースのアクセス制御(RBAC)および監査ログ。

アーキテクチャ

ODAをLLMブロックとともに使用すると、非常に単純なアーキテクチャから複雑なアーキテクチャ(スーパーバイザ・アーキテクチャなど)まで、AIエージェントを作成できます。AIエージェントは、ツール、ナレッジ・ベースおよびその他のエージェントを呼び出して、ユーザー・リクエストに基づいてどのツールを使用するかを自律的に決定できます。

実際のアーキテクチャは、このプレイブックに記載されているアーキテクチャとは異なる場合がありますが、この例は、ODAで開発されたマルチエージェント・サービスの典型的な実装を表しています。このアーキテクチャ例では、チャットは、Microsoft Teamsのインスタンスとカスタム・アプリケーションで構成されるアプリケーション・レイヤーで開始されます。チャット・コンテンツ(問合せ)は、ODAのチャネル・コンポーネントに送信され、次にスキル・チャットボットに送信されます。ODAを使用すると、Oracle Fusion HCM APIなど、任意のAPIをコールできます。その後、トラフィックはスキル・チャットボットからGenAIルーター・エージェントに移動します。このエージェントは、チャットの件名に応じて、適切なHRMSエージェント、または問合せが未解決または一般の場合はRAGエージェントのいずれかに移動します。

APIは、Oracle Integrationを使用するかどうかに関係なく、FusionまたはEBSスイートの任意のバックエンド・サービスを使用できます。これにより、ODA AIエージェントは、Oracle Cloudで使用可能なほぼすべてのタイプのAPIを使用できます。問合せがHRMSエージェントの1つに移動すると、処理され、Oracle Integrationミドルウェアを介して、Oracle E-Business Suite、Oracle Procurement、Oracle Fusion Cloud Human Capital Management、Oracle Cloud ERPなどの適切なOracle Fusion ERPサービスのいずれかに送信されます。これらのサービスは、問合せを処理し、必要な情報をHRMSエージェントに渡し、次にルーター・エージェント、スキル・チャットボット、チャネル・コンポーネントを介して渡し、発信元のアプリケーション・レイヤーにバインドされたODAを終了します。ログインすると、エージェントは、ログイン・ユーザーに付与された権限を使用してバックエンドのAPIをコールできます。各エージェント自体が、GenAIサービスへのバックグラウンド・コールを行うコードであることに注意してください。この例では、FusionまたはMS Teamsを使用してログインできます。

次の図に、このアーキテクチャを示します。


multi-agent-oda-arch.pngの説明が続きます
図multi-agent-oda-arch.pngの説明

マルチエージェント-oda-arch-oracle.zip

このサンプル・アーキテクチャには、次のコンポーネントが含まれています。
  • リージョン

    Oracle Cloud Infrastructureリージョンは、可用性ドメインをホストする1つ以上のデータ・センターを含むローカライズされた地理的領域です。リージョンは他のリージョンから独立しており、長距離の場合は複数の国または大陸にまたがる領域を分離できます。

  • Oracle Digital Assistant

    Oracle Digital Assistantは、シームレスなAPI統合、マルチチャネル導入、LLM機能、ワークフロー自動化により、AIエージェントを構築、管理およびスケーリングするための完全なエコシステムを提供します。ODAを活用することで、組織はAIエージェントのライフサイクル全体を効率的に管理し、俊敏性、スケーラビリティ、ユーザー・エクスペリエンスの強化を実現できます。

  • チャネル

    チャネルは、様々なメッセージング・プラットフォーム上のユーザーとデジタル・アシスタントおよびその様々なスキルの間でチャットを伝送しますユーザー・エージェント・エスカレーションおよびテスト用のチャネルもあります。ODAでチャネルを構成することで、デジタル・アシスタントおよびスタンドアロン・スキルをユーザーに公開できます。

  • スキル

    スキルは、特定のタスク・セットに向けて調整されたチャットボットか、ユーザー・リクエストに対応したチャットボットです。

  • ルーターエージェント

    ルーター・エージェントは、問合せの性質に基づいて、関連する最も適切なAIエージェントにユーザー問合せを指示するAIエージェントです。ルーター・エージェントはLLMを利用して、コンテキストに基づいてクエリを動的に分析およびルーティングします。これにより、ゼロショット機能を実現しながら、事前定義されたインテントや広範なトレーニング・データの必要性がなくなります。

  • RAGエージェント

    RAGエージェントは、Retrieval-Augmented Generation(RAG)とAIエージェントの機能を組み合せて、情報の取得および生成タスクの正確性、適応性および複雑性を向上させます。

  • リーフ・エージェント

    Leavesエージェントを使用すると、ユーザーはHCMバックエンドで休日または休暇時間を予約できます。ユーザーの自然言語リクエストに基づいて、必要なAPIをコールします。

  • 通知書エージェント

    レター・エージェントは、個人、専門、その他いずれの文書でもレターの作成を支援するAIコンポーネントです。AI機能を活用して、ドラフトを生成し、コンテンツをパーソナライズし、適切な言語やトーンを提案します。

  • 経費エージェント

    経費エージェントを使用すると、経費を管理およびレポートできます。

  • 請求エージェント

    請求エージェントを使用すると、請求を管理およびレポートできます。ユーザーの自然言語リクエストに基づいて、必要なAPIをコールします。

  • OIC統合ミドルウェア

    OCI統合サービスは、Salesforce、SAP、Shopify、Snowflake、Workdayなどのあらゆるアプリケーションとデータ・ソースを接続して、エンドツーエンドのプロセスを自動化し、管理を一元化します。事前構築済みのアダプタとローコード・カスタマイズを備えた幅広い統合により、クラウドへの移行が簡素化され、ハイブリッドおよびマルチクラウドの運用が合理化されます。

  • OCI GenAIサービス

    OCI Generative AI(GenAI)は、様々な言語モデルを、執筆支援、要約、分析、チャットなど、幅広いユースケースにシームレスに統合するためのフルマネージド・サービスです。

ODAの追加LLMブロック機能について

Oracle Digital Assistantには、リストされているコンポーネントに加えて、AIエージェント・レスポンスの制御およびカスタマイズを強化する高度なLLMブロック機能が用意されています。

次の機能が含まれます。
  • JSON形式のLLMレスポンスの強制: LLMレスポンスが、構造化された出力に対して事前定義されたJSONスキーマに準拠していることを確認します。必要に応じて、イベント・ハンドラはJSONを構造化表やフォームなどのわかりやすい形式に変換できます。

    ノート:

    JSON書式設定を適用する場合は、「ストリーミングの使用」をFalseに設定します。
  • 再試行回数:検証エラー(エンティティまたはJSON)が発生した場合の最大再試行回数を定義します。再試行プロンプトはエラーを強調表示し、LLMにエラーの修正を要求します。再試行が制限を超えた場合、ダイアログはエラー遷移に従います。
  • 再試行メッセージ:検証エラーのためにLLMの再試行が発生したときにユーザーに通知します。たとえば、応答の強化です。
  • 検証カスタマイズ・ハンドラ:スキルにデプロイされたカスタム・ハンドラを介した特殊な検証を許可します。持つことができる意味は次のとおりです。
    • LLMレスポンスをさらに処理します。
    • 不適切なコンテンツに対するユーザー・リクエストを評価します。
    • 相互依存エンティティ検証を適用して、特定の値に他の値が必要または除外されるようにします。
    スキル設定でハンドラを事前構成する必要があります。
  • LLMへのコールとレスポンスを分析します。

Oracle Digital AssistantでのAIエージェント・ライフサイクルの管理について

AIエージェント・ライフサイクルの管理は、次に説明する5つのステージでまとめることができます。

  1. 計画と設計
    1. AIエージェントのユースケースと範囲を定義します。
    2. 必要なAPI統合とワークフローを特定します。
    3. ODAのフロー・デザイナを使用して会話フローを設計します。
  2. 開発と統合
    1. APIサービスおよびバックエンド接続を構成します。
    2. 生成レスポンス用のLLMブロックを実装します。
    3. インテント認識およびトレーニング・モデルを設定して、精度を高めます。
  3. デプロイおよび公開
    1. 複数のチャネル(Web、モバイル、WhatsApp、チームなど)にAIエージェントをデプロイします。
    2. セキュアなアクセスおよび認証メカニズムを保証します。
  4. 監視と最適化
    1. ODA分析を使用して、エージェントのインタラクションを継続的に監視します。
    2. インテントとトレーニング・モデルを改良することで、精度を向上させます。
    3. リアルタイムのユーザー・フィードバックに基づいてワークフローを最適化します。
  5. スケーリングとメンテナンス
    1. ビジネス・ニーズの進化に合わせて新しい機能を追加します。
    2. 定期的なセキュリティとコンプライアンスの更新を保証します。
    3. 必要に応じて、追加のビジネス・ユニットまたは地理に展開します。