Oracle Integrationを使用した取得拡張生成の実装
- これは比較的新しい人工知能技術であり、LLMが再トレーニングなしで追加のデータ・リソースを利用できるようにすることで、GenAIの品質を向上させることができます。
- RAGモデルは、組織独自のデータに基づいてナレッジ・リポジトリを構築し、これらのリポジトリを継続的に更新して、GenAIがタイムリーで状況に応じた回答を提供できるようにします。
- 自然言語処理を使用するチャットボットやその他の会話システムは、RAGおよびGenAIから大きなメリットを得ることができます。
- RAGを実装するには、新しいデータを迅速にコーディングできるベクトル・データベースなどのテクノロジと、LLMにフィードするそのデータに対する検索が必要です。
アーキテクチャ
このリファレンス・アーキテクチャでは、セマンティック検索手法を使用してRAGフレームワークを実装し、Oracle Integration (OIC)サービスなどのローコードまたはノーコード統合プラットフォームを使用して企業データに対するユーザー問合せに回答する方法を示します。
このアーキテクチャでは、Oracle Cloud Infrastructure Generative AIを使用して埋込みを作成し、コンテキスト固有の企業データに基づいて最適化された回答または有用な回答/応答を生成します。Oracle Autonomous Database 23aiは、ベクトル埋込みの格納、索引の作成に使用され、キーワードベースの検索ではなく、類似性または距離に基づいてセマンティック検索を実行できます。OCI Functionsは、標準のLangChain pythonパッケージを使用して企業ドキュメントまたはデータのチャンク化を実行するために使用されます。OICサービスは、企業データの受信からベクトル埋込みとしてのデータの格納/問合せまで、オーケストレーションおよび自動化プロセス全体を処理し、ユーザー問合せに対して最適化された創造的なコンテキスト固有の回答をリアルタイムまたはニアタイムで生成します。
- 取得プロセス:
このプロセスでは、次のようになります。
- 企業または企業のデータは、REST、ファイル、sFTPまたはその他のプロトコルを介して、PDF、TXT、CSV、XML、JSONなどの様々な形式でOracle Integration Retrieverサービスに受信されます。
- Retrieverサービスは、OCI Functionsを使用してドキュメントまたはデータをチャンク化します。
- その後、Retrieverサービスは、Cohereなどの埋込みモデルを使用してOCI生成AI埋込みサービスをコールすることで、データのチャンクごとにベクトル埋込みを取得します。
- 最後に、Retrieverサービスでは、これらの埋込みがチャンク・データとともにOracle Autonomous Database 23aiに格納されます。
- 拡張および生成プロセス:
このプロセスでは、次のようになります。
- フロントエンド・アプリケーションを通じた企業または企業のユーザーは、ポリシー、人事、営業、購入履歴、財務レポート、問題など、企業データに関する問合せや質問をします。
- OICの生成サービスは、問合せデータを受信し、そのローカル統合のAugmentサービスを呼び出して、その問合せのコンテキストを取得します。
- OICのAugmentサービスは、一度呼び出されると、OCI生成AIの埋込みサービスを呼び出して、問合せデータのベクトル埋込みを取得します。
- OICのAugmentサービスは、問合せデータ・ベクトル埋込みのセマンティック検索に基づいて、Oracle Autonomous Database 23aiに格納されているコンテキストを取得します。取得したコンテキストは、生成サービスへのレスポンスとして返送されます。
- 受信したコンテキストおよび問合せを含む生成サービスは、OCI生成AI生成サービスを起動して適切なレスポンスを生成します。
- 最後に、生成サービスは、ユーザーに対して生成されたレスポンスで応答します。
OICは、お客様がエンドツーエンドのRAGプロセスを自動化できるよう支援します。お客様や企業は、ローコードのノーコード統合プラットフォームを使用して、企業データにRAGを実装することでメリットを得ることができます。ローコードのノーコード・プラットフォームを使用してRAGを構築することで、数か月ではなく数時間または数日で開発とGo-to-Marketが可能になります。
このアーキテクチャには、次のコンポーネントがあります。
- Autonomous Database
Oracle Autonomous Databaseは、トランザクション処理およびデータ・ウェアハウス・ワークロードに使用できる、完全管理型の事前構成済データベース環境です。ハードウェアの構成や管理、ソフトウェアのインストールを行う必要はありません。Oracle Cloud Infrastructureは、データベースの作成に加え、データベースのバックアップ、パッチ適用、アップグレードおよびチューニングも処理します。
- Autonomous Transaction Processing
Oracle Autonomous Transaction Processingは、トランザクション処理ワークロード用に最適化された、自動運転、自己保護および自己修復が可能なデータベース・サービスです。ハードウェアの構成や管理、ソフトウェアのインストールを行う必要はありません。Oracle Cloud Infrastructureは、データベースの作成に加え、データベースのバックアップ、パッチ適用、アップグレードおよびチューニングも処理します。
- 関数
Oracle Cloud Infrastructure Functionsは、完全に管理された、マルチテナントのスケーラビリティが高いオンデマンドのFunctions-as-a-Service (FaaS)プラットフォームです。これは、Fn Projectのオープン・ソース・エンジンによって機能します。ファンクションを使用すると、コードをデプロイし、直接コールするか、イベントに応答してトリガーできます。Oracle Functionsは、Oracle Cloud Infrastructure RegistryでホストされているDockerコンテナを使用します。
- 統合
Oracle Integrationは、アプリケーションの統合、プロセスの自動化、ビジネス・プロセスに対するインサイトの取得およびビジュアル・アプリケーションの作成を可能にするフルマネージド・サービスです。
- 生成AI
Oracle Cloud Infrastructure Generative AIは、テキスト生成、要約、セマンティック検索などの幅広いユースケースをカバーする、最先端のカスタマイズ可能な大規模言語モデル(LLM)のセットを提供するフルマネージドOCIサービスです。プレイグラウンドを使用して、すぐに使用できる事前トレーニング済モデルを試すか、専用AIクラスタ上の独自のデータに基づいて独自のファインチューニング済カスタム・モデルを作成してホストします。
- Oracle Database 23ai
Oracle Database 23aiは、Oracle Databaseの次の長期サポート・リリースです。人工知能(AI)と開発者の生産性を重視した300以上の新機能が含まれています。AI Vector Searchなどの機能により、新世代のAIモデルを活用して、ドキュメント、画像、サウンドなどのベクターを生成および保存し、Oracle Databaseの既存の分析機能を活用しながら、インデックスを作成して類似性を迅速に探すことができます。これをすでに広範な機械学習アルゴリズムと組み合せることで、高度なAI対応アプリケーションを迅速に作成できます。また、Oracle Database 23aiでは、AIを使用して主要なデータベース機能の多くを最適化し、タイミングやリソース・コストをより正確に見積もります。
詳細の参照
Oracle Integrationを使用したRAGの実装についてさらに学習します。
次の追加リソースを確認します。
- Oracle Cloud Infrastructureのベスト・プラクティス・フレームワーク
- Oracle Cloud Infrastructureドキュメント
- Oracle Integration
- OCI関数
- Oracle Database 23aiについて
- OCIへの生成AIモデルのデプロイ