Oracle Cloud Infrastructure for ERPワークロードにスケーラブルなOwnGPTモデルを導入
Oracle Cloud Infrastructure(OCI)へのOwnGPTの導入により、モデル開発が加速し、生産性が向上し、投資収益率(ROI)が高まっています。
このリファレンス・アーキテクチャの目的は、当初はOracle E-Business Suite R12 (Accounts Payable and Receivableモジュール)に焦点を当て、OCIにデプロイされたドメインでトレーニングされたAIモデルであるOwnGPTを介して自然言語を使用してエンタープライズ・リソース・プランニング(ERP)データと対話できるようにし、他のモジュールおよびERPプラットフォームを拡張できるようにすることでした。
当社の最初の導入では、A10 Tensor Core GPUを利用し、モデルのトレーニングと推論を加速させました。Oracle HeatWave MySQLの統合により、データベースのパフォーマンスがさらに向上し、OCI Object Storageにより、安全で効率的なデータ管理が保証されました。Oracle E-Business Suite Visionをプライマリ・データ・ソースとして活用することで、OwnGPTは構造化エンタープライズ・データを効果的に処理できるようになりました。
OCIのGPUインスタンスにOwnGPTを導入すると、AIイノベーションの促進におけるインフラストラクチャの重要な役割が強調されました。OCIは、ベア・メタル環境と仮想マシン環境にGPUを導入する柔軟性により、進化するビジネス・ニーズに合わせてカスタマイズされた構成を実現できました。さらに、Oracleの低レイテンシのRemote Direct Memory Access(RDMA)ネットワークは分散モデルのトレーニングを加速し、OCI BlockとOCI Object Storageは大規模なデータセットに対してスケーラブルなデータ管理を提供しました。
アーキテクチャ
これは、AIを搭載したERPソリューション(OwnGPT)の本番対応のOCIデプロイメントで、セキュアでスケーラブル、かつモジュラーなAIベースのクエリ解決のために設計されています。Oracle E-Business Suite (ERP)とAirflow、Oracle Base Database Service、GPU Compute for GPT、ストレージなどのコンポーネントを統合し、オンプレミスのユーザーとOCIサービスの両方に安全に接続できます。
- LLMワークロード向けのAI対応(GPU搭載)
- モジュラー設計と階層設計により、ロード・バランシング、アプリ、AIロジックが分離
- ERPはOracle Oracle E-Business Suiteと緊密に統合され、買掛金、売掛金のインサイトに対応
- WAF、IAM、NAT Gateway、OCIネイティブのセキュリティ機能により、安全でスケーラブル
- 高可用性で、フォルト・ドメインを使用してハードウェア障害から保護
次の図は、このリファレンス・アーキテクチャを示しています。
ユーザー・グループは、WebまたはVPNを介してアプリケーションにアクセスする内部ユーザーまたはビジネス・アナリストです。インターネット・ゲートウェイは、外部ネットワークからOCI環境へのアクセスを提供します(従業員Webブラウザへのアクセスなど)。すべてのリソースはOWNTESTHUBというコンパートメントに存在し、高可用性のために3つのフォルト・ドメインに分散されます。アーキテクチャ全体がセキュアな仮想ネットワーク内に構築されます。Oracle Cloud Infrastructure Web Application Firewall (WAF)は、SQLインジェクションやDDoSなどの脅威から保護します。
ロード・バランサは、受信トラフィックをバックエンドWeb、APIサーバーに分散して、スケーラビリティと可用性を実現します。WEB API (VM.Standard.E5)。Flex)は、OwnGPTアプリケーションのフロント・エンドおよびREST APIをホストします。AIRFLOW(VM.Standard.E5)。フレックス(Flex)は、タスクのオーケストレーション、ジョブのスケジューリング(モデル・トレーニングやETLなど)を管理します。OWNGPT (VM.GPU.A10.2)には、OwnGPTモデルを実行するGPU加速VMがあり、リアルタイムAI推論に最適です。
Oracle Autonomous Data Warehouseは、高速クエリのために、ERP関連の構造化データ(AP、ARモジュール)を格納します。Oracle E-Business Suite APP (VM.Standard.E5)。Flex)は、Oracle E-Business Suite (コネクタまたはミドルウェアが実行されている可能性が高い)のバックエンド・サービスを使用します。OCI File Storageは、エアフローDAG、アプリケーション・アーティファクトまたはログに役立つ共有ストレージを提供します。
OCI Identity and Access Managementは、ユーザー・ロール、ポリシーおよびセキュアな認証を制御します。サービス・ゲートウェイは、インターネットを経由せずに、OCI Object StorageなどのOCIサービスに接続します。OCIオブジェクト・ストレージは、モデル・チェックポイント、トレーニング・データセット、ログまたはアーカイブの格納に使用されます。NAT Gatewayにより、プライベート・サブネットVMはアウトバウンド・インターネット・トラフィックを安全に開始できます。レスポンス生成モデルは、関連データを抽出し、contextを解釈し、手動のレポート生成を必要とせずに人間が読めるレスポンスを生成します。
- Oracle E-Business Suite
Oracle E-Business Suiteは、進化するビジネス・モデルをサポートし、生産性を向上させ、最新のモバイル・ユーザーの要求を満たす、一連の製品(人材管理、order management、調達および物流)で構成されます。
Oracle Cloud InfrastructureでOracle E-Business Suiteをプロビジョニングするか、データ・センターからOracle Cloud InfrastructureにOracle E-Business Suite環境を移行して、マルチホスト、セキュアで可用性の高いトポロジを作成できます。
- Oracle Autonomous Data Warehouse
Oracle Autonomous Data Warehouseは、データ・ウェアハウス・ワークロード用に最適化された、自動運転、自己保護および自己修復が可能なデータベース・サービスです。ハードウエアの構成や管理、ソフトウェアのインストールを行う必要はありません。Oracle Cloud Infrastructureは、データベースの作成、バックアップ、パッチ適用、アップグレードおよびチューニングを処理します。
- OCIオブジェクト・ストレージ
OCIオブジェクト・ストレージでは、データベースのバックアップ、分析データ、イメージおよびビデオなどのリッチ・コンテンツなど、あらゆるコンテンツ・タイプの構造化データおよび非構造化データの大量へのアクセスを提供します。アプリケーションから直接、またはクラウド・プラットフォーム内から、安全かつ安全にデータを格納できます。パフォーマンスやサービスの信頼性を低下させることなく、ストレージを拡張することができます。
迅速、即時、頻繁にアクセスする必要のあるホット・ストレージに標準ストレージを使用します。長期間保存し、ほとんどまたはめったにアクセスしないコールド・ストレージにアーカイブ・ストレージを使用します。
- ファイル・ストレージ
Oracle Cloud Infrastructure File Storageでは、永続的かつスケーラブルな、セキュアなエンタープライズ規模のネットワーク・ファイル・システムを提供します。VCN内の任意のベア・メタル、仮想マシンまたはコンテナ・インスタンスからOCI File Storageに接続できます。Oracle Cloud Infrastructure FastConnectおよびIPSec VPNを使用して、VCNの外部からOCI File Storageにアクセスすることもできます。
- アイデンティティおよびアクセス管理
Oracle Cloud Infrastructure Identity and Access Management (IAM)は、OCIおよびOracle Cloud Applicationsのユーザー・アクセス制御を提供します。IAM APIおよびユーザー・インタフェースを使用すると、アイデンティティ・ドメインとその中のリソースを管理できます。各OCI IAMアイデンティティ・ドメインは、スタンドアロンのアイデンティティおよびアクセス管理ソリューション、または別々のユーザー・移入を表します。
レコメンデーション
- VCN
VCNを作成するときには、必要なCIDRブロックの数を決定し、VCN内のサブネットにアタッチする予定のリソースの数に基づいて各ブロックのサイズを決定します。標準のプライベートIPアドレス領域内にあるCIDRブロックを使用します。
プライベート接続を設定する他のネットワーク(Oracle Cloud Infrastructure、オンプレミス・データ・センターまたは別のクラウド・プロバイダ)と重複しないCIDRブロックを選択します。
VCNを作成した後、そのCIDRブロックを変更、追加および削除できます。
サブネットを設計するときには、トラフィック・フローおよびセキュリティ要件を考慮してください。特定の層またはロール内のすべてのリソースを同じサブネットにアタッチします。このサブネットはセキュリティ境界として機能します。
考慮事項
このリファレンス・アーキテクチャを実装する場合は、次のオプションを検討してください。
- AI処理
OwnGPTは、APモジュール、ARモジュールからのトレーニング済contextを使用して問合せを処理します。
- 出力搬送
レスポンスは、UIまたはチャット・インタフェースを介してリアルタイムまたはほぼリアルタイムで返されます。
- 技術指標
- レスポンス時間: 平均1.2秒、95パーセンタイル2.5秒、複雑な問合せの最大3.7秒。
- スループット: 最大120人の同時ユーザー、1分あたり500件のクエリ、99.97%のAPI成功率。
- リソース使用率: CPU 42%平均(ピーク時78%)、メモリー4.2GB(最大7.1GB)、ベクトル・データの企業当たり12MBのストレージ効率。
- スケーラビリティ: 50社までのリニア・スケーリング、100,000以上のドキュメント・チャンクによる安定したパフォーマンス、25以上の同時接続。
- ビジネスへの影響
- 生産性: 検索時間を68%短縮し、技術クエリを繰り返す時間を42%削減し、従業員1人あたり毎週3.5時間を節約します。
- 正確性: 企業固有の質問では92%、技術的な質問では87%、ソース識別では95%の精度。
- ユーザー満足度: 4.7/5の評価、対象となる従業員の94%の採用、サポートチケットの76%削減。
- ROI: 4.2か月で損益分岐点が発生し、12か月で327%のROIを達成し、中規模導入で年間142,000ドルのコスト削減を達成しました。