Oracle AI Data PlatformとOCI Data Scienceを使用したスケーラブルな機械学習ワークフローの実装
このソリューションは、両方のプラットフォームの長所を組み合わせたものです。
- AIデータ・プラットフォーム: 集中管理されたデータ管理、大規模なSpark処理、ワークフロー・オーケストレーションおよびメダリオン・データ・アーキテクチャを提供します。
- データ・サイエンス: ノートブック・ベースおよびジョブ・ベースの機械学習開発、モデル・デプロイメントおよび本番ワークロード用のモデル・サービスのための柔軟なランタイム環境およびインフラストラクチャを提供します。
このアーキテクチャは、一元化されたエンタープライズ・データ・プラットフォーム、大規模なデータ処理、中規模から大規模の機械学習ワークロード、およびデータ・エンジニアとデータ・サイエンティスト間のコラボレーションをサポートするように設計されています。
一般的なユースケースには、次のものがあります。
- 小売予測: 履歴データと新しく取り込まれたデータの両方に基づいて、日次需要予測を生成します。
- 保険更新の最適化: 保険の更新価格を最適化し、ビジネスの制約を満たしながらマージンを最大化します。更改オファーの新しいバッチが毎週生成されます。
- テレコム・ログ・イベント・モニタリングとドリフト検出: 大規模な運用イベント・ストリームを分析して、データ・ドリフトを検出し、異常を特定し、日次レポートとインサイトを生成します。
アーキテクチャ
この図は、このリファレンス・アーキテクチャを示しています。
図aidp-ml-workloads-architecture.pngの説明
helpp-ml-workloads-architecture-oracle.zip#GUID-73867B97-5BE4-434A-85C4-097DB840B323
アーキテクチャは、4つのプライマリドメインに分かれています。
AIデータ・プラットフォーム(AIDP)
AI Data Platformは、データの取り込み、変換、ガバナンス、準備を担当します。
- データ統合: Apache Kafkaを使用したOCI Data IntegrationやOCI Streamingなどの様々なツールを使用して、多様なエンタープライズ・ソースからデータを取り込みます
- AI Lakehouse: スケーラブルでダイナミックなストレージ
- Sparkワークフロー: ブロンズ、シルバーおよびゴールド・レイヤーを備えたメダリオン・アーキテクチャを使用したスケーラブルなデータ処理および変換
- エージェント・フロー: 自然言語データ・インタラクション
これらのリソースは、主にデータ・エンジニアによって作成および管理されます。
データ・サイエンス・プラットフォーム
データ・サイエンスは、研究開発フェーズおよび生産フェーズで使用される様々なリソースを使用して、機械学習ライフサイクルを管理します。
研究開発フェーズには、次のものが含まれます。
- ノートブック・セッション: ML実験およびモデル・トレーニング
- モデル・カタログ: モデル・バージョニングおよびモデル管理
- モデル・デプロイメント: sclalableモデル・サービスのデプロイメント
生産フェーズには、繰返し可能なバッチ推論パイプラインおよび生産自動化のためのスケジュール済ジョブの自動化が含まれます
OCIモニタリング
OCI Monitoringは、データ・ドリフトとモデル・ドリフトに関連する監視、視覚化、アラートを行うために、両方のプラットフォーム間で運用を一元的に可視化します。OCI Monitoringは、運用の信頼性と本番準備の確保を支援します。
プラットフォームの相互作用
データ・サイエンス・プラットフォームとAIデータ・プラットフォーム間の相互作用は、主に次の目的で使用されます。
- データ・サイエンス・プラットフォームは、モデル・トレーニング(履歴データ)と本番自動化(スコアリングが必要な新しいケース)の両方について、AIデータ・プラットフォームによって管理されるデータを取得します。
- データ・サイエンス・プラットフォームは、新規に処理されたケースの予測スコアを追加してデータをエンリッチします。
トレーニングおよび本番の自動化に使用されるデータ・レイヤーは、データ・エンジニアによって定義されたスキーマおよびアーキテクチャに応じて、アプリケーション間で異なる場合があります。多くの場合、データはキュレートされたシルバー層から取得されますが、ブロンズ層またはゴールド層、または複数の層の組み合わせから取得される場合もあります。
同様に、予測スコアを含むエンリッチ・データは、多くの場合、Goldレイヤーに書き込まれますが、アプリケーションの要件およびデータ・アーキテクチャに応じて、他のデータ・レイヤーにも格納される場合があります。
データ・ドリフト検出に使用されるデータは、特定のユース・ケースおよびデータ・アーキテクチャに応じて、ブロンズ、シルバーまたはゴールドのレイヤーから発生する可能性があります。
アーキテクチャ・コンポーネント
- Oracle AI Data Platform
Oracle AI Data Platformは、データ資産全体のデータのカタログ化、準備および分析を簡素化する統合プラットフォームです。データ、AI、分析、ガバナンスを一貫したユーザー・エクスペリエンスにまとめ、セキュアでスケーラブルなAI搭載アプリケーションを構築できます。Oracle AI Data Platformは、Autonomous AI Lakehouse、Oracle Analytics Cloud、OCI Object Storage、OCI Generative AI、およびFusion Data Intelligenceを統合します。
このプラットフォーム内では、Oracle AI Data Platform Workbenchは、データ・パイプラインおよびモデルの設計、オーケストレーションおよびデプロイ、RBACポリシーの設定、Sparkなどのオープン・ソース・テクノロジを使用したデータの準備、分析およびエンリッチを行うための専用の開発環境を提供します。
- OCIデータ統合
Oracle Cloud Infrastructure Data Integrationは、データ・パイプラインを設計および実行するためのフルマネージドのサーバーレス・サービスです。これにより、Autonomous AI LakehouseやOCI Object StorageなどのOCIターゲットにデータをシームレスに抽出、変換、ロードできます。ユーザーは、実行環境を自動スケーリングするコードレスで直感的なインタフェースを介して統合フローを構築できます。Sparkベースの処理でのETLと、パフォーマンスと効率性を実現するためのSQLプッシュダウンを使用したELTの両方をサポートします。また、このサービスは、データ準備のためのツールを提供し、ルールベースの処理によってスキーマ・ドリフトから保護します。
- データ・サイエンス
Oracle Cloud Infrastructure Data Scienceは、完全に管理されたサーバーレス・プラットフォームであり、データ・サイエンス・チームはOCIで機械学習(ML)モデルを構築、トレーニングおよび管理するために使用できます。Oracle Autonomous AI Lakehouse、Oracle Cloud Infrastructure Object Storageなどの他のOCIサービスと簡単に統合できます。企業が信頼するデータを迅速に機能させることでビジネスの柔軟性を高める高品質の機械学習モデルを構築および評価でき、MLモデルの導入を容易にすることでデータ駆動型のビジネス目標をサポートできます。
- OCI Identity and Access Management
Oracle Cloud Infrastructure Identity and Access Management (IAM)は、OCIおよびOracle Cloud Applicationsのユーザー・アクセス制御を提供します。IAM APIおよびユーザー・インタフェースを使用すると、アイデンティティ・ドメインおよびその中のリソースを管理できます。各OCI IAMアイデンティティ・ドメインは、スタンドアロンのアイデンティティおよびアクセス管理ソリューション、または異なるユーザー集団を表します。
- OCIモニタリング
Oracle Cloud Infrastructure Monitoringは、クラウド・リソースをアクティブおよびパッシブに監視し、メトリックが指定のトリガーを満たしたときにアラームを使用して通知します。
- OCIオブジェクト・ストレージ
OCI Object Storageでは、データベースのバックアップ、分析データ、画像やビデオなどのリッチ・コンテンツなど、あらゆるコンテンツ・タイプの構造化データおよび非構造化データが大量にアクセスできます。アプリケーションから直接、またはクラウド・プラットフォーム内から、データを安全かつ安全に保管できます。パフォーマンスやサービスの信頼性を低下させることなく、ストレージを拡張することができます。
迅速、即時、頻繁にアクセスする必要のあるホット・ストレージに標準ストレージを使用します。アーカイブ・ストレージは、長期間保存し、ほとんどまたはめったにアクセスしないコールド・ストレージに使用します。
- OCIのリージョン
OCIリージョンとは、可用性ドメインをホストする1つ以上のデータ・センターを含む、ローカライズされた地理的領域のことです。リージョンは他のリージョンから独立しており、長距離の場合は複数の国または大陸にまたがる領域を分離できます。
- サービス・ゲートウェイ
サービス・ゲートウェイは、VCNからOracle Cloud Infrastructure Object Storageなどの他のサービスへのアクセスを提供します。VCNからOracle serviceへのトラフィックは、Oracleネットワーク・ファブリックを経由し、インターネットを経由しません。
- OCIストリーミング
Oracle Cloud Infrastructure Streamingは、スケーラブルかつ耐久性に優れ、連続する大量のデータ・ストリームを取り込んでリアルタイムでアクセスおよび処理できる、完全管理型のストレージ・ソリューションを提供します。OCIストリーミングを使用して、アプリケーション・ログ、運用テレメトリ、Webクリック・ストリーム・データなど、大量のデータを取り込むことができます。また、パブリッシュ/サブスクライブのメッセージング・モデルにおいてデータが連続して順に生成および処理されるそのような他のユース・ケースも使用できます。
- OCI仮想クラウド・ネットワークおよびサブネット
仮想クラウド・ネットワーク(VCN)は、ソフトウェアで定義されたカスタマイズ可能なネットワークであり、OCIリージョン内に設定します。従来のデータ・センター・ネットワークと同様に、VCNsではネットワーク環境を制御できます。VCNには、VCNの作成後に変更できる重複しないクラスレス・ドメイン間ルーティング(CIDR)ブロックを複数含むことができます。VCNをサブネットにセグメント化して、そのスコープをリージョンまたは可用性ドメインに設定できます。各サブネットは、VCN内の他のサブネットと重複しない連続した範囲のアドレスで構成されます。サブネットのサイズは、作成後に変更できます。サブネットはパブリックにもプライベートにもできます。
推奨
実際の要件は異なる場合があります。
- データ・サイエンスのジョブおよびスケジュールを使用して、繰返し可能な推論パイプラインを自動化します。
- データ・サイエンスのデプロイメント・ツールとサービス・ツールを使用して、スケーリング、操作監視および再現性をサポートします。
- 本番機械学習ワークロードを監視して、運用状態、データ・ドリフトおよびモデル・ドリフトを確認します。
- データ・エンジニアリング・チームとデータ・サイエンス・チーム間の明確な運用所有権を確立します。
考慮事項
- 両方のプラットフォームにOCI Identity and Access Managementおよびロールベースのアクセス制御(RBAC)ポリシーを実装します。
- 運用状態、データ・ドリフトおよびモデル・ドリフトの本番ワークロードを監視します。
- スケーラブルなガバナンス対象ストレージを使用して、長期的なデータの保持および分析を行います。