Autonomous Transaction ProcessingからDatabricksへのデータのレプリケート

このクイックスタートは、OCI GoldenGateを使用して、Autonomous Transaction ProcessingからDatabricksにデータをレプリケートする方法を示しています。

環境設定: Autonomous Transaction Processing

レプリケーション用のソース・データベースがまだ設定されていない場合は、次のステップに従って、このクイックスタートに使用するサンプル・スキーマをロードできます。このクイックスタートでは、ソース・データベースにAutonomous Transaction Processingを使用します。

ソースAutonomous Databaseを設定するには:

  1. サンプル・データベース・スキーマをダウンロードして解凍します。
  2. Oracle Cloudコンソールで、「Autonomous Databases」ページからAutonomous Transaction Processing (ATP)インスタンスを選択して、その詳細を表示し、データベース・アクションにアクセスします。
  3. GGADMINユーザーのロックを解除します。
    1. 「データベース・アクション」「データベース・ユーザー」の順にクリックします。
    2. GGADMINを見つけて、その省略記号メニュー(3つのドット)をクリックし、「編集」を選択します。
    3. 「ユーザーの編集」パネルで、GGADMINパスワードを入力し、パスワードを確認して、「アカウントがロックされています」の選択を解除します。
    4. 「変更の適用」をクリックします
  4. ソース・サンプル・スキーマおよびデータをロードします:
    1. 「データベース・アクション」メニューの「開発」で、「SQL」を選択します。
    2. OCIGGLL_OCIGGS_SETUP_USERS_ATP.sqlからスクリプトをコピーしてSQLワークシートに貼り付けます。
    3. 「スクリプトの実行」をクリックします。「スクリプト出力」タブに確認メッセージが表示されます。
    4. SQLワークシートをクリアし、OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.からSQLスクリプトをコピーして貼り付けます。

      ヒント:

      SQLツールでスクリプトを正常に実行するには、各文を個別に実行する必要がある場合があります。
    5. 表が正常に作成されたことを確認するには、SQLウィンドウを閉じて再度開きます。「ナビゲータ」タブで、SRC_OCIGGLLスキーマを検索し、それぞれのドロップダウンから表を選択します。
  5. サプリメンタル・ロギングを有効にします:
    1. SQLワークシートをクリアします。
    2. 次の文を入力し、「文の実行」をクリックします:
      ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;

開始する前に

このクイックスタートを正常に完了するには、次が必要です:

タスク2: Extractの追加

  1. 「デプロイメント」ページで、ソースAutonomous Transaction Processingデプロイメントを選択します。
  2. 「デプロイメントの詳細」ページで、「コンソールの起動」をクリックします。
  3. ソース・デプロイメントの管理者のユーザー名とパスワードでログインします。
  4. トランザクション情報を追加します
  5. Extractを追加します

タスク3: Distribution Pathを追加して実行します

  1. GoldenGate資格証明ストアを使用する場合は、ターゲット・ビッグ・データ・デプロイメントで分散パスのユーザーを作成します。それ以外の場合は、ステップ3にスキップします。
  2. ソースATP GoldenGateデプロイメント・コンソールで、ステップ1で作成したユーザーのパス接続を追加します。
    1. ソースATPのGoldenGateデプロイメント・コンソールで、左側のナビゲーションの「パス接続」をクリックします。
    2. 「パス接続の追加」(プラス・アイコン)をクリックし、次を完了します:
      1. 「資格証明別名」に、GGSNetworkを入力します。
      2. 「ユーザーID」に、ステップ1で作成したユーザーの名前を入力します。
      3. 確認のためにユーザーのパスワードを2回入力します。
    3. 「送信」をクリックします。

      「パス接続」リストにパス接続が表示されます。

  3. ソースATPデプロイメント・コンソールで、次の値を使用して分散パスを追加します:
    1. 「ソース・オプション」ページで:
      • 「ソースExtract」で、タスク2で作成したExtractを選択します。
      • 「トレイル名」に、2文字の名前(E1など)を入力します
    2. 「ターゲット・オプション」ページで:
      • 「ターゲット・ホスト」に、ターゲット・デプロイメントのホスト・ドメインを入力します。
      • 「ポート番号」に、443と入力します。
      • 「トレイル名」に、2文字の名前(E1など)を入力します
      • 「別名」に、ステップ2で作成した資格証明別名を入力します。
  4. ターゲット・ビッグ・データ・デプロイメント・コンソールで、Distribution Pathの結果として作成されたReceiver Pathを確認します。
    1. ターゲット・ビッグ・データのデプロイメント・コンソールで、Receiver Serviceをクリックします。
    2. パスの詳細を確認します。このパスは、前述のステップで作成したDistribution Pathの結果として作成されました。

タスク4: Replicatの追加および実行

  1. ターゲット・ビッグ・データ・デプロイメント・コンソールで、Administrator Serviceをクリックし、Add Replicat (プラス・アイコン)をクリックします。
  2. Replicatに次の値を追加します。
    1. Replicat情報ページのReplicatタイプで、Classic Replicatを選択し、プロセス名を入力して、「次へ」をクリックします。
    2. 「レプリケーション・オプション」ページで、次の手順を実行します。
      • 「名前」に、タスク2からトレイルの名前を入力します。
      • 「ターゲット」で、「データブリック」を選択します。
      • 「使用可能な別名」で、ドロップダウンからDatabricks接続を選択します。
      • 「使用可能なステージングの場所」で、「Azure Data Lake Storage」を選択します。
      • 「ステージング別名を使用」で、ADLS接続を選択します。
    3. 「Managed Options」ページで、デフォルトのままにします。
    4. 「Paremeter File」ページで、MAP *.*, TARGET *.*;を次のように置き換え、「Next」をクリックします。
      MAP SRC_OCIGGLL.SRC_CUSTOMER, TARGET
            <target_catalog_name>.<target_schema_name>.SRC_CUSTOMER
    5. 「プロパティ・ファイル」ページで、次の手順を実行します。
      1. gg.eventhandler.abs.bucketMappingTemplateにターゲットADLSコンテナ名を指定します。
      2. gg.handler.databricks.fileRollInterval=5sを追加します。
  3. 「作成および実行」をクリックします。
「概要」ページに戻り、Replicatの詳細を確認できます。

タスク5: レプリケーションの確認

ソースAutonomous Transaction Processingインスタンスの更新をいくつか実行して、Databricksへのレプリケーションを確認します。
  1. Oracle Cloudコンソールで、ナビゲーション・メニューを開き、「Oracle Database」を選択し、次に「Autonomous Transaction Processing」を選択します。
  2. Autonomous Transaction Processingインスタンスのリストで、ソース・インスタンスを選択してその詳細を表示します。
  3. データベースの詳細ページで、「データベース・アクション」をクリックします。
    ノート

    通常は自動的にログインします。そうでない場合は、データベース資格証明を使用してログインします。
  4. データベース・アクションのホームページで、「SQL」を選択します。
  5. ワークシートに次を入力し、「スクリプトの実行」をクリックします。
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1001,0,'Brendt','Paul','10 Jasper Blvd.',107,'(212) 555 2146',19,10);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1002,0,'McCarthy','Robin','27 Pasadena Drive',11,'(214) 555 3075',29,11);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1003,0,'Travis','Peter','7835 Hartford Drive',12,'(510) 555 4448',34,12);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1004,0,'Larson','Joe','87 Carmel Blvd.',13,'(213) 555 5095',45,13);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1005,0,'Goldschmidt','Tony','91 Torre drive',14,'(619) 555 6529',55,20);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1006,0,'Baker','William','2890 Grant Avenue',15,'(312) 555 7040',64,21);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values ((1007,0,'Swenson','Jack','64 Imagination Drive',19,'(202) 555 8125',74,22);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1008,0,'Brendt','Paul','10 Jasper Blvd.',107,'(212) 555 2146',19,10);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1009,0,'McCarthy','Robin','27 Pasadena Drive',11,'(214) 555 3075',29,11);
    Insert into SRC_OCIGGLL.SRC_CUSTOMER (CUSTID,DEAR,LAST_NAME,FIRST_NAME,ADDRESS,CITY_ID,PHONE,AGE,SALES_PERS_ID) values (1010,0,'Travis','Peter','7835 Hartford Drive',12,'(510) 555 4448',34,12);
  6. ソースATPデプロイメント・コンソールで、 Extract名を選択し、「統計」をクリックします。SRC_OCIGGLL.SRC_CUSTOMERに10個の挿入があることを確認します。
  7. ターゲット・ビッグ・データOCIのGoldenGateデプロイメント・コンソールで、Replicat名を選択し、「統計」をクリックします。SRC_OCIGGLL.SRC_CUSTOMERに10個の挿入があることを確認します。

タスク6: プロセスのモニターおよびメンテナンス