Amazon S3のReplicatの追加

OCI GoldenGateでAmazon S3ターゲットのReplicatプロセスを作成する方法について学習します

開始する前に

Amazon S3のReplicatを追加および実行する前に、次のものがあることを確認してください:

  • ターゲット・ビッグ・データ・デプロイメントに作成および割り当てられたAmazon S3接続
  • Amazon Web Services (AWS)リージョン

Replicatの追加(23ai)

始める前に

このターゲット・タイプに固有の前提条件を確認してください。

GoldenGate 23aiにReplicatを追加するには:
  1. OCI GoldenGateデプロイメント・コンソール管理サービスのホームページで、Replicatの追加」(プラス・アイコン)をクリックします。
  2. 「Replicatの追加」パネルのReplicat情報ページで、必要に応じてフィールドに入力し、「次」をクリックします:
    • Replicatタイプを選択します:
      • クラシックReplicat
      • 調整Replicat
    • 「プロセス名」に5文字以下の長さで入力します。
    • 「説明」を入力して、このプロセスを他のプロセスと区別できるようにします。
  3. 「Replicatオプション」ページで、必要に応じてフィールドに入力し、「次」をクリックします:
    • Replicatトレイル:
      • 「名前」を入力します
      • 証跡ファイルがデフォルト以外の場所にあることが想定される場合は、「サブディレクトリ」を入力します。
      • 暗号化プロファイルを選択します。暗号化プロファイルが作成されていない場合は、デフォルトでローカル・ウォレットが選択されます。
      • 「開始」で、データ処理の開始点を選択します:
        • ログでの位置(デフォルト)
        • Now
        • カスタム時間
    • トレイルの位置:
      • 「連番」を入力します。
      • RBAオフセットを入力します。
      • ドロップダウンから「ターゲット」を選択します。

        ノート:

        ターゲットの選択に応じて、ストリーミング、ステージとマージ、ステージングの場所などの追加オプションがある場合があります。
    • ターゲットの資格証明:
      • 「ドメイン」を選択します
      • 指定したドメイン内の別名を選択します。
      • 「チェックポイント表」を選択します。デフォルトの選択のままにするか、ターゲット・デプロイメント用に作成したチェックポイント表を選択します。
      • 「最大スレッド数」を選択します(調整「レプリカ」のみ)。
  4. 「管理対象オプション」ページで、必要に応じてオプションのフィールドに入力し、「次」をクリックします:
    • プロファイル名がある場合は選択します。
    • デプロイメントのヘルスに不可欠を有効にします。
    • 自動開始設定を有効にして構成します。
  5. 「パラメータ・ファイル」ページで、パラメータを追加してReplicatを構成できます。次に例を示します。
    table source.table1;

    調整されたReplicatを使用する場合は、パラメータ・ファイルにTARGETDB LIBFILE libggjava.so SET property=/u02/Deployment/etc/conf/ogg/your_replicat_name.propertiesを追加します。

    ノート:

    GoldenGateでは、デフォルトでグリニッジ標準時(GMT)が使用されます。SETENVを使用して、このReplicatプロセスのデフォルト設定をオーバーライドします。この変更はデプロイメントには適用されません。たとえば次のようにします。

    setenv (TZ="US/Eastern")
    setenv (TZ="GMT+5")
  6. 「プロパティ・ファイル」ページで、次のAmazon S3プロパティを構成します:
    • gg.eventhandler.s3.regionは、ターゲットS3バケットのAWSリージョンを指定します。
    • gg.eventhandler.s3.bucketMappingTemplate:には、ターゲットのS3バケット名を指定します。バケットが存在しない場合は、OCI GoldenGateによって自動作成されます。静的バケット名を指定することも、「テンプレート・キーワード」を使用してバケット名を動的に割り当てることもできます。

      ノート:

      バケット名に小文字のみが含まれていることを確認してください。大文字を使用すると、Replicatが失敗する可能性があります。
    • (オプション) gg.handler.abs.format: 出力のフォーマット方法を選択します。デフォルト設定はJSONです。使用可能なオプションには次が含まれます:

      parquetの場合は、追加のプロパティを適用する必要があります。詳細は、Amazon S3のParquetを参照してください。

      このターゲットのプロパティの詳細は、Oracle GoldenGate for Distributed Applications and AnalyticsガイドのAmazon S3を参照してください。

  7. 「作成および実行」をクリックします。「作成」をクリックすると、後で管理サービスのホーム・ページからReplicatを手動で起動できます。

Replicatの追加(21c)

Amazon S3用のReplicatプロセスの追加について学習します。

Amazon S3ターゲット用のReplicatを追加するには:
  1. OCI GoldenGateデプロイメント・コンソールの管理サービスの「概要」ページで、「Replicatの追加」(プラス・アイコン)をクリックします。
  2. 「Replicatの追加」ページで、Replicatタイプを選択し、「次」をクリックします。
    Replicatのタイプは:
    • クラシックReplicat
    • 調整Replicat
  3. 「Replicatオプション」ページで、次のフィールドに入力し、「次」をクリックします:
    1. 「プロセス名」に、Replicatプロセスの名前を入力します。
    2. (オプション)「説明」に、このプロセスを他のプロセスから区別するための短い説明を入力します。
    3. 「トレイル名」に、2文字のトレイル名を入力します。
    4. 「ターゲット」で、ドロップダウンから「Amazon S3」を選択します。
    5. 「Amazon S3で使用可能な別名」で、ドロップダウンから別名を選択します。
  4. 「パラメータ・ファイル」ページで、必要に応じてReplicatパラメータを追加して構成し、「次」をクリックします。

    ノート:

    • 調整Replicatを使用する場合は、パラメータ・ファイルの2行目に次のパラメータを追加します。
      TARGETDB LIBFILE libggjava.so SET property=/u02/Deployment/etc/conf/ogg/<replicat
            name>.properties

      調整Replicatを使用すると、複数のファイルが作成されます。

      省略すると、次のエラーが発生します。

      OGG-01091 Oracle GoldenGate Delivery, RSNOW.prm: Unable to open file
            "/u02/Deployment/etc/conf/ogg/<replicat name>001.properties" (error 2, No such file or
            directory).
    • GoldenGateでは、デフォルトでグリニッジ標準時(GMT)が使用されます。デフォルト設定をオーバーライドするには、SETENVを使用します。たとえば次のようにします。
      setenv (TZ="US/Eastern")
      setenv (TZ="GMT+5")

      SETENVについてさらに学習します。

  5. 「プロパティ・ファイル」ページで、次のAmazon S3プロパティを構成します:
    • gg.eventhandler.s3.regionは、ターゲットS3バケットのAWSリージョンを指定します。
    • gg.eventhandler.s3.bucketMappingTemplate:には、ターゲットのS3バケット名を指定します。バケットが存在しない場合は、OCI GoldenGateによって自動作成されます。静的バケット名を指定することも、「テンプレート・キーワード」を使用してバケット名を動的に割り当てることもできます。

      ノート:

      バケット名に小文字のみが含まれていることを確認してください。大文字を使用すると、Replicatが失敗する可能性があります。
    • (オプション) gg.handler.abs.format: 出力のフォーマット方法を選択します。デフォルト設定はJSONです。使用可能なオプションには次が含まれます:

      parquetの場合は、追加のプロパティを適用する必要があります。詳細は、Amazon S3のParquetを参照してください。

  6. 「作成および実行」をクリックします。「作成」をクリックすると、後で管理サービスの「概要」ページからReplicatを手動で起動できます。
管理サービスの概要ページに戻り、Replicatプロセスの表示、およびReplicatアクションにアクセスできます。

既知の問題

共有エンドポイントとのAmazon S3およびGoogle Cloud Storage接続のJava.net.UnknownHostExceptionエラー

回避策: 接続を編集して「トラフィック・ルーティング方法」「専用」に変更するか、「Amazon S3」および「Google Cloud Storage」接続の作成時に「専用」を選択します。

OCI GoldenGateでのAmazon S3接続の問題

Amazon S3接続の使用時に次のエラーが発生した場合は、サポート・チケットを開き、詳細およびエラー・メッセージを共有します。

ERROR 2024-03-04 11:42:31.000505 [TaskEngine_2(FileFinalizeTask)] - Verify S3 bucket
      [ggstest] failed.com.amazonaws.SdkClientException: Unable to execute HTTP request: s3.us-east-2.amazonaws.com

その後、次の手順を一時的な回避方法として使用できます。

回避方法:

  1. Cloud Shellに接続します。
  2. 次のCLIサンプルを使用して、新しいAmazon S3接続を作成します:
    oci goldengate connection create-amazon-s3-connection --routing-method SHARED_SERVICE_ENDPOINT --display-name <connection_name> --compartment-id <compartment_ocid> --technology-type AMAZON_S3 --access-key-id <aws_access_key> --secret-access-key <aws_secret>
  3. デプロイメントに接続を割り当てます。
  4. Amazon S3Replicatを追加して実行します。

または、パブリック・アクセスを使用しない場合は、Amazon S3接続のバケットをAWS VPC Endpointsを使用するように構成します。OCI GoldenGateVPC Endpointsを使用してS3バケットにアクセスするには、VCNとAWS VPCの間にIPsec VPNを構成する必要もあります。

Amazon S3のエンドポイントを設定するには、Replicatプロパティ・ファイルにgg.eventhandler.s3.urlプロパティを追加し、プライベート接続のエンドポイントを指定します。