Kafkaプラットフォームからのデータの取得
概要
OCI GoldenGateを使用して、次のストリーミング・ソースからメッセージを取得できます:
- Apache Kafka
- OCIストリーミング
- スキーマ・レジストリの有無にかかわらず、Confluent Kafka
- Azure Event Hubs
- Amazon MSK
OCI GoldenGateは、Kafkaトピックまたはトピックからメッセージを読み取り、データをGoldenGate 証跡ファイルに書き込まれる論理変更レコードに変換します。 GoldenGate Replicatプロセスは、証跡ファイルの生成を使用して、RDBMS実装をサポートするためのデータを伝播できます。
タスク1: コンシューマ・プロパティの構成
- 次のデシリアライザまたはコンバータのいずれかを使用して、Kafkaコンシューマ・プロパティ・ファイルを作成します。 ソースがスキーマ・レジストリとのConfluent Kafkaのトピックである場合は、Avroコンバータを使用できます。 その他のソースの場合は、必要に応じてJSONコンバータまたはデシリアライザを使用します:
- Kafka JSONデシリアライザのコンシューマ・プロパティ:
key.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer value.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer - Kafka JSONコンバータのコンシューマ・プロパティ:
key.converter=org.apache.kafka.connect.json.JsonConverter value.converter=org.apache.kafka.connect.json.JsonConverter - Kafka Avroコンバータのコンシューマ・プロパティ:
key.converter=io.confluent.connect.avro.AvroConverter value.converter=io.confluent.connect.avro.AvroConverter
- Kafka JSONデシリアライザのコンシューマ・プロパティ:
- プロパティ・ファイルを保存し、そのロケーションをノートします。
タスク2: OCI GoldenGateリソースの作成
このタスクでは、新規リソースが存在しない場合の新規リソースの作成方法について説明します。 使用しているビッグ・データ・デプロイメントが使用可能な最新バージョンにアップグレードされていることを確認します。
タスク3: 資格証明の作成
「抽出」を作成する前に、まず資格証明を作成する必要があります。
資格証明を作成するには:
- 「デプロイメント」ページでBig Dataデプロイメントを選択します。
- デプロイメントの詳細ページで、「コンソールの起動」をクリックします。
- タスク2ステップ1でデプロイメントを作成したときに指定したユーザー名とパスワードを使用して、ビッグ・データ・デプロイメントにログインします。
- ナビゲーション・メニューから「DB接続」を選択します。
- 「構成」ページの「データベース」タブで、DB接続の追加 (プラス・アイコン)をクリックし、次のようにフォームに入力します:
- 「資格証明ドメイン」に、
OracleGoldenGateと入力します。 - 「資格証明別名」には、
kafkaと入力します。 - 「ユーザーID」には、
kafka://と入力 - 「パスワード」および「パスワードの確認」には、パスワードを入力します。
- 「送信」をクリックします。
- 「資格証明ドメイン」に、
タスク4: 抽出の作成
- 「管理サービスの概要」ページで、「抽出の追加」 (プラス・アイコン)をクリックします。
- 次の値を含むExtractの追加:
「管理サービス」の「概要」ページに戻ります。このページでは、「抽出」プロセスの開始を確認し、イベント・メッセージを確認できます。