Répliquer des données d'Autonomous Transaction Processing vers Confluent Kafka

Ce démarrage rapide montre comment répliquer des données à partir d'Autonomous Transaction Processing vers Confluent Kafka à l'aide de GoldenGate pour OCI.

Avant de commencer

Pour suivre ce démarrage rapide, vous devez disposer des éléments suivants :

  • Une instance Autonomous Transaction Processing source.
  • Une instance de plate-forme Confluent.

Configuration de l'environnement : Autonomous Transaction Processing

Si vous n'avez pas encore de base de données source configurée pour la réplication, vous pouvez suivre ces étapes pour charger un exemple de schéma à utiliser pour ce démarrage rapide. Ce démarrage rapide utilise Autonomous Transaction Processing pour la base de données source.

Pour configurer la base de données autonome source :

  1. Téléchargez et décompressez l'exemple de schéma de base de données.
  2. Dans la console Oracle Cloud, sélectionnez votre instance Autonomous Transaction Processing (ATP) dans la page des bases de données autonomes pour en voir les détails et accéder à Database Actions.
  3. Déverrouillez l'utilisateur GGADMIN :
    1. Cliquez sur Actions de base de données, puis sur Utilisateurs de base de données.
    2. Localisez GGADMIN, puis cliquez sur le menu Actions (points de suspension) associé et sélectionnez Modifier.
    3. Dans le panneau Modifier l'utilisateur, entrez le mot de passe de GGADMIN, confirmez-le, puis désélectionnez Le compte est verrouillé.
    4. Cliquez sur Appliquer les modifications.
  4. Chargez les exemples de schéma et de données-échantillons sources :
    1. Dans le menu Actions de base de données, sous Développement, sélectionnez SQL.
    2. Copiez et collez le script à partir de OCIGGLL_OCIGGS_SETUP_USERS_ATP.sql dans la feuille de calcul SQL.
    3. Cliquez sur Exécuter le script. L'onglet Sortie du script affiche des messages de confirmation.
    4. Effacer la feuille de calcul SQL, puis copier et coller le script SQL à partir de OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.

      Conseil :

      Vous devrez peut-être exécuter chaque énoncé séparément pour que l'outil SQL exécute les scripts avec succès.
    5. Pour vérifier que les tables ont été créées, fermez la fenêtre SQL et rouvrez-la. Dans l'onglet Navigateur, recherchez le schéma SRC_OCIGGLL, puis sélectionnez des tables dans les listes déroulantes correspondantes.
  5. Activez la journalisation supplémentaire :
    1. Effacez la feuille de calcul SQL.
    2. Entrez l'énoncé suivant, puis cliquez sur Exécuter l'énoncé :
      ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;

Configuration de l'environnement : Nuage confluent

Si vous n'avez pas encore de grappe, de sujet et de schéma Confluent Cloud cible, vous pouvez effectuer les opérations suivantes :
  1. Créer une grappe.
  2. Créer une clé d'API pour la grappe. Notez la clé et la clé secrète d'API pour les étapes suivantes.
  3. Activer le registre de schémas, puis créez une clé d'API pour le registre de schémas Confluent Cloud. Notez la clé et la clé secrète d'API pour les étapes suivantes.
  4. Créez un sujet dans la grappe. Notez le nom de la rubrique pour les étapes suivantes.

Tâche 1 : Créer des ressources GoldenGate pour OCI

Cet exemple de démarrage rapide nécessite des déploiements et des connexions pour la source et la cible.
  1. Créez un déploiement Oracle pour l'instance Autonomous Transaction Processing source.
  2. Créez un déploiement du service de mégadonnées pour le nuage Confluent cible.
  3. Créer une connexion à la base de données Autonomous Transaction Processing source.
  4. Créez une connexion Confluent Kafka.
  5. Créez un registre de schémas Confluent.
  6. (Facultatif) Si votre déploiement du service de mégadonnées n'a pas de point d'extrémité public, créez une connexion à GoldenGate, puis affectez cette connexion au déploiement Oracle source.
  7. Affectez la connexion Autonomous Transaction Processing au déploiement Oracle source.
  8. Affecter des connexions au registre de schéma Confluent Kafka et Confluent au déploiement du service de mégadonnées cible.

Tâche 2 : Ajouter le processus d'extraction

  1. Dans la page Déploiements, sélectionnez le déploiement Autonomous Transaction Processing source.
  2. Dans la page des détails du déploiement, cliquez sur Lancer la console.
  3. Connectez-vous avec le nom d'utilisateur et le mot de passe de l'administrateur du déploiement source.
  4. Ajoutez des informations sur les transactions.
  5. Ajoutez un processus d'extraction

Tâche 3 : Ajouter et exécuter Distribution Path

  1. Si vous utilisez le magasin de données d'identification GoldenGate, créez un utilisateur pour le chemin de répartition dans le déploiement du service de mégadonnées cible, sinon passez à l'étape 3.
  2. Dans la console de déploiement source ATP GoldenGate, ajoutez une connexion de chemin pour l'utilisateur créé à l'étape 1.
    1. Dans la console de déploiement ATP GoldenGate source, cliquez sur Connexions de chemin dans la barre de navigation de gauche.
    2. Cliquez sur Ajouter une connexion de chemin (icône plus), puis effectuez les opérations suivantes :
      1. Pour Alias de données d'identification, entrez GGSNetwork.
      2. Pour ID utilisateur, entrez le nom de l'utilisateur créé à l'étape 1.
      3. Entrez deux fois le mot de passe de l'utilisateur pour vérification.
    3. Cliquez sur Soumettre.

      La connexion de chemin apparaît dans la liste Connexions de chemin.

  3. Dans la console de déploiement ATP source, ajoutez un chemin de répartition avec les valeurs suivantes :
    1. Dans la page Options sources :
      • Pour Processus d'extraction source, sélectionnez le processus d'extraction créé au cours de la tâche 2.
      • Pour Nom de la piste, entrez un nom à deux caractères, par exemple E1.
    2. Dans la page Options cibles :
      • Pour Hôte cible, entrez le domaine hôte du déploiement cible.
      • Pour Numéro de port, entrez 443.
      • Pour Nom de la piste, entrez un nom à deux caractères, par exemple E1.
      • Pour Alias, entrez l'alias de données d'identification créé à l'étape 2.
  4. Dans la console de déploiement du service de mégadonnées cible, vérifiez la valeur Receiver Path créée à la suite de Distribution Path.
    1. Dans la console de déploiement du service de mégadonnées cible, cliquez sur Receiver Service.
    2. Vérifiez les détails du chemin. Ce chemin a été créé à la suite de Distribution Path créé à l'étape précédente.

Tâche 4 : Ajouter et exécuter Replicat

  1. Dans la console de déploiement du service de mégadonnées cible, cliquez sur Administrator Service, puis sur Add Replicat (icône plus).
  2. Ajoutez une valeur Replicat avec les valeurs suivantes :
    1. Dans la page Informations Replicat, sous Type Replicat, sélectionnez Coordinated Replicat, entrez un nom de processus, puis cliquez sur Suivant.
    2. Dans la page Replication Options :
      • Pour Nom, entrez le nom de la piste de la tâche 2.
      • Pour Domaine, sélectionnez un domaine.
      • Pour Alias, sélectionnez la connexion Confluent Kafka créée au cours de la tâche 1.
      • Pour Table de points de vérification, sélectionnez la table que vous avez créée pour le déploiement cible.
    3. Dans la page Paramètres Replicat, remplacez MAP *.*, TARGET *.*; par :
      MAP SRC_OCIGGLL.SRC_CUSTOMER, Table SRC.CUSTOMER;
  3. Cliquez sur Créer et exécuter.
Vous retournez à la page Aperçu, où vous pouvez consulter les détails de Replicat.

Tâche 5 : Vérifier la réplication

Apportez des mises à jour à l'instance Autonomous Transaction Processing source pour vérifier la réplication vers Confluent Kafka Cloud.
  1. Dans la console Oracle Cloud, ouvrez le menu de navigation, sélectionnez Oracle Database, puis Autonomous Transaction Processing.
  2. Dans la liste des instances Autonomous Transaction Processing, sélectionnez votre instance source pour en voir les détails.
  3. Dans la page des détails de la base de données, cliquez sur Database actions.

    Note :

    Vous devez être connecté automatiquement. Sinon, connectez-vous à l'aide des données d'identification de la base de données.
  4. Dans la page d'accueil Actions de base de données, sélectionnez SQL.
  5. Entrez les informations suivantes dans la feuille de calcul et cliquez sur Exécuter le script.
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);
  6. Dans la console de déploiement ATP source, sélectionnez le nom du processus d'extraction, puis cliquez sur Statistiques. Vérifiez que SRC_OCIGGLL.SRC_CITY comporte 10 insertions.
  7. Dans la console de déploiement GoldenGate du service de mégadonnées cible, sélectionnez le nom du processus de réplication, puis cliquez sur Statistiques. Vérifiez que SRC_OCIGGLL.SRC_CUSTOMER comporte 7 insertions.

Tâche 6 : (Facultatif) Vérifier la réplication dans l'interface de ligne de commande Confluent

  1. Installez l'interface de ligne de commande Confluent dans votre système.
  2. Exécuter :
    export PATH=$(pwd)/bin:$PATH
confluent login
  3. Lister les environnements et sélectionner votre environnement
    confluent environment list
confluent environment use <your_environment_ID>
  4. Lister les grappes et sélectionner votre grappe
    confluent kafka cluster list
confluent kafka cluster use <your_cluster_id>
  5. Stocker la clé et la clé secrète d'API localement
    confluent api-key store <cluster_api_key> <cluster_api_secret>
confluent api-key use <cluster_api_key> --resource <cluster_id>
  6. Répertorier les sujets 
    confluent kafka topic list
  7. Voir les messages
    confluent kafka topic consume --value-format avro --from-beginning <topic_name>