Répliquer des données d'Autonomous Transaction Processing vers Apache Kafka

Voyez comment configurer GoldenGate pour OCI pour la réplication de données à partir d'Autonomous Transaction Processing vers Apache Kafka.

Aperçu

Avec GoldenGate pour OCI, vous pouvez répliquer des données à partir d'une base de données autonome vers une cible de mégadonnées, telle qu'Apache Kafka. Ce démarrage rapide montre comment configurer un déploiement de GoldenGate pour OCI, des connexions source et cible et des processus de réplication.

Avant de commencer

Pour suivre ce démarrage rapide, vous devez disposer des éléments suivants :

  • Un VCN avec le port 9092 (ou un autre port utilisé pour le serveur d'amorçage) ouvert dans les règles de trafic entrant.
  • Une instance Autonomous Transaction Processing source
  • Un noeud Apache Kafka cible

Configuration de l'environnement : Autonomous Transaction Processing

Si vous n'avez pas encore de base de données source configurée pour la réplication, vous pouvez suivre ces étapes pour charger un exemple de schéma à utiliser pour ce démarrage rapide. Ce démarrage rapide utilise Autonomous Transaction Processing pour la base de données source.

Pour configurer la base de données autonome source :

  1. Téléchargez et décompressez l'exemple de schéma de base de données.
  2. Dans la console Oracle Cloud, sélectionnez votre instance Autonomous Transaction Processing (ATP) dans la page des bases de données autonomes pour en voir les détails et accéder à Database Actions.
  3. Déverrouillez l'utilisateur GGADMIN :
    1. Cliquez sur Actions de base de données, puis sur Utilisateurs de base de données.
    2. Sélectionnez GGADMIN, puis cliquez sur le menu contextuel associé et sélectionnez Modifier.
    3. Dans le panneau Modifier l'utilisateur, entrez le mot de passe de GGADMIN, confirmez-le, puis désélectionnez Le compte est verrouillé.
    4. Click Apply Changes.
  4. Chargez les exemples de schéma et de données-échantillons sources :
    1. Dans le menu Actions de base de données, sous Développement, sélectionnez SQL.
    2. Copiez et collez le script à partir de OCIGGLL_OCIGGS_SETUP_USERS_ATP.sql dans la feuille de calcul SQL.
    3. Cliquez sur Exécuter le script. L'onglet Sortie du script affiche des messages de confirmation.
    4. Effacer la feuille de calcul SQL, puis copier et coller le script SQL à partir de OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.

      Conseil :

      Vous devrez peut-être exécuter chaque énoncé séparément pour que l'outil SQL exécute les scripts avec succès.
    5. Pour vérifier que les tables ont été créées, fermez la fenêtre SQL et rouvrez-la. Dans l'onglet Navigateur, recherchez le schéma SRC_OCIGGLL, puis sélectionnez des tables dans les listes déroulantes correspondantes.
  5. Activez la journalisation supplémentaire :
    1. Effacez la feuille de calcul SQL.
    2. Entrez l'énoncé suivant, puis cliquez sur Exérer l'énoncé :
      ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;

Tâche 2 : Ajouter Extract

  1. Dans la page Déploiements, sélectionnez le déploiement Autonomous Transaction Processing source.
  2. Dans la page des détails du déploiement, cliquez sur Lancer la console.
  3. Connectez-vous avec le nom d'utilisateur et le mot de passe de l'administrateur du déploiement source.
  4. Ajoutez des informations sur les transactions.
  5. Ajoutez un fichier Extract.

Tâche 3 : Ajouter et exécuter Distribution Path

  1. Si vous utilisez le magasin de données d'identification GoldenGate, créez un utilisateur pour le chemin de répartition dans le déploiement du service de mégadonnées cible, sinon passez à l'étape 3.
  2. Dans la console de déploiement source ATP GoldenGate, ajoutez une connexion de chemin pour l'utilisateur créé à l'étape 1.
    1. Dans la console de déploiement ATP GoldenGate source, cliquez sur Connexions de chemin dans la barre de navigation de gauche.
    2. Cliquez sur Ajouter une connexion de chemin (icône plus), puis effectuez les opérations suivantes :
      1. Pour Alias de données d'identification, entrez GGSNetwork.
      2. Pour ID utilisateur, entrez le nom de l'utilisateur créé à l'étape 1.
      3. Entrez deux fois le mot de passe de l'utilisateur pour vérification.
    3. Cliquez sur Soumettre.

      La connexion de chemin apparaît dans la liste Connexions de chemin.

  3. Dans la console de déploiement ATP source, ajoutez un chemin de répartition avec les valeurs suivantes :
    1. Dans la page Options sources :
      • Pour Processus d'extraction source, sélectionnez le processus d'extraction créé au cours de la tâche 2.
      • Pour Nom de la piste, entrez un nom à deux caractères, par exemple E1.
    2. Dans la page Options cibles :
      • Pour hôte cible, entrez le domaine hôte du déploiement cible.
      • Pour Numéro de port, entrez 443.
      • Pour Nom de la piste, entrez un nom à deux caractères, par exemple E1.
      • Pour Alias, entrez l'alias de données d'identification créé à l'étape 2.
  4. Dans la console de déploiement du service de mégadonnées cible, vérifiez la valeur Receiver Path créée à la suite de Distribution Path.
    1. Dans la console de déploiement du service de mégadonnées cible, cliquez sur Receiver Service.
    2. Vérifiez les détails du chemin. Ce chemin a été créé à la suite de Distribution Path créé à l'étape précédente.

Tâche 4 : Ajouter Replicat

  1. Dans la console de déploiement du service de mégadonnées cible, cliquez sur Administration Service, puis sur Ajouter Replicat (icône plus).
  2. Ajoutez une valeur Replicat avec les valeurs suivantes :
    1. Dans la page Informations Replicat, sous Type Replicat, sélectionnez Classic Replicat, entrez un nom de processus, puis cliquez sur Next (Suivant).
    2. Dans la page Options Replicat :
      • Pour Nom, entrez le nom de la piste de la tâche 3.
      • Pour Cible, sélectionnez Kafka.
      • Pour Alias, sélectionnez la connexion Kafka créée au cours de la tâche 1.
    3. Dans la page Paramètres Replicat, laissez la valeur par défaut.
    4. Dans la page Properties File (Fichier de propriétés), indiquez un nom de rubrique pour la propriété suivante :
      gg.handler.kafkahandler.topicMappingTemplate=

      Si aucun sujet n'est présent, OCI GoldenGate en crée un pour vous.

  3. Click Create and Run.
Vous retournez à la page Replicats, où vous pouvez consulter les détails de Replicat.

Tâche 5 : Vérifier la réplication

Apportez des mises à jour à l'instance Autonomous Transaction Processing source pour vérifier la réplication vers Apache Kafka.
  1. In the Oracle Cloud console, open the navigation menu, select Oracle Database, and then select Autonomous Transaction Processing.
  2. Dans la liste des instances Autonomous Transaction Processing, sélectionnez votre instance source pour en voir les détails.
  3. Dans la page des détails de la base de données, cliquez sur Database actions.

    Note :

    Vous devez être connecté automatiquement. Sinon, connectez-vous à l'aide des données d'identification de la base de données.
  4. Dans la page d'accueil Actions de base de données, sélectionnez SQL.
  5. Entrez les informations suivantes dans la feuille de calcul et cliquez sur Exécuter le script.
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);
  6. Dans la console de déploiement ATP source, sélectionnez le nom Extract, puis cliquez sur Statistiques. Vérifiez que SRC_OCIGGLL.SRC_CITY comporte 10 inserts.
  7. Dans la console de déploiement du service de mégadonnées cible, sélectionnez le nom du processus, puis cliquez sur Statistiques. Vérifiez que SRC_OCIGGLL.SRC_CITY comporte 10 inserts.

Tâche 6 : Surveiller et tenir à jour les processus

  1. Surveillez la performance.
  2. Gérez les fichiers de piste.