Réplication de données d'Autonomous Transaction Processing vers Apache Kafka

Présentation

A l'aide d'OCI GoldenGate, vous pouvez répliquer des données d'Autonomous Database vers une cible Big Data, comme Apache Kafka. Ce démarrage rapide explique comment configurer un déploiement OCI GoldenGate, des connexions source et cible, et des processus de réplication.

Avant de commencer

Pour mener à bien ce démarrage rapide, vous devez disposer des éléments suivants :

Un réseau cloud virtuel avec le port 9092 (ou tout autre port utilisé pour le serveur de démarrage) ouvert dans les règles entrantes
Une instance Autonomous Transaction Processing source
Un noeud Apache Kafka cible

Configuration de l'environnement : Autonomous Transaction Processing

Si aucune base de données source n'est configurée pour la réplication, procédez comme suit afin de charger un schéma échantillon à utiliser avec le démarrage rapide. Ce démarrage rapide utilise Autonomous Transaction Processing pour la base de données source.

Pour configurer la base de données autonome source, procédez comme suit :

Téléchargez et décompressez le schéma échantillon de base de données.
Dans la console Oracle Cloud, sélectionnez votre instance Autonomous Transaction Processing (ATP) sur la page Bases de données autonomes afin de visualiser ses détails et d'accéder à Database Actions.
Déverrouillez l'utilisateur GGADMIN :
1. Cliquez sur Actions de base de données, puis sur Utilisateurs de base de données.
2. Localisez GGADMIN, puis cliquez sur le menu en trois points et sélectionnez Modifier.
3. Dans le panneau Modifier l'utilisateur, entrez le mot de passe GGADMIN, confirmez le mot de passe, puis désélectionnez Compte verrouillé.
4. Cliquez sur Appliquer les modifications.
Chargez le schéma échantillon source et les données :
1. Dans le menu Actions de base de données, sous Développement, sélectionnez SQL.
2. Copiez le script de OCIGGLL_OCIGGS_SETUP_USERS_ATP.sql et collez-le dans la feuille de calcul SQL.
3. Cliquez sur Exécuter un script. L'onglet Sortie de script affiche des messages de confirmation.
4. Effacer la feuille de calcul SQL, puis copier et coller le script SQL à partir de OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.
  
  Conseil :
  Vous devrez peut-être exécuter chaque instruction séparément pour que l'outil SQL parvienne à exécuter les scripts.
5. Pour vérifier que les tables ont bien été créées, fermez la fenêtre SQL et rouvrez-la. Dans l'onglet Navigateur, recherchez le schéma SRC_OCIGGLL, puis sélectionnez des tables dans les listes déroulantes correspondantes.
Activez la journalisation supplémentaire :
1. Effacez la feuille de calcul SQL.
2. Entrez l'instruction suivante, puis cliquez sur Exécuter l'instruction :
```
ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;
```

Tâche 1 : créer les ressources OCI GoldenGate

Cet exemple de démarrage rapide nécessite des déploiements et des connexions pour la source et la cible.

Créez un déploiement Oracle pour l'instance Autonomous Transaction Processing source.
Créez un déploiement Big Data pour le noeud Apache Kafka cible.
Créez une connexion pour l'instance Autonomous Transaction Processing source.
Créez une connexion pour le noeud Kafka cible.
Créez une connexion à GoldenGate, puis affectez cette connexion au déploiement Oracle source.
Affectez la connexion ATP au déploiement Oracle source.
Affectez la connexion Kafka au déploiement Big Data cible.

Tâche 2 : ajouter le fichier Extract

Sur la page Déploiements, sélectionnez le déploiement Autonomous Transaction Processing source.
Sur la page des détails du déploiement, cliquez sur Lancer la console.
Connectez-vous avec le nom utilisateur et le mot de passe de l'administrateur du déploiement source.
Ajoutez des informations relatives aux transactions.
Ajoutez un élément Extract.

Tâche 3 : ajoutez et exécutez Distribution Path.

Si vous utilisez la banque d'informations d'identification GoldenGate, créez un utilisateur pour le chemin de distribution dans le déploiement Big Data cible. Sinon, passez à l'étape 3.
Dans la console de déploiement ATP GoldenGate source, ajoutez une connexion de chemin pour l'utilisateur créé à l'étape 1.
1. Dans la console de déploiement ATP GoldenGate source, cliquez sur Connexions de chemin dans la navigation de gauche.
2. Cliquez sur Ajouter une connexion de chemin (icône Plus), puis effectuez les opérations suivantes :
  1. Dans Alias d'informations d'identification, entrez GGSNetwork.
  2. Dans ID utilisateur, saisissez le nom de l'utilisateur créé à l'étape 1.
  3. Indiquez le mot de passe de l'utilisateur à deux reprises pour vérification.
3. Cliquez sur Soumettre.
  
  La connexion par chemin apparaît dans la liste Connexions par chemin.
Dans la console de déploiement ATP source, ajoutez un chemin de distribution avec les valeurs suivantes :
1. Sur la page Options source :
  - Dans Extraction source, sélectionnez l'extraction créée dans la tâche 2.
  - Dans Nom de trace, saisissez un nom à deux caractères, tel que E1.
2. Sur la page Options cible, procédez comme suit :
  - Dans Hôte cible, entrez le domaine hôte du déploiement cible.
  - Dans Nombre de port, saisissez 443.
  - Dans Nom de trace, saisissez un nom à deux caractères, tel que E1.
  - Dans Alias, entrez l'alias d'informations d'identification créé à l'étape 2.
Dans la console de déploiement Big Data cible, vérifiez le fichier Receiver Path créé suite à la création de Distribution Path.
1. Dans la console de déploiement Big Data cible, cliquez sur Receiver Service.
2. Consultez les détails du chemin. Ce chemin a été créé à la suite de la création de Distribution Path à l'étape précédente.

Tâche 4 : ajouter le fichier Replicat

Dans la console de déploiement Big Data cible, cliquez sur Administration Service, puis sur Ajouter Replicat (icône Plus).
Ajoutez un élément Replicat avec les valeurs suivantes :
1. Sur la page Replicat Informations, sous le type Replicat, sélectionnez Classique Replicat, entrez un nom de processus, puis cliquez sur Suivant.
2. Sur la page Options Replicat :
  - Dans Nom, saisissez le nom de la trace de la tâche 3.
  - Dans Cible, sélectionnez Kafka.
  - Dans Alias, sélectionnez la connexion Kafka créée dans la tâche 1.
3. Sur la page Paramètres Replicat, laissez les valeurs par défaut.
4. Dans la page Fichier de propriétés, indiquez un nom de rubrique pour la propriété suivante :
```
gg.handler.kafkahandler.topicMappingTemplate=
```
  Si aucun sujet n'est présent, OCI GoldenGate en crée un pour vous.
Cliquez sur Créer et exécuter.

Vous revenez à la page Replicats, sur laquelle vous pouvez consulter les détails Replicat.

Tâche 5 : vérifier la réplication

Effectuez des mises à jour de l'instance Autonomous Transaction Processing source afin de vérifier la réplication vers Apache Kafka.

In the Oracle Cloud console, open the navigation menu, select Oracle Database, and then select Autonomous Transaction Processing.
Dans la liste des instances Autonomous Transaction Processing, sélectionnez votre instance source pour en visualiser les détails.
Sur la page des détails de la base de données, cliquez sur Actions de base de données.

Remarques :
Vous devez être connecté automatiquement. Sinon, connectez-vous avec les informations d'identification de base de données.
On the Database actions home page, select SQL.

Entrez ce qui suit dans la feuille de calcul et cliquez sur Exécuter un script.

Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);

Dans la console de déploiement ATP source, sélectionnez le nom Extract, puis cliquez sur Statistiques. Vérifiez que SRC_OCIGGLL.SRC_CITY comporte 10 insérations.
Dans la console de déploiement Big Data cible, sélectionnez le nom de la réplication, puis cliquez sur Statistiques. Vérifiez que SRC_OCIGGLL.SRC_CITY comporte 10 insérations.