Replicar Dados do Autonomous Transaction Processing para o Confluent Kafka

Esse início rápido demonstra como replicar dados do Autonomous Transaction Processing para o Confluent Kafka usando o OCI GoldenGate.

Antes de começar

Para concluir este início rápido com sucesso, você deve ter o seguinte:

  • Uma instância do Autonomous Transaction Processing de origem.
  • Uma instância da Plataforma Confluent.

Configuração do ambiente: Autonomous Transaction Processing

Se você ainda não tiver um banco de dados de origem configurado para replicação, poderá seguir estas etapas para carregar um esquema de amostra a ser usado para esse início rápido. Esse início rápido usa o Autonomous Transaction Processing para o banco de dados de origem.

Para configurar o Autonomous Database de origem:

  1. Faça download e descompacte o esquema de banco de dados de amostra.
  2. Na console do Oracle Cloud, selecione a instância do Autonomous Transaction Processing (ATP) na página Autonomous Databases para exibir seus detalhes e acessar o Database Actions.
  3. Desbloqueie o usuário GGADMIN:
    1. Clique em Ações do banco de dados e, em seguida, clique em Usuários do Banco de Dados.
    2. Localize GGADMIN e clique em seu menu de reticências (três pontos) e selecione Editar.
    3. No painel Editar Usuário, informe a senha GGADMIN, confirme a senha e desmarque A conta está Bloqueada.
    4. Clique em Aplicar Alterações.
  4. Carregue os dados e o esquema de amostra de origem:
    1. No menu do Database Actions, em Desenvolvimento, selecione SQL.
    2. Copie e cole o script de OCIGGLL_OCIGGS_SETUP_USERS_ATP.sql na planilha SQL.
    3. Clique em Executar Script. A guia Saída do Script exibe mensagens de confirmação.
    4. Limpe a planilha SQL e copie e cole o script SQL de OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.

      Dica:

      Talvez seja necessário executar cada instrução separadamente para que a ferramenta SQL execute os scripts com sucesso.
    5. Para verificar se as tabelas foram criadas com sucesso, feche a janela SQL e reabra-a novamente. Na guia Navegador, procure o esquema SRC_OCIGGLL e selecione tabelas em suas respectivas listas drop-down.
  5. Ative o registro em log complementar:
    1. Desmarque a Planilha SQL.
    2. Informe a seguinte instrução e clique em Executar Instrução:
      ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;

Configuração do ambiente: Confluent Cloud

Se você ainda não tiver um cluster, tópico e esquema do Confluent Cloud de destino, poderá fazer o seguinte:
  1. Criar um cluster.
  2. Crie uma Chave de API para o Cluster. Observe a Chave e o Segredo da API para as próximas etapas.
  3. Ativar Registro de Esquema e, em seguida, crie uma Chave de API para o Confluent Cloud Schema Registry. Observe a Chave e o Segredo da API para as próximas etapas.
  4. Crie um tópico no cluster. Observe o nome do tópico para as próximas etapas.

Tarefa 1: Criar os recursos do OCI GoldenGate

Este exemplo de início rápido exige implantações e conexões para a origem e o destino.
  1. Crie uma implantação Oracle para a instância de origem do Autonomous Transaction Processing.
  2. Crie uma implantação de Big Data para o Confluent Cloud de destino.
  3. Crie uma conexão com o Autonomous Transaction Processing de origem.
  4. Crie uma conexão do Confluent Kafka.
  5. Crie um Registro de Esquema do Confluent.
  6. (Opcional) Se sua implantação de Big Data não tiver um ponto final público, crie uma conexão com o GoldenGate e designe essa conexão à implantação Oracle de origem.
  7. Designe a conexão do Autonomous Transaction Processing à implantação Oracle de origem.
  8. Designe conexões Confluent Kafka e Confluent Schema Registry à implantação do Big Data de destino.

Tarefa 2: Adicionar o processo de Extract

  1. Na página Implantações, selecione a implantação do Autonomous Transaction Processing de origem.
  2. Na página de detalhes da implantação, clique em Iniciar Console.
  3. Faça log-in com o nome de usuário e a senha do administrador da implantação de origem.
  4. Adicionar informações de transação.
  5. Adicionar um processo de Extract

Tarefa 3: Adicionar e executar o Distribution Path

  1. Se estiver usando o armazenamento de credenciais GoldenGate, crie um usuário para o Caminho de Distribuição na implantação do Big Data de destino; caso contrário, pule para a Etapa 3.
  2. Na console de implantação GoldenGate do ATP de origem, adicione uma Conexão de Caminho para o usuário criado na Etapa 1.
    1. Na console de implantação GoldenGate do ATP de origem, clique em Conexões de Caminho na navegação esquerda.
    2. Clique em Adicionar Conexão de Caminho (ícone de mais) e conclua o seguinte:
      1. Para Alias da Credencial, digite GGSNetwork.
      2. Para ID do Usuário, digite o nome do usuário criado na Etapa 1.
      3. Digite a senha do usuário duas vezes para verificação.
    3. Clique em Enviar.

      A conexão de caminho aparece na lista Conexões de Caminho.

  3. Na console de implantação ATP de origem, adicione um Caminho de Distribuição com os seguintes valores:
    1. Na página Opções de Origem:
      • Para Extract de Origem, selecione o processo de Extract criado na Tarefa 2.
      • Para Nome da Trilha, digite um nome de dois caracteres, como E1.
    2. Na página Opções de Destino:
      • Para Host de Destino, informe o domínio do host da implantação de destino.
      • Para Número da Porta, digite 443.
      • Para Nome da Trilha, digite um nome de dois caracteres, como E1.
      • Para Alias, informe o Alias da Credencial criado na Etapa 2.
  4. Na console de implantação do Big Data de destino, verifique o Receiver Path criado como resultado do Distribution Path.
    1. Na console de implantação do Big Data de destino, clique em Receiver Service.
    2. Verifique os detalhes do caminho. Esse caminho foi criado como resultado do Distribution Path criado na etapa anterior.

Tarefa 4: Adicionar e executar o Replicat

  1. Na console de implantação do Big Data de destino, clique em Administrator Service e, em seguida, clique em Add Replicat (ícone de mais).
  2. Adicione um Replicat com os seguintes valores:
    1. Na página Informações de Replicat, em tipo Replicat, selecione Coordinated Replicat, digite um Nome de Processo e clique em Próximo.
    2. Na página Opções de Replicação:
      • Para Nome, digite o nome da Trilha da Tarefa 2.
      • Para Domínio, selecione um domínio.
      • Para Alias, selecione a conexão do Confluent Kafka criada na Tarefa 1.
      • Para Tabela de Checkpoint, selecione a tabela de checkpoint criada para a implantação de destino.
    3. Na página Parâmetros Replicat, substitua MAP *.*, TARGET *.*; por:
      MAP SRC_OCIGGLL.SRC_CUSTOMER, Table SRC.CUSTOMER;
  3. Clique em Criar e Executar.
Você retorna à página Visão Geral, na qual pode revisar os detalhes de Replicat.

Tarefa 5: Verificar a replicação

Execute algumas atualizações na instância do Autonomous Transaction Processing de origem para verificar a replicação no Confluent Kafka Cloud.
  1. Na console do Oracle Cloud, abra o menu de navegação, selecione Oracle Database e, em seguida, selecione Autonomous Transaction Processing.
  2. Na lista de instâncias do Autonomous Transaction Processing, selecione sua instância de origem para exibir os detalhes dela.
  3. Na página de detalhes do banco de dados, clique em Database Actions.

    Observação:

    Você deverá ter feito log-in automaticamente. Caso contrário, faça log-in com as credenciais do banco de dados.
  4. Na página inicial do Database Actions, selecione SQL.
  5. Informe o seguinte na planilha e clique em Executar Script.
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);
  6. Na console de implantação do ATP de origem, selecione o nome do processo de Extract e clique em Estatísticas. Verifique se SRC_OCIGGLL.SRC_CITY tem 10 inserções.
  7. Na console de implantação GoldenGate do Big Data OCI de destino, selecione o nome do processo de Replicat e clique em Estatísticas. Verifique se SRC_OCIGGLL.SRC_CUSTOMER tem 7 inserções.

Tarefa 6: (Opcional) Verificar a replicação na CLI do Confluent

  1. Instale a CLI Fluent no sistema.
  2. Executar:
    export PATH=$(pwd)/bin:$PATH
confluent login
  3. Listar ambientes e selecionar seu ambiente
    confluent environment list
confluent environment use <your_environment_ID>
  4. Listar clusters e selecionar seu cluster
    confluent kafka cluster list
confluent kafka cluster use <your_cluster_id>
  5. Armazenar Chave de API e Segredo localmente
    confluent api-key store <cluster_api_key> <cluster_api_secret>
confluent api-key use <cluster_api_key> --resource <cluster_id>
  6. Tópicos da lista 
    confluent kafka topic list
  7. Exibir mensagens
    confluent kafka topic consume --value-format avro --from-beginning <topic_name>