Replicar dados do Autonomous Transaction Processing para o Apache Kafka

Aprenda a configurar o OCI GoldenGate para replicar dados do Autonomous Transaction Processing para o Apache Kafka.

Visão geral

Usando o OCI GoldenGate, você pode replicar dados de um Autonomous Database para um destino do Big Data, como o Apache Kafka. Esse início rápido demonstra como configurar uma implantação do OCI GoldenGate, conexões de origem e destino e processos de replicação.

Antes de começar

Para concluir este início rápido com sucesso, você deve ter o seguinte:

  • Uma VCN com a porta 9092 (ou outra porta usada para o servidor de inicialização) é aberta nas regras de Entrada.
  • Uma instância do Autonomous Transaction Processing de origem
  • Um nó do Apache Kafka de destino

Configuração do ambiente: Autonomous Transaction Processing

Se você ainda não tiver um banco de dados de origem configurado para replicação, poderá seguir estas etapas para carregar um esquema de amostra a ser usado para esse início rápido. Esse início rápido usa o Autonomous Transaction Processing para o banco de dados de origem.

Para configurar o Autonomous Database de origem:

  1. Faça download e descompacte o esquema de banco de dados de amostra.
  2. Na console do Oracle Cloud, selecione a instância do Autonomous Transaction Processing (ATP) na página Autonomous Databases para exibir seus detalhes e acessar o Database Actions.
  3. Desbloqueie o usuário GGADMIN:
    1. Clique em Ações do banco de dados e, em seguida, clique em Usuários do Banco de Dados.
    2. Localize GGADMIN e clique em seu menu de reticências (três pontos) e selecione Editar.
    3. No painel Editar Usuário, informe a senha GGADMIN, confirme a senha e desmarque A conta está Bloqueada.
    4. Clique em Aplicar Alterações.
  4. Carregue os dados e o esquema de amostra de origem:
    1. No menu do Database Actions, em Desenvolvimento, selecione SQL.
    2. Copie e cole o script de OCIGGLL_OCIGGS_SETUP_USERS_ATP.sql na planilha SQL.
    3. Clique em Executar Script. A guia Saída do Script exibe mensagens de confirmação.
    4. Limpe a planilha SQL e copie e cole o script SQL de OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.

      Dica:

      Talvez seja necessário executar cada instrução separadamente para que a ferramenta SQL execute os scripts com sucesso.
    5. Para verificar se as tabelas foram criadas com sucesso, feche a janela SQL e reabra-a novamente. Na guia Navegador, procure o esquema SRC_OCIGGLL e selecione tabelas em suas respectivas listas drop-down.
  5. Ative o registro em log complementar:
    1. Desmarque a Planilha SQL.
    2. Insira a seguinte instrução e clique em Run Statement:
      ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;

Tarefa 2: Adicionar o Extract

  1. Na página Implantações, selecione a implantação do Autonomous Transaction Processing de origem.
  2. Na página de detalhes da implantação, clique em Iniciar Console.
  3. Faça log-in com o nome de usuário e a senha do administrador da implantação de origem.
  4. Adicionar informações de transação.
  5. Adicione um Extract..

Tarefa 3: Adicionar e executar o Distribution Path

  1. Se estiver usando o armazenamento de credenciais GoldenGate, crie um usuário para o Caminho de Distribuição na implantação do Big Data de destino; caso contrário, pule para a Etapa 3.
  2. Na console de implantação GoldenGate do ATP de origem, adicione uma Conexão de Caminho para o usuário criado na Etapa 1.
    1. Na console de implantação GoldenGate do ATP de origem, clique em Conexões de Caminho na navegação esquerda.
    2. Clique em Adicionar Conexão de Caminho (ícone de mais) e conclua o seguinte:
      1. Para Alias da Credencial, digite GGSNetwork.
      2. Para ID do Usuário, digite o nome do usuário criado na Etapa 1.
      3. Digite a senha do usuário duas vezes para verificação.
    3. Clique em Enviar.

      A conexão de caminho aparece na lista Conexões de Caminho.

  3. Na console de implantação ATP de origem, adicione um Caminho de Distribuição com os seguintes valores:
    1. Na página Opções de Origem:
      • Para Extract de Origem, selecione o Extract criado na Tarefa 2.
      • Para Nome da Trilha, digite um nome de dois caracteres, como E1.
    2. Na página Opções de Destino:
      • Para Host de Destino, informe o domínio do host da implantação de destino.
      • Para Port Number, digite 443.
      • Para Nome da Trilha, digite um nome de dois caracteres, como E1.
      • Para Alias, informe o Alias da Credencial criado na Etapa 2.
  4. Na console de implantação do Big Data de destino, verifique o Receiver Path criado como resultado do Distribution Path.
    1. Na console de implantação do Big Data de destino, clique em Receiver Service.
    2. Verifique os detalhes do caminho. Esse caminho foi criado como resultado do Distribution Path criado na etapa anterior.

Tarefa 4: Adicione o Replicat

  1. Na console de implantação do Big Data de destino, clique em Administration Service e, em seguida, clique em Adicionar Replicat (ícone de mais).
  2. Adicione um Replicat com os seguintes valores:
    1. Na página Informações de Replicat, em tipo Replicat, selecione Clássico Replicat, digite um Nome de Processo e clique em Próximo.
    2. Na página Opções Replicat:
      • Para Nome, digite o nome da Trilha da Tarefa 3.
      • Para Alvo, selecione Kafka.
      • Para Alias, selecione a conexão do Kafka criada na Tarefa 1.
    3. Na página Parâmetros Replicat, deixe o padrão.
    4. Na página Arquivo de Propriedades, forneça um nome de tópico para a seguinte propriedade:
      gg.handler.kafkahandler.topicMappingTemplate=

      Se um tópico não estiver presente, o OCI GoldenGate criará um para você.

  3. Clique em Criar e Executar.
Você retorna à página Replicats, na qual pode revisar os detalhes de Replicat.

Tarefa 5: Verificar a replicação

Execute algumas atualizações na instância do Autonomous Transaction Processing de origem para verificar a replicação no Apache Kafka.
  1. Na console do Oracle Cloud, abra o menu de navegação, selecione Oracle Database e, em seguida, selecione Autonomous Transaction Processing.
  2. Na lista de instâncias do Autonomous Transaction Processing, selecione sua instância de origem para exibir os detalhes dela.
  3. Na página de detalhes do banco de dados, clique em Database Actions.

    Observação:

    Você deverá ter feito log-in automaticamente. Caso contrário, faça log-in com as credenciais do banco de dados.
  4. Na página inicial do Database Actions, selecione SQL.
  5. Insira o seguinte na planilha e clique em Run Script.
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);
  6. Na console de implantação do ATP de origem, selecione o nome Extract e clique em Estatísticas. Verifique se SRC_OCIGGLL.SRC_CITY tem 10 inserções.
  7. Na console de implantação do Big Data de destino, selecione o nome do Replicat e clique em Estatísticas. Verifique se SRC_OCIGGLL.SRC_CITY tem 10 inserções.

Tarefa 6: Monitorar e manter processos

  1. Monitorar o desempenho.
  2. Gerenciar arquivos de Trilha.