Replicar Dados do Processamento de Transações do Autonomous AI para o Confluent Kafka

Esse início rápido demonstra como replicar dados do Autonomous AI Transaction Processing para o Confluent Kafka.

Antes de começar

Para concluir este início rápido com sucesso, você deve ter o seguinte:

Uma instância do Autonomous AI Transaction Processing de origem.
Uma instância da Plataforma Confluent.

Configuração do ambiente: Autonomous AI Transaction Processing

Se você ainda não tiver um banco de dados de origem configurado para replicação, poderá seguir estas etapas para carregar um esquema de amostra a ser usado para esse início rápido. Esse início rápido usa o Autonomous AI Transaction Processing para o banco de dados de origem.

Para configurar o Autonomous AI Transaction Processing de origem:

Faça download e descompacte o esquema de banco de dados de amostra.
Na console do Oracle Cloud, selecione sua instância do Autonomous AI Transaction Processing (ATP) na página Autonomous AI Databases para exibir seus detalhes e acessar as Database Actions.
Desbloqueie o usuário GGADMIN:
1. Selecione Database actions e, em seguida, Database Users.
2. Localize GGADMIN e, em seguida, selecione seu menu de reticências (três pontos) e selecione Editar.
3. No painel Editar Usuário, informe a senha GGADMIN, confirme a senha e depois desmarque Conta Bloqueada.
4. Selecione Aplicar Alterações.
Carregue o esquema e os dados de amostra de origem:
1. No menu Ações do banco de dados, em Desenvolvimento, selecione SQL
2. Copie e cole o script de OCIGGLL_OCIGGS_SETUP_USERS_ATP.sql na planilha de SQL.
3. Selecione Executar Script. A guia Saída do Script exibe mensagens de confirmação.
4. Limpe a planilha SQL e copie e cole o script SQL em OCIGGLL_OCIGGS_SRC_USER_SEED_DATA.sql.
  
  Dica: Talvez seja necessário executar cada instrução separadamente para que a ferramenta SQL execute os scripts com sucesso.
5. Para verificar se as tabelas foram criadas com sucesso, feche a janela SQL e reabra-a novamente. Na guia Navegador, procure o esquema SRC_OCIGGLL e, em seguida, selecione tabelas nas respectivas listas dropdown.
Ative o registro em log complementar:
1. Desmarque a Planilha SQL.
2. Informe a seguinte instrução e selecione Executar Instrução:
```
ALTER PLUGGABLE DATABASE ADD SUPPLEMENTAL LOG DATA;
```

Configuração do ambiente: Confluent Cloud

Se você ainda não tiver um cluster, tópico e esquema do Confluent Cloud de destino, poderá fazer o seguinte:

Criar um cluster.
Crie uma Chave de API para o Cluster. Observe a Chave e o Segredo da API para as próximas etapas.
Ative o Registro de Esquema Confluent e, em seguida, crie uma Chave de API para o Registro de Esquema Confluent Cloud. Observe a Chave e o Segredo da API para as próximas etapas.
Crie um tópico no cluster. Observe o nome do tópico para as próximas etapas.

Tarefa 1: Criar os recursos do OCI GoldenGate

Este exemplo de início rápido exige implantações e conexões para a origem e o destino.

Crie uma implantação Oracle para a instância de processamento de transações de IA autônoma de origem.
Crie uma implantação de Big Data para a Nuvem Confluente de destino.
Crie uma conexão com o Autonomous AI Transaction Processing de origem.
Crie uma conexão Confluent Kafka.
Crie um Registro de Esquema Confluente.
Crie uma conexão com o GoldenGate e, em seguida, designe essa conexão à implantação do Oracle de origem.
Designe a conexão do Autonomous AI Transaction Processing à implantação do Oracle de origem.
Designe conexões Confluent Kafka e Confluent Schema Registry à implantação de Big Data de destino.

Tarefa 2: Adicionar o processo de Extract

Na página Implantações, selecione a implantação de Processamento de Transação de IA Autônoma.
Na página de detalhes da implantação, selecione Iniciar Console.
Faça log-in com o nome de usuário e a senha do administrador da implantação de origem.
Adicione um processo de Extract.

Tarefa 3: Adicionar e executar o Caminho de Distribuição

Se estiver usando o armazenamento de credenciais do GoldenGate, crie um usuário para o Caminho de Distribuição na implantação do Big Data de destino; caso contrário, pule para a Etapa 3.
Na console de implantação do GoldenGate de origem, adicione uma Conexão de Caminho para o usuário criado na Etapa 1.
1. Na console de implantação do GoldenGate de origem, selecione Conexões de Caminho na navegação esquerda.
2. Selecione Adicionar Conexão de Caminho (ícone de mais) e conclua o seguinte:
  1. Para Alias da Credencial, informe GGSNetwork.
  2. Para o ID do Usuário, informe o nome do usuário criado na Etapa 1.
  3. Digite a senha do usuário duas vezes para verificação.
3. Selecione Enviar.
  
  A conexão de caminho aparece na lista Conexões de Caminho.
No console de implantação de origem, adicione um Caminho de Distribuição com os seguintes valores:
1. Na página Opções de Origem:
  - Para Extração de Origem, selecione a Extração criada na Tarefa 2.
  - Para Nome da Trilha, informe um Nome de dois caracteres, como E1
2. Na página Opções de Destino:
  - Para Host do Destino, informe o domínio do host da implantação do destino.
  - Para o Número de Porta, informe 443.
  - Para Nome da Trilha, informe um Nome de dois caracteres, como E1
  - Para Alias, informe o Alias da Credencial criado na Etapa 2.
Na console de implantação do Big Data de destino, verifique o Caminho do Receptor criado como resultado do Caminho de Distribuição.
1. Na console de implantação do Big Data de destino, selecione Receiver Service.
2. Verifique os detalhes do caminho. Esse caminho foi criado como resultado do Caminho de Distribuição criado na etapa anterior.

Tarefa 4: Adicionar e executar o processo de Replicat

No menu de navegação da console de implantação do Big Data de destino, selecione Replicatos e, em seguida, Adicionar Replicat (ícone de mais).
Adicionar uma Replicação com os seguintes valores:
1. Na página Informações do Replicat, em Tipo de Replicat, selecione Replicat Clássico, informe um Nome do Processo e selecione Próximo.
2. Na página Opções de Replicação:
  - Para Nome, informe o nome da Trilho da Tarefa 2.
  - Para Domínio, selecione um domínio.
  - Para Alias, selecione a conexão Confluent Kafka criada na Tarefa 1.
  - Para Conversor, selecione Avro.
  - Para Registro de Esquema Convergente, selecione a conexão do Registro de Esquema Confluente criada na Tarefa 1.
  - Para Tabela de Checkpoints, selecione a tabela de checkpoints que você criou para a implantação do destino.
3. Na página Parâmetros de Replicat, substitua MAP *.*, TARGET *.*; por:
```
MAP SRC_OCIGGLL.SRC_CUSTOMER, Table SRC.CUSTOMER;
```
Selecione Criar e Executar.

Você retorna à página Visão Geral, na qual pode revisar os detalhes do processo Replicat.

Tarefa 5: Verificar a replicação

Execute algumas atualizações na instância de origem do Autonomous AI Transaction Processing para verificar a replicação no Confluent Kafka Cloud.

Na console do Oracle Cloud, abra o menu de navegação, selecione Oracle AI Database e, em seguida, selecione Autonomous AI Transaction Processing.
Na lista de instâncias de Processamento de Transações do Autonomous AI, selecione sua instância de origem para exibir seus detalhes.
Na página de detalhes do banco de dados, selecione Database actions.

Observação: Você deve estar conectado automaticamente. Caso contrário, faça log-in com as credenciais do banco de dados.
Na home page de ações do Banco de Dados, selecione SQL.

Informe o seguinte na planilha e selecione Executar Script.

Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);

Na console da implantação ATP de origem, selecione o nome da Extração e, em seguida, selecione Estatísticas. Verifique se SRC_OCIGGLL.SRC_CITY tem 10 inserções.
Na console de implantação do Big Data OCI GoldenGate de destino, selecione o nome do Replicat e, em seguida, Estatísticas. Verifique se SRC_OCIGGLL.SRC_CITY tem 10 inserções.
Na console do Oracle Cloud, navegue até o bucket do Oracle Object Storage e verifique seu conteúdo.

Tarefa 6: (Opcional) Verificar a replicação na CLI do Confluent

Instale a CLI Fluente no sistema.

Executar:

export PATH=$(pwd)/bin:$PATH
confluent login

Liste ambientes e selecione seu ambiente

confluent environment list
confluent environment use <your_environment_ID>

Liste clusters e selecione seu cluster

confluent kafka cluster list
confluent kafka cluster use <your_cluster_id>

Armazenar Chave de API e Segredo localmente

confluent api-key store <cluster_api_key> <cluster_api_secret>
confluent api-key use <cluster_api_key> --resource <cluster_id>

Listar tópicos
```
confluent kafka topic list
```

Exibir mensagens

confluent kafka topic consume --value-format avro --from-beginning <topic_name>