Connessione a Confluent Kafka

Imparare a creare una connessione a Confluent Kafka, utilizzata con la connessione Confluent Schema Registry, per fungere da origine o destinazione in una distribuzione di Big Data GoldenGate OCI.

Prima di iniziare

Prima di creare la connessione, assicurarsi di:

Esamina la modalità di connessione di OCI GoldenGate all'origine e alle destinazioni.
Configurare i criteri necessari per abilitare l'accesso sicuro a vault e segreti, ad esempio l'uso di segreti, l'uso di vault e la lettura di bundle di segreti. Per ulteriori informazioni, vedere Criteri consigliati minimi.

Crea una connessione di origine

Per creare una connessione Kafka di tipo Confluent di origine, procedere come segue.

Nella pagina Panoramica GoldenGate di OCI fare clic su Connessioni.
È inoltre possibile fare clic su Crea connessione nella sezione Introduzione e passare al passo 3.
Nella pagina Connessioni fare clic su Crea connessione.
Nella pagina Crea connessione, completare i campi come indicato di seguito.
1. In Nome, immettere un nome per la connessione.
2. (Facoltativo) In Descrizione, immettere una descrizione che consenta di distinguere questa connessione dagli altri.
3. Per Compartimento, selezionare il compartimento in cui creare la connessione.
4. Nell'elenco a discesa Tipo, selezionare Kafka fluido.
5. Sotto i server Bootstrap:
  1. Immettere il numero Host e Porta per il server Bootstrap. Immettere l'IP privato solo se il nome host non è risolvibile dalla subnet o se utilizza SSL/TLS.
    Nota
    
    Se si immette un IP privato, OCI GoldenGate riscrive l'IP privato nel formato ip-10-0-0-0.ociggsvc.oracle.vcn.com.
    
    Suggerimento
    Tutti i nodi nel cluster devono disporre di nomi FQDN per consentire il passaggio su endpoint privati.
  2. (Opzionale) Fare clic su + server bootstrap per aggiungere un altro server bootstrap.
6. Per Protocollo di sicurezza, selezionare una delle opzioni riportate di seguito.
  - Corpo del testo
  - SASL su testo normale, quindi fornire il nome utente e la password.
  - SASL su SSL, quindi fornire i valori del nome utente, della password, del truststore e del keystore in base alle esigenze.
  - SSL, quindi fornire i valori del truststore e del keystore in base alle esigenze.
7. Fare clic su Mostra opzioni avanzate. È possibile configurare le opzioni seguenti:
  - Sicurezza
    - Deselezionare Usa segreti vault per non utilizzare i segreti password per questa connessione. Se l'opzione non viene selezionata:
      
      Selezionare Usa chiave di cifratura gestita da Oracle per lasciare tutta la gestione delle chiavi di cifratura a Oracle.
      
      Selezionare Usa chiave di cifratura gestita dal cliente per selezionare una chiave di cifratura specifica memorizzata nel vault OCI per cifrare le credenziali di connessione.
  - Connettività di rete
    - Endpoint condiviso, per condividere un endpoint con la distribuzione assegnata. È necessario consentire la connettività dall'IP in entrata della distribuzione.
    - Endpoint dedicato, per il traffico di rete tramite un endpoint dedicato nella subnet assegnata nella VCN. È necessario consentire la connettività dagli IP in entrata di questa connessione.
      Nota
      
      Se una connessione dedicata rimane non assegnata per sette giorni, il servizio la converte in una connessione condivisa.
      
      Ulteriori informazioni sulla connettività di Oracle GoldenGate.
  - ImpostazioniPer acquisire da Kafka, creare un file delle proprietà del consumer Kafka con uno dei deserializzatori o convertitori riportati di seguito.
    - Proprietà consumer Kafka per il deserializzatore JSON:
      key.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer value.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer
    - Proprietà consumer Kafka per il convertitore JSON:
      key.converter=org.apache.kafka.connect.json.JsonConverter value.converter=org.apache.kafka.connect.json.JsonConverter
    - Kafka Proprietà consumer per il convertitore Avro:
      key.converter=io.confluent.connect.avro.AvroConverter value.converter=io.confluent.connect.avro.AvroConverter
  - Tag: aggiunge tag per organizzare le risorse.
Fare clic su Crea.

La connessione viene visualizzata nell'elenco Connessioni, in cui è possibile selezionarla per visualizzarne i dettagli. Assicurarsi inoltre di creare una connessione a Confluent Schema Registry, quindi assegnare entrambe le connessioni a una distribuzione Big Data.

Crea una connessione di destinazione

Per creare una connessione Kafka di tipo Confluent di destinazione:

Nella pagina Panoramica GoldenGate di OCI fare clic su Connessioni.
È inoltre possibile fare clic su Crea connessione nella sezione Introduzione e passare al passo 3.
Nella pagina Connessioni fare clic su Crea connessione.
Nella pagina Crea connessione, completare i campi come indicato di seguito.
1. In Nome, immettere un nome per la connessione.
2. (Facoltativo) In Descrizione, immettere una descrizione che consenta di distinguere questa connessione dagli altri.
3. Per Compartimento, selezionare il compartimento in cui creare la connessione.
4. Nell'elenco a discesa Tipo, selezionare Kafka fluido.
5. Sotto i server Bootstrap:
  1. Selezionare un metodo di instradamento del traffico:
  2. Immettere il numero Host e Porta per il server Bootstrap. Immettere l'IP privato solo se il nome host non è risolvibile dalla subnet o se utilizza SSL/TLS.
    Nota
    
    Se si immette un IP privato, OCI GoldenGate riscrive l'IP privato nel formato ip-10-0-0-0.ociggsvc.oracle.vcn.com.
    
    Suggerimento
    Tutti i nodi nel cluster devono disporre di nomi FQDN per consentire il passaggio su endpoint privati.
  3. (Opzionale) Fare clic su + server bootstrap per aggiungere un altro server bootstrap.
6. Per Protocollo di sicurezza, selezionare una delle opzioni riportate di seguito.
  - Corpo del testo
  - SASL su testo normale, quindi fornire il nome utente e la password.
  - SASL su SSL, quindi fornire i valori del nome utente, della password, del truststore e del keystore in base alle esigenze.
  - SSL, quindi fornire i valori del truststore e del keystore in base alle esigenze.
7. Fare clic su Mostra opzioni avanzate. È possibile configurare le opzioni seguenti:
  - Sicurezza
    - Deselezionare Usa segreti vault per non utilizzare i segreti password per questa connessione. Se l'opzione non viene selezionata:
      
      Selezionare Usa chiave di cifratura gestita da Oracle per lasciare tutta la gestione delle chiavi di cifratura a Oracle.
      
      Selezionare Usa chiave di cifratura gestita dal cliente per selezionare una chiave di cifratura specifica memorizzata nel vault OCI per cifrare le credenziali di connessione.
  - Connettività di rete
    - Endpoint condiviso, per condividere un endpoint con la distribuzione assegnata. È necessario consentire la connettività dall'IP in entrata della distribuzione.
    - Endpoint dedicato, per il traffico di rete tramite un endpoint dedicato nella subnet assegnata nella VCN. È necessario consentire la connettività dagli IP in entrata di questa connessione.
      Nota
      
      Se una connessione dedicata rimane non assegnata per sette giorni, il servizio la converte in una connessione condivisa.
      
      Ulteriori informazioni sulla connettività di Oracle GoldenGate.
  - ImpostazioniPer utilizzare la compressione Snappy nella replica Kafka, trascinare la selezione o selezionare Proprietà del producer e modificare le impostazioni di replica come descritto in Utilizzo della replica Kafka Compression OCI GoldenGate (Confluent).
  - Tag: aggiunge tag per organizzare le risorse.
Fare clic su Crea.

Crea una connessione a Confluent Cloud con collegamenti privati

Private Link consente di accedere al cluster Confluent Cloud in esecuzione su un cloud di terze parti tramite un endpoint privato esistente nella rete virtuale.

Prima di creare la connessione, verificare di disporre dei seguenti elementi:

Crea la connettività di rete privata tra Oracle Cloud Infrastructure (OCI) e il cloud di terze parti di destinazione.
Durante l'aggiunta della configurazione di rete per il collegamento privato in Confluent Cloud, assicurarsi di selezionare Risoluzione DNS privata.
Configura le zone DNS e imposta i record DNS nel cloud di terze parti in cui hai configurato Confluent Cloud e in OCI. In OCI, puoi creare zone all'interno delle viste private della VCN. Nelle zone è possibile aggiungere i record DNS richiesti.

È possibile utilizzare le istruzioni precedenti per creare la connessione, ma al posto dei passi 5 e 6, effettuare le operazioni riportate di seguito.

Per il passo 3e:
- Fornire i dettagli relativi all'host e alla porta dei server Bootstrap.
- È possibile aggiungere più server Bootstrap.
Per 3f:
- Per il protocollo di sicurezza, selezionare SASL su testo non codificato.
- Immettere il nome utente e la password.

Risolvere gli errori di connessione a Kafka

La maggior parte dei problemi di connessione genera errori TimeoutException. Ad esempio:

A failure occurred sending a message to Kafka to topic [ggstest] org.apache.kafka.common.errors.TimeoutException: Topic ggstest not  present in metadata after 60000/120000 ms.

Se questo messaggio viene visualizzato nel file del report Replicat, è possibile:

Assicurarsi che l'argomento di destinazione sia presente o verificare che la creazione automatica dell'argomento sia abilitata nelle impostazioni Kafka di destinazione.
Assicurarsi che non vi siano regole firewall che bloccano il traffico.
Se si esegue Kafka su OCI con un endpoint privato, assicurarsi di utilizzare il nome FQDN interno come server di bootstrap in server.properties e nella connessione Kafka.
Se ti stai connettendo a un cloud Confluent con endpoint privati:
- Assicurarsi che le zone DNS e i record DNS siano configurati correttamente sia nel cloud OCI che nel cloud di terze parti di destinazione.
- Assicurarsi che la connessione di rete tra OCI e il cloud di destinazione funzioni correttamente.
- Eseguire il test per connettersi al cloud di destinazione Confluent con OpenSSL (openssl s_client -connect <bootstrap>) da una VM OCI in esecuzione nella stessa subnet connessa al cloud di terze parti.
- Test che puoi pubblicare o utilizzare i messaggi di un client Kafka in esecuzione su OCI all'interno della stessa subnet connessa al cloud di terze parti. In caso di errore, controlla le impostazioni di rete sia su OCI che sul cloud di terze parti.

Documentazione di Oracle Cloud Infrastructure