Verbindung zu Confluent Kafka herstellen

Hier erfahren Sie, wie Sie eine Verbindung zu Confluent Kafka erstellen, die Sie mit der Confluent Schema Registry-Verbindung verwenden, um als Quelle oder Ziel in einem OCI GoldenGate Big Data-Deployment zu dienen.

Bevor Sie beginnen

Bevor Sie die Verbindung erstellen, stellen Sie sicher, dass Sie:

Quellverbindung erstellen

So erstellen Sie eine Confluent Kafka-Quellverbindung:
  1. Klicken Sie auf der OCI GoldenGate-Seite "Überblick" auf Verbindungen.
    Sie können auch im Abschnitt "Schnelleinstieg" auf Verbindung erstellen klicken und mit Schritt 3 fortfahren.
  2. Klicken Sie auf der Seite Verbindungen auf Verbindung erstellen.
  3. Füllen Sie auf der Seite "Verbindung erstellen" die Felder wie folgt aus:
    1. Geben Sie unter Name einen Namen für die Verbindung ein.
    2. (Optional) Geben Sie unter Beschreibung eine Beschreibung ein, mit der Sie diese Verbindung von anderen unterscheiden können.
    3. Wählen Sie unter Compartment das Compartment aus, in dem die Verbindung erstellt werden soll.
    4. Wählen Sie in der Dropdown-Liste Typ die Option Confluent Kafka aus.
    5. Unter Bootstrap-Servern:
      1. Geben Sie den Host und die Portnummer für den Bootstrap-Server ein. Geben Sie die private IP nur ein, wenn der Hostname aus Ihrem Subnetz nicht aufgelöst werden kann oder SSL/TLS verwendet wird.

        Hinweis:

        Wenn Sie eine private IP eingeben, schreibt OCI GoldenGate die private IP im Format ip-10-0-0-0.ociggsvc.oracle.vcn.com neu.

        Tipp:

        Alle Knoten im Cluster müssen FQDNs aufweisen, um das Durchlaufen über private Endpunkte zu ermöglichen.
      2. (Optional) Klicken Sie auf + Bootstrap-Server, um einen weiteren Bootstrap-Server hinzuzufügen.
    6. Wählen Sie unter Sicherheitsprotokoll eine der folgenden Optionen aus:
      • Einfacher Text
      • SASL über Klartext, und geben Sie dann den Benutzernamen und das Kennwort an.
      • SASL über SSL, und geben Sie dann nach Bedarf die Werte für Benutzername, Kennwort und Truststore und Keystore an.
      • SSL, und geben Sie dann die Truststore- und Keystore-Werte nach Bedarf an.
    7. Klicken Sie auf Erweiterte Optionen anzeigen. Sie können folgende Optionen konfigurieren:
      • Sicherheit
        • Heben Sie die Auswahl von Vault Secrets verwenden auf, ohne Kennwort-Secrets für diese Verbindung zu verwenden. Wenn diese Option nicht ausgewählt ist, gilt Folgendes:
          • Wählen Sie Von Oracle verwalteten Verschlüsselungsschlüssel verwenden aus, um Oracle die gesamte Verschlüsselungsschlüsselverwaltung zu überlassen.
          • Wählen Sie Vom Kunden verwalteten Verschlüsselungsschlüssel verwenden aus, um einen bestimmten Verschlüsselungsschlüssel auszuwählen, der in Ihrem OCI Vault gespeichert ist, um Ihre Verbindungszugangsdaten zu verschlüsseln.
      • Netzwerkverbindungen
        • Gemeinsamer Endpunkt, um einen Endpunkt für das zugewiesene Deployment freizugeben. Sie müssen die Konnektivität von der Ingress-IP des Deployments zulassen.
        • Dedizierter Endpunkt für Netzwerktraffic über einen dedizierten Endpunkt im zugewiesenen Subnetz in Ihrem VCN. Sie müssen die Konnektivität von den Ingress-IPs dieser Verbindung zulassen.

          Hinweis:

          • Wenn eine dedizierte Verbindung sieben Tage lang nicht zugewiesen bleibt, konvertiert der Service sie in eine gemeinsame Verbindung.
          • Weitere Informationen zur Oracle GoldenGate-Konnektivität.
      • EinstellungenUm von Kafka zu erfassen, erstellen Sie eine Kafka Consumer-Eigenschaftendatei mit einem der folgenden Deserializer oder Konverter:
        • Kafka-Consumer-Eigenschaften für JSON-Deserializer:
          key.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer
          value.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer
        • Kafka Consumer-Eigenschaften für JSON-Konverter:
          key.converter=org.apache.kafka.connect.json.JsonConverter
          value.converter=org.apache.kafka.connect.json.JsonConverter
        • Kafka Consumer-Eigenschaften für Avro-Konverter:
          key.converter=io.confluent.connect.avro.AvroConverter
          value.converter=io.confluent.connect.avro.AvroConverter
      • Tags: Fügen Sie Tags hinzu, um Ihre Ressourcen zu organisieren.
  4. Klicken Sie auf Create.
Die Verbindung wird in der Liste "Verbindungen" angezeigt. Dort können Sie sie auswählen, um die zugehörigen Details anzuzeigen. Stellen Sie sicher, dass Sie auch eine Verbindung zu Confluent Schema Registry erstellen und dann beide Verbindungen einem Big Data-Deployment zuweisen.

Zielverbindung erstellen

So erstellen Sie eine Confluent Kafka-Zielverbindung:
  1. Klicken Sie auf der OCI GoldenGate-Seite "Überblick" auf Verbindungen.
    Sie können auch im Abschnitt "Schnelleinstieg" auf Verbindung erstellen klicken und mit Schritt 3 fortfahren.
  2. Klicken Sie auf der Seite Verbindungen auf Verbindung erstellen.
  3. Füllen Sie auf der Seite "Verbindung erstellen" die Felder wie folgt aus:
    1. Geben Sie unter Name einen Namen für die Verbindung ein.
    2. (Optional) Geben Sie unter Beschreibung eine Beschreibung ein, mit der Sie diese Verbindung von anderen unterscheiden können.
    3. Wählen Sie unter Compartment das Compartment aus, in dem die Verbindung erstellt werden soll.
    4. Wählen Sie in der Dropdown-Liste Typ die Option Confluent Kafka aus.
    5. Unter Bootstrap-Servern:
      1. Wählen Sie eine Traffic-Routingmethode:
      2. Geben Sie den Host und die Portnummer für den Bootstrap-Server ein. Geben Sie die private IP nur ein, wenn der Hostname aus Ihrem Subnetz nicht aufgelöst werden kann oder SSL/TLS verwendet wird.

        Hinweis:

        Wenn Sie eine private IP eingeben, schreibt OCI GoldenGate die private IP im Format ip-10-0-0-0.ociggsvc.oracle.vcn.com neu.

        Tipp:

        Alle Knoten im Cluster müssen FQDNs aufweisen, um das Durchlaufen über private Endpunkte zu ermöglichen.
      3. (Optional) Klicken Sie auf + Bootstrap-Server, um einen weiteren Bootstrap-Server hinzuzufügen.
    6. Wählen Sie unter Sicherheitsprotokoll eine der folgenden Optionen aus:
      • Einfacher Text
      • SASL über Klartext, und geben Sie dann den Benutzernamen und das Kennwort an.
      • SASL über SSL, und geben Sie dann nach Bedarf die Werte für Benutzername, Kennwort und Truststore und Keystore an.
      • SSL, und geben Sie dann die Truststore- und Keystore-Werte nach Bedarf an.
    7. Klicken Sie auf Erweiterte Optionen anzeigen. Sie können folgende Optionen konfigurieren:
      • Sicherheit
        • Heben Sie die Auswahl von Vault Secrets verwenden auf, ohne Kennwort-Secrets für diese Verbindung zu verwenden. Wenn diese Option nicht ausgewählt ist, gilt Folgendes:
          • Wählen Sie Von Oracle verwalteten Verschlüsselungsschlüssel verwenden aus, um Oracle die gesamte Verschlüsselungsschlüsselverwaltung zu überlassen.
          • Wählen Sie Vom Kunden verwalteten Verschlüsselungsschlüssel verwenden aus, um einen bestimmten Verschlüsselungsschlüssel auszuwählen, der in Ihrem OCI Vault gespeichert ist, um Ihre Verbindungszugangsdaten zu verschlüsseln.
      • Netzwerkverbindungen
        • Gemeinsamer Endpunkt, um einen Endpunkt für das zugewiesene Deployment freizugeben. Sie müssen die Konnektivität von der Ingress-IP des Deployments zulassen.
        • Dedizierter Endpunkt für Netzwerktraffic über einen dedizierten Endpunkt im zugewiesenen Subnetz in Ihrem VCN. Sie müssen die Konnektivität von den Ingress-IPs dieser Verbindung zulassen.

          Hinweis:

          • Wenn eine dedizierte Verbindung sieben Tage lang nicht zugewiesen bleibt, konvertiert der Service sie in eine gemeinsame Verbindung.
          • Weitere Informationen zur Oracle GoldenGate-Konnektivität.
      • EinstellungenUm Snappy-Komprimierung in der Kafka-Replikation zu verwenden, ziehen Sie sie per Drag-and-Drop, oder wählen Sie Producereigenschaften aus, und ändern Sie die Replikationseinstellungen, wie unter Compression OCI GoldenGate (Confluent) Kafka-Replikation verwenden beschrieben.
      • Tags: Fügen Sie Tags hinzu, um Ihre Ressourcen zu organisieren.
  4. Klicken Sie auf Create.
Die Verbindung wird in der Liste "Verbindungen" angezeigt. Dort können Sie sie auswählen, um die zugehörigen Details anzuzeigen. Stellen Sie sicher, dass Sie auch eine Verbindung zu Confluent Schema Registry erstellen und dann beide Verbindungen einem Big Data-Deployment zuweisen.

Verbindung zu Confluent Cloud mit privaten Links erstellen

Mit dem privaten Link können Sie über einen privaten Endpunkt, der in Ihrem virtuellen Netzwerk vorhanden ist, auf Ihr Confluent Cloud-Cluster zugreifen, das in einer Drittanbieter-Cloud ausgeführt wird.

Stellen Sie vor dem Erstellen der Verbindung Folgendes sicher:

  • Erstellen Sie private Netzwerkkonnektivität zwischen Oracle Cloud Infrastructure (OCI) und der Ziel-Cloud eines Drittanbieters.
  • Stellen Sie beim Hinzufügen der Netzwerkkonfiguration für den privaten Link in Confluent Cloud sicher, dass Sie die Option "Private DNS-Auflösung" auswählen.
  • Konfigurieren Sie DNS-Zonen, und richten Sie DNS-Datensätze in der Drittanbieter-Cloud ein, in der Sie Confluent Cloud und in OCI konfiguriert haben. In OCI können Sie Zonen in den privaten Ansichten des VCN erstellen. Innerhalb von Zonen können Sie die erforderlichen DNS-Datensätze hinzufügen.

Sie können die oben genannten Anweisungen verwenden, um die Verbindung zu erstellen. Führen Sie jedoch anstelle der Schritte 5 und 6 folgende Schritte aus:

  • Für Schritt 3e:
    • Geben Sie die Host- und Portdetails der Bootstrap-Server an.
    • Sie können mehrere Bootstrap-Server hinzufügen.
  • Für 3f:
    • Wählen Sie für das Sicherheitsprotokoll die Option SASL over Plaintext.
    • Geben Sie den Benutzernamen und das Kennwort ein.

Kafka-Verbindungsfehler beheben

Die meisten Verbindungsprobleme führen zu TimeoutException-Fehlern. Beispiel:

A failure occurred sending a message to Kafka to topic [ggstest] org.apache.kafka.common.errors.TimeoutException: Topic ggstest not  present in metadata after 60000/120000 ms.

Wenn diese Meldung in der Replicat-Berichtsdatei angezeigt wird, können Sie:

  • Stellen Sie sicher, dass das Zielthema vorhanden ist, oder prüfen Sie, ob die automatische Themenerstellung in den Kafka-Zieleinstellungen aktiviert ist.
  • Stellen Sie sicher, dass keine Firewallregeln den Traffic blockieren.
  • Wenn Sie Kafka auf OCI mit einem privaten Endpunkt ausführen, stellen Sie sicher, dass Sie den internen FQDN als Bootstrap-Server in server.properties und in der Kafka-Verbindung verwenden.
  • Wenn Sie eine Verbindung zu einer Confluent Cloud mit privaten Endpunkten herstellen:
    • Stellen Sie sicher, dass die DNS-Zonen und DNS-Datensätze sowohl in OCI als auch in der Cloud des Zieldrittanbieters ordnungsgemäß konfiguriert sind.
    • Stellen Sie sicher, dass die Netzwerkverbindung zwischen OCI und der Ziel-Cloud einwandfrei funktioniert.
    • Testen Sie, ob Sie über eine OCI-VM, die im selben Subnetz ausgeführt wird, das mit der Drittanbieter-Cloud verbunden ist, eine Verbindung zur Confluent Cloud mit OpenSSL (openssl s_client -connect <bootstrap>) herstellen können.
    • Testen Sie, ob Sie Nachrichten von einem Kafka-Client, der auf OCI ausgeführt wird, in demselben Subnetz veröffentlichen oder konsumieren können, das mit der Drittanbieter-Cloud verbunden ist. Wenn dies nicht erfolgreich ist, prüfen Sie Ihre Netzwerkeinstellungen sowohl in OCI als auch in der Cloud eines Drittanbieters.