Conéctese a Confluent Kafka
Descubra cómo crear una conexión a Confluent Kafka, que se utiliza con la conexión de Confluent Schema Registry, para que sirva como origen o destino en un despliegue de OCI GoldenGate Big Data.
Antes de empezar
Asegúrese de que:
-
Consulte cómo se conecta OCI GoldenGate a su origen y destinos.
-
Configure las políticas necesarias para permitir el acceso seguro a Vault y Secrets, como el uso de secretos, el uso de almacenes y la lectura de paquetes secretos. Para obtener más información, consulte Políticas mínimas recomendadas.
-
Si utiliza TLS/mTLS, convierta el almacén de confianza o el almacén de confianza de JKS y el almacén de claves al formato
PKCS12para utilizarlo en la conexión.-
Utilice la utilidad keytool en el JDK para convertir al formato PKCS12.
Para el almacén de claves, la utilidad keytool le solicita una contraseña, como se muestra en el siguiente ejemplo:
keytool -importkeystore -srckeystore [MY_KEYSTORE.jks] -destkeystore [MY_KEYSTORE.p12] -srcstoretype JKS -deststoretype PKCS12 -deststorepass [PASSWORD_PKCS12]Para el almacén de confianza, la utilidad keytool solicita una contraseña, como se muestra en el siguiente ejemplo:
keytool -importkeystore -srckeystore [MY_TRUSTSTORE.jks] -destkeystore [MY_TRUSTSTORE.p12] -srcstoretype JKS -deststoretype PKCS12 -deststorepass [PASSWORD_PKCS12] -
Después de convertir el almacén de claves y el almacén de confianza, agregue las siguientes líneas al archivo de propiedades del productor de Kafka y, a continuación, guarde los cambios:
ssl.truststore.type=PKCS12 ssl.keystore.type=PKCS12 -
Cargue el archivo en las propiedades del productor de la conexión en la sección Configuración de Opciones avanzadas.
-
-
Crear una conexión a Confluent Schema Registry que se utilizará junto con esta conexión. A continuación, debe asignar ambas conexiones al mismo despliegue de OCI GoldenGate Big Data.
Crear una conexión de origen
Para crear una conexión Confluent Kafka de origen:
-
En la página Visión general de OCI GoldenGate, seleccione Conexiones.
También puede seleccionar Crear conexión en la sección Introducción y saltar al paso 3.
-
En la página Conexiones, seleccione Crear conexión.
-
En la página Crear conexión, complete los campos como se indica a continuación:
-
En Nombre, introduzca un nombre para la conexión.
-
(Opcional) En Descripción, introduzca una descripción que le ayude a distinguir esta conexión de otras.
-
(Solo para GoldenGate en multinube) Seleccione su suscripción y, a continuación, complete los siguientes campos.
-
En la lista desplegable Compartimento, seleccione el compartimento en el que reside el anclaje de recursos.
-
Seleccione la región de socios multinube.
-
Seleccione su zona de disponibilidad de partners. Las opciones disponibles se rellenan en función de la región de socio multinube seleccionada.
-
-
En Compartimento, seleccione el compartimento en que desea crear la conexión.
-
En la lista desplegable Tipo, seleccione Confluent Kafka.
-
En Servidores de inicialización de datos:
-
Introduzca el número de Host y Puerto del servidor de inicialización de datos. Introduzca la IP privada solo si el nombre del host no se puede resolver desde su subred o si utiliza SSL/TLS.
Nota: Si introduce una IP privada, OCI GoldenGate reescribe la IP privada con el formato
ip-10-0-0-0.ociggsvc.oracle.vcn.com.Consejo: todos los nodos del cluster deben tener FQDN para permitir el recorrido a través de puntos finales privados.
-
(Opcional) Seleccione + Servidor de inicialización de datos para agregar otro servidor de inicialización.
-
-
Para el protocolo de seguridad, seleccione una de estas opciones:
-
texto sin formato
-
SASL en texto sin formato y, a continuación, proporcione el nombre de usuario y la contraseña.
-
SASL mediante SSL y, a continuación, proporcione los valores de nombre de usuario, contraseña y almacén de confianza y almacén de claves según sea necesario.
-
SSL y, a continuación, proporcione los valores del almacén de confianza y del almacén de claves según sea necesario.
-
-
Amplíe Mostrar opciones avanzadas. Puede configurar las siguientes opciones:
-
Seguridad
-
Anule la selección de Usar secretos de almacén que prefiera no utilizar secretos de contraseña para esta conexión. Si no está seleccionado:
-
Seleccione Usar clave de cifrado gestionada por Oracle para dejar toda la gestión de claves de cifrado en Oracle.
-
Seleccione Usar clave de cifrado gestionada por el cliente para seleccionar una clave de cifrado específica almacenada en OCI Vault para cifrar las credenciales de conexión.
-
-
-
Conectividad de Red
-
Punto final compartido, para compartir un punto final con el despliegue asignado. Debe permitir la conectividad desde la IP de entrada del despliegue.
-
Punto final dedicado, para el tráfico de red a través de un punto final dedicado en la subred asignada de la VCN. Debe permitir la conectividad desde las IP de entrada de esta conexión.
Nota:
- Si una conexión dedicada permanece sin asignar durante siete días, el servicio la convierte en una conexión compartida.
- Obtenga más información sobre la conectividad de Oracle GoldenGate.
-
-
Configuración: para capturar desde Kafka, cree un archivo de propiedades de consumidor de Kafka con uno de los siguientes deserializadores o convertidores:
-
Propiedades de consumidor de Kafka para el deserializador JSON:
key.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer value.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer -
Propiedades de consumidor de Kafka para el conversor de JSON:
key.converter=org.apache.kafka.connect.json.JsonConverter value.converter=org.apache.kafka.connect.json.JsonConverter -
Kafka Propiedades de consumo para convertidor Avro:
key.converter=io.confluent.connect.avro.AvroConverter value.converter=io.confluent.connect.avro.AvroConverter
-
-
Atributos de seguridad: agregue atributos de seguridad para controlar el acceso a esta conexión mediante Enrutamiento de paquetes de confianza cero (ZPR).
-
Etiquetas: agregue etiquetas para organizar los recursos.
-
-
-
Seleccione Crear.
La conexión aparecerá en la lista Conexiones, donde puede seleccionarla para ver los detalles. Asegúrese de que también crea una conexión a Confluent Schema Registry y, a continuación, asigne ambas conexiones a un despliegue de Big Data.
Crear una conexión de destino
Para crear una conexión Confluent Kafka de destino:
-
En la página Visión general de OCI GoldenGate, seleccione Conexiones.
También puede seleccionar Crear conexión en la sección Introducción y saltar al paso 3.
-
En la página Conexiones, seleccione Crear conexión.
-
En la página Crear conexión, complete los campos como se indica a continuación:
-
En Nombre, introduzca un nombre para la conexión.
-
(Opcional) En Descripción, introduzca una descripción que le ayude a distinguir esta conexión de otras.
-
(Solo para GoldenGate en multinube) Seleccione su suscripción y, a continuación, complete los siguientes campos.
-
En la lista desplegable Compartimento, seleccione el compartimento en el que reside el anclaje de recursos.
-
Seleccione la región de socios multinube.
-
Seleccione su zona de disponibilidad de partners. Las opciones disponibles se rellenan en función de la región de socio multinube seleccionada.
-
-
En Compartimento, seleccione el compartimento en que desea crear la conexión.
-
En la lista desplegable Tipo, seleccione Confluent Kafka.
-
En Servidores de inicialización de datos:
-
Seleccione un método de enrutamiento de tráfico:
-
Introduzca el número de Host y Puerto del servidor de inicialización de datos. Introduzca la IP privada solo si el nombre del host no se puede resolver desde su subred o si utiliza SSL/TLS.
Nota: Si introduce una IP privada, OCI GoldenGate reescribe la IP privada con el formato
ip-10-0-0-0.ociggsvc.oracle.vcn.com.Consejo: todos los nodos del cluster deben tener FQDN para permitir el recorrido a través de puntos finales privados.
-
(Opcional) Seleccione + Servidor de inicialización de datos para agregar otro servidor de inicialización.
-
-
Para el protocolo de seguridad, seleccione una de estas opciones:
-
texto sin formato
-
SASL en texto sin formato y, a continuación, proporcione el nombre de usuario y la contraseña.
-
SASL mediante SSL y, a continuación, proporcione los valores de nombre de usuario, contraseña y almacén de confianza y almacén de claves según sea necesario.
-
SSL y, a continuación, proporcione los valores del almacén de confianza y del almacén de claves según sea necesario.
-
-
Amplíe Mostrar opciones avanzadas. Puede configurar las siguientes opciones:
-
Seguridad
-
Anule la selección de Usar secretos de almacén que prefiera no utilizar secretos de contraseña para esta conexión. Si no está seleccionado:
-
Seleccione Usar clave de cifrado gestionada por Oracle para dejar toda la gestión de claves de cifrado en Oracle.
-
Seleccione Usar clave de cifrado gestionada por el cliente para seleccionar una clave de cifrado específica almacenada en OCI Vault para cifrar las credenciales de conexión.
-
-
-
Conectividad de Red
-
Punto final compartido, para compartir un punto final con el despliegue asignado. Debe permitir la conectividad desde la IP de entrada del despliegue.
-
Punto final dedicado, para el tráfico de red a través de un punto final dedicado en la subred asignada de la VCN. Debe permitir la conectividad desde las IP de entrada de esta conexión.
Nota:
- Si una conexión dedicada permanece sin asignar durante siete días, el servicio la convierte en una conexión compartida.
- Obtenga más información sobre la conectividad de Oracle GoldenGate.
-
-
Configuración: para utilizar la compresión Snappy en la replicación de Kafka, arrastre y suelte o seleccione Propiedades del productor y cambie la configuración de replicación como se describe en Uso de la replicación de Kafka de Compression OCI GoldenGate (Confluent).
-
Atributos de seguridad: agregue atributos de seguridad para controlar el acceso a esta conexión mediante Enrutamiento de paquetes de confianza cero (ZPR).
-
Etiquetas: agregue etiquetas para organizar los recursos.
-
-
-
Seleccione Crear.
La conexión aparecerá en la lista Conexiones, donde puede seleccionarla para ver los detalles. Asegúrese de que también crea una conexión a Confluent Schema Registry y, a continuación, asigne ambas conexiones a un despliegue de Big Data.
Crear una conexión a Confluent Cloud con enlaces privados
Private Link le permite acceder a su cluster de Confluent Cloud que se ejecuta en una nube de terceros a través de un punto final privado que existe en su red virtual.
Antes de crear la conexión, asegúrese de tener lo siguiente:
-
Cree conectividad de red privada entre Oracle Cloud Infrastructure (OCI) y la nube de terceros de destino.
-
Al agregar la configuración de red para el enlace privado en Confluent Cloud, asegúrese de seleccionar la resolución de DNS privado.
-
Configure las zonas de DNS y configure los registros de DNS en la nube de terceros en la que haya configurado Confluent Cloud y en OCI. En OCI, puede crear zonas en las vistas privadas de su VCN. En las zonas, puede agregar los registros DNS necesarios.
Puede utilizar las instrucciones anteriores para crear la conexión, pero en lugar de los pasos 5 y 6, realice lo siguiente:
-
Para el paso 3e:
-
Proporcione los detalles de puerto y host de los servidores de inicialización de datos.
-
Puede agregar varios servidores de inicialización de datos.
-
-
Para 3f:
-
Para el protocolo de seguridad, seleccione SASL over Plaintext.
-
Introduzca el nombre de usuario y la contraseña
-
Pasos siguientes
Solucionar errores de conexión de Kafka
La mayoría de los problemas de conexión generan errores de TimeoutException. Por ejemplo:
A failure occurred sending a message to Kafka to topic [ggstest] org.apache.kafka.common.errors.TimeoutException: Topic ggstest not present in metadata after 60000/120000 ms.
Si encuentra este mensaje en el archivo de informe de Replicat, puede:
-
Asegúrese de que el tema de destino está presente o compruebe que la creación automática de temas está activada en la configuración de Kafka de destino.
-
Asegúrese de que no haya reglas de firewall que bloqueen el tráfico.
-
Si está ejecutando Kafka en OCI con un punto final privado, asegúrese de utilizar el FQDN interno como servidor de inicialización de datos en server.properties y en la conexión de Kafka.
-
Si se conecta a una nube confluente con puntos finales privados:
-
Asegúrese de que las zonas de DNS y los registros de DNS estén configurados correctamente tanto en OCI como en la nube de terceros de destino.
-
Asegúrese de que la conexión de red entre OCI y la nube de destino funciona bien.
-
Compruebe que puede conectarse a Confluent Cloud de destino con OpenSSL (
openssl s_client -connect <bootstrap>) desde una máquina virtual de OCI que se ejecuta en la misma subred conectada a la nube de terceros. -
Compruebe que puede publicar o consumir mensajes de un cliente de Kafka que se ejecuta en OCI en la misma subred conectada a la nube de terceros. Si falla, compruebe la configuración de red tanto en OCI como en la nube de terceros.
-