使用 Apache Kafka 连接到 OCI Streaming

了解如何创建与 OCI Streaming with Apache Kafka 的连接,以用作 OCI GoldenGate 源或目标。

开始之前

确保:

使用 Apache Kafka 连接创建源 OCI Streaming

要创建源 OCI Streaming with Apache Kafka 连接,请执行以下操作:

  1. 从 OCI GoldenGate 概览页面中,选择连接

    您还可以在“入门”部分下选择创建连接,然后跳至步骤 3。

  2. 在“连接”页上,选择创建连接

  3. 在“Create Connection(创建连接)”页面上,按如下方式填写字段:

    1. 对于名称,输入连接的名称。

    2. (可选)对于说明,输入有助于将此连接与其他连接区分开来的说明。

    3. (仅限 GoldenGate on Multicloud )选择您的订阅,然后填写以下字段。

      1. 区间下拉列表中,选择资源锚点所在的区间。

      2. 选择多云合作伙伴区域

      3. 选择您的合作伙伴可用性区域。可用选项根据所选的多云合作伙伴区域进行填充。

    4. 对于区间,选择要在其中创建连接的区间。

    5. 对于类型,从下拉列表中选择 OCI Streaming with Apache Kafka。

    6. 对于引导服务器

      1. 为引导服务器输入 HostPort 编号。仅当无法从您的子网解析主机名或该主机名使用 SSL/TLS 时,才输入专用 IP。

        注:如果您输入专用 IP,则 OCI GoldenGate 将以 ip-10-0-0-0.ociggsvc.oracle.vcn.com 格式重写专用 IP。

        提示:群集中的所有节点都必须具有 FQDN 才能通过专用端点进行遍历。

      2. (可选)选择 + Bootstrap server 以添加其他引导服务器。

    7. 对于安全协议,请选择以下选项之一:

      • 明文

      • 基于纯文本的 SASL

      • 基于 SSL 的 SASL

      • SSL

      有关这些选项的更多信息,请参见 Managing cluster security

    8. 展开 Show advanced options 。您可以配置以下选项:

      • 安全

        • 取消选择您不希望为此连接使用密码密钥的使用 Vault 密钥。如果未选择:

          • 选择使用 Oracle 管理的加密密钥可将所有加密密钥管理保留给 Oracle。

          • 选择使用客户管理的加密密钥以选择存储在 OCI Vault 中的特定加密密钥来加密连接身份证明。

      • 网络连接

        • 共享端点:与分配的部署共享端点。必须允许从部署的入站 IP 进行连接。

        • 专用端点:通过 VCN 中已分配子网中的专用端点传输的网络流量。您必须允许从此连接的入站 IP 进行连接。

          注:

          • 如果专用连接在七天内保持未分配状态,则服务会将其转换为共享连接。
          • 详细了解 Oracle GoldenGate 连接
      • 设置

        • 如果将此连接用于提取,则拖放或选择使用者生产者属性文件 (.properties)。

        • 要从 Kafka 捕获,请使用以下反序列化器或转换器之一创建 Kafka 使用者属性文件 (.properties):

          • JSON 反序列化器的 Kafka 使用者属性:

            key.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer
            value.deserializer=org.apache.kafka.common.serialization.ByteArrayDeserializer
          • JSON 转换器的 Kafka 使用者属性:

            key.converter=org.apache.kafka.connect.json.JsonConverter
            value.converter=org.apache.kafka.connect.json.JsonConverter
          • 适用于 Avro 转换器的 Kafka 使用者属性:

            key.converter=io.confluent.connect.avro.AvroConverter
            value.converter=io.confluent.connect.avro.AvroConverter
      • 安全属性:添加安全属性以使用 Zero Trust Packet Routing (ZPR) 控制对此连接的访问。

      • 标记:添加标记来组织资源。

  4. 选择创建

创建连接后,该连接将显示在“Connections(连接)”列表中。确保将连接分配给部署,以将其用作源复制。

使用 Apache Kafka 连接创建目标 OCI Streaming

要创建目标 OCI Streaming with Apache Kafka 连接,请执行以下操作:

  1. 从 OCI GoldenGate 概览页面中,选择连接

    您还可以在“入门”部分下选择创建连接,然后跳至步骤 3。

  2. 在“连接”页上,选择创建连接

  3. 在“Create Connection(创建连接)”页面上,按如下方式填写字段:

    1. 对于名称,输入连接的名称。

    2. (可选)对于说明,输入有助于将此连接与其他连接区分开来的说明。

    3. (仅限 GoldenGate on Multicloud )选择您的订阅,然后填写以下字段。

      1. 区间下拉列表中,选择资源锚点所在的区间。

      2. 选择多云合作伙伴区域

      3. 选择您的合作伙伴可用性区域。可用选项根据所选的多云合作伙伴区域进行填充。

    4. 对于区间,选择要在其中创建连接的区间。

    5. 对于类型,从下拉列表中选择 OCI Streaming with Apache Kafka。

    6. 对于引导服务器

      1. 为引导服务器输入 HostPort 编号。仅当无法从您的子网解析主机名或该主机名使用 SSL/TLS 时,才输入专用 IP。

        注:如果您输入专用 IP,则 OCI GoldenGate 将以 ip-10-0-0-0.ociggsvc.oracle.vcn.com 格式重写专用 IP。

        提示:群集中的所有节点都必须具有 FQDN 才能通过专用端点进行遍历。

      2. (可选)选择 + Bootstrap server 以添加其他引导服务器。

    7. 对于安全协议,请选择以下选项之一:

      • 明文

      • 基于纯文本的 SASL

      • 基于 SSL 的 SASL

      • SSL

      有关这些选项的更多信息,请参见 Managing cluster security

    8. 展开 Show advanced options 。您可以配置以下选项:

      • 安全

        • 取消选择您不希望为此连接使用密码密钥的使用 Vault 密钥。如果未选择:

          • 选择使用 Oracle 管理的加密密钥可将所有加密密钥管理保留给 Oracle。

          • 选择使用客户管理的加密密钥以选择存储在 OCI Vault 中的特定加密密钥来加密连接身份证明。

      • 网络连接

        • 共享端点:与分配的部署共享端点。必须允许从部署的入站 IP 进行连接。

        • 专用端点:通过 VCN 中已分配子网中的专用端点传输的网络流量。您必须允许从此连接的入站 IP 进行连接。

          注:

          • 如果专用连接在七天内保持未分配状态,则服务会将其转换为共享连接。
          • 详细了解 Oracle GoldenGate 连接
      • 设置:要在 Kafka 复制中使用 Snappy 压缩,请拖放或选择生成器属性,并更改复制设置,如使用压缩 OCI GoldenGate(Confluent) Kafka 复制中所述。

      • 安全属性:添加安全属性以使用 Zero Trust Packet Routing (ZPR) 控制对此连接的访问。

      • 标记:添加标记来组织资源。

  4. 选择创建

创建连接后,该连接将显示在“Connections(连接)”列表中。确保将连接分配给部署,以将其用作复制中的源或目标。

后续步骤

排除 Kafka 连接错误

大多数连接问题都会导致 TimeoutException 错误。例如:

A failure occurred sending a message to Kafka to topic [ggstest] org.apache.kafka.common.errors.TimeoutException: Topic ggstest not  present in metadata after 60000/120000 ms.

如果在 Replicat 报告文件中遇到此消息,您可以: