Fazendo Streaming com Métricas do Apache Kafka

Usando métricas, você pode monitorar clusters e pontos finais do Kafka no OCI Streaming com Apache Kafka.

Use o serviço OCI Monitoring para criar consultas e alarmes personalizados para notificá-lo quando essas métricas atenderem aos acionadores especificados pelo alarme.

Recomendamos que você monitore as métricas do cliente usando seus próprios painéis personalizados.

Métricas Disponíveis

Um namespace é um contêiner de métricas. O namespace do OCI Streaming com Apache Kafka é oci_kafka.

Use as seguintes métricas do serviço Streaming com Apache Kafka com as três dimensões a seguir:

  • brokerId: O ID do broker de cluster do Kafka.
  • resourceId: O OCID do cluster do Kafka.
  • resourceName: O nome do cluster do Kafka.
Métrica Unidade Descrição
BrokerActiveControllerCount Contagem Número de controladores ativos para cada broker. Deve ser sempre 1.
BrokerAvailableDiskSpace Porcentagem Porcentagem de espaço em disco disponível em cada broker.
BrokerBytesInTotal Bytes Número Total de bytes em um broker
BrokerBytesOutTotal Bytes Número Total de bytes de saída para um broker
BrokerConnectionCountPerListener Contagem Número total de conexões ativas com um broker do Kafka, divididas por listener (como PLAINTEXT e SSL).
BrokerCPUUsage Porcentagem Uso total da CPU para cada broker.
BrokerFailedFetchRequests Contagem Contagem cumulativa de solicitações de Extração que o broker retornou com um erro, sinalizando falhas de leitura visíveis para o cliente.
BrokerFailedProduceRequests Contagem Rastreia o número total de solicitações de produção (gravação) com falha recebidas pelo broker do Kafka.
BrokerMemoryUsed Porcentagem Total de heap + uso de memória não heap para cada broker.
BrokerNetworkProcessorAvgIdlePercentage Porcentagem A porcentagem média de inatividade dos threads de E/S de rede Kafka (também conhecidos como processadores de rede) ao longo do tempo.
BrokerOfflinePartitionsCount Contagem Número de partições atribuídas a um broker que estão off-line no momento.
BrokerOpenFileDescriptors Contagem Total de descritores de arquivo abertos em um broker.
BrokerRequestHandlerAvgIdlePercentage Porcentagem Mede a porcentagem média de tempo em que os threads do handler de solicitação do Kafka estão ociosos, indicando a capacidade de processamento disponível.
BrokerTotalFetchRequests Contagem Contagem cumulativa de cada solicitação de Extração que o broker processou, refletindo o volume geral de tráfego de leitura.
BrokerTotalIncomingMessages Contagem Conta o número total de mensagens recebidas pelo broker do Kafka em todos os tópicos e partições.
BrokerTotalProduceRequests Contagem Rastreia o número total de solicitações de produção (gravação) recebidas pelo broker do Kafka.
BrokerUnderReplicatedPartitions Contagem Mostra o número de partições que estão em replicação em um broker.

Recomendações

Exiba as recomendações das métricas disponíveis para garantir a operação íntegra dos clusters Kafka.

Você deve criar alarmes para monitorar os valores dessas métricas.

Métrica Recomendação de Limite de Alerta
BrokerCPUUsage

> 80% over 5 minutes

BrokerAvailableDiskSpace

< 20 GB

BrokerMemoryUsed

> 80%

BrokerActiveControllerCount

1

BrokerUnderReplicatedPartitions

> 0

BrokerOfflinePartitionsCount

> 0