Monitoramento e Solução de Problemas de Pipelines

Todos os pipelines criados são registrados nas views DBMS_CLOUD_PIPELINE.

Exibir Informações de Status do Pipeline

Verifique o status do pipeline e obtenha outras informações do pipeline usando as views USER_CLOUD_PIPELINES ou DBA_CLOUD_PIPELINES. Por exemplo, a seguinte instrução SELECT com um predicado de cláusula WHERE no pipeline_name mostra que MY_TREE_DATA é um pipeline de carga e o pipeline é iniciado:

SELECT pipeline_name, pipeline_type, status FROM USER_CLOUD_PIPELINES
   WHERE pipeline_name = 'MY_TREE_DATA';


PIPELINE_NAME PIPELINE_TYPE STATUS  
------------- ------------- ------- 
MY_TREE_DATA  LOAD          STARTED

Consulte DBMS_CLOUD_PIPELINE Views para obter mais informações.

Exibir Atributos do Pipeline

Os atributos do pipeline podem ser monitorados consultando as views USER_CLOUD_PIPELINE_ATTRIBUTES ou DBA_CLOUD_PIPELINE_ATTRIBUTES. Consulte essas views para ver informações sobre o atributo do pipeline.

Por exemplo:

SELECT pipeline_name, attribute_name, attribute_value FROM user_cloud_pipeline_attributes
     WHERE pipeline_name = 'MY_TREE_DATA';

PIPELINE_NAME ATTRIBUTE_NAME  ATTRIBUTE_VALUE                                                                   
------------- --------------- --------------------------------------------------------------------------------- 
MY_TREE_DATA  credential_name DEF_CRED_OBJ_STORE                                                                
MY_TREE_DATA  format          {"type": "csv"}                                                                   
MY_TREE_DATA  interval        20                                                                                
MY_TREE_DATA  location        https://objectstorage.us-ashburn-1.oraclecloud.com/n/namespace/b/treetypes/o/ 
MY_TREE_DATA  priority        high                                                                              
MY_TREE_DATA  table_name      TREES

Consulte DBMS_CLOUD_PIPELINE Views para obter mais informações.

Exibir Histórico do Pipeline

As views USER_CLOUD_PIPELINE_HISTORY e DBA_CLOUD_PIPELINE_HISTORY mostram o estado dos jobs em execução. Use as views de histórico do pipeline para ajudá-lo a monitorar a integridade de um pipeline e detectar falhas em um pipeline em execução.

Por exemplo:

SELECT pipeline_id, pipeline_name, status, error_message  FROM user_cloud_pipeline_history      
     WHERE pipeline_name = 'MY_TREE_DATA';

PIPELINE_ID PIPELINE_NAME STATUS    ERROR_MESSAGE 
----------- ------------- --------- ------------- 
          7  MY_TREE_DATA SUCCEEDED

Consulte DBMS_CLOUD_PIPELINE Views para obter mais informações.

Tabela de Status do Pipeline: Monitoramento Adicional para Pipelines de Carga

A tabela de status do pipeline mostra cada nome de arquivo e seu status para um pipeline de carga. A coluna STATUS_TABLE em DBA_CLOUD_PIPELINES e USER_CLOUD_PIPELINES mostra o nome da tabela de status.

Por exemplo, a seguinte instrução SELECT com um predicado de cláusula WHERE no pipeline_name mostra o nome da tabela de status de um pipeline:

SELECT pipeline_name, status_table FROM user_cloud_pipelines
   WHERE pipeline_name = 'MY_TREE_DATA';

PIPELINE_NAME STATUS_TABLE
------------- --------------------
MY_TREE_DATA  PIPELINE$9$41_STATUS

Exiba a tabela de status para ver informações sobre o pipeline, incluindo o seguinte:

  • O número de erro relevante e a mensagem de erro serão registrados na tabela de status se uma operação em um arquivo específico falhar.

  • Para operações de pipeline concluídas, o tempo necessário para cada operação pode ser calculado usando os START_TIME e END_TIME reportados.

Por exemplo, o seguinte mostra que a operação de carregamento de dois arquivos falhou e um foi concluído:

SELECT id, name, status, error_code, error_message, sid FROM PIPELINE$9$41_STATUS;

ID NAME       STATUS    ERROR_CODE ERROR_MESSAGE                      SID 
-- ---------- --------- ---------- -------------------------------- ----- 
 1 trees1.txt FAILED         30653 ORA-30653: reject limit reached  18070 
 2 trees2.txt FAILED         30653 ORA-30653: reject limit reached  18070 
 3 trees3.txt COMPLETED                                             18070 

Os pipelines para carregar dados, em que pipeline_type é 'LOAD', reservam um ID mostrado em USER_LOAD_OPERATIONS e em DBA_LOAD_OPERATIONS. O valor ID nessas views é mapeado para OPERATION_ID do pipeline em USER_CLOUD_PIPELINES e DBA_CLOUD_PIPELINES.

Para obter mais informações sobre um pipeline de carga, consulte OPERATION_ID do pipeline:

SELECT PIPELINE_NAME, OPERATION_ID FROM USER_CLOUD_PIPELINES
     WHERE PIPELINE_NAME = 'MY_TREE_DATA';

PIPELINE_NAME OPERATION_ID 
------------- ------------ 
MY_TREE_DATA            41

Em seguida, consulte USER_LOAD_OPERATIONS ou DBA_LOAD_OPERATIONS com um predicado de cláusula WHERE na coluna ID (usando o valor OPERATION_ID).

Por exemplo:

SELECT ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, STATUS_TABLE FROM USER_LOAD_OPERATIONS
     WHERE ID = 41;

ID TYPE     LOGFILE_TABLE     BADFILE_TABLE     STATUS_TABLE
-- -------- ----------------- ----------------- --------------------
41 PIPELINE PIPELINE$9$41_LOG PIPELINE$9$41_BAD PIPELINE$9$41_STATUS

Essa consulta mostra ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, se ela existir, e STATUS_TABLE. Você pode exibir essas tabelas para obter informações adicionais de carga de pipeline.

Detalhes da Tabela de Status do Pipeline

Coluna Tipo de dados Descrição
ID NUMBER Número exclusivo designado ao pipeline.
NAME VARCHAR2(4000) Nome do pipeline.
BYTES NUMBER Bytes
CHECKSUM VARCHAR2(128) Soma de verificação
LAST_MODIFIED TIMESTAMP(6) WITH TIME ZONE Horário da última modificação do pipeline.
STATUS VARCHAR2(30) O valor STATUS é um destes:
  • COMPLETED: A operação de arquivo foi concluída com sucesso.
  • FAILED: Falha na operação de arquivo; pode ser feita uma tentativa de repetição duas vezes.
  • PENDING: A operação de arquivo ainda não foi iniciada.
  • RUNNING: A operação de arquivo está em andamento no momento.
  • SKIPPED: A operação de arquivo foi ignorada.
ERROR_CODE NUMBER Código do erro
ERROR_MESSAGE VARCHAR2(4000) Mensagem de erro
START_TIME TIMESTAMP(6) WITH TIME ZONE Horário inicial do pipeline.
END_TIME TIMESTAMP(6) WITH TIME ZONE Hora final do pipeline.
SID NUMBER

A sessão SID e SERIAL# indicam a sessão de job que estava executando a operação de carga do pipeline.

SERIAL# NUMBER

A sessão SID e SERIAL# indicam a sessão de job que estava executando a operação de carga do pipeline.

ROWS_LOADED NUMBER Número de linhas carregadas.
OPERATION_ID NUMBER

reservado para uso futuro.

Arquivo de Log de Pipeline e Tabelas de Arquivos Inválidas

Para obter o arquivo de log e nomes de arquivo inválidos para um pipeline de carga, consulte OPERATION_ID do pipeline. Por exemplo:

SELECT PIPELINE_NAME, OPERATION_ID FROM USER_CLOUD_PIPELINES
     WHERE PIPELINE_NAME = 'MY_TREE_DATA';

PIPELINE_NAME OPERATION_ID 
------------- ------------ 
MY_TREE_DATA            41

Em seguida, consulte USER_LOAD_OPERATIONS ou DBA_LOAD_OPERATIONS com um predicado de cláusula WHERE na coluna ID (usando o valor OPERATION_ID).

Por exemplo:

SELECT ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, STATUS_TABLE FROM USER_LOAD_OPERATIONS
     WHERE ID = 41;

ID TYPE     LOGFILE_TABLE     BADFILE_TABLE     STATUS_TABLE
-- -------- ----------------- ----------------- --------------------
41 PIPELINE PIPELINE$9$41_LOG PIPELINE$9$41_BAD PIPELINE$9$41_STATUS

Essa consulta mostra ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, se ela existir, e STATUS_TABLE. Você pode exibir essas tabelas para obter informações adicionais de carga de pipeline.

Exiba a tabela de arquivos de log do pipeline para ver um log completo das operações de carga do pipeline.

Por exemplo:

SELECT * FROM PIPELINE$9$41_LOG;

Exiba a tabela de arquivos inválidos do pipeline para ver detalhes sobre registros de formato de entrada com erros. A tabela de arquivos inválida mostra informações das linhas que relatam erros durante o carregamento. Dependendo dos erros mostrados na tabela de arquivos de log e das linhas mostradas na tabela de arquivos inválidos do pipeline, talvez você possa corrigir os erros modificando as opções de atributo format do pipeline ou modificando os dados no arquivo que você está carregando.

Por exemplo:

SELECT * FROM PIPELINE$9$41_BAD;

Consulte Monitorar e Solucionar Problemas de Cargas para obter mais informações.