Monitoramento e Solução de Problemas de Pipelines
Todos os pipelines criados são registrados nas views DBMS_CLOUD_PIPELINE
.
Exibir Informações de Status do Pipeline
Verifique o status do pipeline e obtenha outras informações do pipeline usando as views USER_CLOUD_PIPELINES
ou DBA_CLOUD_PIPELINES
. Por exemplo, a seguinte instrução SELECT
com um predicado de cláusula WHERE
no pipeline_name
mostra que MY_TREE_DATA
é um pipeline de carga e o pipeline é iniciado:
SELECT pipeline_name, pipeline_type, status FROM USER_CLOUD_PIPELINES
WHERE pipeline_name = 'MY_TREE_DATA';
PIPELINE_NAME PIPELINE_TYPE STATUS
------------- ------------- -------
MY_TREE_DATA LOAD STARTED
Consulte DBMS_CLOUD_PIPELINE Views para obter mais informações.
Exibir Atributos do Pipeline
Os atributos do pipeline podem ser monitorados consultando as views USER_CLOUD_PIPELINE_ATTRIBUTES
ou DBA_CLOUD_PIPELINE_ATTRIBUTES
. Consulte essas views para ver informações sobre o atributo do pipeline.
Por exemplo:
SELECT pipeline_name, attribute_name, attribute_value FROM user_cloud_pipeline_attributes
WHERE pipeline_name = 'MY_TREE_DATA';
PIPELINE_NAME ATTRIBUTE_NAME ATTRIBUTE_VALUE
------------- --------------- ---------------------------------------------------------------------------------
MY_TREE_DATA credential_name DEF_CRED_OBJ_STORE
MY_TREE_DATA format {"type": "csv"}
MY_TREE_DATA interval 20
MY_TREE_DATA location https://objectstorage.us-ashburn-1.oraclecloud.com/n/namespace/b/treetypes/o/
MY_TREE_DATA priority high
MY_TREE_DATA table_name TREES
Consulte DBMS_CLOUD_PIPELINE Views para obter mais informações.
Exibir Histórico do Pipeline
As views USER_CLOUD_PIPELINE_HISTORY
e DBA_CLOUD_PIPELINE_HISTORY
mostram o estado dos jobs em execução. Use as views de histórico do pipeline para ajudá-lo a monitorar a integridade de um pipeline e detectar falhas em um pipeline em execução.
Por exemplo:
SELECT pipeline_id, pipeline_name, status, error_message FROM user_cloud_pipeline_history
WHERE pipeline_name = 'MY_TREE_DATA';
PIPELINE_ID PIPELINE_NAME STATUS ERROR_MESSAGE
----------- ------------- --------- -------------
7 MY_TREE_DATA SUCCEEDED
Consulte DBMS_CLOUD_PIPELINE Views para obter mais informações.
Tabela de Status do Pipeline: Monitoramento Adicional para Pipelines de Carga
A tabela de status do pipeline mostra cada nome de arquivo e seu status para um pipeline de carga. A coluna STATUS_TABLE
em DBA_CLOUD_PIPELINES
e USER_CLOUD_PIPELINES
mostra o nome da tabela de status.
Por exemplo, a seguinte instrução SELECT
com um predicado de cláusula WHERE
no pipeline_name
mostra o nome da tabela de status de um pipeline:
SELECT pipeline_name, status_table FROM user_cloud_pipelines
WHERE pipeline_name = 'MY_TREE_DATA';
PIPELINE_NAME STATUS_TABLE
------------- --------------------
MY_TREE_DATA PIPELINE$9$41_STATUS
Exiba a tabela de status para ver informações sobre o pipeline, incluindo o seguinte:
-
O número de erro relevante e a mensagem de erro serão registrados na tabela de status se uma operação em um arquivo específico falhar.
-
Para operações de pipeline concluídas, o tempo necessário para cada operação pode ser calculado usando os
START_TIME
eEND_TIME
reportados.
Por exemplo, o seguinte mostra que a operação de carregamento de dois arquivos falhou e um foi concluído:
SELECT id, name, status, error_code, error_message, sid FROM PIPELINE$9$41_STATUS;
ID NAME STATUS ERROR_CODE ERROR_MESSAGE SID
-- ---------- --------- ---------- -------------------------------- -----
1 trees1.txt FAILED 30653 ORA-30653: reject limit reached 18070
2 trees2.txt FAILED 30653 ORA-30653: reject limit reached 18070
3 trees3.txt COMPLETED 18070
Os pipelines para carregar dados, em que pipeline_type
é 'LOAD'
, reservam um ID
mostrado em USER_LOAD_OPERATIONS
e em DBA_LOAD_OPERATIONS
. O valor ID
nessas views é mapeado para OPERATION_ID
do pipeline em USER_CLOUD_PIPELINES
e DBA_CLOUD_PIPELINES
.
Para obter mais informações sobre um pipeline de carga, consulte OPERATION_ID
do pipeline:
SELECT PIPELINE_NAME, OPERATION_ID FROM USER_CLOUD_PIPELINES
WHERE PIPELINE_NAME = 'MY_TREE_DATA';
PIPELINE_NAME OPERATION_ID
------------- ------------
MY_TREE_DATA 41
Em seguida, consulte USER_LOAD_OPERATIONS
ou DBA_LOAD_OPERATIONS
com um predicado de cláusula WHERE
na coluna ID
(usando o valor OPERATION_ID
).
Por exemplo:
SELECT ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, STATUS_TABLE FROM USER_LOAD_OPERATIONS
WHERE ID = 41;
ID TYPE LOGFILE_TABLE BADFILE_TABLE STATUS_TABLE
-- -------- ----------------- ----------------- --------------------
41 PIPELINE PIPELINE$9$41_LOG PIPELINE$9$41_BAD PIPELINE$9$41_STATUS
Essa consulta mostra ID
, TYPE
, LOGFILE_TABLE
, BADFILE_TABLE
, se ela existir, e STATUS_TABLE
. Você pode exibir essas tabelas para obter informações adicionais de carga de pipeline.
Detalhes da Tabela de Status do Pipeline
Coluna | Tipo de dados | Descrição |
---|---|---|
ID |
NUMBER |
Número exclusivo designado ao pipeline. |
NAME |
VARCHAR2(4000) |
Nome do pipeline. |
BYTES |
NUMBER |
Bytes |
CHECKSUM |
VARCHAR2(128) |
Soma de verificação |
LAST_MODIFIED |
TIMESTAMP(6) WITH TIME ZONE |
Horário da última modificação do pipeline. |
STATUS |
VARCHAR2(30) |
O valor STATUS é um destes:
|
ERROR_CODE |
NUMBER |
Código do erro |
ERROR_MESSAGE |
VARCHAR2(4000) |
Mensagem de erro |
START_TIME |
TIMESTAMP(6) WITH TIME ZONE |
Horário inicial do pipeline. |
END_TIME |
TIMESTAMP(6) WITH TIME ZONE |
Hora final do pipeline. |
SID |
NUMBER |
A sessão |
SERIAL# |
NUMBER |
A sessão |
ROWS_LOADED |
NUMBER |
Número de linhas carregadas. |
OPERATION_ID |
NUMBER |
reservado para uso futuro. |
Arquivo de Log de Pipeline e Tabelas de Arquivos Inválidas
Para obter o arquivo de log e nomes de arquivo inválidos para um pipeline de carga, consulte OPERATION_ID
do pipeline. Por exemplo:
SELECT PIPELINE_NAME, OPERATION_ID FROM USER_CLOUD_PIPELINES
WHERE PIPELINE_NAME = 'MY_TREE_DATA';
PIPELINE_NAME OPERATION_ID
------------- ------------
MY_TREE_DATA 41
Em seguida, consulte USER_LOAD_OPERATIONS
ou DBA_LOAD_OPERATIONS
com um predicado de cláusula WHERE
na coluna ID
(usando o valor OPERATION_ID
).
Por exemplo:
SELECT ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, STATUS_TABLE FROM USER_LOAD_OPERATIONS
WHERE ID = 41;
ID TYPE LOGFILE_TABLE BADFILE_TABLE STATUS_TABLE
-- -------- ----------------- ----------------- --------------------
41 PIPELINE PIPELINE$9$41_LOG PIPELINE$9$41_BAD PIPELINE$9$41_STATUS
Essa consulta mostra ID
, TYPE
, LOGFILE_TABLE
, BADFILE_TABLE
, se ela existir, e STATUS_TABLE
. Você pode exibir essas tabelas para obter informações adicionais de carga de pipeline.
Exiba a tabela de arquivos de log do pipeline para ver um log completo das operações de carga do pipeline.
Por exemplo:
SELECT * FROM PIPELINE$9$41_LOG;
Exiba a tabela de arquivos inválidos do pipeline para ver detalhes sobre registros de formato de entrada com erros. A tabela de arquivos inválida mostra informações das linhas que relatam erros durante o carregamento. Dependendo dos erros mostrados na tabela de arquivos de log e das linhas mostradas na tabela de arquivos inválidos do pipeline, talvez você possa corrigir os erros modificando as opções de atributo format
do pipeline ou modificando os dados no arquivo que você está carregando.
Por exemplo:
SELECT * FROM PIPELINE$9$41_BAD;
Consulte Monitorar e Solucionar Problemas de Cargas para obter mais informações.
Tópico principal: Usando pipelines de dados para carga e exportação contínuas