Pipelines überwachen und Fehler beheben

Alle erstellten Pipelines werden in den DBMS_CLOUD_PIPELINE-Views protokolliert.

Pipeline-Statusinformationen anzeigen

Prüfen Sie den Pipelinestatus, und rufen Sie andere Pipelineinformationen mit den Views USER_CLOUD_PIPELINES oder DBA_CLOUD_PIPELINES ab. Beispiel: Die folgende SELECT-Anweisung mit einem Prädikat der WHERE-Klausel in pipeline_name zeigt, dass MY_TREE_DATA eine Load-Pipeline ist und die Pipeline gestartet wird:

SELECT pipeline_name, pipeline_type, status FROM USER_CLOUD_PIPELINES
   WHERE pipeline_name = 'MY_TREE_DATA';


PIPELINE_NAME PIPELINE_TYPE STATUS  
------------- ------------- ------- 
MY_TREE_DATA  LOAD          STARTED

Weitere Informationen finden Sie unter DBMS_CLOUD_PIPELINE Views.

Pipelineattribute anzeigen

Die Pipelineattribute können überwacht werden, indem Sie die Views USER_CLOUD_PIPELINE_ATTRIBUTES oder DBA_CLOUD_PIPELINE_ATTRIBUTES abfragen. Fragen Sie diese Ansichten ab, um Pipelineattributinformationen anzuzeigen.

Beispiel:

SELECT pipeline_name, attribute_name, attribute_value FROM user_cloud_pipeline_attributes
     WHERE pipeline_name = 'MY_TREE_DATA';

PIPELINE_NAME ATTRIBUTE_NAME  ATTRIBUTE_VALUE                                                                   
------------- --------------- --------------------------------------------------------------------------------- 
MY_TREE_DATA  credential_name DEF_CRED_OBJ_STORE                                                                
MY_TREE_DATA  format          {"type": "csv"}                                                                   
MY_TREE_DATA  interval        20                                                                                
MY_TREE_DATA  location        https://objectstorage.us-ashburn-1.oraclecloud.com/n/namespace/b/treetypes/o/ 
MY_TREE_DATA  priority        high                                                                              
MY_TREE_DATA  table_name      TREES

Weitere Informationen finden Sie unter DBMS_CLOUD_PIPELINE Views.

Pipelinehistorie anzeigen

Die Ansichten USER_CLOUD_PIPELINE_HISTORY und DBA_CLOUD_PIPELINE_HISTORY zeigen den Status der ausgeführten Jobs an. Mit den Pipelinehistorienansichten können Sie den Zustand einer Pipeline überwachen und Fehler in einer ausgeführten Pipeline erkennen.

Beispiel:

SELECT pipeline_id, pipeline_name, status, error_message  FROM user_cloud_pipeline_history      
     WHERE pipeline_name = 'MY_TREE_DATA';

PIPELINE_ID PIPELINE_NAME STATUS    ERROR_MESSAGE 
----------- ------------- --------- ------------- 
          7  MY_TREE_DATA SUCCEEDED

Weitere Informationen finden Sie unter DBMS_CLOUD_PIPELINE Views.

Pipelinestatustabelle: Zusätzliches Monitoring für Ladepipelines

In der Pipelinestatustabelle werden jeder Dateiname und sein Status für eine Ladepipeline angezeigt. Die Spalte STATUS_TABLE in DBA_CLOUD_PIPELINES und USER_CLOUD_PIPELINES zeigt den Namen der Statustabelle an.

Beispiel: Die folgende SELECT-Anweisung mit einem Prädikat der WHERE-Klausel in der pipeline_name zeigt den Statustabellennamen für eine Pipeline an:

SELECT pipeline_name, status_table FROM user_cloud_pipelines
   WHERE pipeline_name = 'MY_TREE_DATA';

PIPELINE_NAME STATUS_TABLE
------------- --------------------
MY_TREE_DATA  PIPELINE$9$41_STATUS

Zeigen Sie die Statustabelle an, um Informationen zur Pipeline anzuzeigen. Dazu gehören:

  • Die entsprechende Fehlernummer und Fehlermeldung werden in der Statustabelle aufgezeichnet, wenn ein Vorgang für eine bestimmte Datei fehlschlägt.

  • Bei abgeschlossenen Pipelinevorgängen kann die für jeden Vorgang benötigte Zeit mit der gemeldeten Datei START_TIME und END_TIME berechnet werden.

Beispiel: Der folgende Vorgang zeigt, dass der Ladevorgang für zwei Dateien nicht erfolgreich war und einer abgeschlossen wurde:

SELECT id, name, status, error_code, error_message, sid FROM PIPELINE$9$41_STATUS;

ID NAME       STATUS    ERROR_CODE ERROR_MESSAGE                      SID 
-- ---------- --------- ---------- -------------------------------- ----- 
 1 trees1.txt FAILED         30653 ORA-30653: reject limit reached  18070 
 2 trees2.txt FAILED         30653 ORA-30653: reject limit reached  18070 
 3 trees3.txt COMPLETED                                             18070 

Pipelines zum Laden von Daten, bei denen pipeline_type 'LOAD' ist, reservieren eine ID, die in USER_LOAD_OPERATIONS und DBA_LOAD_OPERATIONS angezeigt wird. Der Wert ID in diesen Ansichten ist dem Wert OPERATION_ID der Pipeline in USER_CLOUD_PIPELINES und DBA_CLOUD_PIPELINES zugeordnet.

Um weitere Informationen für eine Load Pipeline abzurufen, fragen Sie die Pipeline OPERATION_ID ab:

SELECT PIPELINE_NAME, OPERATION_ID FROM USER_CLOUD_PIPELINES
     WHERE PIPELINE_NAME = 'MY_TREE_DATA';

PIPELINE_NAME OPERATION_ID 
------------- ------------ 
MY_TREE_DATA            41

Fragen Sie als Nächstes entweder USER_LOAD_OPERATIONS oder DBA_LOAD_OPERATIONS mit einem Prädikat der WHERE-Klausel für die Spalte ID ab (mit dem Wert OPERATION_ID).

Beispiel:

SELECT ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, STATUS_TABLE FROM USER_LOAD_OPERATIONS
     WHERE ID = 41;

ID TYPE     LOGFILE_TABLE     BADFILE_TABLE     STATUS_TABLE
-- -------- ----------------- ----------------- --------------------
41 PIPELINE PIPELINE$9$41_LOG PIPELINE$9$41_BAD PIPELINE$9$41_STATUS

Diese Abfrage zeigt ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, falls vorhanden, und STATUS_TABLE an. Sie können diese Tabellen für zusätzliche Pipelineladeinformationen anzeigen.

Pipeline-Status - Tabellendetails

Spalte Datentyp Beschreibung
ID NUMBER Eindeutige Nummer, die der Pipeline zugewiesen ist.
NAME VARCHAR2(4000) Name der Pipeline.
BYTES NUMBER Byte
CHECKSUM VARCHAR2(128) Prüfsumme
LAST_MODIFIED TIMESTAMP(6) WITH TIME ZONE Zeit der letzten Änderung für die Pipeline.
STATUS VARCHAR2(30) Der Wert STATUS ist einer der folgenden Werte:
  • COMPLETED: Der Dateivorgang wurde erfolgreich abgeschlossen.
  • FAILED: Der Dateivorgang war nicht erfolgreich. Es kann zweimal versucht werden, es erneut zu versuchen.
  • PENDING: Der Dateivorgang wurde noch nicht gestartet.
  • RUNNING: Der Dateivorgang wird derzeit ausgeführt.
  • SKIPPED: Der Dateivorgang wurde übersprungen.
ERROR_CODE NUMBER Fehlercode
ERROR_MESSAGE VARCHAR2(4000) Fehlermeldung
START_TIME TIMESTAMP(6) WITH TIME ZONE Startzeit für die Pipeline.
END_TIME TIMESTAMP(6) WITH TIME ZONE Endzeit für die Pipeline.
SID NUMBER

Die Sessions SID und SERIAL# geben die Jobsession an, in der der Pipelineladevorgang ausgeführt wurde.

SERIAL# NUMBER

Die Sessions SID und SERIAL# geben die Jobsession an, in der der Pipelineladevorgang ausgeführt wurde.

ROWS_LOADED NUMBER Anzahl geladene Zeilen.
OPERATION_ID NUMBER

Für die zukünftige Verwendung reserviert.

Pipeline-Logdatei und fehlerhafte Dateitabellen

Um die Logdatei und die ungültigen Dateinamen für eine Ladepipeline abzurufen, fragen Sie die OPERATION_ID der Pipeline ab. Beispiel:

SELECT PIPELINE_NAME, OPERATION_ID FROM USER_CLOUD_PIPELINES
     WHERE PIPELINE_NAME = 'MY_TREE_DATA';

PIPELINE_NAME OPERATION_ID 
------------- ------------ 
MY_TREE_DATA            41

Fragen Sie als Nächstes entweder USER_LOAD_OPERATIONS oder DBA_LOAD_OPERATIONS mit einem Prädikat der WHERE-Klausel für die Spalte ID ab (mit dem Wert OPERATION_ID).

Beispiel:

SELECT ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, STATUS_TABLE FROM USER_LOAD_OPERATIONS
     WHERE ID = 41;

ID TYPE     LOGFILE_TABLE     BADFILE_TABLE     STATUS_TABLE
-- -------- ----------------- ----------------- --------------------
41 PIPELINE PIPELINE$9$41_LOG PIPELINE$9$41_BAD PIPELINE$9$41_STATUS

Diese Abfrage zeigt ID, TYPE, LOGFILE_TABLE, BADFILE_TABLE, falls vorhanden, und STATUS_TABLE an. Sie können diese Tabellen für zusätzliche Pipelineladeinformationen anzeigen.

Zeigen Sie die Tabelle der Pipeline-Logdateien an, um ein vollständiges Log der Ladevorgänge der Pipeline anzuzeigen.

Beispiel:

SELECT * FROM PIPELINE$9$41_LOG;

Zeigen Sie die Tabelle mit fehlerhaften Pipeline-Dateien an, um Details zu Eingabeformatdatensätzen mit Fehlern anzuzeigen. In der Tabelle mit fehlerhaften Dateien werden Informationen für die Zeilen angezeigt, die beim Laden Fehler melden. Abhängig von den Fehlern, die in der Logdatei-Tabelle angezeigt werden, und den Zeilen, die in der fehlerhaften Dateitabelle der Pipeline angezeigt werden, können Sie die Fehler möglicherweise korrigieren, indem Sie die Optionen des format-Attributs der Pipeline ändern oder die Daten in der geladenen Datei ändern.

Beispiel:

SELECT * FROM PIPELINE$9$41_BAD;

Weitere Informationen finden Sie unter Ladevorgänge überwachen und Fehler beheben.