Creación y configuración de pipelines

Puede crear uno o más pipelines de carga o exportación. Al crear un pipeline, utiliza parámetros y define atributos de pipeline para configurar el pipeline.

Las opciones para crear y configurar un pipeline son las siguientes:

Cargar pipeline:
- Consulte Creación y configuración de un pipeline para la carga de datos.
Exportar pipeline:
- Exporte los resultados incrementales de una consulta al almacén de objetos mediante una columna de fecha o registro de hora como clave para realizar un seguimiento de los datos más recientes. Consulte Creación y configuración de un pipeline de exportación con columna de registro de hora.
- Exporte los datos incrementales de una tabla al almacén de objetos mediante una columna de fecha o registro de hora como clave para realizar un seguimiento de los datos más recientes. Consulte Creación y configuración de un pipeline de exportación con columna de registro de hora.
- Exportar datos de una tabla al almacén de objetos mediante una consulta para seleccionar datos sin una referencia a una columna de fecha o registro de hora (de modo que el pipeline exporte todos los datos que seleccione la consulta para cada ejecución del programador). Consulte Creación y configuración de un pipeline para exportar resultados de consultas (sin registros de hora).

Creación y configuración de un pipeline para cargar datos
Puede crear un pipeline para cargar datos de archivos externos en el almacén de objetos en tablas de Autonomous Database.
Creación y configuración de un pipeline para la exportación con columna de registro de hora
Puede crear un pipeline de exportación para exportar automáticamente datos de series de tiempo de su instancia de Autonomous Database al almacén de objetos.
Creación y configuración de un pipeline para exportar resultados de consultas (sin registro de hora)
Puede crear un pipeline de exportación para exportar automáticamente datos de su instancia de Autonomous Database al almacén de objetos. Mediante esta opción de pipeline de exportación, especifica una consulta SQL que el pipeline ejecuta periódicamente para exportar datos al almacén de objetos. Puede utilizar esta opción de exportación para compartir los datos más recientes de su instancia de Autonomous Database en el almacén de objetos para que otras aplicaciones consuman los datos.

Tema principal: Uso de pipelines de datos para carga y exportación continuas

Creación y configuración de un pipeline para la carga de datos

Puede crear un pipeline para cargar datos de archivos externos en el almacén de objetos en tablas de Autonomous Database.

Un pipeline de carga consume datos colocados en el almacén de objetos y los carga en una tabla de Autonomous Database. Al crear un pipeline de carga, el pipeline se ejecuta a intervalos regulares para consumir datos colocados en el almacén de objetos, cuando llegan nuevos archivos de datos, el pipeline carga los nuevos datos. También puede utilizar un pipeline para copiar archivos de forma fiable, con capacidades de reanudación y reintento, desde el almacén de objetos hasta una tabla de la base de datos.

Con un pipeline de carga, el paquete de pipeline utiliza DBMS_CLOUD.COPY_DATA para cargar datos.

En su instancia de Autonomous Database, utilice una tabla existente o cree la tabla de base de datos en la que está cargando datos. Por ejemplo:

CREATE TABLE EMPLOYEE
            (name     VARCHAR2(128),
             age      NUMBER,
             salary   NUMBER);

Cree un pipeline para cargar datos del almacén de objetos.

BEGIN
     DBMS_CLOUD_PIPELINE.CREATE_PIPELINE(
        pipeline_name => 'MY_PIPE1',
        pipeline_type => 'LOAD',
        description   => 'Load metrics from object store into a table'
  );
END;
/

Consulte CREATE_PIPELINE Procedure para obtener más información.

Cree un objeto de credencial para acceder al almacén de objetos que contiene los archivos que está cargando.

Especifique la credencial para la ubicación de origen de pipeline con el atributo credential_name. Si no proporciona un credential_name en el siguiente paso, el valor credential_name se define en NULL. Puede utilizar el valor NULL por defecto cuando el atributo location es una URL pública o autenticada previamente.

Consulte CREATE_CREDENTIAL Procedure para obtener más información.
Defina los atributos de pipeline, incluidos los atributos necesarios: location, table_name y format.
```
BEGIN
     DBMS_CLOUD_PIPELINE.SET_ATTRIBUTE(
       pipeline_name => 'MY_PIPE1',
       attributes    => JSON_OBJECT(
            'credential_name' VALUE 'OBJECT_STORE_CRED',
            'location' VALUE 'https://objectstorage.us-phoenix-1.oraclecloud.com/n/namespace-string/b/bucketname/o/',
            'table_name' VALUE 'employee',
            'format' VALUE '{"type":"json", "columnpath":["$.NAME", "$.AGE", "$.SALARY"]}',
            'priority' VALUE 'HIGH',
            'interval' VALUE '20')
  );
END;
/
```
Los siguientes atributos se deben definir para ejecutar un pipeline de carga:
- location: especifica la ubicación del archivo de origen en el almacén de objetos.
- table_name: especifica la tabla de la base de datos en la que está cargando los datos. El location que especifique es para un table_name por pipeline.
- format: describe el formato de los datos que está cargando.
  
  Consulte DBMS_CLOUD Package Format Options para obtener más información.
credential_name es la credencial que ha creado en el paso anterior.

El valor priority determina el número de archivos cargados en paralelo. Un pipeline con una prioridad más alta consume más recursos de base de datos y completa cada ejecución más rápido, en comparación con la ejecución con una prioridad más baja.

El valor interval especifica el intervalo de tiempo en minutos entre ejecuciones consecutivas de un trabajo de pipeline. El valor por defecto de interval es 15 minutos.

Consulte DBMS_CLOUD_PIPELINE Attributes para obtener más información sobre los atributos de pipeline.
Después de crear un pipeline, puede probar el pipeline o iniciar el pipeline:
- Probar pipelines
- Iniciar un pipeline

Como alternativa, para definir el formato para JSON, puede utilizar el siguiente formato:

BEGIN
    DBMS_CLOUD_PIPELINE.SET_ATTRIBUTE(
        pipeline_name   => 'MY_PIPE1',
        attribute_name  => 'format',
        attribute_value => JSON_OBJECT('type' value 'json', 'columnpath' value '["$.NAME", "$.AGE", "$.SALARY"]')
    );
END;
/

Tema principal: Creación y configuración de pipelines

Creación y configuración de un pipeline para la exportación con columna de registro de hora

Puede crear un pipeline de exportación para exportar automáticamente datos de series temporales de su instancia de Autonomous Database al almacén de objetos.

Mediante esta opción de pipeline de exportación, especifica una tabla o una consulta SQL y una columna con un registro de hora que el pipeline utiliza para realizar un seguimiento de la hora de la última carga. Puede utilizar un pipeline de exportación para compartir datos para que otras aplicaciones los utilicen o para guardar datos en el almacén de objetos.

Con un pipeline de exportación, el paquete de pipeline utiliza DBMS_CLOUD.EXPORT_DATA para exportar datos.

Un pipeline de exportación exporta datos de su instancia de Autonomous Database al almacén de objetos. Al crear un pipeline de exportación, el pipeline se ejecuta a intervalos regulares y coloca los datos en el almacén de objetos.

Cree un pipeline para exportar datos al almacén de objetos.

BEGIN
     DBMS_CLOUD_PIPELINE.CREATE_PIPELINE(
        pipeline_name=>'EXP_PIPE1',
        pipeline_type=>'EXPORT',
        description=>'Export time series metrics to object store');
END;
/

Consulte CREATE_PIPELINE Procedure para obtener más información.

Cree un objeto de credencial para acceder a la ubicación del almacén de objetos de destino donde está exportando los archivos de datos.

Especifique la credencial para la ubicación de destino de pipeline con el atributo credential_name. Si no proporciona un credential_name en el siguiente paso, el valor credential_name se define en NULL. Puede utilizar el valor NULL por defecto cuando el atributo location es una URL pública o autenticada previamente.

Consulte CREATE_CREDENTIAL Procedure para obtener más información.
Defina los atributos de pipeline de exportación.

Al especificar un parámetro table_name, las filas de la tabla se exportan al almacén de objetos. Al especificar un parámetro query, la consulta especifica una sentencia SELECT para que solo se exporten los datos necesarios al almacén de objetos.
- Uso de un parámetro table_name:
```
BEGIN
     DBMS_CLOUD_PIPELINE.SET_ATTRIBUTE(
       pipeline_name => 'EXP_PIPE1',
       attributes    => JSON_OBJECT('credential_name' VALUE 'OBJECT_STORE_CRED',
          'location' VALUE 'https://objectstorage.us-phoenix-1.oraclecloud.com/n/namespace-string/b/bucketname/o/',
          'table_name' VALUE 'metric_table',
          'key_column' VALUE 'metric_time',
          'format' VALUE '{"type": "json"}',
          'priority' VALUE 'MEDIUM',
          'interval' VALUE '20')
  );
END;
/
```
- Mediante un parámetro query:
```
BEGIN
     DBMS_CLOUD_PIPELINE.SET_ATTRIBUTE(
       pipeline_name => 'EXP_PIPE1',
       attributes    => JSON_OBJECT('credential_name' VALUE 'OBJECT_STORE_CRED',
           'location' VALUE 'https://objectstorage.us-phoenix-1.oraclecloud.com/n/namespace-string/b/bucketname/o/',
           'query' VALUE 'SELECT * from metrics_table',
           'key_column' VALUE 'metric_time',
           'format' VALUE '{"type": "json"}',
           'priority' VALUE 'MEDIUM',
           'interval' VALUE '20')
  );
END;
/
```
Donde credential_name es la credencial que ha creado en el paso anterior.

Los siguientes atributos se deben definir para ejecutar un pipeline de exportación:
- location: especifica la ubicación del almacén de objetos de destino. El location que especifique es para un table_name por pipeline.
- table_name: especifica la tabla de la base de datos que contiene los datos que está exportando (se necesita el parámetro table_name o el parámetro query).
- query: especifica la consulta que se va a ejecutar en la base de datos que proporciona los datos que está exportando (se necesita el parámetro table_name o el parámetro query).
- format: describe el formato de los datos que está exportando.
  
  Consulte DBMS_CLOUD Package Format Options for EXPORT_DATA para obtener más información.
El valor priority determina el grado de paralelismo para recuperar datos de la base de datos.

El valor interval especifica el intervalo de tiempo en minutos entre ejecuciones consecutivas de un trabajo de pipeline. El valor por defecto de interval es 15 minutos.

Consulte DBMS_CLOUD_PIPELINE Attributes para obtener más información sobre los atributos de pipeline.
Después de crear un pipeline, puede probar el pipeline o iniciar el pipeline:
- Probar pipelines
- Iniciar un pipeline

Tema principal: Creación y configuración de pipelines

Creación y configuración de un pipeline para exportar resultados de consultas (sin registro de hora)

Puede crear un pipeline de exportación para exportar automáticamente datos de su instancia de Autonomous Database al almacén de objetos. Mediante esta opción de pipeline de exportación, especifica una consulta SQL que el pipeline ejecuta periódicamente para exportar datos al almacén de objetos. Puede utilizar esta opción de exportación para compartir los datos más recientes de su instancia de Autonomous Database en el almacén de objetos para que otras aplicaciones consuman los datos.

Cree un pipeline para exportar datos al almacén de objetos.

BEGIN
     DBMS_CLOUD_PIPELINE.CREATE_PIPELINE(
        pipeline_name=>'EXP_PIPE2',
        pipeline_type=>'EXPORT',
        description=>'Export query results to object store.');
END;
/

Consulte CREATE_PIPELINE Procedure para obtener más información.

Cree un objeto de credencial para acceder a la ubicación del almacén de objetos de destino donde está exportando los archivos de datos.

Especifique la credencial para la ubicación de destino de pipeline con el atributo credential_name. Si no proporciona un credential_name en el siguiente paso, el valor credential_name se define en NULL. Puede utilizar el valor NULL por defecto cuando el atributo location es una URL pública o autenticada previamente.

Consulte CREATE_CREDENTIAL Procedure para obtener más información.
Defina los atributos de pipeline de exportación.
```
BEGIN
     DBMS_CLOUD_PIPELINE.SET_ATTRIBUTE(
       pipeline_name => 'EXP_PIPE2',
       attributes    => JSON_OBJECT(
          'credential_name' VALUE 'OBJECT_STORE_CRED',
          'location' VALUE 'https://objectstorage.us-phoenix-1.oraclecloud.com/n/namespace-string/b/bucketname/o/',
          'query' VALUE 'SELECT * FROM table_name',
          'format' VALUE '{"type": "json"}',
          'priority' VALUE 'MEDIUM',
          'interval' VALUE '20')
  );
END;
/
```
Donde credential_name es la credencial que ha creado en el paso anterior.

Los siguientes atributos se deben definir para ejecutar un pipeline de exportación:
- location: especifica la ubicación del almacén de objetos de destino.
- query: especifica la consulta que se va a ejecutar en la base de datos que proporciona los datos que está exportando.
- format: describe el formato de los datos que está exportando.
  
  Consulte DBMS_CLOUD Package Format Options for EXPORT_DATA para obtener más información.
El valor priority determina el grado de paralelismo para recuperar datos de la base de datos.

El valor interval especifica el intervalo de tiempo en minutos entre ejecuciones consecutivas de un trabajo de pipeline. El valor por defecto de interval es 15 minutos.

Consulte DBMS_CLOUD_PIPELINE Attributes para obtener más información sobre los atributos de pipeline.
Después de crear un pipeline, puede probar el pipeline o iniciar el pipeline:
- Probar pipelines
- Iniciar un pipeline

Tema principal: Creación y configuración de pipelines

Documentación de Oracle Cloud Infrastructure