Información de Soporte y Consideraciones al Utilizar Pipelines
En Data Integration, un pipeline es un recurso de tiempo de diseño para crear un juego de tareas conectadas en una secuencia o en paralelo para facilitar el procesamiento de datos. Le permite gestionar y orquestar la ejecución de un juego de tareas y actividades relacionadas para una carga de trabajo en lugar de ejecutar tareas de forma individual y manejar los resultados de ejecución por separado. Estos pipelines no están diseñados para tareas de baja latencia. En ocasiones, cada paso puede experimentar varios minutos de retraso debido a problemas de red o nube. Entre estos pasos se encuentran los procesos de conciliación que pueden tardar un minuto o, a veces, incluso más.
Asegúrese de comprender lo que está soportado y las limitaciones actuales antes de crear pipelines en Data Integration.
- Por defecto, un espacio de trabajo tiene un límite de cuatro ejecuciones de tareas simultáneas. Cuando tiene más de cuatro tareas en un pipeline, las tareas de integración y las tareas del cargador de datos se ponen en cola según el límite de cuatro ejecuciones simultáneas por espacio de trabajo por defecto. Las tareas de SQL, OCI Data Flow y REST no están en cola.
- El límite de cuatro ejecuciones simultáneas es en los pipelines de un espacio de trabajo; el límite no es solo dentro de un pipeline.
- Al diseñar un pipeline, recuerde que si bien la simultaneidad máxima soportada es 16, solo se pueden realizar cuatro ejecuciones de tareas simultáneas a la vez durante la ejecución.
- Está soportado el anidamiento de pipelines. La profundidad anidada máxima es de tres (3) niveles.
- Un pipeline no puede tener más de 100 tareas en ningún nivel.
- En un pipeline, cuando se utilizan los parámetros de salida de un operador en el siguiente operador, abstenerse de utilizar el mismo parámetro de salida varias veces, ya que hacerlo podría dar lugar a un resultado indeterminado.
El límite de nivel de profundidad anidado y el límite de tarea de un nivel se aplican solo a los nuevos pipelines que cree y guarde. Los pipelines existentes que superan estas restricciones no se ven afectados, y siguen funcionando y funcionando sin interrupciones.