Referencia

Sección de referencia para Oracle Cloud Infrastructure Data Flow, incluido un glosario de términos y enlaces a la documentación de API de REST.

Glosario

Glosario de conceptos

Apache Spark: Apache Spark es un motor de análisis unificado para el procesamiento de big data, con módulos integrados para flujo, SQL, Machine Learning y procesamiento de gráficos.

Spark Application: las aplicaciones Spark son aplicaciones que utilizan la API de Spark para realizar tareas de procesamiento de datos distribuidos. Las aplicaciones Spark se pueden escribir en varios lenguajes, entre otros, Java y Python. Las aplicaciones Spark son archivos como archivos JAR que se ejecutan en el marco de Spark.

Aplicación de Data Flow: las aplicaciones de Data Flow son plantillas que agrupan una aplicación Spark y especifican una versión de la aplicación Spark, el tamaño de la aplicación por defecto y de tamaño de las aplicaciones por defecto.

Ejecución de Data Flow: las aplicaciones de Data Flow se pueden ejecutar varias veces. Cada uno de estos resultados en un objeto de ejecución de Data Flow. El usuario puede sustituir los tamaños y los parámetros de los recursos en tiempo de ejecución. Una ejecución de Data Flow realiza un seguimiento de la información relevante para la ejecución de la aplicación, como estadísticas y logs.

IU de Spark: la interfaz de usuario de Spark se incluye con Apache Spark y es una herramienta importante para depurar y diagnosticar las aplicaciones Spark. Puede acceder a la interfaz de usuario de Spark para cualquier ejecución de Data Flow, según las políticas de autorización de la ejecución.

Logs de Spark: Spark genera archivos log que son útiles para la depuración y el diagnóstico. Cada ejecución de Data Flow almacena automáticamente los archivos log a los que puede acceder mediante la interfaz de usuario o la API de Spark, según las políticas de autorización de la ejecución.

API de REST

Descubra cómo utilizar la API de REST con Data Flow.

Descubra cómo implantar la API de REST con Data Flow en la documentación de la API de REST.

Las solicitudes de recursos en formato libre no están soportadas cuando se utiliza la API de Livy.

La implantación acepta dos parámetros nuevos:
  • driverShape
  • executorShape
Si falta uno o ambos, se registra una advertencia. Si se transfiere una unidad no válida, en el error resultante se muestran las unidades soportadas. Hay un punto final de unidades que devuelve las unidades válidas con sus tamaños/tipos.

Lista de direcciones IP permitidas

Si lee o escribe datos mediante Data Flow sin utilizar soluciones de red privadas como VCN, debe incluir en una lista las direcciones IP permitidas en las que se ejecuta Data Flow. Esta es la lista de direcciones IP que puede permitir:

Lista de direcciones IP permitidas
Nombre de región Identificador de región Dirección IP de origen de Data Flow
Este de Australia (Sídney) ap-sydney-1 152.67.104.210
Sureste de Australia (Melbourne) ap-melbourne-1 168.138.1.225
Este de Brasil (Sao Paulo) sa-saopaulo-1 152.67.56.151
Sureste de Brasil (Vinhedo) sa-vinhedo-1 193.123.107.188
Sureste de Canadá (Montreal) ca-montreal-1 168.138.66.144
Sureste de Canadá (Toronto) ca-toronto-1 132.145.105.28
Chile (Santiago) sa-santiago-1 129.151.97.194
Francia central (París) eu-paris-1 141.145.193.217
Sur de Francia (Marsella) eu-marseille-1 129.151.241.124
Centro de Alemania (Fráncfort) eu-frankfurt-1 132.145.248.79
Sur de India (Hyderabad) ap-hyderabad-1 152.67.176.234
Oeste de India (Mumbai) ap-mumbai-1 140.238.164.243
Israel 1 (Jerusalén) il-jerusalem-1 129.159.145.227
Italia noroccidental (Milán) eu-milan-1 129.152.14.225
Centro de Japón (Osaka) ap-osaka-1 168.138.39.160
Este de Japón (Tokio) ap-tokyo-1 140.238.44.156
Centro de México (Querétaro) mx-queretaro-1 140.84.176.156
Noreste de México (Monterrey) mx-monterrey-1 139.177.97.38
Noroeste de Países Bajos (Ámsterdam) eu-amsterdam-1 158.101.193.70
Oeste de Arabia Saudí (Yeda) me-jeddah-1 158.101.226.105
Singapur (Singapur) ap-singapore-1 168.138.176.223
Centro de Sudáfrica (Johannesburgo) af-johannesburg-1 129.151.160.154
Centro de Corea del Sur (Seúl) ap-seoul-1 132.145.87.75
Norte de Corea del Sur (Chuncheon) ap-chuncheon-1 150.136.195.44
Suecia (Estocolmo) eu-stockholm-1 129.151.213.127
Norte de Suiza (Zúrich) eu-zurich-1 152.67.68.12
Suecia (Estocolmo) eu-stockholm-1 129.151.213.127
Centro de España (Madrid) eu-madrid-1 143.47.59.31
Emiratos Árabes Unidos central (Abu Dabi) me-abudhabi-1 129.151.143.178
Este de Emiratos Árabes Unidos (Dubái) me-dubai-1 193.123.69.152
Sur de Reino Unido (Londres) uk-london-1 132.145.13.171
Oeste de Reino Unido (Newport) uk-cardiff-1 129.151.75.8
Este de EE. UU. (Ashburn) us-ashburn-1 150.136.195.44
Medio Oeste de EE. UU. (Chicago) us-chicago-1 131.186.3.94
Oeste de EE. UU. (Phoenix) us-phoenix-1 129.146.95.238
Oeste de EE. UU. (San José) us-sanjose-1 152.67.227.225