Publicando no OCI Data Flow

Somente tarefas de integração e carregador de dados no Data Integration podem ser publicadas do serviço Data Integration para o serviço Oracle Cloud Infrastructure Data Flow.

Quando você publica uma tarefa no OCI Data Flow, um arquivo JAR é criado no OCI Object Storage e um aplicativo que aponta para o arquivo JAR é criado no serviço Data Flow.

Após a publicação, você poderá executar o aplicativo no OCI Data Flow, no qual poderá escolher formas de computação, além de monitorar e diagnosticar execuções de fluxo de dados. Se a tarefa tiver parâmetros designados, o aplicativo OCI Data Flow será criado usando os valores de parâmetro padrão. No entanto, você não tem permissão para inserir valores de parâmetro ao executar o aplicativo no OCI Data Flow.

As páginas a seguir descrevem como publicar uma tarefa no OCI Data Flow e as tarefas específicas que você pode executar após a publicação:

Configuração e Políticas Obrigatórias

Antes de publicar uma tarefa no serviço OCI Data Flow, certifique-se de ter o seguinte:

  • Um ativo de dados do serviço Object Storage no qual publicar os executáveis

  • Um bucket do serviço Object Storage para o JAR

  • As permissões relevantes e as políticas do serviço IAM para acessar o Object Storage, conforme descrito em Exemplos de Política para Ativar o Acesso ao OCI Object Storage.

  • As permissões relevantes e as políticas do IAM:

    allow any-user to manage dataflow-application in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>'}
    allow any-user to manage dataflow-run in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>'}
    allow group <group-name> to read dataflow-application in compartment <compartment-name>
    allow group <group-name> to manage dataflow-run in compartment <compartment-name>

Ponto Final Privado

Por padrão, o aplicativo OCI Data Flow é criado com acesso à internet pública. Você pode optar por publicar usando um ponto final privado no OCI Data Flow. Por exemplo, se as tarefas usarem origens de dados hospedadas em redes privadas, você poderá publicar no OCI Data Flow usando um ponto final privado.

Para publicar no OCI Data Flow usando um ponto final privado, certifique-se de ter também o seguinte:

  • Um ponto final privado existente no OCI Data Flow para o aplicativo a ser usado. Consulte Criando um Ponto Final Privado.

    Para obter as políticas necessárias para usar o OCI Data Flow com pontos finais privados, consulte Políticas de Pontos Finais Privados.

  • A política necessária para publicar do OCI Data Integration para aplicativos do OCI Data Flow que são ativados por pontos finais privados:

    allow any-user to read dataflow-private-endpoint in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>'}
  • A política que permite a um grupo de usuários que não são administradores listar pontos finais privados existentes no nível do compartimento (ao publicar do OCI Data Integration no OCI Data Flow):

    allow group <group-name> to inspect dataflow-private-endpoint in compartment <compartment-name>
  • Os ativos de dados usados na tarefa que você está publicando no OCI Data Flow devem ser:
    • Configurados para usar segredos do OCI Vault que contenham as senhas para estabelecer conexão com as origens de dados. Isso é necessário para transmitir credenciais de forma segura entre os serviços do OCI. Consulte Segredos do OCI Vault e Oracle Wallets.

      A política necessária para usar segredos no OCI Vault:

      allow any-user to read secret-bundles in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>'}

      A seguinte política permite que um grupo de usuários que não são administradores use segredos com o Oracle Autonomous Data Warehouse e o Oracle Autonomous Transaction Processing:

      allow group <group-name> to read secret-bundles in compartment <compartment-name>
    • Especificados usando o nome de domínio totalmente qualificado (FQDN) para os hosts do banco de dados. O OCI Data Flow não permite conexões por meio de endereços IP diretos.

Observação

  • As instruções de política fornecidas neste tópico são apenas exemplos. Certifique-se de criar políticas que atendam aos seus próprios requisitos.

  • Políticas entre tenancies serão necessárias se os recursos (como objetos e buckets do Object Storage) e o espaço de trabalho do Data Integration estiverem em tenancies diferentes. Consulte Exemplos de Política e o blog Políticas no Oracle Cloud Infrastructure (OCI) Data Integration para identificar as políticas para suas necessidades.

  • Depois de adicionar componentes do IAM (por exemplo, grupos dinâmicos e instruções de política), não tente executar as tarefas associadas imediatamente. As novas políticas do IAM exigem cerca de cinco a 10 minutos para entrar em vigor.