注意:

使用 OCI Data Integration 将 Fusion SaaS 数据复制创建到 Oracle Autonomous Data Warehouse

简介

Oracle Cloud Infrastructure Data Integration 是一项完全托管的多租户服务,可帮助数据工程师和开发人员处理数据移动和数据加载任务。借助 Spark 提取、转换和加载 (ETL) 或提取、加载和转换 (ELT) 流程,可以从各种数据资产中摄取大量数据;清理;转换和重塑;高效地加载到 Oracle Cloud Infrastructure (OCI) 目标数据资产。

有两种工具可用于从 Oracle Fusion Cloud ERP (Oracle Cloud ERP) 导出批量数据:Oracle Business Intelligence Publisher (BI Publisher) 和 Oracle Business Intelligence Cloud Connector (BICC)。

目标

先决条件

任务 1:预配网络连接

要设置 OCI 数据集成,需要先预配网络组件。

创建网络组件时,您可以根据您的用例选择两个选项来启动数据集成工作区。

  1. 登录到 OCI 控制台,导航到网络虚拟云网络

    创建 VCN 配置

  2. 选择所需的资源所在的区间,然后单击启动 VCN 向导

    上载对象

  3. 选择 Create VCN with Internet Connectivity 。这将启动 VCN 连接到互联网所需的所有相关资源。

    上载对象

    上载对象

    此 VCN 设置将通过互联网网关自动为您创建公共和专用子网,以便连接到外部互联网。您的 VCN 将如下所示:

    上载对象

    将自动创建公共子网和专用子网的路由表。如果您要在专用子网中创建资源,请确保在路由表中添加了到Oracle 服务网络中的所有服务的路由。

    上载对象

如果您在专用子网中有资源并且对安全性有顾虑,请参阅了解适用于 Oracle Cloud Infrastructure (OCI) 数据集成的 VCN 配置

任务 2:创建 OCI 对象存储桶

  1. 转到 OCI 控制台,导航到存储存储桶,然后单击创建存储桶

    上载对象

    上载对象

    已创建存储桶。

    上载对象

任务 3:与 Autonomous Database 连接

假设您已从 OCI 控制台预配 ADW,

  1. 转到 OCI 控制台,导航到 Oracle DatabasesAutonomous Data Warehouse

    上载对象

  2. 区间中,选择您的 ADW。

    上载对象

  3. 单击数据库连接以下载您的 wallet。

    上载对象

    上载对象

  4. 单击 Download(下载)并将其保存在本地系统上。

    上载对象

任务 4:预配 OCI 数据集成

要创建数据集成,您需要具有某些策略。

  1. 转到 OCI 控制台,导航到身份与安全策略

    上载对象

  2. 在根区间中,单击创建策略,选择显示手动编辑器并添加以下策略。

    • 要创建数据集成工作区和查看用户,请执行以下操作:

      allow group <group-name> to manage dis-workspaces in compartment <compartment-name>
      
      allow group <group-name> to manage dis-work-requests in compartment <compartment-name>
      
      allow service dataintegration to inspect users in tenancy
      
    • 在工作区中启用专用访问:

      allow service dataintegration to use virtual-network-family in compartment <compartment-name>
      
      allow group <group-name> to manage virtual-network-family in compartment <compartment-name>
      
    • 对于自治数据库和 Oracle Fusion Applications 所需的 OCI Object Storage:

      allow group <group-name> to use object-family in compartment <compartment-name>
      
      allow any-user to use buckets in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>’}
      
      allow any-user to manage objects in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>’}
      
      allow any-user to manage buckets in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>', request.permission = 'PAR_MANAGE'}
      
    • 对于自治数据库:

      allow group <group-name> to read autonomous-database-family in compartment <compartment-name>
      

    上载对象

  3. 单击创建。所有策略都到位后,转到数据集成服务以创建工作区。

  4. 转到 OCI 控制台,导航到 Analytics & AIData Integration

    上载对象

  5. 选择工作区,选择您的区间,然后选择创建工作区

    上载对象

  6. 输入工作区 Name(名称)并选择 Enable private Network(启用专用网络)作为 Network selection(网络选择)

    上载对象

  7. 单击创建

任务 5:将数据从 Oracle Fusion Cloud ERP 提取到 ADW

任务 5.1:将 OCI 存储桶连接到 BICC

现在,我们将在 BICC 中创建一个连接,BICC 是 Oracle Fusion Applications 的组件,允许您从不同的应用程序进行交互和提取数据。

我们将 BICC 连接到外部存储,在我们的案例中,这是 OCI 存储桶。OCI 存储桶充当暂存区域,在通过 OCI 数据集成提取到 ADW 之前,将从 BICC 提取的所有文件都将存储在该区域中。

  1. 输入 BICC 的 URL,其格式如下:https://fa-eqgj-dev11-saasfademo1.ds-fa.oraclepdemos.com/biacm

    上载对象

    您将被定向到 BICC 控制台。

    上载对象

  2. 从右侧面板中,选择 Configure External Storage

    上载对象

  3. 单击 OCI Object Storage Connection+ 以添加新的 OCI Object Storage 连接,您将被定向到新的连接控制台。

    上载对象

    上载对象

  4. OCI 参数部分中,输入以下信息。

    • 名称:输入存储连接的名称。

    • 主机:主机将是以下项之一,具体取决于您的区域。

      • objectstorage.ap-mumbai-1.oraclecloud.com

      • objectstorage.ap-seoul-1.oraclecloud.com

      • objectstorage.ap-sydney-1.oraclecloud.com

      • objectstorage.ap-tokyo-1.oraclecloud.com

      • objectstorage.ca-toronto-1.oraclecloud.com

      • objectstorage.eu-frankfurt-1.oraclecloud.com

      • objectstorage.eu-zurich-1.oraclecloud.com

      • objectstorage.sa-saopaulo-1.oraclecloud.com

      • objectstorage.uk-london-1.oraclecloud.com

      • objectstorage.us-ashburn-1.oraclecloud.com

      • objectstorage.us-phoenix-1.oraclecloud.com

      注:要获取其他必需参数,您需要转到 OCI 控制台。

    • 租户 OCID:输入租户 OCID。

      上载对象

      上载对象

    • 名称空间:输入名称空间。

      上载对象

    • 用户 OCID:转到 OCI 控制台,单击您的用户名并复制 OCID。

      上载对象

      上载对象

    • 时段名称:输入在“先决条件”部分中创建的 OCI 对象存储桶名称。

    上载对象

    上载对象

  5. 单击生成 API 签名密钥,这将生成指纹并导出公钥以导出本地系统中的公钥。

    上载对象

    上载对象

  6. 转到 OCI 控制台。在 User Details(用户详细信息)页中,单击 API Keys(API 密钥)Add API Key(添加 API 密钥)并粘贴 oci_api_key 文件。

    上载对象

    上载对象

  7. 单击 Choose Public Key File(选择公钥文件),然后选择在最后一步中下载的文件。

    上载对象

    这将生成指纹,并将该指纹添加到用户的 API 密钥列表中。您将看到创建的指纹与 BICC 控制台中生成的指纹相同。

    上载对象

  8. 转到 BICC 控制台,然后选择测试连接

    上载对象

  9. 它将发出 Successful 连接消息。单击确定并保存连接。

    上载对象

从 BICC 控制台建立到 OCI Object Storage 桶的连接后,我们将在 OCI Data Integration 服务中创建连接。

任务 5.2:在 OCI 数据集成中创建连接

  1. 转到 OCI 控制台,导航到 Analytics & AIData Integration

    上载对象

  2. 单击工作区,选择在任务 4 中创建的区间和数据集成工作区。

    上载对象

  3. 在 OCI 数据集成控制台中,创建数据资产。

    在我们的数据资产中,我们的源系统是 BICC 连接,目标连接是 ADW。要创建 ADW 数据资产,先决条件是创建 OCI 对象存储数据资产。我们将创建 3 个数据资产。

    • BICC
    • OCI 对象存储
    • ADW

    单击创建数据资产

    上载对象

  4. 从数据源列表中,选择 Fusion Apps – BICC 连接器。

    上载对象

    1. 一般信息部分中,输入以下信息。

      • 名称:输入名称(例如,ERP_CloudConn)。

      • 类型:选择 Oracle Fusion Applications

      • Oracle Fusion Applications 主机:这是指向 Fusion 环境的链接(例如 fa-eqgj-dev11-saasfademo1.ds-fa.oraclepdemos.com)。

      上载对象

    2. 默认连接信息部分中,输入以下信息和测试连接

      • 类型:选择 Oracle BI Cloud Connector

      • 用户名:输入 BICC 用户名。

      • 选择使用口令

      • 密码:输入 BICC 密码。

      • 默认 BICC 外部存储配置:选择在 BICC 控制台中创建的外部存储连接。

      上载对象

  5. 连接状态为成功后,单击创建

    上载对象

  6. 选择资产类型中,选择 OCI 对象存储

    上载对象

    输入连接名称 (ObjectStorageConn)。您会注意到,其余字段将在租户 OCI 数据集成中自动填充。将其余字段保留原样,然后单击测试连接

    上载对象

    上载对象

  7. 成功连接后,单击创建

    注:在 OCI 数据集成中创建与 OCI 对象存储和 ADW 的连接之前,请确保添加本文档的先决条件中提到的策略。

  8. 单击创建数据资产。在选择数据资产类型中,选择 Oracle ADW

    上载对象

    1. 一般信息中,输入以下信息。

      • 名称:输入 ADWTarget

      • 类型:选择 Oracle Autonomous Data Warehouse

      • 选择 Upload Wallet

      • Wallet 文件:选择在从 ADW 下载数据库连接的初始步骤中下载的 wallet 文件。

      • Wallet 口令(可选):添加 wallet 口令。

      上载对象

    2. 默认连接信息中,输入以下信息。

      • 用户名:输入 admin

      • 选择使用口令

      • 口令:为 ADW 的管理员用户输入口令。

      • TNS 别名:从可用的高、中、低选项中进行选择。

      上载对象

    3. 默认准备位置中,输入以下信息。

      • 对象存储数据资产:选择在前面的步骤中创建的数据资产 (ObjectStorageConn)。

      • 连接:选择默认连接

      • 区间:从区间列表中,选择 OCI 对象存储存储桶所在的区间。

      • 时段:选择已连接到 BICC 的存储桶。

      上载对象

  9. 单击 Test connection(测试连接)测试连接,然后在 Successful(成功)连接后,单击 Create(创建)

    上载对象

  10. 转到 OCI 数据集成控制台并选择数据资产

    上载对象

  11. 数据资产中,我们将看到创建了三个数据资产。一个用于 BICC,一个用于 OCI 对象存储,一个用于 ADW。

    上载对象

任务 5.3:创建数据流

在 OCI 数据集成中,我们有两个选项,一个是创建数据加载程序任务,另一个是创建数据流

在本教程中,我们将创建一个数据流。在 OCI Data Integration 中,我们将首先创建一个项目,用作设计时资源的容器,例如任务或数据流和管道。

  1. 在 OCI 数据集成控制台中,选择项目

    上载对象

  2. 选择新建

    上载对象

    上载对象

  3. 项目详细信息页面中,单击数据流并选择创建数据流

    上载对象

  4. 数据流页中,可以更改名称。

    上载对象

  5. 运算符页中,将拖放到画布中。源连接器属性详细信息将在底部打开。

    上载对象

  6. 属性中输入以下信息。

    • 标识符:输入 ERP_Financial

    • 数据资产:选择在 OCI 数据集成中创建的 ERP 数据资产。

      上载对象

    • 连接:选择默认连接

      上载对象

    • 模式:选择财务模式

      上载对象

    • 数据实体:选择全部查看类型将为 FscmTopModelAM.FinExtractAM.ArBiccExtractAM.CustomerProfileClassExtractPVO,然后单击输入

      单击客户概要信息“公共视图对象 (Public View Objects,PVO)”和选择的复选框。

      上载对象

      选择提取策略作为完全。对于增量加载,可以选择增量

      初始提取日期是可选的,因此请保留原样。否则,在需要计划提取绑定时,可以在此字段中执行此操作。

    • BICC 外部配置存储:选择在 BICC 控制台中创建的外部存储连接的名称。

      上载对象

      上载对象

      最后,您将看到为源表选择的所有字段。

      上载对象

  7. 运算符页中,将目标连接器拖放到画布中。

    上载对象

  8. 属性中输入以下信息。

    • 标识符:输入 ERPCustomerDetail

    • 选择创建新数据实体

    • 数据资产:选择在 OCI 数据集成中创建的 ADW 数据资产。

    • 连接:选择默认连接

    • 模式:选择全部查看管理

    • 数据实体:由于要在目标 ADW 中创建新数据实体,因此请为需要创建的新表命名。

      上载对象

    • 准备位置:选择使用默认准备位置

      上载对象

    • 集成策略:选择插入

      上载对象

  9. 转到画布,将源 (ERP_Financial) 运算符与目标 (ERPCustomerData) 运算符连接。

    上载对象

  10. 单击验证

    上载对象

  11. 验证后,单击创建并关闭

    上载对象

    完成后,我们可以在项目中看到数据流。

    上载对象

  12. 接下来,创建集成任务。

    通过 OCI 数据集成中的集成任务,您可以采用数据流设计并选择要在运行时使用的参数值。借助集成任务,您可以为同一数据流创建具有不同配置的多个任务。

    项目文件夹中,导航到任务创建任务集成

    上载对象

  13. 创建集成任务页中,输入以下信息。

    • 名称:输入任务名称。
    • 项目或文件夹:选择项目或文件夹名称。
    • 选择从 ERP 创建到 ADW 的数据流。

    上载对象

  14. 验证成功后,单击创建并关闭

    上载对象

  15. 在项目页面中,您将看到一个数据流并创建一个任务。

    上载对象

  16. 要发布任务,我们需要创建应用程序

    应用程序是已发布任务、数据流及其相关性的容器。您可以在应用程序中运行已发布的任务以进行测试或将其推广到生产环境中。

    转到 OCI 数据集成控制台,导航到应用程序,然后选择创建应用程序创建新应用程序

    上载对象

    上载对象

  17. 选择创建空白应用程序,输入名称并单击创建

    上载对象

    上载对象

  18. 转到项目并选择项目文件夹。

  19. 单击任务,选择集成任务,然后单击发布到应用程序

    上载对象

  20. 选择应用程序名称,然后单击发布

    上载对象

  21. 转到 OCI 数据集成控制台,选择应用程序并单击您的应用程序。

    上载对象

  22. 应用程序详细信息页中,单击任务,您可以查看集成任务。

    上载对象

  23. 单击三个点。

    上载对象

  24. 单击运行。要稍后调度运行,可以选择调度

    我们将看到我们的任务在应用程序文件夹的运行中运行。

    上载对象

    上载对象

  25. 运行成功后,我们将转到 ADW 进行验证。

转到 OCI 控制台,导航到 Oracle DatabaseAutonomous Data Warehouse 。选择 ADW 实例。

![Upload Objects](./images/Picture90.png "image")

![Upload Objects](./images/Picture91.png "image")
  1. Autonomous Database 详细信息页面中,从数据库操作下拉菜单中选择 SQL

    上载对象

    在 SQL 编辑器中,您将在 ADMIN 用户中看到我们在数据流中创建的表已创建。

    上载对象

  2. 在 SQL 工作表中运行以下语句。

    select * from ADMIN.ERPCUSTOMERDATA;
    

    它将显示财务 ERP 应用数据文件中的所有数据。

    上载对象

  3. 除了 ADW,如果转到 OCI Object Storage 桶,我们还会在存储桶中找到提取的文件数据,这些数据充当暂存位置。

    上载对象

这使用 OCI Data Integration 将数据从 Oracle Fusion Cloud ERP 提取到 ADW。

后续步骤

您已了解如何使用 OCI 数据集成服务将数据从 Oracle Fusion Cloud ERP 迁移到 ADW 的简单用例。您可以定制迁移计划以满足您的应用要求。有关更多详细信息,请参阅“相关链接”部分中的 OCI 数据集成服务文档。

确认

更多学习资源

浏览 docs.oracle.com/learn 上的其他实验室,或者访问 Oracle Learning YouTube 渠道上的更多免费学习内容。此外,请访问 education.oracle.com/learning-explorer 成为 Oracle Learning Explorer。

有关产品文档,请访问 Oracle 帮助中心