注意:
- 本教程需要访问 Oracle Cloud。要注册免费账户,请参阅开始使用 Oracle Cloud Infrastructure 免费套餐。
- 它对 Oracle Cloud Infrastructure 身份证明、租户和区间使用示例值。完成实验室后,请使用特定于云环境的那些值替换这些值。
使用 OCI Data Integration 将 Fusion SaaS 数据复制创建到 Oracle Autonomous Data Warehouse
简介
Oracle Cloud Infrastructure Data Integration 是一项完全托管的多租户服务,可帮助数据工程师和开发人员处理数据移动和数据加载任务。借助 Spark 提取、转换和加载 (ETL) 或提取、加载和转换 (ELT) 流程,可以从各种数据资产中摄取大量数据;清理;转换和重塑;高效地加载到 Oracle Cloud Infrastructure (OCI) 目标数据资产。
有两种工具可用于从 Oracle Fusion Cloud ERP (Oracle Cloud ERP) 导出批量数据:Oracle Business Intelligence Publisher (BI Publisher) 和 Oracle Business Intelligence Cloud Connector (BICC)。
-
Business Intelligence Publisher 本质上是一种报告工具。建议不要将 BI Publisher 报表用于一般数据提取目的。对于提取中等到大量数据,BICC 是首选工具。
-
Oracle Business Intelligence Cloud Connector 是用于将 Oracle Fusion Cloud ERP 数据摄取到外部存储以供 BI 使用的 Oracle 工具。它作为 Oracle Cloud Applications 订阅的一部分提供。BICC 具有许多功能,包括将数据摄取到存储、调度和自动提取。
目标
- 在本教程中,我们将介绍如何使用 OCI 数据集成服务通过 BICC 创建到 Oracle Autonomous Data Warehouse (ADW) 的 Fusion SaaS 环境的连接。OCI 数据集成服务是一种云原生的无服务器 ETL 和 ELT 服务,用于移动、集成和转换数据。它是一项完全托管的服务,具有易于使用的图形设计和在加载之前可视化数据流。
先决条件
-
访问 OCI 租户。
-
预配的 ADW 和 OCI 对象存储。
任务 1:预配网络连接
要设置 OCI 数据集成,需要先预配网络组件。
创建网络组件时,您可以根据您的用例选择两个选项来启动数据集成工作区。
-
登录到 OCI 控制台,导航到网络和虚拟云网络。
-
选择所需的资源所在的区间,然后单击启动 VCN 向导。
-
选择 Create VCN with Internet Connectivity 。这将启动 VCN 连接到互联网所需的所有相关资源。
此 VCN 设置将通过互联网网关自动为您创建公共和专用子网,以便连接到外部互联网。您的 VCN 将如下所示:
将自动创建公共子网和专用子网的路由表。如果您要在专用子网中创建资源,请确保在路由表中添加了到Oracle 服务网络中的所有服务的路由。
如果您在专用子网中有资源并且对安全性有顾虑,请参阅了解适用于 Oracle Cloud Infrastructure (OCI) 数据集成的 VCN 配置。
任务 2:创建 OCI 对象存储桶
-
转到 OCI 控制台,导航到存储、存储桶,然后单击创建存储桶。
已创建存储桶。
任务 3:与 Autonomous Database 连接
假设您已从 OCI 控制台预配 ADW,
-
转到 OCI 控制台,导航到 Oracle Databases 和 Autonomous Data Warehouse 。
-
在区间中,选择您的 ADW。
-
单击数据库连接以下载您的 wallet。
-
单击 Download(下载)并将其保存在本地系统上。
任务 4:预配 OCI 数据集成
要创建数据集成,您需要具有某些策略。
-
转到 OCI 控制台,导航到身份与安全和策略。
-
在根区间中,单击创建策略,选择显示手动编辑器并添加以下策略。
-
要创建数据集成工作区和查看用户,请执行以下操作:
allow group <group-name> to manage dis-workspaces in compartment <compartment-name> allow group <group-name> to manage dis-work-requests in compartment <compartment-name> allow service dataintegration to inspect users in tenancy
-
在工作区中启用专用访问:
allow service dataintegration to use virtual-network-family in compartment <compartment-name> allow group <group-name> to manage virtual-network-family in compartment <compartment-name>
-
对于自治数据库和 Oracle Fusion Applications 所需的 OCI Object Storage:
allow group <group-name> to use object-family in compartment <compartment-name> allow any-user to use buckets in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>’} allow any-user to manage objects in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>’} allow any-user to manage buckets in compartment <compartment-name> where ALL {request.principal.type = 'disworkspace', request.principal.id = '<workspace-ocid>', request.permission = 'PAR_MANAGE'}
-
对于自治数据库:
allow group <group-name> to read autonomous-database-family in compartment <compartment-name>
-
-
单击创建。所有策略都到位后,转到数据集成服务以创建工作区。
-
转到 OCI 控制台,导航到 Analytics & AI 和 Data Integration 。
-
选择工作区,选择您的区间,然后选择创建工作区。
-
输入工作区 Name(名称)并选择 Enable private Network(启用专用网络)作为 Network selection(网络选择)。
-
单击创建。
任务 5:将数据从 Oracle Fusion Cloud ERP 提取到 ADW
任务 5.1:将 OCI 存储桶连接到 BICC
现在,我们将在 BICC 中创建一个连接,BICC 是 Oracle Fusion Applications 的组件,允许您从不同的应用程序进行交互和提取数据。
我们将 BICC 连接到外部存储,在我们的案例中,这是 OCI 存储桶。OCI 存储桶充当暂存区域,在通过 OCI 数据集成提取到 ADW 之前,将从 BICC 提取的所有文件都将存储在该区域中。
-
输入 BICC 的 URL,其格式如下:https://fa-eqgj-dev11-saasfademo1.ds-fa.oraclepdemos.com/biacm 。
您将被定向到 BICC 控制台。
-
从右侧面板中,选择 Configure External Storage 。
-
单击 OCI Object Storage Connection 和 + 以添加新的 OCI Object Storage 连接,您将被定向到新的连接控制台。
-
在 OCI 参数部分中,输入以下信息。
-
名称:输入存储连接的名称。
-
主机:主机将是以下项之一,具体取决于您的区域。
-
objectstorage.ap-mumbai-1.oraclecloud.com
-
objectstorage.ap-seoul-1.oraclecloud.com
-
objectstorage.ap-sydney-1.oraclecloud.com
-
objectstorage.ap-tokyo-1.oraclecloud.com
-
objectstorage.ca-toronto-1.oraclecloud.com
-
objectstorage.eu-frankfurt-1.oraclecloud.com
-
objectstorage.eu-zurich-1.oraclecloud.com
-
objectstorage.sa-saopaulo-1.oraclecloud.com
-
objectstorage.uk-london-1.oraclecloud.com
-
objectstorage.us-ashburn-1.oraclecloud.com
-
objectstorage.us-phoenix-1.oraclecloud.com
注:要获取其他必需参数,您需要转到 OCI 控制台。
-
-
租户 OCID:输入租户 OCID。
-
名称空间:输入名称空间。
-
用户 OCID:转到 OCI 控制台,单击您的用户名并复制 OCID。
-
时段名称:输入在“先决条件”部分中创建的 OCI 对象存储桶名称。
-
-
单击生成 API 签名密钥,这将生成指纹并导出公钥以导出本地系统中的公钥。
-
转到 OCI 控制台。在 User Details(用户详细信息)页中,单击 API Keys(API 密钥)、 Add API Key(添加 API 密钥)并粘贴
oci_api_key
文件。 -
单击 Choose Public Key File(选择公钥文件),然后选择在最后一步中下载的文件。
这将生成指纹,并将该指纹添加到用户的 API 密钥列表中。您将看到创建的指纹与 BICC 控制台中生成的指纹相同。
-
转到 BICC 控制台,然后选择测试连接。
-
它将发出 Successful 连接消息。单击确定并保存连接。
从 BICC 控制台建立到 OCI Object Storage 桶的连接后,我们将在 OCI Data Integration 服务中创建连接。
任务 5.2:在 OCI 数据集成中创建连接
-
转到 OCI 控制台,导航到 Analytics & AI 和 Data Integration 。
-
单击工作区,选择在任务 4 中创建的区间和数据集成工作区。
-
在 OCI 数据集成控制台中,创建数据资产。
在我们的数据资产中,我们的源系统是 BICC 连接,目标连接是 ADW。要创建 ADW 数据资产,先决条件是创建 OCI 对象存储数据资产。我们将创建 3 个数据资产。
- BICC
- OCI 对象存储
- ADW
单击创建数据资产。
-
从数据源列表中,选择 Fusion Apps – BICC 连接器。
-
在一般信息部分中,输入以下信息。
-
名称:输入名称(例如,
ERP_CloudConn
)。 -
类型:选择 Oracle Fusion Applications 。
-
Oracle Fusion Applications 主机:这是指向 Fusion 环境的链接(例如
fa-eqgj-dev11-saasfademo1.ds-fa.oraclepdemos.com
)。
-
-
在默认连接信息部分中,输入以下信息和测试连接。
-
类型:选择 Oracle BI Cloud Connector 。
-
用户名:输入 BICC 用户名。
-
选择使用口令。
-
密码:输入 BICC 密码。
-
默认 BICC 外部存储配置:选择在 BICC 控制台中创建的外部存储连接。
-
-
-
连接状态为成功后,单击创建。
-
在选择资产类型中,选择 OCI 对象存储。
输入连接名称 (
ObjectStorageConn
)。您会注意到,其余字段将在租户 OCI 数据集成中自动填充。将其余字段保留原样,然后单击测试连接。 -
成功连接后,单击创建。
注:在 OCI 数据集成中创建与 OCI 对象存储和 ADW 的连接之前,请确保添加本文档的先决条件中提到的策略。
-
单击创建数据资产。在选择数据资产类型中,选择 Oracle ADW 。
-
在一般信息中,输入以下信息。
-
名称:输入
ADWTarget
。 -
类型:选择 Oracle Autonomous Data Warehouse 。
-
选择 Upload Wallet 。
-
Wallet 文件:选择在从 ADW 下载数据库连接的初始步骤中下载的 wallet 文件。
-
Wallet 口令(可选):添加 wallet 口令。
-
-
在默认连接信息中,输入以下信息。
-
用户名:输入
admin
。 -
选择使用口令。
-
口令:为 ADW 的管理员用户输入口令。
-
TNS 别名:从可用的高、中、低选项中进行选择。
-
-
在默认准备位置中,输入以下信息。
-
对象存储数据资产:选择在前面的步骤中创建的数据资产 (
ObjectStorageConn
)。 -
连接:选择默认连接。
-
区间:从区间列表中,选择 OCI 对象存储存储桶所在的区间。
-
时段:选择已连接到 BICC 的存储桶。
-
-
-
单击 Test connection(测试连接)测试连接,然后在 Successful(成功)连接后,单击 Create(创建)。
-
转到 OCI 数据集成控制台并选择数据资产。
-
在数据资产中,我们将看到创建了三个数据资产。一个用于 BICC,一个用于 OCI 对象存储,一个用于 ADW。
任务 5.3:创建数据流
在 OCI 数据集成中,我们有两个选项,一个是创建数据加载程序任务,另一个是创建数据流。
-
数据加载程序:它主要用于将各种数据集简单加载到数据湖、数据集市和仓库中。数据加载程序任务获取源数据实体,应用转换(可选),然后将转换的数据加载到新的目标数据实体或更新现有数据实体。数据加载程序任务支持在元数据和数据级别进行转换。
-
数据流:这是一个逻辑图,表示从源数据资产(例如数据库或平面文件)到目标数据资产(例如数据湖或数据仓库)的数据流。从源到目标的数据流可以进行一系列转换,以聚合、清理和配置数据。然后,数据工程师和 ETL 开发人员可以分析或收集洞察,并使用这些数据做出有影响力的业务决策。
在本教程中,我们将创建一个数据流。在 OCI Data Integration 中,我们将首先创建一个项目,用作设计时资源的容器,例如任务或数据流和管道。
-
在 OCI 数据集成控制台中,选择项目。
-
选择新建。
-
在项目详细信息页面中,单击数据流并选择创建数据流。
-
在数据流页中,可以更改名称。
-
从运算符页中,将源拖放到画布中。源连接器属性详细信息将在底部打开。
-
在属性中输入以下信息。
-
标识符:输入
ERP_Financial
。 -
数据资产:选择在 OCI 数据集成中创建的 ERP 数据资产。
-
连接:选择默认连接。
-
模式:选择财务模式。
-
数据实体:选择全部查看,类型将为
FscmTopModelAM.FinExtractAM.ArBiccExtractAM.CustomerProfileClassExtractPVO
,然后单击输入。单击客户概要信息“公共视图对象 (Public View Objects,PVO)”和选择的复选框。
选择提取策略作为完全。对于增量加载,可以选择增量。
初始提取日期是可选的,因此请保留原样。否则,在需要计划提取绑定时,可以在此字段中执行此操作。
-
BICC 外部配置存储:选择在 BICC 控制台中创建的外部存储连接的名称。
最后,您将看到为源表选择的所有字段。
-
-
从运算符页中,将目标连接器拖放到画布中。
-
在属性中输入以下信息。
-
标识符:输入
ERPCustomerDetail
。 -
选择创建新数据实体。
-
数据资产:选择在 OCI 数据集成中创建的 ADW 数据资产。
-
连接:选择默认连接。
-
模式:选择全部查看和管理。
-
数据实体:由于要在目标 ADW 中创建新数据实体,因此请为需要创建的新表命名。
-
准备位置:选择使用默认准备位置。
-
集成策略:选择插入。
-
-
转到画布,将源 (
ERP_Financial
) 运算符与目标 (ERPCustomerData
) 运算符连接。 -
单击验证。
-
验证后,单击创建并关闭。
完成后,我们可以在项目中看到数据流。
-
接下来,创建集成任务。
通过 OCI 数据集成中的集成任务,您可以采用数据流设计并选择要在运行时使用的参数值。借助集成任务,您可以为同一数据流创建具有不同配置的多个任务。
在项目文件夹中,导航到任务、创建任务和集成。
-
在创建集成任务页中,输入以下信息。
- 名称:输入任务名称。
- 项目或文件夹:选择项目或文件夹名称。
- 选择从 ERP 创建到 ADW 的数据流。
-
验证成功后,单击创建并关闭。
-
在项目页面中,您将看到一个数据流并创建一个任务。
-
要发布任务,我们需要创建应用程序。
应用程序是已发布任务、数据流及其相关性的容器。您可以在应用程序中运行已发布的任务以进行测试或将其推广到生产环境中。
转到 OCI 数据集成控制台,导航到应用程序,然后选择创建应用程序、创建新应用程序。
-
选择创建空白应用程序,输入名称并单击创建。
-
转到项目并选择项目文件夹。
-
单击任务,选择集成任务,然后单击发布到应用程序。
-
选择应用程序名称,然后单击发布。
-
转到 OCI 数据集成控制台,选择应用程序并单击您的应用程序。
-
在应用程序详细信息页中,单击任务,您可以查看集成任务。
-
单击三个点。
-
单击运行。要稍后调度运行,可以选择调度。
我们将看到我们的任务在应用程序文件夹的运行中运行。
-
运行成功后,我们将转到 ADW 进行验证。
转到 OCI 控制台,导航到 Oracle Database 和 Autonomous Data Warehouse 。选择 ADW 实例。


-
在 Autonomous Database 详细信息页面中,从数据库操作下拉菜单中选择 SQL 。
在 SQL 编辑器中,您将在 ADMIN 用户中看到我们在数据流中创建的表已创建。
-
在 SQL 工作表中运行以下语句。
select * from ADMIN.ERPCUSTOMERDATA;
它将显示财务 ERP 应用数据文件中的所有数据。
-
除了 ADW,如果转到 OCI Object Storage 桶,我们还会在存储桶中找到提取的文件数据,这些数据充当暂存位置。
这使用 OCI Data Integration 将数据从 Oracle Fusion Cloud ERP 提取到 ADW。
后续步骤
您已了解如何使用 OCI 数据集成服务将数据从 Oracle Fusion Cloud ERP 迁移到 ADW 的简单用例。您可以定制迁移计划以满足您的应用要求。有关更多详细信息,请参阅“相关链接”部分中的 OCI 数据集成服务文档。
相关链接
确认
- 作者 — Sugandha Kher(北美云工程高级云工程师)
更多学习资源
浏览 docs.oracle.com/learn 上的其他实验室,或者访问 Oracle Learning YouTube 渠道上的更多免费学习内容。此外,请访问 education.oracle.com/learning-explorer 成为 Oracle Learning Explorer。
有关产品文档,请访问 Oracle 帮助中心。
Create Fusion SaaS Data Replication into Oracle Autonomous Data Warehouse using OCI Data Integration
G24933-01
January 2025