將資料從 HeatWave 複寫至 Amazon Kinesis

瞭解如何使用 OCI GoldenGate 將資料從 HeatWave 複製到 Amazon Kinesis。

開始之前

若要順利完成此快速啟動,您必須具備:

環境設定:HeatWave

設定此「快速啟動」的環境:

  1. 下載範例資料命令檔,然後在 OCI 資料庫的 HeatWave 上執行命令檔,以建立資料庫並載入資料。

  2. 使用下列指令碼建立 ggadmin 使用者。請記得將 <ggadmin-password> 取代為有效的密碼:

    CREATE USER 'ggadmin' IDENTIFIED BY '<ggadmin-password>';
    GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT, CREATE,CREATE VIEW, EVENT, INSERT, UPDATE, DROP,EXECUTE, DELETE ON *.* TO 'ggadmin';
  3. 開啟 port 3306,OCI GoldenGate 可透過此連線。

    1. 在 Oracle Cloud 主控台中,尋找 OCI 資料庫上 HeatWave 所使用的子網路。

    2. 在子網路的安全清單中,建立 port TCP/3306 的傳入規則。

作業 1:建立 OCI GoldenGate 資源

  1. 建立 MySQL 部署來源 HeatWave 資料庫。

  2. 建立 Amazon Kinesis 目標的大數據部署。

  3. 建立來源 Heatwave 資料庫連線。

  4. 連線到 Amazon Kinesis 。

  5. 建立 GoldenGate 連線,然後將此連線指派給來源 MySQL 部署。

  6. 指定來源 MySQL 部署的來源連線。

  7. 將目標連線指派給目標大數據部署。

任務 2:建立擷取

  1. 在「部署 (Deployments)」頁面上,選取在「任務 1」中建立的 MySQL 部署。

  2. 在部署詳細資料頁面上,選取啟動主控台。

  3. 使用在任務 1 中建立部署時所指定的管理員憑證登入來源 MySQL 部署主控台。

  4. 使用下列值新增變更資料擷取擷取:

    • 擷取類型:變更資料擷取擷取

    • 程序名稱:ECDC

    • 擷取歷程檔名稱:C1

    • 參數檔:將 MAP *.*, TARGET *.*; 取代為 TABLE SRC_OCIGGLL.*;

工作 3:建立目標大數據部署的分配路徑

  1. 如果使用 IAM 證明資料存放區,請繼續進行步驟 3。如果使用 GoldenGate 證明資料存放區,請建立來源 GoldenGate 用來連線至目標 GoldenGate 的使用者。

    1. 在「部署」頁面上,選取目標大數據部署。

    2. 在部署詳細資料頁面上,選取啟動主控台,然後以管理員使用者身分登入。

    3. 在部署主控台導覽功能表中,選取使用者管理。

    4. 選取新增使用者 (加號圖示)、依下列方式完成欄位,然後選取提交:

      • 在使用者名稱中,輸入 ggsnet。

      • 在角色中,選取運算子。

      • 輸入密碼兩次以進行驗證。

  2. 在來源 MySQL 建置主控台中,為在上一個步驟中建立的使用者建立「路徑連線」。

    1. 開啟導覽功能表,然後選取路徑連線。

    2. 選取新增路徑連線 (加號圖示) ,依下列方式完成欄位,然後選取送出:

      • 在證明資料別名中,輸入 dpuser。

      • 對於使用者 ID ,請輸入 ggsnet

      • 在密碼中,輸入上一個步驟中使用的相同密碼。

  3. 在來源 MySQL 部署主控台中,使用下列值新增分送路徑:

    1. 在來源選項頁面上:

      • 對於來源擷取,請選取在任務 2 中建立的擷取。

      • 在歷程檔名稱中,輸入兩個字元的名稱,例如 C1。

    2. 在目標選項頁面上:

      • 在目標主機中,輸入目標部署的主機網域。

      • 在連接埠號碼中,輸入 443。

      • 在歷程檔名稱中,輸入兩個字元的名稱,例如 C1。

      • 在別名中,輸入在步驟 2 中建立的「證明資料別名」。

  4. 在目標 OCI GoldenGate 大數據部署主控台中,複查因分送路徑而建立的接收端路徑:

    1. 選取接收方服務。

    2. 複查「接收者」路徑詳細資訊。

工作 4:為 Amazon Kinesis 新增 Replicat

  1. 在大數據部署中,選取 Replicats ,然後選取新增 Replicat (加號圖示) 。

  2. 使用下列值新增 Replicat :

    • 對於 Replicat 類型,請選取傳統 Replicat

    • 在程序名稱中,輸入名稱。

    • 在目標追蹤名稱中,輸入任務 2 的追蹤名稱。

    • 若為目標,請選取 Amazon Kinesis。

    • 若為Amazon Kinesis 可用的別名,請從下拉式清單中選取您的別名。

    • 在「特性檔」頁面上,編輯標示為 #TODO 的欄位:

      • gg.handler.kinesis.region:提供目標 Kinesis 串流的 Amazon Web Services (AWS) 區域。

      • gg.handler.kinesis.streamMappingTemplate:依預設,它會設為 ${tableName},它會根據來源表格名稱對應串流。如果您要對應至現有的資料串流,可以提供靜態串流名稱,也可以使用樣板關鍵字來動態指定串流名稱。

工作 5:驗證從 HeatWave 複製到 Amazon Kinesis 的資料

執行來源 HeatWave 資料庫更新,以驗證對 Amazon Kinesis 的複寫。

  1. 在 OCI 堡壘主機中,使用 MySQL IP 和 port 3306 建立 SSH 連接埠轉送階段作業。新增您的公用 SSH 金鑰。

  2. 使用您的私密金鑰和 port 3306 連線至 Cloud Shell 中的 MySQL。

  3. 順利連線之後,請執行下列命令:

    mysqlsh admin@localhost:3306 --sql
  4. 執行下列命令檔以執行 HeatWave 資料庫的插入:

    use SRC_OCIGGLL;
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1000,'Houston',20,743113);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1001,'Dallas',20,822416);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1002,'San Francisco',21,157574);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1003,'Los Angeles',21,743878);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1004,'San Diego',21,840689);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1005,'Chicago',23,616472);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1006,'Memphis',23,580075);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1007,'New York City',22,124434);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1008,'Boston',22,275581);
    Insert into SRC_OCIGGLL.SRC_CITY (CITY_ID,CITY,REGION_ID,POPULATION) values (1009,'Washington D.C.',22,688002);
    commit;
  5. 在來源 MySQL 部署主控台中,選取「變更資料擷取擷取」名稱 (ECDC),然後選取統計資料。確認 SRC_OCIGGLL.SRC_CITY 有 10 個插入。

  6. 在目標 Big Data 部署主控台中,選取 Replicat 名稱,然後選取統計資料。確認 SRC_OCIGGLL.SRC_CITY 有 10 個插入。

  7. 在 Amazon Kinesis 中,您可以檢查目標資料串流 / 資料檢視器中的訊息。