關於資料流程

資料流程定義資料在不同系統之間移動和轉換的方式。

「資料轉換」中的資料流程會透過結合、篩選、聚總、設定、分割等元件流程,將來源連線至目標。請參閱支援的資料庫函數瞭解詳細資訊。

當您執行資料流程時,「資料轉換」會使用結合、篩選、對應和限制條件來轉換來源資料並將其載入目標表格。請注意,您一次只能執行一個執行流程。您無法在「資料流程」上放置多個流程,且流程無法分散至多個流程。

主題

建立資料流程

建立資料流程以從來源連線載入資料、執行轉換,以及將資料移至目標資料庫。

您可以使用下列任何一種方式建立資料流程:

新建立的資料流程會顯示在相關專案的「資料流程」頁面中。按一下所選資料流程旁邊的「動作」圖示 (「動作」圖示),即可編輯、重新命名、複製、變更資料夾、啟動、匯出或刪除它。

從「專案」頁面

若要從「專案」頁面建立資料流程,

  1. 在「專案」頁面上,按一下建立資料流程

    建立資料流程頁面便會顯示:

  2. 名稱欄位中,輸入新資料流程的名稱。
  3. 若要為新建立的資料流程建立新的專案資料夾,請選取建立新專案
  4. 否則,如果要將新建立的資料流程新增至現有專案資料夾,請按一下新增至現有專案
  5. 如果您已為上一個選項選取建立新專案,請在專案名稱欄位中,輸入新建立專案的名稱。
  6. 否則,如果您已為上一個選項選取新增至現有專案,請從專案名稱下拉式箭頭中選取所需的專案。
  7. 說明欄位中,輸入新建立之資料流程的說明。
  8. 按一下建立

從專案內的「資料流程」頁面

若要從專案中的「資料流程」頁面建立資料流程,

  1. 在「專案」頁面上,按一下您要為其建立新資料流程的專案磚塊。專案詳細資訊頁面便會顯示。
  2. 資料流程頁面中,按一下建立資料流程
  3. 提供新資料流程的名稱描述
  4. 按一下下一步
  5. 若要定義來源連線,請從連線下拉式清單中,選取您要新增資料實體的必要連線。
  6. 在「綱要」下拉式清單中,對應至所選連線的所有綱要會列在兩個群組中:
    • 現有綱要 (已匯入 Oracle 資料轉換中的綱要) 和
    • 新資料庫綱要 (尚未匯入的綱要)。

    從下拉式清單中選取您要使用的綱要。對於 Oracle Object Storage 連線,「綱要」下拉式清單會列出您在建立連線時,在 URL 中指定的儲存桶名稱。

  7. 按一下「儲存」。

    「資料流程編輯器」隨即顯示,可讓您建立新的資料流程。

從首頁

若要從首頁建立資料流程,

  1. 在首頁中,按一下轉換資料。「建立資料流程」頁面便會顯示。
  2. 提供新資料流程的名稱描述
  3. 從下拉式清單中選取專案名稱。或者,按一下 + 圖示來建立專案。
  4. 按一下下一步
  5. 連線下拉式清單中,選取您要新增資料實體的必要連線。或者,按一下 + 圖示來建立新連線。
  6. 在「綱要」下拉式清單中,對應至所選連線的所有綱要會列在兩個群組中:
    • 現有綱要 (已匯入 Oracle 資料轉換中的綱要) 和
    • 新資料庫綱要 (尚未匯入的綱要)。

    從下拉式清單中選取您要使用的綱要。

  7. 按一下儲存

關於資料流程編輯器

資料流程編輯器分為五個部分:資料實體面板、資料庫函數工具列、設計工作區、特性面板和狀態面板。



  • 資料實體面板:資料實體面板會顯示可用於您資料流程中的資料實體。您可以使用「名稱」和「標記」欄位來篩選顯示的清單。此面板包含可讓您新增綱要、匯入資料實體、移除與資料流程關聯的任何綱要,以及重新整理資料實體的選項。如需有關如何使用這些選項的資訊,請參閱新增元件
  • 資料庫函數工具列:「資料庫函數」工具列顯示可在資料流程中使用的資料庫函數。就像「資料實體」一樣,您可以拖放要在設計畫面上使用的「資料庫」工具。請參閱支援的資料庫函數瞭解詳細資訊。
  • 設計工作區:設計工作區是您建立轉換邏輯的位置。將「資料實體」和「資料庫函數」新增至設計工作區之後,您可以依邏輯順序連線它們以完成資料流程。
  • 特性面板:特性面板會顯示設計工作區中所選物件的特性。「特性面板」分為四個頁籤。一般屬性預覽資料資料欄對應選項。並非所有頁籤都可用,因為它們會根據選取的物件而有所不同。請參閱元件特性,瞭解這些選項的詳細資訊。
  • 狀態面板:當您執行資料流程時,「狀態面板」會顯示在背景中執行以完成要求的工作狀態。您可以查看目前執行中的工作狀態或最後一個工作的狀態。如需有關「狀態」面板的詳細資訊,請參閱監督資料載入、資料流程和工作流程的狀態

設計必要的資料流程之後,

  • 按一下 「儲存」圖示,以儲存建立 / 設計的資料流程。
  • 按一下 自動版面配置圖示,即可對齊設計之資料流程的節點。
  • 按一下 執行圖示,即可執行建立的資料流程。
  • 按一下 驗證圖示,以驗證建立的資料流程。
  • 按一下 縮小與縮小圖示,即可將設計工作區中建立的資料流程圖表最大化或最小化。

支援的資料庫函數

Oracle Data Transforms 支援各種資料庫功能,您可以在「設計畫面」上拖放,以連接資料流程內的元件。

「資料流程」編輯器中的「資料庫函數」工具列包括可用於資料流程中的下列資料庫函數。如需有關資料庫函數的資訊,請參閱 Oracle Database SQL Language Reference

  1. 資料轉換

    此區域包含下列元件:

    • 聚總
    • 表示式
    • Filter
    • 結合
    • 不同
    • 查詢
    • 設定
    • 排序
    • 子查詢篩選
    • 表格函數
  2. 資料準備

    此區域包含下列元件:

    • 資料清除
    • 替代
    • 等寬分區
    • 分位數分區
    • Lead - 前導
    • Lag
    • 取代
  3. 機器學習

    此區域包含下列元件:

    • 預測
    • 預測模型
    • 離群值偵測
    • 文字內嵌向量
  4. 文字

    此區域包含下列元件:

    • 正規表示式計數
    • 正規表示式指示器
    • 正規表示式子字串
    • 正規表示式取代
    • 編輯距離相似度
    • 包含
  5. Oracle Spatial and Graph

    此區域包含下列元件:

    • 緩衝區維度
    • 緩衝區允差
    • 距離維度
    • 距離允差
    • 最接近
    • 簡化
    • Point - 點
    • 地理代碼工具 :

      附註:

      下列地理代碼工具僅適用於非 Autonomous Database 環境中。
      • 以幾何形式進行地理編碼
      • 地理代碼
      • 對地址進行地理編碼
      • 對全部進行地理編碼
      • 對所有地址進行地理編碼
      • 反向地理編碼

      附註:

      下列「地理代碼工具」僅適用於 Autonomous Database 環境。
      • 對雲端進行地理編碼
    • 空間結合

新增元件

將資料實體和資料庫函數新增至「設計工作區」,然後以邏輯順序連接它們以完成資料流程。

若要將元件新增至資料流程,請執行下列動作:
  1. 在「資料實體」面板中,按一下新增綱要以新增包含您要在資料流程中使用之資料實體的綱要。
  2. 在「新增綱要」頁面中,選取連線和綱要名稱。
  3. 按一下匯入
  4. 在「匯入資料實體」頁面中,選取您要匯入的物件類型。如果您不想匯入綱要中的每個物件,請選擇「遮罩 / 篩選」,然後按一下開始
  5. 「資料實體」面板會列出匯入的資料實體。面板包含各種選項,可讓您執行下列作業:
    • 重新整理資料實體 - 按一下「重新整理」圖示 Refresh icon 以重新整理顯示的清單。
    • 名稱 - 依名稱搜尋資料實體。
    • 標記 - 依使用的標記名稱篩選資料實體。
    • 匯入資料實體 - 在綱要上按一下滑鼠右鍵以查看此選項。使用此選項匯入資料實體。
    • 移除綱要 - 在資料實體上按一下滑鼠右鍵即可查看此選項。使用此選項即可將綱要自清單中移除。請注意,此選項不會刪除綱要,只會移除綱要與此資料流程的關聯。
  6. 相同地將更多綱要新增至資料流程 (如有需要)。
  7. 將您要在資料流程中使用的必要「資料實體」拖放至設計工作區。
  8. 資料庫函數工具列,將您要在資料流程中使用的轉換元件拖放到設計工作區。您可以在資料流程中使用變數。請參閱在資料流程中使用變數以瞭解詳細資訊。
  9. 選取設計工作區上的物件,然後將連接器圖示 (連線器圖示) 拖曳到該圖示旁,即可連線元件。
  10. 儲存資料流程之後,一或多個元件連線可能會有覆蓋的「傳輸」圖示。這表示 ODI 已偵測到其他步驟,因此需要在資料伺服器之間移動資料。您可以按一下此圖示來檢視與此步驟關聯的特性。

在資料流程中使用文字內嵌向量

「資料轉換」支援在資料流程中使用向量資料類型和內嵌向量。目前 Data Transforms 與 OCI Generative AI 服務整合,可將輸入文字轉換為可用於資料分析和搜尋的向量內嵌項目。

對於內嵌「資料轉換」的文字,支援儲存於資料欄中的文字,以及儲存於資料欄中的 http 連結。在資料流程中使用內嵌向量之前,您必須執行下列作業:

若要在資料流程中使用向量內嵌,請執行下列動作:

  1. 依照建立資料流程中的指示建立新的資料流程。
  2. 在「資料流程編輯器」中,按一下新增綱要以定義您的來源連線。從連線下拉式清單中,選取您要使用的 Oracle Database 23ai 連線和綱要。按一下確定
  3. 將您要用來作為資料流程來源的表格拖放至設計工作區。
  4. 從「資料庫函數」工具列中,按一下機器學習,然後將文字內嵌向量轉換元件拖放到設計工作區。
  5. 按一下文字內嵌向量轉換元件以檢視其特性。
  6. 一般頁籤中,指定下列項目:
    • AI 服務 - 從下拉式清單中選取 OCI Generative AI
    • 連線 - 下拉式清單中列出所選「AI 服務」的所有可用連線。選取您要使用的連線。
    • AI 模型 - 下拉式清單列出所選「AI 服務與連線」的所有可用模型。列出下列模型:
      • "cohere.embed-english-light-v2.0"
      • "cohere.embed-english-light-v3.0"
      • "cohere.embed-english-v3.0"
      • "cohere.embed-multilingual-light-v3.0"
      • "cohere.embed-multilingual-v3.0"
      您也可以輸入模型名稱。
  7. 資料欄對應頁籤中,對應要內嵌至運算子 INPUT 屬性的來源資料欄。資料欄對應中唯一可用的資料欄是 input_text。將文字資料欄從可用資料欄拖曳至「表示式」資料欄。這是將建立向量的資料。
  8. 將您要用來作為資料流程中目標的表格拖放至設計工作區。
  9. 儲存並執行資料流程。

    「資料轉換」會為來源表格中的每個資料列建立向量,並將其寫入目標表格。

元件特性

「特性面板」會顯示在「設計工作區」中選取之元件的各種設定值。

視選取的元件而定,您可能會看到下列任一圖示:

  • 一般 (一般) - 顯示元件的名稱及其連線和綱要詳細資訊。您可以編輯其中一些特性。
  • 屬性 (屬性) - 顯示與元件相關之所有屬性的詳細資訊。
  • 資料欄對應 (資料欄對應) - 可讓您自動對應所有資料欄。請參閱對應資料欄以瞭解詳細資訊。
  • 預覽 (Preview - 預覽) - 顯示元件的預覽。對於 Oracle 表格,您也可以檢視所選資料實體的統計資料。如需可用統計資訊的詳細資訊,請參閱檢視資料實體的統計資料
  • 選項 (選項) - 顯示選項,例如
    • 截斷表格 - 以新資料取代任何現有的目標表格內容。
    • 附加 - 將流程中的記錄插入目標。不會更新現有的記錄。
    • 遞增 - 透過比較流程記錄與現有記錄,以及在相關資料不相同時更新記錄,來整合目標表格中的資料。插入目標中尚未存在的那些項目。
      此選項包含預設為 True 的自動壓縮功能。對於使用「增量更新」模式將資料載入壓縮的 Oracle 目標分割區的資料流程工作,「自動壓縮」功能會在載入順利完成後重新壓縮修改的目標分割區。對於原先未壓縮的表格分割區,系統會略過壓縮,無論是否將「自動壓縮」設為 true。

      附註:

      「自動壓縮」選項可供 ADMIN 使用者或具有 DWROLE 角色的使用者使用。對於具有 ADMIN 以外之綱要使用者的資料流程,您必須將 DWROLE 指派給使用者或停用「自動壓縮」,以避免發生執行錯誤。

對應資料欄

當您將來源資料實體與目標資料實體連線時,欄名稱會自動依欄名稱對應。您可以選擇依「位置」或「名稱」對應資料欄,或使用「表示式編輯器」手動對應資料欄。

若要依「位置」或「名稱」對應資料欄,請執行下列動作:

  1. 選取目標「資料實體」。
  2. 按一下右上角的箭頭圖示,以展開「屬性面板」。這將提供更多空間供您使用。
  3. 特性面板中,按一下資料欄對應圖示 (「欄對應」圖示)。
  4. 若要依「位置」或「名稱」對應資料欄,請從自動對應下拉式功能表中,選取按位置按名稱

手動對應資料欄:

  1. 自動對應下拉式功能表中,選取清除以清除現有的對應。
  2. 從左邊的樹狀結構拖放屬性,即可與「表示式」資料欄對應。
  3. 若要編輯表示式,請按一下個別資料欄的編輯圖示。表示式編輯器隨即顯示,可讓您執行必要的變更 (例如,您可以新增表示式「UPPER」或開啟「表示式編輯器」來編輯表示式)。

    附註:

    只有在特定資料欄有複雜的表示式時,才使用表示式編輯器。
  4. 按一下確定

驗證及執行資料流程

對應就緒之後,您可以繼續驗證並執行資料流程。

執行下列作業:
  1. 按一下「儲存」。

    儲存之後,如果轉換前需要暫存資料,「傳輸」按鈕會新增至一或多個連結。您可以按一下這些按鈕來設定更多選項 (如果有的話)。

  2. 如果您要檢查將執行的程式碼,以完成執行資料流程工作時所執行的工作,請按一下程式碼模擬圖示 (「模擬程式碼」圖示)。來源和目標詳細資訊會以不同的顏色顯示,以便於參考。如果您要在執行工作之前或工作失敗前檢查對應是否正確,這是相當方便的。請注意,程式碼無法用於除錯。如需有關工作的詳細資訊,請參閱「工作詳細資訊」頁面。
  3. 按一下設計工作區上方工具列中的驗證圖示 (驗證圖示),以驗證資料流程。
  4. 驗證成功後,按一下驗證圖示旁的執行圖示 (「執行」圖示),以執行資料流程。

    如果您已將變數新增至資料流程,就會顯示變數值頁面,其中顯示您已新增至資料流程的變數清單。您可以選擇使用目前的值、預設值,或為每個變數設定自訂值。請注意,自訂值只會套用至目前的資料流程執行。不會保留任何後續階段作業的自訂值。

    此時會出現一個訊息,顯示執行「工作 ID」和名稱。若要檢查資料流程的狀態,請參閱「特性面板」下方的「狀態」面板。如需有關「狀態」面板的詳細資訊,請參閱監督資料載入、資料流程和工作流程的狀態。此面板也會顯示「工作 ID」的連結,您可以按一下該連結來監督「工作」頁面上的進度。如需詳細資訊,請參閱建立及管理工作

    對於使用 Oracle Object Storage 連線建立的資料流程,來源 CSV 檔案的資料會載入目標 Oracle Autonomous Database。您也可以將資料從 Oracle Autonomous Database 表格匯出至 Oracle Object Storage 中的 CSV 檔案。