附註:

使用 Datadog 可觀察性管線整合 Oracle Cloud Infrastructure 和 Datadog

簡介

Oracle Cloud Infrastructure (OCI) 是受大規模企業信任的基礎架構即服務 (IaaS) 和平台即服務 (PaaS)。它提供包含託管、儲存、網路、資料庫等全方位的託管服務。

Oracle Cloud Observability and Management Platform 的設計旨在符合客戶的偏好。許多人已採用運用第三方可觀察性工具建立的作業做法。我們的目標是確保與這些工具緊密整合,讓客戶能夠將現有的投資與 OCI 搭配使用。

根據資料霧,其可觀察性管線可讓您從任何來源收集、處理日誌,並將日誌遞送至您擁有或管理之基礎架構中的任何目的地。

資料霧可觀察性管線

Observability Pipelines Worker 是在您的基礎架構中執行的軟體。它會聚總並集中處理及遞送您的資料。若要將 OCI 日誌擷取至資料霧,可觀察性管線工作程式軟體會在 OCI 的運算執行處理上執行。更具體而言,可觀測性管線工作者將:

解決方案架構的高階表現法,如下圖所示。

架構圖

目標

必要條件

工作 1:設定要擷取的日誌

Oracle Cloud Infrastructure Logging 服務是可高度擴展且完全受管理的單一管理平台,適用於租用戶中的所有日誌。OCI 日誌記錄可讓您從 Oracle Cloud Infrastructure 資源存取日誌。日誌是第一流的 Oracle Cloud Infrastructure 資源,可儲存及擷取在指定相關資訊環境中收集的日誌事件。日誌群組是儲存在區間中的日誌集合。日誌群組是日誌的邏輯容器。使用日誌群組可套用 Oracle Cloud Infrastructure Identity and Access Management (OCI IAM) 原則或群組日誌以進行分析,以組織及簡化日誌管理。

若要開始使用,請對資源啟用日誌。服務會為資源可用的不同日誌類型提供日誌類別。例如,OCI 物件儲存服務支援下列儲存桶日誌類別:讀取和寫入存取事件。讀取存取事件會擷取下載事件,同時寫入存取事件會擷取寫入事件。每個服務都可以有不同的資源日誌類別。

  1. 登入 OCI 主控台,瀏覽至可觀測性與管理記錄日誌以及日誌群組

  2. 選取您的區間,按一下建立日誌群組並輸入下列資訊。

    • 名稱:輸入 Datadog_log_group
    • 描述 ( 選擇性 ):輸入描述。
    • 標記 ( 選擇性 ):輸入標記。
  3. 按一下建立以建立新日誌群組。

  4. 資源底下,按一下日誌

  5. 視需要按一下建立自訂日誌啟用服務日誌。

    例如,若要啟用 OCI 物件儲存的儲存桶寫入日誌,請依照下列步驟進行:

    1. 按一下啟用服務日誌

    2. 選取您的資源區間,然後在搜尋服務中輸入物件儲存

    3. 按一下啟用日誌,然後在資源中選取您的 OCI 物件儲存的儲存桶名稱。

    4. 選取在「工作 1.2」中建立的日誌群組 (Datadog_log_group),以及日誌類別中的寫入存取事件。選擇性地輸入 Datadog_bucket_write 作為日誌名稱

    5. 按一下啟用以建立新的 OCI 日誌。

工作 2:使用 OCI Streaming 建立串流

Oracle Cloud Infrastructure (OCI) Streaming 服務是即時、無伺服器、與 Apache Kafka 相容的事件串流平台,適用於開發人員和資料科學家。它提供完全受管理、可擴展且持久的解決方案,可即時擷取及使用大量資料串流,例如日誌。我們可以將 OCI Streaming 用於在發布 / 訂閱訊息傳遞模型中,以持續且循序方式產生及處理資料的任何使用案例。

  1. 前往 OCI 主控台,瀏覽至 Analytics & AIMessagingStreaming

  2. 按一下建立串流以建立串流。

  3. 輸入下列資訊,然後按一下建立

    • 名稱:輸入串流名稱。本教學課程為 Datadog_Stream
    • 串流集區:選取現有的串流集區,或使用公用端點建立新的串流集區。
    • 保留 (小時):輸入此串流中保留訊息的時數。
    • 分割區數目:輸入串流的分割區數目。
    • 寫入速率總計讀取速率總計:根據您需要處理的資料量輸入。

    您可以從預設值開始進行測試。如需詳細資訊,請參閱分割串流

作業 3:設定 OCI 連線器中心

OCI Connector Hub 可協調 Oracle Cloud Infrastructure 中服務之間的資料移動。OCI Connector Hub 可集中描述、執行及監控服務之間的資料移動,例如 OCI 日誌記錄、OCI 物件儲存、OCI 串流處理、OCI 日誌記錄分析及 OCI 監控。它也可以觸發 OCI Functions 進行輕量資料處理,而 OCI Notifications 則設定警示。

  1. 前往 OCI 主控台,瀏覽至可觀測性與管理記錄日誌以及連線器

  2. 按一下建立連線器即可建立連線器。

  3. 請輸入下列資訊。

    • 名稱:輸入 Datadog_SC
    • 描述 ( 選擇性 ):輸入描述。
    • 區間:選取您的區間。
    • 來源:選取日誌記錄
    • 目標:選取串流
  4. 設定來源連線底下,選取區間名稱日誌群組日誌 (在「工作 1」中建立的日誌群組和日誌)。

  5. 如果您也想要傳送稽核日誌,請按一下 +Another 日誌,然後在取代 _Audit 作為日誌群組時選取相同的區間。

  6. 設定目標下,選取區間串流 (在「工作 2」中建立的串流)。

  7. 若要接受預設原則,請按一下每個預設原則提供的建立連結。提供預設原則給此連線器存取來源、工作和目標服務所需的任何授權。

  8. 按一下建立

作業 4:擷取日誌的存取控制

若要透過資料霧可觀察性管線從 OCI 串流存取資料,請建立使用者並授予擷取日誌的串流提取權限。

  1. 建立 OCI 使用者。如需詳細資訊,請參閱管理使用者

  2. 建立 OCI 群組 (Datadog_User_Group) 並將 OCI 使用者新增至群組。如需詳細資訊,請參閱管理群組

  3. 建立下列 OCI IAM 原則。

    Allow group <Datadog_User_Group> to use stream-pull in compartment <compartment_of_stream>
    

    注意:您可以使用此使用者詳細資訊,從「資料霧可觀察性管線」組態 pipeline.yaml 中的串流提取日誌。

作業 5:設定資料霧可觀察性管線

  1. 登入 Datadog 入口網站,然後按一下整合可觀測性管線

    資料霧可觀測性管線

  2. 如果您是第一次使用管線,請按一下開始使用,或按一下新管線。輸入管線名稱,然後按一下下一個

    建立管線

  3. 選取 QuickStart 管線樣板和平台

    管線範本與平台

  4. 選取現有的 API 金鑰,或建立新的 API 金鑰並複製安裝命令。API 金鑰對您的組織而言是唯一的。資料霧代理程式需要 API 金鑰,才能將度量和事件送出至資料霧。

    安裝工作程式

  5. 登入 OCI 上指定為 Observability Pipeline Worker 的運算執行處理,然後執行下列命令來安裝 Worker。

    安裝工作程式

    執行命令檔會起始安裝程序中 Datadog Observability 管線 worker.As 部分的安裝,在目錄 /etc/default/ 下建立名為 observability-pipelines-worker 的檔案,其變數為 DD_API_KEYDD_OP_PIPELINE_IDDD_SITE

    安裝工作程式

  6. 由於不允許直接在組態檔 pipeline.yaml 中指定密碼,因此請將存取 OCI 串流的密碼 (在 Task 4 中建立之使用者的 Auth 權杖 ) 新增為 /etc/default/observability-pipelines-worker 檔案中的另一個變數 (DD_KAFKA_PW)。

    OCI 串流密碼

  7. 使用下列配置,在 /etc/observability-pipelines-worker/ 下建立名為 pipeline.yaml 的檔案。

    usernametopicsbootstrap_servers 取代為您的值。

    sinks:
       Datadog_OCI_Logs:
          default_api_key: ${DD_API_KEY}
          inputs:
             - OCI_LOGS
          site: ${DD_SITE}
          type: datadog_logs
    sources:
       OCI_LOGS:
          bootstrap_servers: <Bootstrap Servers>
          group_id: datadog
          sasl:
             enabled: true
             mechanism: PLAIN
             password: ${DD_KAFKA_PW}
             username: <username>
          tls:
             enabled: true
          topics:
             - <OCI_Stream_name>
          type: kafka
    

    注意:您可以從 Kafka 連線設定值參照以上的參數。在串流集區詳細資訊頁面中,移至資源,然後按一下 Kafka 連線設定值

  8. 若要啟動 Worker,請執行下列指令。

    sudo systemctl restart observability-pipelines-worker
    
  9. 檢查「可觀察性管線工作程式」的狀態。它應該在執行中。

    sudo systemctl status observability-pipelines-worker
    

    注意:如果「可觀察性管線工作程式」無法啟動,請檢查 /var/log/messages 底下的訊息,瞭解是否有任何錯誤。

  10. 在此步驟中,您應該要有一個從 Datadog 主控台中的來源流入資料的 Observability Pipelines Worker。如果「可觀察性管線工作程式」已啟動並在執行中,您可以按一下檢視管線來移至您的管線。

    如果 OCI Connector Hub 的 OCI Streaming 組態已在 OCI 中設定,您可以查看流入 Datadog 的日誌。

    可觀察性業務進程對應

  11. 按一下日誌以檢視從 OCI 擷取的日誌。

    OCI 日誌

    OCI 日誌

接下來的步驟

本教學課程示範了整合 Oracle Cloud Infrastructure (OCI) 和 Datadog 的流程。在「安全資訊與事件管理 (SIEM)」端,定義儀表板以擷取重要測量結果,以及設定超過預先定義的臨界值時要觸發警示是必要的。此外,定義特定查詢對於偵測惡意活動及識別 OCI 租用戶內的模式至關重要。這些動作將進一步增強您的安全態勢,並主動監控雲端環境。

認可

其他學習資源

瀏覽 docs.oracle.com/learn 的其他實驗室,或前往 Oracle Learning YouTube 頻道存取更多免費學習內容。此外,請造訪 education.oracle.com/learning-explorer 以成為 Oracle Learning Explorer。

如需產品文件,請造訪 Oracle Help Center