附註:
- 此教學課程需要存取 Oracle Cloud。若要註冊免費帳戶,請參閱開始使用 Oracle Cloud Infrastructure Free Tier 。
- 它使用 Oracle Cloud Infrastructure 憑證、租用戶及區間的範例值。完成實驗室時,請將這些值取代為您雲端環境特有的值。
使用 Datadog 可觀察性管線整合 Oracle Cloud Infrastructure 和 Datadog
簡介
Oracle Cloud Infrastructure (OCI) 是受大規模企業信任的基礎架構即服務 (IaaS) 和平台即服務 (PaaS)。它提供包含託管、儲存、網路、資料庫等全方位的託管服務。
Oracle Cloud Observability and Management Platform 的設計旨在符合客戶的偏好。許多人已採用運用第三方可觀察性工具建立的作業做法。我們的目標是確保與這些工具緊密整合,讓客戶能夠將現有的投資與 OCI 搭配使用。
根據資料霧,其可觀察性管線可讓您從任何來源收集、處理日誌,並將日誌遞送至您擁有或管理之基礎架構中的任何目的地。
Observability Pipelines Worker 是在您的基礎架構中執行的軟體。它會聚總並集中處理及遞送您的資料。若要將 OCI 日誌擷取至資料霧,可觀察性管線工作程式軟體會在 OCI 的運算執行處理上執行。更具體而言,可觀測性管線工作者將:
- 使用 Kafka 來源從 OCI Streaming 提取日誌。
- 將日誌遞送至資料霧日誌目的地。
解決方案架構的高階表現法,如下圖所示。
目標
- 使用 Datadog 可觀察性管線整合 Oracle Cloud Infrastructure 和 Datadog。
必要條件
-
OCI 中的使用者必須具備必要的政策,OCI Streaming、OCI Connector Hub 和 OCI Logging 服務才能管理資源。如需所有服務的原則參照,請參閱原則參照。
-
指定為「資料霧可觀察性管線工作程式」的運算執行處理可用性。如需詳細資訊,請參閱建立執行處理。
工作 1:設定要擷取的日誌
Oracle Cloud Infrastructure Logging 服務是可高度擴展且完全受管理的單一管理平台,適用於租用戶中的所有日誌。OCI 日誌記錄可讓您從 Oracle Cloud Infrastructure 資源存取日誌。日誌是第一流的 Oracle Cloud Infrastructure 資源,可儲存及擷取在指定相關資訊環境中收集的日誌事件。日誌群組是儲存在區間中的日誌集合。日誌群組是日誌的邏輯容器。使用日誌群組可套用 Oracle Cloud Infrastructure Identity and Access Management (OCI IAM) 原則或群組日誌以進行分析,以組織及簡化日誌管理。
若要開始使用,請對資源啟用日誌。服務會為資源可用的不同日誌類型提供日誌類別。例如,OCI 物件儲存服務支援下列儲存桶日誌類別:讀取和寫入存取事件。讀取存取事件會擷取下載事件,同時寫入存取事件會擷取寫入事件。每個服務都可以有不同的資源日誌類別。
-
登入 OCI 主控台,瀏覽至可觀測性與管理、記錄日誌以及日誌群組。
-
選取您的區間,按一下建立日誌群組並輸入下列資訊。
- 名稱:輸入
Datadog_log_group
。 - 描述 ( 選擇性 ):輸入描述。
- 標記 ( 選擇性 ):輸入標記。
- 名稱:輸入
-
按一下建立以建立新日誌群組。
-
在資源底下,按一下日誌。
-
視需要按一下建立自訂日誌或啟用服務日誌。
例如,若要啟用 OCI 物件儲存的儲存桶寫入日誌,請依照下列步驟進行:
-
按一下啟用服務日誌。
-
選取您的資源區間,然後在搜尋服務中輸入物件儲存。
-
按一下啟用日誌,然後在資源中選取您的 OCI 物件儲存的儲存桶名稱。
-
選取在「工作 1.2」中建立的日誌群組 (
Datadog_log_group
),以及日誌類別中的寫入存取事件。選擇性地輸入Datadog_bucket_write
作為日誌名稱。 -
按一下啟用以建立新的 OCI 日誌。
-
工作 2:使用 OCI Streaming 建立串流
Oracle Cloud Infrastructure (OCI) Streaming 服務是即時、無伺服器、與 Apache Kafka 相容的事件串流平台,適用於開發人員和資料科學家。它提供完全受管理、可擴展且持久的解決方案,可即時擷取及使用大量資料串流,例如日誌。我們可以將 OCI Streaming 用於在發布 / 訂閱訊息傳遞模型中,以持續且循序方式產生及處理資料的任何使用案例。
-
前往 OCI 主控台,瀏覽至 Analytics & AI 、 Messaging 及 Streaming 。
-
按一下建立串流以建立串流。
-
輸入下列資訊,然後按一下建立。
- 名稱:輸入串流名稱。本教學課程為
Datadog_Stream
。 - 串流集區:選取現有的串流集區,或使用公用端點建立新的串流集區。
- 保留 (小時):輸入此串流中保留訊息的時數。
- 分割區數目:輸入串流的分割區數目。
- 寫入速率總計和讀取速率總計:根據您需要處理的資料量輸入。
您可以從預設值開始進行測試。如需詳細資訊,請參閱分割串流。
- 名稱:輸入串流名稱。本教學課程為
作業 3:設定 OCI 連線器中心
OCI Connector Hub 可協調 Oracle Cloud Infrastructure 中服務之間的資料移動。OCI Connector Hub 可集中描述、執行及監控服務之間的資料移動,例如 OCI 日誌記錄、OCI 物件儲存、OCI 串流處理、OCI 日誌記錄分析及 OCI 監控。它也可以觸發 OCI Functions 進行輕量資料處理,而 OCI Notifications 則設定警示。
-
前往 OCI 主控台,瀏覽至可觀測性與管理、記錄日誌以及連線器。
-
按一下建立連線器即可建立連線器。
-
請輸入下列資訊。
- 名稱:輸入
Datadog_SC
。 - 描述 ( 選擇性 ):輸入描述。
- 區間:選取您的區間。
- 來源:選取日誌記錄。
- 目標:選取串流。
- 名稱:輸入
-
在設定來源連線底下,選取區間名稱、日誌群組和日誌 (在「工作 1」中建立的日誌群組和日誌)。
-
如果您也想要傳送稽核日誌,請按一下 +Another 日誌,然後在取代
_Audit
作為日誌群組時選取相同的區間。 -
在設定目標下,選取區間和串流 (在「工作 2」中建立的串流)。
-
若要接受預設原則,請按一下每個預設原則提供的建立連結。提供預設原則給此連線器存取來源、工作和目標服務所需的任何授權。
-
按一下建立。
作業 4:擷取日誌的存取控制
若要透過資料霧可觀察性管線從 OCI 串流存取資料,請建立使用者並授予擷取日誌的串流提取權限。
-
建立 OCI 使用者。如需詳細資訊,請參閱管理使用者。
-
建立 OCI 群組 (
Datadog_User_Group
) 並將 OCI 使用者新增至群組。如需詳細資訊,請參閱管理群組。 -
建立下列 OCI IAM 原則。
Allow group <Datadog_User_Group> to use stream-pull in compartment <compartment_of_stream>
注意:您可以使用此使用者詳細資訊,從「資料霧可觀察性管線」組態
pipeline.yaml
中的串流提取日誌。
作業 5:設定資料霧可觀察性管線
-
登入 Datadog 入口網站,然後按一下整合、可觀測性管線。
-
如果您是第一次使用管線,請按一下開始使用,或按一下新管線。輸入管線名稱,然後按一下下一個。
-
選取 QuickStart 管線樣板和平台。
-
選取現有的 API 金鑰,或建立新的 API 金鑰並複製安裝命令。API 金鑰對您的組織而言是唯一的。資料霧代理程式需要 API 金鑰,才能將度量和事件送出至資料霧。
-
登入 OCI 上指定為 Observability Pipeline Worker 的運算執行處理,然後執行下列命令來安裝 Worker。
執行命令檔會起始安裝程序中 Datadog Observability 管線 worker.As 部分的安裝,在目錄
/etc/default/
下建立名為observability-pipelines-worker
的檔案,其變數為DD_API_KEY
、DD_OP_PIPELINE_ID
及DD_SITE
。 -
由於不允許直接在組態檔
pipeline.yaml
中指定密碼,因此請將存取 OCI 串流的密碼 (在 Task 4 中建立之使用者的 Auth 權杖 ) 新增為/etc/default/observability-pipelines-worker
檔案中的另一個變數 (DD_KAFKA_PW
)。 -
使用下列配置,在
/etc/observability-pipelines-worker/
下建立名為pipeline.yaml
的檔案。將
username
、topics
和bootstrap_servers
取代為您的值。sinks: Datadog_OCI_Logs: default_api_key: ${DD_API_KEY} inputs: - OCI_LOGS site: ${DD_SITE} type: datadog_logs sources: OCI_LOGS: bootstrap_servers: <Bootstrap Servers> group_id: datadog sasl: enabled: true mechanism: PLAIN password: ${DD_KAFKA_PW} username: <username> tls: enabled: true topics: - <OCI_Stream_name> type: kafka
注意:您可以從 Kafka 連線設定值參照以上的參數。在串流集區詳細資訊頁面中,移至資源,然後按一下 Kafka 連線設定值。
-
若要啟動 Worker,請執行下列指令。
sudo systemctl restart observability-pipelines-worker
-
檢查「可觀察性管線工作程式」的狀態。它應該在執行中。
sudo systemctl status observability-pipelines-worker
注意:如果「可觀察性管線工作程式」無法啟動,請檢查
/var/log/messages
底下的訊息,瞭解是否有任何錯誤。 -
在此步驟中,您應該要有一個從 Datadog 主控台中的來源流入資料的 Observability Pipelines Worker。如果「可觀察性管線工作程式」已啟動並在執行中,您可以按一下檢視管線來移至您的管線。
如果 OCI Connector Hub 的 OCI Streaming 組態已在 OCI 中設定,您可以查看流入 Datadog 的日誌。
-
按一下日誌以檢視從 OCI 擷取的日誌。
接下來的步驟
本教學課程示範了整合 Oracle Cloud Infrastructure (OCI) 和 Datadog 的流程。在「安全資訊與事件管理 (SIEM)」端,定義儀表板以擷取重要測量結果,以及設定超過預先定義的臨界值時要觸發警示是必要的。此外,定義特定查詢對於偵測惡意活動及識別 OCI 租用戶內的模式至關重要。這些動作將進一步增強您的安全態勢,並主動監控雲端環境。
相關連結
認可
- 作者 - Chaitanya Chintala (雲端安全建議程式)
其他學習資源
瀏覽 docs.oracle.com/learn 的其他實驗室,或前往 Oracle Learning YouTube 頻道存取更多免費學習內容。此外,請造訪 education.oracle.com/learning-explorer 以成為 Oracle Learning Explorer。
如需產品文件,請造訪 Oracle Help Center 。
Integrate Oracle Cloud Infrastructure and Datadog using Datadog Observability Pipelines
F96619-01
April 2024