Inclusione dei dati in un cluster OpenSearch con Logstash

Utilizzare Logstash per includere i dati di log in un cluster OpenSearch.

Logstash è una pipeline di elaborazione dati che può includere dati da varie origini, elaborarli e trasformarli, quindi inviarli a una destinazione come un cluster OpenSearch.

Requisiti indispensabili

Completare i task riportati di seguito prima di procedere con i passi descritti in questo argomento.

Installa e configura LogStash

  1. Scaricare il Logstash OSS con il plugin di output OpenSearch da OpenSearch Ingest Tools (2.8) e installarlo sul computer locale. Attualmente è disponibile solo per sistemi basati su Linux e MacOS.
  2. Estrarre il file tarball Logstash scaricato e quindi passare alla directory Logstash.
  3. Creare un file di configurazione pipeline, logstash.conf, nella sottodirectory config della directory Logstash.

    Di seguito è riportato un esempio di file di configurazione della pipeline che legge il file di log dal computer locale e include i dati di log in un cluster OpenSearch. Sostituire il testo applicabile con i dettagli per il cluster. Specificare l'endpoint API del cluster per host. Vedere Recupero dei dettagli di un cluster OpenSearch. Per user e password, specificare un utente che dispone di autorizzazioni sufficienti per includere i dati per il cluster OpenSearch. Ad esempio, è possibile utilizzare l'account utente principale per il controllo dell'accesso basato sui ruoli specificato al momento della creazione del cluster. Vedere Controllo dell'accesso basato sui ruoli nella ricerca con OpenSearch.

    input {
      file{
        path => "/path/to/log/file/application.log"
        start_position => "beginning"
      }
    }
     
    filter{
      #Optional and can be empty
    }
     
    output {
      opensearch {
      hosts => "<cluster API endpoint>"
      user => "<cluster user>"
      password => "<cluster password>"
      index => "<index name>"
      ssl_certificate_verification => true
      }
    }
  4. Avviare Logstash eseguendo il seguente comando:
    bin/logstash -f config/logstash.conf
Dopo l'avvio di Logstash, legge continuamente il file system per i nuovi log utilizzando il suo plugin di input file. Logstash utilizza quindi il plugin di output OpenSearch per includere nuovi dati di log in un cluster OpenSearch.

È possibile verificare che i dati di log siano stati inclusi nel cluster OpenSearch eseguendo la connessione al dashboard OpenSearch del cluster per verificare la presenza dell'indice specificato per index nel file di configurazione della pipeline. Vedere Task 6: Connettersi ai dashboard OpenSearch e Guida rapida per i dashboard OpenSearch.