Connetti i dati in streaming di Kafka a Oracle Autonomous Database

È possibile creare un'istanza di computazione e installare Kafka per inviare messaggi come producer o utilizzare i passi riportati di seguito nella console OCI.

  1. Eseguire il login alla console OCI e andare al Marketplace.
  2. In Tutte le applicazioni cercare GoldenGate Stream Analytics.
  3. Fare clic su Avvia stack.
  4. Fornire i dettagli della VCN e aggiungere una chiave pubblica SSH per eseguire il login all'istanza di Stream Analytics GoldenGate utilizzando la chiave privata in un secondo momento.

    Nota

    In questa istanza di GoldenGate Stream Analytics è installato un esempio di Kafka Streams (produttori) incorporato. Se si dispone di flussi Kafka personalizzati, è possibile utilizzarlo.

Crea un Autonomous Database

  1. Fare clic su Oracle Database nel menu in alto a sinistra, quindi fare clic su Autonomous Database.
  2. Nella home page Database autonomi fare clic su Crea Autonomous Database.
  3. Selezionare un compartimento in cui si desidera creare il database.
  4. Nome visualizzato: immettere una descrizione intuitiva o altre informazioni che consentano di identificare facilmente Autonomous Database.
  5. Nome database: fornire un nome per il nuovo Autonomous Database.
  6. Scegliere il tipo di carico di lavoro come data warehouse.
  7. Scegliere il tipo di distribuzione come serverless.
  8. Scegliere Versione database come 19c, il conteggio ECPU come 2 e lo storage (TB) come 1.
  9. Creare le credenziali di amministratore e immettere la password. La password deve soddisfare i criteri complessi di complessità delle password basati sugli standard di sicurezza di Oracle Cloud. Per ulteriori informazioni sulle regole di complessità delle password, vedere Crea utenti del database.
  10. Scegli l'accesso alla rete come Accesso sicuro ovunque.
  11. Mantenere i parametri rimanenti come predefiniti e fare clic su Crea Autonomous Database.
La visualizzazione mostra il provisioning fino a quando il nuovo Autonomous Database non è disponibile.

Creare una tabella per memorizzare i messaggi Kafka

  1. Aprire SQLDeveloper e fare clic sull'icona + per creare una connessione al database Oracle.
  2. Immettere un nome di connessione, fornire il nome utente e la password del database.
  3. Selezionare il tipo di connessione come wallet cloud e cercare il file wallet.zip, quindi fare clic su Connetti. Creazione della connessione riuscita.
  4. Creare una tabella di esempio utilizzando lo script seguente:
    CREATE TABLE "TEST"."SAMPLE"
            (    "FRUIT" VARCHAR2(50 BYTE)",
                 "TOTAL" VARCHAR2(50 BYTE)",
                 "COLOR" VARCHAR2(50 BYTE)"
            )

Creare un'istanza di Oracle Integration 3

  1. Nella console OCI fare clic su Servizi di sviluppo e in Integrazione applicazioni fare clic su Integrazione.
  2. Nella home page Istanze di integrazione, fare clic su Crea istanza.
  3. Immettere un nome, selezionare Versione come Oracle Integration 3, Edizione come Enterprise, Forma come Produzione e Tipo di licenza come Sottoscrivi una nuova istanza di Oracle Integration.
  4. Fare clic su Crea.
Una volta creata l'istanza, fai clic sulla console del servizio e questo ti porterà a una nuova finestra.

Creare una connessione a Oracle Autonomous Data Warehouse in Oracle Integration 3

  1. Nell'istanza di Oracle Integration fare clic sul menu hamburger e, in Progetta, selezionare Connessioni.
  2. Fare clic su Crea, cercare Oracle ADW e selezionare.
  3. Immettere un nome, un identificatore, un ruolo come trigger e richiamo, una parola chiave e una descrizione per questa connessione.
  4. In Proprietà, espandere Proprietà facoltative e immettere il nome servizio.
  5. In Sicurezza, selezionare JDBC su SSL e caricare il file Wallet.zip.
  6. Immettere la password wallet fornita al momento della creazione del database.
  7. Immettere il nome utente del servizio di database come amministratore.
  8. Immettere la password del servizio di database per l'utente amministratore.
  9. Selezionare il tipo di accesso come gateway pubblico.
  10. Fare clic su Test in alto a destra.
  11. Quando viene visualizzato un messaggio di successo, fare clic su Salva.

Associa gruppo di agenti nell'istanza Kafka

È necessario un agente che sia in esecuzione nell'istanza in cui sono installati i flussi Kafka.

  1. Nell'istanza di Oracle Integration 3, fare clic sul menu hamburger e in Progetta selezionare Agenti.
  2. Nella pagina Agenti fare clic su Crea.
  3. Immettere un nome, un identificatore, una descrizione e fare clic su Crea.
  4. Dopo aver creato l'agente, fare clic su Scarica, quindi su Agente di connettività.
  5. Dopo il download riuscito, copiare il file oic_conn_agent_installer.zip nell'istanza Kafka in cui gli argomenti Kafka sono in esecuzione e producono messaggi. In questo esempio di guida della soluzione, si tratta dell'istanza di Stream Analytics di Oracle GoldenGate.
  6. Estrarre il file oic_conn_agent_installer.zip.
  7. Nella colonna Stato fare clic sull'icona ..., quindi fare clic su Scarica configurazione.
  8. Copiare il file InstallerProfile.cfg e copiarlo nell'istanza Kafka.
  9. Sostituire il file InstallerProfile.cfg nell'istanza Kafka.
  10. Dopo aver sostituito InstallerProfile.cfg, eseguire l'istruzione seguente per avviare l'agente nell'istanza di Stream Analytics di Oracle GoldenGate o nell'istanza in locale Kafka utilizzando questo comando:
    $ java -jar connectivityagent.jar
L'agente deve essere avviato correttamente, lasciarlo in esecuzione e non arrestarlo. Per ulteriori informazioni, vedere Uso delle integrazioni in Oracle Integration Generation 2

Creare una connessione Kafka in Oracle Integration 3

  1. Nell'istanza di Oracle Integration 3, fare clic sul menu hamburger e in Progetta, selezionare Connessioni.
  2. Fare clic su Crea, cercare Apache Kafka e selezionare.
  3. Immettere un nome, un identificatore, un ruolo come trigger e richiamo, una parola chiave e una descrizione per questa connessione.
  4. In Proprietà, immettere i server bootstrap: nome istanza: 9092.

    Nota

    Nella VCN utilizzata dall'istanza Kafka, nella lista di sicurezza, è necessario aggiungere la porta 9092 per consentire il traffico.
  5. Selezionare Nessun criterio di sicurezza per Sicurezza.
  6. Selezionare Tipo di accesso come Agente di connettività e fare clic su Associa gruppo di agenti.
  7. Selezionare l'agente e fare clic su Usa.
  8. Fare clic su Test. Si dovrebbe ottenere un messaggio di successo.
  9. Fare clic su Salva.

Crea un'integrazione tra Kafka e Oracle Autonomous Data Warehouse in Oracle Integration 3

  1. Nell'istanza di Oracle Integration 3, fare clic sul menu hamburger e in Progetta selezionare Integrazioni.
  2. Fare clic su Crea e nella finestra di dialogo Crea integrazione selezionare Applicazione.
  3. Immettere il nome integrazione come KafkaToADW e fare clic su Crea.

    Nota

    Si noteranno due connessioni create per Kafka e Oracle Autonomous Data Warehouse come trigger.
  4. Selezionare Kafka e verrà richiesto di immettere un nome per il trigger, selezionare Tipo di messaggio come Consumatore e fare clic su Continua.
  5. Selezionare l'argomento Kafka dall'elenco a discesa e assegnare un nome al consumer, lasciare i campi come predefiniti e fare clic su Continua.
  6. Selezionare la struttura dei messaggi come documento JSON di esempio, quindi trascinare e rilasciare lo stesso file JSON.
  7. Nella finestra Riepilogo, controllare tutti i dettagli e fare clic su Fine.
  8. Si noterà una freccia rivolta verso il basso sotto il trigger creato.
  9. Fare clic sull'icona + e in Richiama selezionare ADW. Verrà visualizzata una casella aggiuntiva denominata Mappa.
  10. Spostare il mouse su Richiama e fare clic su ..., quindi selezionare Modifica.
  11. Fornire un nome e selezionare Esegui un'operazione su una tabella per il campo Quali operazioni si desidera eseguire?, selezionare Inserisci e fare clic su Continua.
  12. Selezionare la tabella, fare clic su Continua e nella pagina Riepilogo fare clic su Fine.
  13. Successivamente, spostare il mouse sulla casella Mappa, fare clic su ... e selezionare Modifica.
  14. Nella pagina Mapping connettere i campi Origine e Destinazione.
  15. Fare clic su Convalida per convalidarlo correttamente.
  16. Nella pagina Integrazione fare clic su Salva per configurare correttamente l'integrazione.
  17. Nella home page Integrazione spostare il mouse sul campo Stato e fare clic sull'icona Accensione per l'attivazione.
  18. Verrà visualizzata una finestra denominata Attiva integrazione, selezionare Produzione e fare clic su Attiva. L'attivazione dell'integrazione consentirà di utilizzare i messaggi Kafka.
  19. Avviare l'argomento Kafka e verranno visualizzati i messaggi memorizzati nel database. Aprire SQLDeveloper, aprire la tabella e fare clic sulla scheda Dati per visualizzare i messaggi.
  20. Se hai i tuoi flussi Kafka, puoi iniziare a produrre messaggi nello stesso formato.
  21. Se si utilizza Oracle GoldenGate Stream Analytics, passare dalla shell SSH all'istanza di Oracle GoldenGate Stream Analytics e andare alla cartella /u01/app/osa/utilities/kafka-utils.
  22. È possibile utilizzare sample.json come dati in entrata. Utilizzare questo formato json:
    {"fruit": "Apple","total": "Large","color": "Red"}
  23. Eseguire il seguente comando per eseguire il loop del feed di dati come argomento Kafka:
    opc@ggsanew kafka-utils]$ ./loop-file.sh ./sample.json | ./sampler.sh 1 1 | ./kafka.sh feed complex

Controlla i dati

  1. Aprire la console di Oracle Integration, fare clic su Osservabilità e selezionare Integrazioni.
  2. Verranno forniti i dettagli relativi ai dati ricevuti, elaborati e riusciti.
  3. Aprire Oracle SQL Developer e controllare la tabella per verificare se i dati sono disponibili.
    1. Fare clic su Connessioni Oracle e selezionare il database Oracle Autonomous Data Warehouse.
    2. Espandere Tabelle, selezionare la tabella Campione e i dati verranno notati.