Bereitstellen von Tez auf Big Data Service-HA-Clustern

Stellen Sie Apache Tez auf HA-Clustern von Big Data Service bereit.

  1. Tomcat konfigurieren:Spark-Ranger-Plug-in-Erweiterung
    1. Laden Sie Tomcat über den folgenden Link herunter: https://tomcat.apache.org/download-90.cgi.
    2. Stellen Sie den Tez-Webserver auf dem Knoten bereit, auf dem der Timeline-Server ausgeführt wird. Der standardmäßige Timeline-Serverknoten ist mn1.
      sudo tar xf /tmp/apache-tomcat-9.0.70.tar.gz -C /opt/
      sudo ln -s /opt/apache-tomcat-9.0.70 /opt/tomcat
  2. Richten Sie die Datei Tez-UI.war ein:
    1. Laden Sie Tez-ui-0.10.1.war von https://repo1.maven.org/maven2/org/apache/tez/tez-ui/0.10.1/ herunter.
    2. Dekomprimieren Sie die Kriegsdatei, und kopieren Sie sie in /opt/tomcat/webapps.
      sudo cp /tmp/tez-ui-0.10.1.war /opt/tez/
      sudo unzip /opt/tez/tez-ui-0.10.1.war -d /opt/tez/tez-ui
      sudo cp -R /opt/tez/tez-ui /opt/tomcat/webapps/
    3. Aktualisieren Sie /opt/tomcat/webapps/tez-ui/config/config.js mit dem Hostnamen für den Timeline-Server und den Resource Manager:
      ENV = {
        hosts: {
      	timeline: "http://testcluster-mn1.testsubnet.testvcn.oraclevcn.com:8188",
      	rm: "http://testcluster-mn0.testsubnet.testvcn.oraclevcn.com:8088",
      }
      };
  3. Kinit mit ~/spnego.service.keytab durch Kopieren von krb5.conf, spnego.service.keytab für UI-Zugriff. Konfigurieren Sie den Timeline-Server und Tez von Ambari Ui:
    1. Öffnen Sie Apache Ambari.
    2. Wählen Sie in der seitlichen Symbolleiste unter Services Tez aus.
    3. Wählen Sie Configs aus.
    4. Aktualisieren Sie auf der Registerkarte Erweitert Folgendes:
      Yarn-site.xml:
      yarn.timeline-service.generic-application-history.enabled : true
      
      yarn.timeline-service.hostname : testcluster-mn1.testsubnet.testvcn.oraclevcn.com
      
      yarn.timeline-service.http-cross-origin.allowed-origins : *
      yarn.timeline-service.http-authentication.proxyuser.ambari-server.hosts=*
      yarn.timeline-service.http-authentication.proxyuser.ambari-server.users=*
      yarn.timeline-service.http-authentication.proxyuser.ambari-server.groups=*
      Tez-site.xml:
      tez.allow.disabled.timeline-domains : true
      tez.am.history.logging.enabled : true
      tez.dag.history.logging.enabled : true
      tez.history.logging.service.class : org.apache.tez.dag.history.logging.ats.ATSHistoryLoggingService 
      
      tez.tez-ui.history-url.base : http://testcluster-mn1.testsubnet.testvcn.oraclevcn.com:8080/tez-ui/
      
      yarn.timeline-service.enabled :  true
      
      tez.am.view-acls *
  4. Starten Sie Garn, Tez und Hive vom Ambari Server neu.
  5. Starten Sie Tomcat neu.
    [root@tezui2un0 apache-tomcat-9.0.70]# ./bin/shutdown.sh
    
    [root@tezui2un0 apache-tomcat-9.0.70]# ./bin/start.sh
  6. Führen Sie Kinit aus.
  7. Überprüfen Sie die Tez-Benutzeroberfläche (http://daily-cluster-ha11-mn1.bmbdcsad1.bmbdcs.oraclevcn.com:8080/tez-ui/).