Spark実行ユニットに追加されたSparkテクノロジに固有のストリーミング・プロパティを示します。
表6-2 Sparkストリーミング・データサーバー・プロパティ
| キー | 値 |
|---|---|
| spark.checkpointingBaseDir | このプロパティはベース・ディレクトリを定義し、そのベース・ディレクトリ下に各Spark EUによってEUという名前のサブディレクトリが作成されます。 例: hdfs://cluster-ns1/user/oracle/spark/checkpoints |
| spark.checkpointingInterval | 時間(秒)を表します。 |
| spark.restartFromCheckpoint |
|
| spark.batchDuration | Sparkによってストリーム入力データがバッチにまとめられる時間(秒)を表します。 |
| spark.rememberDuration | Sparkによってストリーミング・コンテキストに設定される、RDDを保存する時間(秒)を表します。 |
| spark.checkpointing | Sparkチェックポイントを有効にします。 |
| spark.streaming.timeout | ストリーミング・アプリケーションが停止されるまでSparkが待機する時間(秒)を表します。 デフォルトは60です。 |
| odi-execution-mode |
|
| spark.ui.enabled | Spark Live REST APIを有効にします。 注意: 非同期実行の場合はtrueに設定します。 |
| spark.eventLog.enabled | Sparkイベント・ログを有効にします。これにより、Spark履歴サーバーでログにアクセスできるようになります。 注意: 非同期実行の場合はtrueに設定します。 |
| principal | Kerberos化されたユーザー名。 |
| keytab | Kerberos化されたパスワード。 |
| odi.spark.enableUnsupportedSparkModes | このチェックは、yarn-clientとyarn-clusterのみがサポートされると、採用されます。 |