3.8.1 ストレージ・サーバーの追加

このトピックでは、新しいストレージ・サーバー(またはセル)を既存のOracle Exadataエラスティック構成に追加するステップバイステップの手順について説明します。

  1. 新しいストレージ・サーバーを追加する場合は、次のステップを実行します:
    1. 目的のストレージ・グリッドで新しいストレージ・サーバーを利用できるようにするために、必要なすべてのケーブル接続要件を完了します。
    2. 適切なOracle Exadata System Softwareイメージを使用してストレージ・サーバーをイメージ化し、IPアドレスの入力を求めるプロンプトが表示されたら適切な情報を入力します。
  2. ラック内の既存のストレージ・サーバーをRDMAネットワーク・ファブリック・ネットワーク内の別のクラスタに割り当てる場合は、追加するストレージ・サーバーのRDMAネットワーク・ファブリック・インタフェース(ib0ib1や、re0re1など)に割り当てられているIPアドレスをノートにとります。

    すべてのOracle RACノードの/etc/oracle/cell/network-config/cellip.oraファイルに、IPアドレスを追加します。

    1. cd /etc/oracle/cell/network-config
    2. cp cellip.ora cellip.ora.orig
    3. cp cellip.ora cellip.ora-bak
    4. /etc/oracle/cell/network-config/cellip.ora-bakに新しいエントリを追加します。
    5. 次のコマンドを使用して、編集後のファイルをすべてのデータベース・ノードのcellip.oraファイルにコピーします。ここで、database_nodesは、クラスタ内の各データベース・サーバーの名前が個別の行として含まれたファイルを指します。
      /usr/local/bin/dcli -g database_nodes -l root -f cellip.ora-bak -d
       /etc/oracle/cell/network-config/cellip.ora
  3. 既存のストレージ・サーバーにOracle Auto Service Request (ASR)のアラートが設定されていた場合は、追加するストレージ・サーバー用にセルのOracle ASRアラートを構成します。
    1. いずれかの既存のストレージ・サーバーから、セルのsnmpsubscriber属性をリストします。
      CellCLI> LIST CELL ATTRIBUTES snmpsubscriber
    2. 次のコマンドを実行して、同じsnmpsubscriber属性値を新しいストレージ・サーバーに適用します。この際、snmpsubscriberを前のコマンドの値に置き換えてください。
      CellCLI> ALTER CELL snmpsubscriber=snmpsubscriber

      ノート:

      snmpsubscriber値では、英数字以外の文字が含まれる場合は、ホスト名またはIPアドレスは引用符で囲みます。次に例を示します:

      CellCLI> ALTER CELL snmpSubscriber=((host="asr-host.example.com",port=162,community=public,type=asr,asrmPort=16161))
    3. 既存のストレージ・サーバーから、セルのアラートを構成するために必要なセルの属性をリストします。
      CellCLI> LIST CELL ATTRIBUTES -
      notificationMethod,notificationPolicy,mailServer,smtpToAddr, -
      smtpFrom,smtpFromAddr,smtpUseSSL,smtpPort
    4. 次のコマンドを実行して、同じ値を新しいストレージ・サーバーに適用します。この際、プレースホルダを既存のストレージ・サーバーから検出された値に置き換えてください。
      CellCLI> ALTER CELL -
       notificationMethod='notificationMethod', -
       notificationPolicy='notificationPolicy', -
       mailServer='mailServer', -
       smtpToAddr='smtpToAddr', -
       smtpFrom='smtpFrom', -
       smtpFromAddr='smtpFromAddr', -
       smtpUseSSL=smtpUseSSL, -
       smtpPort=smtpPort
  4. 必要に応じて、追加するストレージ・サーバーにセル・ディスクを作成します。
    1. 新しいセルで、既存のセル・ディスクをリストします。
      CellCLI> LIST CELLDISK
      
    2. セル・ディスクが存在しない場合は、セル・ディスクを作成します。
      CellCLI> CREATE CELLDISK ALL
    3. システムにPMEMデバイスがある場合は、デフォルトでPMEMログが作成されていたことを確認します。
      CellCLI> LIST PMEMLOG

      PMEMログの名前を確認しておきます。cellnodename_PMEMLOGのような名前で、ステータスがnormalになっていることを確認してください。

      PMEMログが存在していない場合は作成します。

      CellCLI> CREATE PMEMLOG ALL
    4. デフォルトでフラッシュ・ログが作成されたことを確認します。
      CellCLI> LIST FLASHLOG

      フラッシュ・ログの名前が表示されます。cellnodename_FLASHLOGのような名前で、ステータスがnormalになっていることを確認してください。

      フラッシュ・ログが存在しない場合は作成します。

      CellCLI> CREATE FLASHLOG ALL
    5. システムにPMEMデバイスがある場合は、現在のPMEMキャッシュ・モードを確認して、既存のセルのPMEMキャッシュ・モードと比較します。
      CellCLI> LIST CELL ATTRIBUTES pmemcachemode

      ノート:

      Oracle Exadata System Softwareリリース23.1.0以降、PMEMキャッシュはライトスルー・モードでのみ動作します。

      新しいセルのPMEMキャッシュ・モードが既存のセルと一致しない場合は、次のようにPMEMキャッシュ・モードを変更します:

      1. PMEMキャッシュが存在し、セルがWriteBack PMEMキャッシュ・モードの場合は、最初にPMEMキャッシュをフラッシュしておく必要があります。

        CellCLI> ALTER PMEMCACHE ALL FLUSH

        コマンドが戻るまで待機します。

        PMEMキャッシュ・モードがWriteThroughの場合は、最初にキャッシュをフラッシュする必要はありません。

      2. PMEMキャッシュを削除します。

        CellCLI> DROP PMEMCACHE ALL
      3. PMEMキャッシュ・モードを変更します。

        pmemCacheMode属性の値は、writebackまたはwritethroughのどちらかです。この値は、クラスタ内のその他のストレージ・セルのPMEMキャッシュ・モードと一致する必要があります。

        CellCLI> ALTER CELL PMEMCacheMode=writeback_or_writethrough
      4. PMEMキャッシュを再作成します。

        CellCLI> CREATE PMEMCACHE ALL
    6. 現在のフラッシュ・キャッシュ・モードを、既存セルのフラッシュ・キャッシュ・モードと比較します。
      CellCLI> LIST CELL ATTRIBUTES flashcachemode

      新しいセルのフラッシュ・キャッシュ・モードが既存のセルと一致しない場合は、次のようにフラッシュ・キャッシュ・モードを変更します:

      1. フラッシュ・キャッシュが存在し、セルがWriteBackフラッシュ・キャッシュ・モードの場合、フラッシュ・キャッシュを最初にフラッシュする必要があります。

        CellCLI> ALTER FLASHCACHE ALL FLUSH

        コマンドが戻るまで待機します。

      2. フラッシュ・キャッシュを削除します。

        CellCLI> DROP FLASHCACHE ALL
      3. フラッシュ・キャッシュ・モードを変更します。

        flashCacheMode属性の値は、writebackまたはwritethroughのいずれかです。クラスタ内の他のストレージ・セルと同じフラッシュ・キャッシュ・モードになるように、値を設定する必要があります。

        CellCLI> ALTER CELL flashCacheMode=writeback_or_writethrough
      4. フラッシュ・キャッシュを作成します。

        CellCLI> CREATE FLASHCACHE ALL
  5. 必要に応じて、新しいストレージ・サーバーにデータ・セキュリティを構成します。
    1. 既存のセルで、セキュリティ・キーの存在を確認します。

      次に例を示します:

      CellCLI> LIST KEY DETAIL
      
      name:                             
      key: 8217035e5ac8ed64503020a40c520848
      type: CELL         
      
      name: Cluster-c1
      key: da88cbc5579d4179f89d00a44d0edae9
      type: ASMCLUSTER
      
      name: Cluster-c2
      key: 77fb637d4267913f40449fa2c57c6cf9
      type: ASMCLUSTER
    2. 既存のセルにセキュリティ・キーが含まれている場合は、それに応じて新しいセルを構成します。
  6. 追加するセルのグリッド・ディスクを作成します。
    1. 既存のセルからの既存のグリッド・ディスクの属性を問い合せます。
      CellCLI> LIST GRIDDISK ATTRIBUTES name,asmDiskGroupName,cachingPolicy,size,offset,availableTo
    2. 前述のコマンドで検出された各ディスク・グループについて、追加する新しいセルのグリッド・ディスクを作成します。

      前のLIST GRIDDISKコマンドで報告された、特定のディスク・グループの既存のグリッド・ディスクの属性を一致させます。

      既存のセルと同じレイアウトおよびパフォーマンス特性になるように、オフセットの昇順でグリッド・ディスクを作成します。

      たとえば、LIST GRIDDISKコマンドで次の特性を持つグリッド・ディスクを識別する場合、最初にDATAC1、次にRECOC1、最後にDBFS_DGのグリッド・ディスクを作成します。

      asmDiskGroupName          size            offset
      DATAC1                    2.15625T        32M
      RECOC1                    552.109375G     2.1562957763671875T
      DBFS_DG                   33.796875G      2.695465087890625T

      テンプレートとして次のコマンドを使用します:

      CellCLI> CREATE GRIDDISK ALL HARDDISK -
       prefix=matching_prefix_of_the_corresponding_existing_diskgroup, -
       size=size_followed_by_G_or_T, -
       cachingPolicy='value_from_command_above_for_this_disk_group', -
       availableto='value_from_command_above_for_this_disk_group', -
       comment="Cluster cluster_name diskgroup diskgroup_name"

      注意:

      次のように、EXACTサイズを単位(TまたはG)とともに指定してください
  7. 各Oracle RACノードにログインし、新しく作成されたグリッド・ディスクがOracle RACノードから参照できることを確認します。

    Oracle Grid InfrastructureソフトウェアのOS所有者(通常はgridまたはoracle)として次のコマンドを実行します。コマンドでは、Grid_homeはOracle Grid Infrastructureソフトウェアのインストール・ホーム・ディレクトリを指し、cell_being_addedは追加される新しいセルの名前を指します。

    $ Grid_home/bin/kfod op=disks disks=all | grep cell_being_added

    kfodコマンドの出力には、新しく追加されたストレージ・サーバー上のすべてのグリッド・ディスクが表示されます。

  8. 新しく作成されたグリッド・ディスクを対応するOracle ASMディスク・グループに追加します。

    この例では、comma_separated_disk_namesは、disk_group_nameに対応するステップ6のディスク名を指します。

    SQL> ALTER DISKGROUP disk_group_name ADD DISK 'comma_separated_disk_names';

    このコマンドはデフォルトの電源レベルでOracle ASMリバランス操作を開始します。

  9. GV$ASM_OPERATIONの問合せにより、リバランスの進捗状況を監視します。
    SQL> SELECT * FROM GV$ASM_OPERATION;

    リバランスが完了すると、Oracle RACクラスタへのセルの追加は完了です。

  10. Exachkの最新バージョンをダウンロードして実行し、結果の構成にOracle Exadataの最新のベスト・プラクティスが実装されたことを確認します。