RDMAネットワーク・ファブリック・スイッチの構成
RDMAネットワーク・ファブリック・スイッチの初期構成を実行する必要があります。
InfiniBandスイッチの構成
リカバリ・アプライアンスでは、Sun Datacenter InfiniBand Switch 36の2つのリーフ・スイッチは、iba
およびibb
と識別されます。両方のスイッチに、次の構成手順を実行します。
InfiniBandスイッチの構成
U20のリーフ・スイッチ1のデフォルトの識別子はiba
、U22のリーフ・スイッチ2のデフォルトの識別子はibb
です。
Sun Datacenter InfiniBand Switch 36スイッチを構成するには、次のようにします。
スパイン・スイッチでのシリアル番号の設定
マルチラック構成で、スパイン・スイッチのILOMでラック・マスター・シリアル番号を設定します。リーフ・スイッチを構成する場合は、この手順をスキップします。
スパイン・スイッチでシリアル番号を設定するには:
InfiniBandスイッチの状態の確認
InfiniBandスイッチの状態を確認するには、次のようにします。
-
ファブリック管理シェルを開きます。
-> show /SYS/Fabric_Mgmt NOTE: show on Fabric_Mgmt will launch a restricted Linux shell. User can execute switch diagnosis, SM Configuration and IB monitoring commands in the shell. To view the list of commands, use "help" at rsh prompt. Use exit command at rsh prompt to revert back to ILOM shell. FabMan@hostname->
プロンプトが->からFabMan@hostname->に変わります
-
スイッチの全般的な状態を確認します。
FabMan@ra1sw-iba-> showunhealthy OK - No unhealthy sensors
-
環境全般を確認します。
FabMan@ra1sw-iba-> env_test NM2 Environment test started: Starting Voltage test: Voltage ECB OK Measured 3.3V Main = 3.28 V Measured 3.3V Standby = 3.42 V Measured 12V = 12.06 V . . .
レポートには、ファン1、2、3があり、ファン0と4がないことが表示されます。「All OK and Passed」という結果は、環境が正常であることを示します。
-
スイッチのInfiniBandサブネット・マネージャの現在の優先度を確認します。リーフ・スイッチのsmpriorityの値は5、スパイン・スイッチのsmpriorityの値は8である必要があります。次に示すサンプル出力は、リーフ・スイッチの優先度が正しいことを示しています。
FabMan@ra1sw-iba-> setsmpriority list Current SM settings: smpriority 5 controlled_handover TRUE subnet_prefix 0xfe80000000000000
-
優先度の設定が正しくない場合は、リセットします。
-
サブネット・マネージャを無効にします。
FabMan@ra1sw-iba->disablesm Stopping partitiond daemon. [ OK ] Stopping IB Subnet Manager.. [ OK ]
-
優先度をリセットします。この例では、リーフ・スイッチに優先度を設定しています。
FabMan@ra1sw-iba->setsmpriority 5 Current SM settings: smpriority 5 controlled_handover TRUE subnet_prefix 0xfe80000000000000
-
サブネット・マネージャを再起動します。
FabMan@ra1sw-iba->enablesm Starting IB Subnet Manager. [ OK ] Starting partitiond daemon. [ OK ]
-
-
ファブリック管理シェルとOracle ILOMシェルからログアウトします。
FabMan@ra1sw-iba-> exit -> exit
-
Linuxにrootとしてログインし、スイッチを再起動します。
localhost: root password: welcome1 [root@localhost ~]# reboot
-
ラップトップをInfiniBandスイッチから取り外します。
-
2つ目のInfiniBandリーフ・スイッチで、この手順を繰り返します。
サブネット・マネージャ・マスターとしてのスパイン・スイッチの設定
ラック・ユニット1 (U1)にあるInfiniBandスイッチは、スパイン・スイッチと呼ばれます。リカバリ・アプライアンスでスパイン・スイッチを使用できるのは、別のリカバリ・アプライアンスに接続している場合のみです。ラックの基本コンポーネントには含まれていません。
ラックを配線した後、次のステップを実行します。
スパイン・スイッチはInfiniBandサブネットのサブネット・マネージャ・マスターです。サブネット・マネージャ・マスターの優先度は8です。
スパイン・スイッチの優先度の設定を確認するには、次のようにします。
-
root
ユーザーとしてスパイン・スイッチにログインします。 -
setsmpriority list
コマンドを実行します。このコマンドにより、
smpriority
の値は8であることが示されます。smpriority
の値が異なる場合は、次のようにしてください。-
disablesm
コマンドを使用して、サブネット・マネージャを停止します。 -
setsmpriority 8
コマンドを使用して優先度を8に設定します。 -
enablesm
コマンドを使用して、サブネット・マネージャを再起動します。
-
他の2つのInfiniBandスイッチはリーフ・スイッチです。リーフ・スイッチは、ラック・ユニット20および22 (U20とU22)にあります。これらは、優先度が5のスタンバイ・サブネット・マネージャです。ステータスは、前述のステップ22.bのコマンドに値5を代入して確認できます。
サブネット・マネージャ・マスターを確認するには、次のようにします。
-
任意のInfiniBandスイッチに
root
ユーザーとしてログインします。 -
サブネット・マネージャ・マスターの場所が表示されます。
# getmaster 20100701 11:46:38 OpenSM Master on Switch : 0x0021283a8516a0a0 ports 36 Sun DCS 36 QDR switch ra01sw-ib1.example.com enhanced port 0 lid 1 lmc 0
前述の出力は、適切な構成を示しています。サブネット・マスター・マネージャは、スパイン・スイッチra01sw-ib1.example.comで実行されます。
スパイン・スイッチがサブネット・マネージャ・マスターではない場合、サブネット・マネージャ・マスターをリセットします。
-
getmaster
コマンドを使用して、サブネット・マネージャ・マスターの現在の場所を確認します。 -
サブネット・マネージャ・マスターのリーフ・スイッチに
root
ユーザーとしてログインします。 -
スイッチのサブネット・マネージャを無効にします。サブネット・マネージャ・マスターが別のスイッチに移動します。
関連項目:
次のWebサイトの『Sun Datacenter InfiniBand Switch 36 User's Guide』のサブネット・マネージャの無効化に関する項を参照してください。
http://docs.oracle.com/cd/E19197-01/835-0784-05/z4001de61813698.html#z40003f12047367
-
getmaster
コマンドを使用して、サブネット・マネージャ・マスターの現在の場所を確認します。スパイン・スイッチがサブネット・マネージャ・マスターではない場合、スパイン・スイッチがサブネット・マネージャ・マスターになるまでステップ2と3を繰り返します。 -
この手順の実行中に無効になったリーフ・スイッチのサブネット・マネージャを有効にします。
関連項目:
次のWebサイトの『Sun Datacenter InfiniBand Switch 36 User's Guide』のサブネット・マネージャの有効化に関する項を参照してください。
http://docs.oracle.com/cd/E19197-01/835-0784-05/z4001de61707660.html#z40003f12047359
ノート:
4つ以上のラックを配線してInfiniBandネットワークを構成している場合、スパイン・スイッチでのみ、サブネット・マネージャを実行します。リーフ・スイッチのサブネット・マネージャは無効化します。