この項の内容は、次のとおりです。
Exalogicマシンは、統合された40Gb/秒のInfiniBand 4倍速(QDR)ファブリックを使用して内部通信します。
計算ノードで実行されているアプリケーションは、このInfiniBandネットワークを使用して、別の計算ノード上のアプリケーションと通信します。Exalogicマシンは、データベース接続のためにIPoIBを介してOracle Exadata Database Machineと通信します。Exalogicマシンは、Exalogicマシン外部のマシン上にホスティングされている標準的なデータベースなどの外部ネットワークに、Ethernet over InfiniBand (EoIB)を使用してInfiniband-10Gbイーサネット・ゲートウェイで接続できます。各Exalogicマシン構成には、このようなゲートウェイが少なくとも2つ含まれ、それらは、Exalogicマシン内のすべての計算ノードとストレージ・アプライアンスを接続するInfiniBandスイッチとしても機能します。
Sun Network QDR InfiniBandゲートウェイ・スイッチ(部品番号NM2-GW)は、Exalogicマシンでリーフ・スイッチとして使用されます。これらは、Exalogic計算ノードのホスト・チャネル・アダプタ(HCA)に接続します。
これらのスイッチ(NM2-GW)は、Exalogicマシンをイーサネット経由で外部LANに接続するためのイーサネット・ゲートウェイとしても機能します。詳細は、「Sun Network QDR InfiniBandゲートウェイ・スイッチによるExalogicマシンと外部LANの接続」を参照してください。
Sun Datacenter InfiniBand Switch 36(部品番号NM2-36P)は、マルチラック構成のシナリオ(Exalogicマシンから別のExalogicマシン、およびExalogicマシンからOracle Exadata Database Machineへの構成)でのみ使用します。このスイッチは、Exalogicマシン・シングルラックでは接続または使用されません。
注意:
Exalogicマシンでは、IP over InfiniBand (IPoIB)トラフィックとEthernet over InfiniBand (EoIB)トラフィックを分離するために、InfiniBandスイッチ(リーフ・スイッチとスパイン・スイッチの両方)は自動的に構成されます。
Sun Network QDR InfiniBandゲートウェイ・スイッチがExalogic計算ノードに接続された後に、次の結合されたインタフェースが構成されます。
IP over InfiniBand (IPoIB): bond0リンク(Oracle Linuxではib0
/ib1
、Oracle Solarisではibp0
/ibp1
)
ib0
またはibp0
は計算ノードのHCAポート0を示し、ib1
またはibp1
は計算ノードのHCAポート1を示します。
注意:
アプリケーションのデプロイメントおよび分離の要件に応じて、このデフォルトのIPoIBリンク上に追加の結合されたIPサブネット・インタフェースを作成できます。
詳細は、Oracle Exalogicエンタープライズ・デプロイメント・ガイドのIPoIBを介したサブネットによるアプリケーション分離に関する項を参照してください。
Ethernet over InfiniBand (EoIB): bond1リンク。ib0およびib1用のVNIC0およびVNIC1 (Oracle Solarisではibp0
およびibp1
用のVNIC0およびVNIC1)などの2つのVNICを使用します。
注意:
Oracle Solarisでは、IPマルチパス(IPMP)テクノロジを使用して、Oracle Linuxの結合されたインタフェースと同じ機能を提供するIPMPグループをサポートしています。Exalogic計算ノードでOracle Solarisを使用している場合は、IPMPグループに任意の名前を付けられます。このガイドでは、Oracle Linuxの用語との整合性を保つためにBOND0
およびBOND1
というサンプル名が使用されています。
Oracle Solarisオペレーティング・システムでは、IPネットワーク・マルチパス(IPMP)によって、同じIPリンク上に複数のインタフェースを持つシステムに、物理インタフェースの障害検出および透過的ネットワーク・アクセス・フェイルオーバーの機能が提供されます。また、IPMPは複数のインタフェースを持つシステムにパケットの負荷分散の機能も提供します。
この項で説明する項目は、次のとおりです。
IPMPは次のコンポーネントで構成されています。
in.mpathd
デーモン
/etc/default/mpathd
構成ファイル
IPMP構成のifconfig
オプション
注意:
in.mpathd
デーモンおよびmpathd
構成ファイルについては、Exalogic計算ノードにインストールされているOracle Solarisオペレーティング・システムのin.mpathd (1M)ドキュメント・ページを参照してください。ifconfig
については、ifconfig (1M)ドキュメント・ページを参照してください。
IPマルチパス・グループ(IPMPグループ)は、同じIPMPグループ名で構成された同じシステム上の1つ以上の物理インタフェースで構成されています。IPMPグループ内のすべてのインタフェースは、同じIPリンクに接続される必要があります。同じ(null以外)文字列のIPMPグループ名によって、グループ内のすべてのインタフェースが識別されます。同じタイプのNICであれば、速度が異なるNICのインタフェースも同じIPMPグループ内に置くことができます。Oracle SolarisのIPMPグループは、Exalogic環境におけるOracle Linuxの結合されたインタフェースと同じ機能を提供します。たとえば、デフォルトのIPMPグループipmp0
は、2つの物理インタフェースで構成され、Exalogicマシンの内部通信用のデフォルトのIPoIBリンクに接続します。もう1つのデフォルトのIPMPグループであるipmp1
は、2つの仮想インタフェースで構成され、外部データ・センター接続用のデフォルトのEoIBリンクに接続します。
注意:
Exalogic計算ノードにインストールされたOracle Solarisオペレーティング・システムのIPMPグループの管理方法と構成方法については、Oracle Solaris 11.1のドキュメントを参照してください。
Exalogicマシン内の計算ノードは、デュアルポートInfiniBand4倍速(QDR)ホスト・チャネル・アダプタ(HCA)によって相互に接続されています。HCAはそれぞれIPアドレスを持ち、アクティブ/パッシブ結合で構成されています。HCAのアクティブ・ポートはSun Network QDR InfiniBandゲートウェイ・スイッチに接続し、HCAのパッシブ・ポートはExalogicマシン内の別のSun Network QDR InfiniBandゲートウェイ・スイッチに接続します。
注意:
様々なExalogicマシン構成でのネットワーク接続の詳細は、「ケーブル配線図」を参照してください。
Sun Network QDR InfiniBandゲートウェイ・スイッチは、イーサネット・ネットワークへの接続用のゲートウェイとして機能するほか、8つの10GBイーサネット・ポートをサポートします。これらのポートには、EoIBを使用したInfiniBandネットワークを介して、Exalogic計算ノードからアクセスできます。これらのイーサネット・ポートそれぞれに対して複数のVLANを作成できます。
各Exalogic計算ノードは、2つのSun Network QDR InfiniBandゲートウェイ・スイッチ(NM2-GW)にある1つ以上のイーサネット・ポートにHAの目的でアクセスできます。Exalogicマシン・フル・ラックには、4つのゲートウェイ・スイッチが含まれています。したがって、Exalogicマシン・フル・ラックの8つの計算ノードからなるグループは、その計算ノードのグループが接続しているプライマリ・ゲートウェイ・スイッチおよびセカンダリ・ゲートウェイ・スイッチの両方で1つのイーサネット・ポートにアクセスできます。各ポートは、計算ノードでEoIB VNICとして表されています。計算ノードには、それぞれ2つの結合されたVNIC(アクティブ/パッシブ)があります。
注意:
単一の10GBイーサネット・ポートには、最大8つの計算ノードを構成できます。
イーサネット接続用にVNICを作成する方法については、「Ethernet Over InfiniBandの構成」を参照してください。
この項で説明する項目は、次のとおりです。
開始する前に、10Gbイーサネット・スイッチ、ルーター、または次のいずれかをサポートするNICデバイスが用意されていることを確認します。
SFP+10GベースSRモジュール
XFP 10GベースSRモジュール
QSFP光学モジュール
たとえば、ExalogicのSun Network QDR InfiniBandゲートウェイ・スイッチ(NM2-GW)上のQSFPモジュールは、次のようにデータ・センターの10GbEスイッチのSFP+/XFPモジュールに接続されます。
デフォルトの各Exalogic計算ノードには、1つの外部LANに対して1つの結合されたEoIBインタフェース(ethX)が構成されています。LAN1などの1つの外部LANには、BOND1
(vnic0/vnic1)が接続します。
Sun Network QDR InfiniBandゲートウェイ・スイッチのいずれかでVNICが作成されている場合、ethXインタフェースはそのVNICに自動的に関連付けられます。
注意:
追加のLANに接続するために、必要に応じて追加のEoIBネットワークも構成できます。
表6-3に、Exalogicマシンをデータ・センターの10Gbイーサネット・スイッチに接続するために必要なトランシーバとケーブルの要件を示します。
表6-3 トランシーバとケーブル
ExalogicのSun Network QDR InfiniBandゲートウェイ・スイッチ上の光学モジュール | 必要なケーブル | イーサネット・スイッチ・ベンダー | 必要なトランシーバ |
---|---|---|---|
QSFPモジュール |
QSFP MTP - 4 LC NM2-GW当たり最低1本の光学ケーブルが必要ですが、NM2-GW当たり2本のケーブルを用意することをお薦めします。 |
Sun Oracleスイッチまたはサード・パーティ・ベンダー製の10GbE標準スイッチ |
Sun Oracleスイッチの場合: x2129/3 SFP+/XFP SRモジュール サード・パーティ・スイッチの場合: スイッチ・ベンダーによって提供されるSFP+/XFPモジュール |
QSFPモジュール |
QSFP – QSFP NM2-GW当たり最低1本の光学ケーブルが必要ですが、NM2-GW当たり2本のケーブルを用意することをお薦めします。 |
Sun Oracleスイッチまたはサード・パーティ・ベンダー製の10GbE標準スイッチ |
Sun Oracleスイッチの場合: x2124A QSFPモジュール サード・パーティ・スイッチの場合: スイッチ・ベンダーによって提供されるQSFPモジュール 注意: ExalogicにはデフォルトでQSFPトランシーバが同梱されています。Sun Network 10GbE Switch 72pなどのSun Oracle 10GbEスイッチを使用する場合は、これらをデンター・センター・スイッチの横で使用できます。 |
表6-4に、追加のInfiniBand仕様およびケーブル要件を示します。
表6-4 HCA、ポート仕様およびケーブル要件
コンポーネント/項目 | Exalogicマシン・フル・ラック | Exalogicマシン・ハーフ・ラック | Exalogicマシン・クォーター・ラック | 2つのExalogicマシン |
---|---|---|---|---|
InfiniBand 4倍速(QDR)ホスト・チャネル・アダプタ(HCA) |
30 |
16 |
8 |
60 |
Sun Network QDR InfiniBandゲートウェイ・スイッチ(NM2-GWリーフ・スイッチ)の未使用ポート |
0 |
6 |
16 |
6 |
Sun Datacenter InfiniBand Switch (NM2-36P)スパイン・スイッチの未使用ポート 注意: このスイッチは、マルチラック構成でのみ使用されます。 |
該当なし |
該当なし |
該当なし |
該当なし |