Oracle® VM Server for SPARC 3.3 管理指南

退出打印视图

更新时间: 2015 年 10 月
 
 

如何通过分配 PCIe 端点设备创建 I/O 域

提前规划所有 DIO 部署,从而最大限度地缩短停机时间。


Caution

注意  - 如果您将 SPARC T3-1 或 SPARC T4-1 系统上的 /SYS/MB/SASHBA1 槽分配给 DIO 域,那么 primary 域将失去对于板载 DVD 设备的访问权限。 SPARC T3-1 和 SPARC T4-1 系统包括两个用于板载存储的 DIO 槽,它们由 /SYS/MB/SASHBA0/SYS/MB/SASHBA1 路径表示。除了承载多显示端板载磁盘之外,/SYS/MB/SASHBA1 插槽还会承载板载 DVD 设备。所以,如果您将 /SYS/MB/SASHBA1 分配给 DIO 域,那么 primary 域将失去对于板载 DVD 设备的访问权限。 SPARC T3-2 和 SPARC T4-2 系统具有承载所有板载磁盘以及板载 DVD 设备的单一 SASHBA 槽。因此,如果您将 SASHBA 分配给 DIO 域,则板载磁盘板载 DVD 设备将借给 DIO 域,而无法由 primary 域使用。


有关通过添加 PCIe 端点设备来创建 I/O 域的示例,请参见规划 PCIe 端点设备配置


注 - 在本发行版中,请使用 DefaultFixed NCP 在 Oracle Solaris 11 系统上配置数据链路和网络接口。

    Oracle Solaris 11 OS 包括以下 NCP:

  • DefaultFixed允许您使用 dladmipadm 命令管理网络

  • Automatic允许您使用 netcfgnetadm 命令管理网络

使用 netadm list 命令确保已启用 DefaultFixed NCP。请参见Oracle Solaris Administration: Network Interfaces and Network Virtualization 中的第 7  章 Using Datalink and Interface Configuration Commands on Profiles


  1. 标识和归档系统上当前安装的设备。

    ldm list-io -l 命令的输出显示了当前配置 I/O 设备的方式。可使用 prtdiag -v 命令获取更多详细信息。


    注 - 将设备分配到 I/O 域之后,只可在 I/O 域中确定设备的标识。
    primary# ldm list-io -l
    NAME                                      TYPE   BUS      DOMAIN   STATUS   
    ----                                      ----   ---      ------   ------   
    niu_0                                     NIU    niu_0    primary           
    [niu@480]
    niu_1                                     NIU    niu_1    primary           
    [niu@580]
    pci_0                                     BUS    pci_0    primary           
    [pci@400]
    pci_1                                     BUS    pci_1    primary           
    [pci@500]
    /SYS/MB/PCIE0                             PCIE   pci_0    primary  OCC      
    [pci@400/pci@2/pci@0/pci@8]
        SUNW,emlxs@0/fp/disk
        SUNW,emlxs@0/fp/tape
        SUNW,emlxs@0/fp@0,0
        SUNW,emlxs@0,1/fp/disk
        SUNW,emlxs@0,1/fp/tape
        SUNW,emlxs@0,1/fp@0,0
    /SYS/MB/PCIE2                             PCIE   pci_0    primary  OCC      
    [pci@400/pci@2/pci@0/pci@4]
        pci/scsi/disk
        pci/scsi/tape
        pci/scsi/disk
        pci/scsi/tape
    /SYS/MB/PCIE4                             PCIE   pci_0    primary  OCC      
    [pci@400/pci@2/pci@0/pci@0]
        ethernet@0
        ethernet@0,1
        SUNW,qlc@0,2/fp/disk
        SUNW,qlc@0,2/fp@0,0
        SUNW,qlc@0,3/fp/disk
        SUNW,qlc@0,3/fp@0,0
    /SYS/MB/PCIE6                             PCIE   pci_0    primary  EMP      
    [pci@400/pci@1/pci@0/pci@8]
    /SYS/MB/PCIE8                             PCIE   pci_0    primary  EMP      
    [pci@400/pci@1/pci@0/pci@c]
    /SYS/MB/SASHBA                            PCIE   pci_0    primary  OCC      
    [pci@400/pci@2/pci@0/pci@e]
        scsi@0/iport@1
        scsi@0/iport@2
        scsi@0/iport@4
        scsi@0/iport@8
        scsi@0/iport@80/cdrom@p7,0
        scsi@0/iport@v0
    /SYS/MB/NET0                              PCIE   pci_0    primary  OCC      
    [pci@400/pci@1/pci@0/pci@4]
        network@0
        network@0,1
    /SYS/MB/PCIE1                             PCIE   pci_1    primary  OCC      
    [pci@500/pci@2/pci@0/pci@a]
        SUNW,qlc@0/fp/disk
        SUNW,qlc@0/fp@0,0
        SUNW,qlc@0,1/fp/disk
        SUNW,qlc@0,1/fp@0,0
    /SYS/MB/PCIE3                             PCIE   pci_1    primary  OCC      
    [pci@500/pci@2/pci@0/pci@6]
        network@0
        network@0,1
        network@0,2
        network@0,3
    /SYS/MB/PCIE5                             PCIE   pci_1    primary  OCC      
    [pci@500/pci@2/pci@0/pci@0]
        network@0
        network@0,1
    /SYS/MB/PCIE7                             PCIE   pci_1    primary  EMP      
    [pci@500/pci@1/pci@0/pci@6]
    /SYS/MB/PCIE9                             PCIE   pci_1    primary  EMP      
    [pci@500/pci@1/pci@0/pci@0]
    /SYS/MB/NET2                              PCIE   pci_1    primary  OCC      
    [pci@500/pci@1/pci@0/pci@5]
        network@0
        network@0,1
        ethernet@0,80
    /SYS/MB/NET0/IOVNET.PF0                   PF     pci_0    primary           
    [pci@400/pci@1/pci@0/pci@4/network@0]
        maxvfs = 7
    /SYS/MB/NET0/IOVNET.PF1                   PF     pci_0    primary           
    [pci@400/pci@1/pci@0/pci@4/network@0,1]
        maxvfs = 7
    /SYS/MB/PCIE5/IOVNET.PF0                  PF     pci_1    primary           
    [pci@500/pci@2/pci@0/pci@0/network@0]
        maxvfs = 63
    /SYS/MB/PCIE5/IOVNET.PF1                  PF     pci_1    primary           
    [pci@500/pci@2/pci@0/pci@0/network@0,1]
        maxvfs = 63
    /SYS/MB/NET2/IOVNET.PF0                   PF     pci_1    primary           
    [pci@500/pci@1/pci@0/pci@5/network@0]
        maxvfs = 7
    /SYS/MB/NET2/IOVNET.PF1                   PF     pci_1    primary           
    [pci@500/pci@1/pci@0/pci@5/network@0,1]
        maxvfs = 7
  2. 确定必须保留的引导磁盘的设备路径。

    请参见如何通过分配 PCIe 总线创建根域 中的步骤 2。

  3. 确定块设备连接到的物理设备。

    请参见如何通过分配 PCIe 总线创建根域 中的步骤 3。

  4. 确定由系统使用的网络接口。

    请参见如何通过分配 PCIe 总线创建根域 中的步骤 4。

  5. 确定网络接口连接到的物理设备。

    以下命令使用 igb0 网络接口:

    primary# ls -l /dev/igb0
    lrwxrwxrwx   1 root     root          46 Jul 30 17:29 /dev/igb0 ->
    ../devices/pci@500/pci@0/pci@8/network@0:igb0

    在此示例中,primary 域使用的网络接口的物理设备已连接到 PCIe 端点设备 (pci@500/pci@0/pci@8),该端点设备对应于步骤 1 中列出的 MB/NET0。因此,您不希望将此设备从 primary 域删除。由于所有其他 PCIe 设备都未被 primary 域使用,因此可以将它们安全地分配到其他域。

    如果 primary 域使用的网络接口位于您要分配到其他域的总线上,则需要重新配置 primary 域以使用其他网络接口。

  6. 删除可能会在 I/O 域中使用的 PCIe 端点设备。

    在此示例中,您可以删除 PCIE2PCIE3PCIE4PCIE5 端点设备,因为它们没有被 primary 域使用。

    1. 删除 PCIe 端点设备。

      Caution

      注意  - 不要删除 primary 域所使用或所需要的设备。请勿删除含有某个域所用的设备(例如,网络端口或 usbecm 设备)的总线。 如果不小心删除了错误设备,请使用 ldm cancel-reconf primary 命令取消 primary 域上的延迟重新配置。


      可以一次删除多个设备以避免多次重新引导。

      primary# ldm start-reconf primary
      primary# ldm set-io iov=on pci_1
      All configuration changes for other domains are disabled until the primary
      domain reboots, at which time the new configuration for the primary domain
      will also take effect.
      primary# ldm remove-io /SYS/MB/PCIE1 primary
      ------------------------------------------------------------------------------
      Notice: The primary domain is in the process of a delayed reconfiguration.
      Any changes made to the primary domain will only take effect after it reboots.
      ------------------------------------------------------------------------------
      primary# ldm remove-io /SYS/MB/PCIE3 primary
      ------------------------------------------------------------------------------
      Notice: The primary domain is in the process of a delayed reconfiguration.
      Any changes made to the primary domain will only take effect after it reboots.
      ------------------------------------------------------------------------------
      primary# ldm remove-io /SYS/MB/PCIE5 primary
      ------------------------------------------------------------------------------
      Notice: The primary domain is in the process of a delayed reconfiguration.
      Any changes made to the primary domain will only take effect after it reboots.
      ------------------------------------------------------------------------------
    2. 将新配置保存到服务处理器 (service processor, SP)。

      以下命令会将配置保存到名为 dio 的文件中:

      primary# ldm add-config dio
    3. 重新引导系统以反映 PCIe 端点设备的删除。
      primary# shutdown -i6 -g0 -y
  7. 登录 primary 域,检验是否不再将 PCIe 端点设备分配到域。
    primary# ldm list-io
    NAME                                      TYPE   BUS      DOMAIN   STATUS   
    ----                                      ----   ---      ------   ------   
    niu_0                                     NIU    niu_0    primary           
    niu_1                                     NIU    niu_1    primary           
    pci_0                                     BUS    pci_0    primary           
    pci_1                                     BUS    pci_1    primary  IOV      
    /SYS/MB/PCIE0                             PCIE   pci_0    primary  OCC      
    /SYS/MB/PCIE2                             PCIE   pci_0    primary  OCC      
    /SYS/MB/PCIE4                             PCIE   pci_0    primary  OCC      
    /SYS/MB/PCIE6                             PCIE   pci_0    primary  EMP      
    /SYS/MB/PCIE8                             PCIE   pci_0    primary  EMP      
    /SYS/MB/SASHBA                            PCIE   pci_0    primary  OCC      
    /SYS/MB/NET0                              PCIE   pci_0    primary  OCC      
    /SYS/MB/PCIE1                             PCIE   pci_1             OCC      
    /SYS/MB/PCIE3                             PCIE   pci_1             OCC      
    /SYS/MB/PCIE5                             PCIE   pci_1             OCC      
    /SYS/MB/PCIE7                             PCIE   pci_1    primary  EMP      
    /SYS/MB/PCIE9                             PCIE   pci_1    primary  EMP      
    /SYS/MB/NET2                              PCIE   pci_1    primary  OCC      
    /SYS/MB/NET0/IOVNET.PF0                   PF     pci_0    primary           
    /SYS/MB/NET0/IOVNET.PF1                   PF     pci_0    primary           
    /SYS/MB/NET2/IOVNET.PF0                   PF     pci_1    primary           
    /SYS/MB/NET2/IOVNET.PF1                   PF     pci_1    primary

    注 - 对于删除的 PCIe 端点设备,ldm list-io -l 输出可能会显示 SUNW,assigned-device。不可再从 primary 域获取实际信息,但是要将设备分配到其中的域包含此信息。
  8. 将 PCIe 端点设备分配到域。
    1. PCIE3 设备添加到 ldg1 域。
      primary# ldm add-io /SYS/MB/PCIE3 ldg1
    2. 绑定并启动 ldg1 域。
      primary# ldm bind ldg1
      primary# ldm start ldg1
      LDom ldg1 started
  9. 登录 ldg1 域并检验设备是否可用。

    验证网络设备是否可用,然后配置网络设备以便在域中使用。

    primary# dladm show-phys
    LINK              MEDIA                STATE      SPEED  DUPLEX    DEVICE
    net0              Ethernet             unknown    0      unknown   nxge0
    net1              Ethernet             unknown    0      unknown   nxge1
    net2              Ethernet             unknown    0      unknown   nxge2
    net3              Ethernet             unknown    0      unknown   nxge3