Sun Cluster 软件安装指南(适用于 Solaris OS)

安装和配置 Solstice DiskSuite/Solaris Volume Manager 软件

本节提供了安装和配置 Solstice DiskSuite/Solaris Volume Manager 软件的信息和过程。

任务对应关系:安装和配置 Solstice DiskSuite/Solaris Volume Manager 软件

下表列出了为 Sun Cluster 配置而安装和配置 Solstice DiskSuite/Solaris Volume Manager 软件所需执行的任务。 符合以下条件时可以跳过某些过程:

表 3–1 任务对应关系:安装和配置 Solstice DiskSuite/Solaris Volume Manager 软件

任务 

说明 

1. 规划 Solstice DiskSuite/Solaris Volume Manager 配置的布局。 

2.(仅适用于 Solaris 8)安装 Solstice DiskSuite 软件。

如何安装 Solstice DiskSuite 软件

3. 计算配置所需的元设备名称数和磁盘集数,并修改 /kernel/drv/md.conf 文件。

如何设置元设备或卷名称和磁盘集的数目

4. 在本地磁盘中创建状态数据库的复本。 

如何创建状态数据库复本

5.(可选)镜像根磁盘上的文件系统。

镜像根磁盘

6. 使用 metaset 命令创建磁盘集。

如何创建磁盘集

7. 将磁盘驱动器添加到磁盘集中。 

如何将磁盘驱动器添加到磁盘集

8.(可选)对磁盘集中的磁盘驱动器重新分区,将空间分配为 1 到 6 个片。

如何对磁盘集内的磁盘驱动器重新分区

9. 列出 DID 伪驱动器映射并在 /etc/lvm/md.tab 文件中定义元设备或卷。

如何创建 md.tab 文件

10. 初始化 md.tab 文件。

如何激活元设备或卷

11.(仅适用于双串配置)配置双串调解器主机,检查调解器数据的状态,如果需要,修正被破坏的调解器数据。

  1. 如何添加调解器主机

  2. 如何检查调解器数据的状态

12. 配置群集。 

配置群集

Solstice DiskSuite/Solaris Volume Manager 配置示例

以下示例有助于解释确定每个磁盘集中放置的磁盘驱动器数目的过程。 本示例中使用了三个存储设备。 现有应用程序是在 NFS (大小均为 5 GB 的两个文件系统)上和两个 ORACLE 数据库(大小分别为 5 GB 和 10 GB)上运行的。

下表显示用于确定样例配置中所需磁盘驱动器数目的计算结果。 在包含三个存储设备的配置中,可能需要 28 个磁盘驱动器,这些磁盘驱动器应尽可能均匀分布在三个存储设备的每个设备中。 注意,由于所需的磁盘驱动器数是上舍入得出的,所以请为 5 GB 文件系统提供 1 GB 的附加磁盘空间。

表 3–2 确定配置所需的磁盘驱动器数

使用 

数据 

所需的磁盘存储器 

所需的磁盘驱动器 

nfs1

5 GB 

3x2.1 GB 磁盘 * 2 (镜像) 

nfs2

5 GB 

3x2.1 GB 磁盘 * 2(镜像) 

SPARC: oracle1

5 GB 

3x2.1 GB 磁盘 * 2 (镜像)  

SPARC: oracle2

10 GB 

5x2.1 GB 磁盘 * 2 (镜像)  

10 

下表显示在两个磁盘集和四个数据服务之间分配磁盘驱动器。

表 3–3 磁盘集的划分

磁盘集 

数据服务 

磁盘驱动器 

存储设备 1 

存储设备 2 

存储设备 3 

dg-schost-1

nfs1oracle1

12  

dg-schost-2

nfs2oracle2

16  

最初,应将存储设备(共 12 个磁盘)上的四个磁盘驱动器分配给 dg-schost-1,而将存储设备(共 16 个磁盘)上的五个或六个磁盘驱动器分配给 dg-schost-2

两个磁盘集均未分配任何热备用磁盘。 每个磁盘集的每个存储设备至少有一个热备用磁盘,就可以使一个驱动器成为热备用的(恢复完全双向镜像)。

如何安装 Solstice DiskSuite 软件


注意:

如果使用 SunPlex Manager 来安装 Solstice DiskSuite 软件,请不要执行此过程。 而应该转到镜像根磁盘

如果安装了 Solaris 9 软件,则不要执行该过程。 Solaris Volume Manager 软件随 Solaris 9 软件安装。 而应该转到如何设置元设备或卷名称和磁盘集的数目


对群集中的每个节点执行该任务。

  1. 获取下列信息:

  2. 成为群集节点的超级用户。

  3. 如果从 CD-ROM 安装,请将 Solaris 8 Software 2 of 2 CD-ROM 放入节点的 CD-ROM 驱动器中。

    该步骤假定卷管理守护程序 vold(1M) 正在运行并且配置成管理 CD-ROM 设备。

  4. 按照以下示例中显示的顺序安装 Solstice DiskSuite 软件包。


    # cd /cdrom/sol_8_sparc_2/Solaris_8/EA/products/DiskSuite_4.2.1/sparc/Packagespkgadd -d . SUNWmdr SUNWmdu [SUNWmdx] optional-pkgs
    


    注意:

    如果要安装 Solstice DiskSuite 软件修补程序,在安装 Solstice DiskSuite 软件之后不要重新引导。


    所有 Solstice DiskSuite 安装都必需 SUNWmdrSUNWmdu 软件包。 64 位 Solstice DiskSuite 安装还必需 SUNWmdx 软件包。

    有关可选软件包的信息,请参阅 Solstice DiskSuite 安装文档。

  5. 如果从 CD-ROM 安装,请弹出 CD-ROM。

  6. 安装所有 Solstice DiskSuite 修补程序。

    有关修补程序和安装说明的位置,请参阅《Sun Cluster 3.1 发行说明》中的“修补程序和所需的固件级别”。

  7. 对群集中的其他节点重复执行步骤 1步骤 6

  8. 从群集中的一个节点上,手动为 Solstice DiskSuite 输入全局设备名称空间。


    # scgdevs
    


    注意:

    scgdevs 命令可能会返回如下所示的消息:


    设备忙,无法打开 /dev/rdsk/c0t6d0s2 检验设备 id

    如果列出的设备是 CD-ROM 设备,则可以安全地忽略该消息。


  9. 设置群集所需的元设备名称数和磁盘集数。

    转到如何设置元设备或卷名称和磁盘集的数目

如何设置元设备或卷名称和磁盘集的数目


注意:

如果使用 SunPlex Manager 来安装 Solstice DiskSuite 软件,请不要执行此过程。 而应该转到镜像根磁盘


该过程介绍如何确定您的配置所需的 Solstice DiskSuite 元设备或 Solaris Volume Manager 卷名和磁盘集的数目。 该过程还介绍如何通过修改 /kernel/drv/md.conf 文件指定这些数目。


提示:

每个磁盘集的元设备名称或卷名的缺省数目是 128,但许多配置需要的数目要大于该缺省数目。 着手配置前请增大这个数目,以便节省今后管理的时间。

同时,保持 nmd 字段和 md_nsets 字段的值尽可能低。 所有可能设备的内存结构由 nmdmd_nsets 确定,即使尚未创建这些设备。 为了获得最佳性能,应保持 nmdmd_nsets 的值仅比要使用的元设备或卷的数目略高一点。


  1. 准备好 磁盘设备组配置工作表

  2. 确定希望群集中包含的磁盘集的总数,然后再添加一个磁盘集用于专用磁盘管理。

    群集最多可以包含 32 个磁盘集,31 个磁盘集用于一般用途,外加一个磁盘集用于专用磁盘管理。 磁盘集的缺省数目为 4。 请在步骤 4 中为 md_nsets 字段输入此值。

  3. 确定对群集中任意磁盘集希望需要的最大元设备名称或卷名数目。

    每个磁盘集最多可有 8192 个元设备名称或卷名。 您可以在步骤 4 中为 nmd 字段提供该值。

    1. 确定对每个磁盘集希望需要的元设备名称或卷名的数目。

      如果使用本地元设备或卷,请确保每个本地元设备名称或卷名在整个群集内都唯一,不与该群集内的任何设备 ID 同名。


      提示:

      选择专用于设备 ID 名称的数值范围,以及供每个节点专用于其本地元设备名称或卷名的数值范围。 例如,设备 ID 名称可以使用的数值范围为 d1d100。 节点 1 上的本地元设备或卷名称可以使用的数值范围为 d100d199。 节点 2 上的本地元设备或卷名称可以使用的数值范围为 d200d299


    2. 确定在任意磁盘集中希望使用的元设备名称或卷名的最大值。

      要设置的元设备名称或卷名的数量取决于元设备名称或卷名的,而不是实际数量。 例如,如果元设备名称或卷名的范围在 d950d1000,Solstice DiskSuite/Solaris Volume Manager 软件要求将该值设置为 1000 个名称,而不是 50 个。

  4. 在每个节点上,成为超级用户并编辑 /kernel/drv/md.conf 文件。


    Caution – Caution –

    所有群集节点(或群集对拓扑中的群集对)必须具有相同的 /kernel/drv/md.conf 文件,无论每个节点服务的磁盘集数目有多少。 不按本指南操作可能会导致严重的 Solstice DiskSuite/Solaris Volume Manager 错误,并且可能丢失数据。


    1. md_nsets 字段设置为步骤 2 中确定的值。

    2. nmd 字段设置为步骤 3 中确定的值。

  5. 在每个节点上,执行重新配置后的重新引导。


    # touch /reconfigure
    # shutdown -g0 -y -i6
    

    /kernel/drv/md.conf 文件的更改将在执行重新配置后的重新引导后生效。

  6. 创建本地状态数据库复本。

    转到如何创建状态数据库复本

如何创建状态数据库复本


注意:

如果使用 SunPlex Manager 来安装 Solstice DiskSuite 软件,请不要执行此过程。 而应该转到镜像根磁盘


对群集中的每个节点执行该过程。

  1. 成为群集节点的超级用户。

  2. 使用 metadb 命令在一个或多个本地磁盘上为每个群集节点创建状态数据库复本。

    使用物理名称 (cNtXdYsZ),而不是设备 ID 名称 (dN) 来指定要使用的盘片。


    # metadb -af slice-1 slice-2 slice-3
    


    提示:

    要为状态数据提供保护(这是运行 Solstice DiskSuite/Solaris Volume Manager 软件所必需的),则至少为每个节点创建三个复本。 此外,将复本放在多个磁盘上可在其中的一个磁盘出现故障时免遭损失。


    有关详细信息,请参阅 metadb(1M) 手册页和 Solstice DiskSuite/Solaris Volume Manager 文档。

  3. 检验复本。


    # metadb
    

    metadb 命令显示复本列表。

  4. 是否打算镜像根磁盘上的文件系统?

示例—创建状态数据库复本

以下示例显示了三个 Solstice DiskSuite 状态数据库复本。 每个复本分别创建在不同的磁盘上。 对于 Solaris Volume Manager,复本的大小会更大。


# metadb -af c0t0d0s7 c0t1d0s7 c1t0d0s7
# metadb
flags            first blk      block count
    a       u       16          1034         /dev/dsk/c0t0d0s7
    a       u       16          1034         /dev/dsk/c0t1d0s7
    a       u       16          1034         /dev/dsk/c1t0d0s7

镜像根磁盘

镜像根磁盘可防止因系统磁盘故障而关闭群集节点。 四种类型的文件系统可驻留在根磁盘中。 每种文件系统的镜像方法各不相同。

使用下列过程可以镜像每种类型的文件系统。


注意:

这些镜像过程中的某些步骤可能导致出现以下所示的错误消息,该错误无关紧要,可以将其忽略。


metainit: dg-schost-1: d1s0: not a metadevice



Caution – Caution –

对于本地磁盘镜像,指定磁盘名称时不要将 /dev/global 用作路径。 如果为非群集文件系统的系统指定了该路径,系统将无法引导。


如何镜像根 (/) 文件系统

使用此过程可以镜像根 (/) 文件系统。

  1. 成为节点的超级用户。

  2. 使用 metainit(1M) 命令将根盘片置于一个单盘片(单向)并置中。

    指定该根盘片的物理磁盘名称 (cNtXdYsZ)。


    # metainit -f submirror1 1 1 root-disk-slice
    

  3. 创建第二个并置。


    # metainit submirror2 1 1 submirror-disk-slice
    

  4. 创建具有一个子镜像的单向镜像。


    # metainit mirror -m submirror1
    


    注意:

    镜像的元设备名称或卷名在整个群集中必须是唯一的。


  5. 运行 metaroot(1M) 命令。

    此命令编辑 /etc/vfstab/etc/system 文件,以便可以通过元设备或卷上的根 (/) 文件系统来引导系统。


    # metaroot mirror
    

  6. 运行 lockfs(1M) 命令。

    此命令清理日志中的所有事务,并将这些事务写入所有已装载 UFS 文件系统的主文件系统中。


    # lockfs -fa
    

  7. 从节点中清空任何资源组或设备组。


    # scswitch -S -h from-node
    
    -S

    清空所有资源组和设备组

    -h from-node

    指定从中清空资源组或设备组的节点的名称

  8. 重新引导该节点。

    此命令重新装载新镜像的根 (/) 文件系统。


    # shutdown -g0 -y -i6
    

  9. 使用 metattach(1M) 命令将第二个子镜像连接到镜像。


    # metattach mirror submirror2
    

  10. 用于镜像根磁盘的磁盘是否物理连接到多个节点(多端口连接)?

    • 如果不是,请继续执行步骤 11

    • 如果是,请执行以下步骤,为用于镜像无法安装的文件系统的磁盘启用原始设备组的 localonly 特性。 如果引导设备与多个节点连接,则必须启用 localonly 特性以防止意外地将节点与其引导设备隔开。

    1. 如果需要,可以使用 scdidadm(1M) -L 命令来显示原始磁盘设备组的完整设备 ID 路径名称。

      在以下示例中,原始磁盘设备组名称 dsk/d2 是输出的第三列(即完整的设备 ID 路径名称)的一部分。


      # scdidadm -L
      …
      1         phys-schost-3:/dev/rdsk/c1t1d0     /dev/did/rdsk/d2
      

    2. 查看原始磁盘设备组的节点列表。

      输出类似于以下内容:


      # scconf -pvv | grep dsk/d2
      Device group name:						dsk/d2
      …
        (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
      …

    3. 节点列表是否包含多个节点名称?

    4. 从原始磁盘设备组的节点列表中删除所有节点,已镜像根磁盘的节点除外

      在节点列表中仅保留已镜像根磁盘的那个节点。


      # scconf -r -D name=dsk/dN,nodelist=node
      
      -D name=dsk/dN

      指定原始磁盘设备组在群集范围内唯一的名称

      nodelist=node

      指定要从节点列表中删除的节点的名称

    5. 使用 scconf(1M) 命令可以启用 localonly 特性。

      启用 localonly 特性之后,该原始磁盘设备组将由节点列表中的节点专用。 如果引导设备与多个节点连接,则启用该特性可以防止意外地将节点与其引导设备隔开。


      # scconf -c -D name=rawdisk-groupname,localonly=true
      
      -D name=rawdisk-groupname

      指定原始磁盘设备组的名称

      有关 localonly 特性的详细信息,请参阅 scconf_dg_rawdisk(1M) 手册页。

  11. 记录备选引导路径,以后可能会用到。

    如果主引导设备出现故障,可以通过这个备选引导设备引导。 有关备选引导设备的详细信息,请参阅 Solstice DiskSuite 4.2.1 User's Guide 中的 “Troubleshooting the System”Solaris Volume Manager Administration Guide 中的 “Mirroring root (/) Special Considerations”


    # ls -l /dev/rdsk/root-disk-slice
    

  12. 在群集的其余各节点上重复执行步骤 1步骤 11

    确保镜像的每个元设备名称或卷名在整个群集中是唯一的。

  13. 是否要镜像全局名称空间 /global/.devices/node@nodeid

  14. 是否要镜像无法卸载的文件系统?

  15. 是否打算镜像用户定义的文件系统?

示例—镜像根 (/) 文件系统

以下示例显示了在节点 phys-schost-1 上创建镜像 d0 的过程,该镜像由分区 c0t0d0s0 上的子镜像 d10 和分区 c2t2d0s0 上的子镜像 d20 组成。 磁盘 c2t2d0 是一个多端口磁盘,所以启用了 localonly 特性。


(创建镜像)
# metainit -f d10 1 1 c0t0d0s0
d11: Concat/Stripe is setup
# metainit d20 1 1 c2t2d0s0
d12: Concat/Stripe is setup
# metainit d0 -m d10
d10: Mirror is setup
# metaroot d0
# lockfs -fa
 
(从 phys-schost-1 中清空资源组和设备组)
# scswitch -S -h phys-schost-1
 
(重新引导节点)
# shutdown -g0 -y -i6
 
(附加第二个子镜像)
# metattach d0 d20
d0: Submirror d20 is attached
 
(显示设备组节点列表)
# scconf -pvv | grep dsk/d2
Device group name:						dsk/d2
…
  (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
…
 
(从节点列表中删除 phys-schost-3)
# scconf -r -D name=dsk/d2,nodelist=phys-schost-3
 
(启用 localonly 特性)
# scconf -c -D name=dsk/d2,localonly=true
 
(记录备用引导路径)
# ls -l /dev/rdsk/c2t2d0s0
lrwxrwxrwx  1 root     root          57 Apr 25 20:11 /dev/rdsk/c2t2d0s0 
–> ../../devices/node@1/pci@1f,0/pci@1/scsi@3,1/disk@2,0:a,raw

如何镜像全局名称空间

使用此过程来镜像全局名称空间 /global/.devices/node@nodeid

  1. 成为群集中一个节点上的超级用户。

  2. 将全局名称空间盘片置于单盘片(单向)并置中。

    使用磁盘片的物理磁盘名称 (cNtXdYsZ)。


    # metainit -f submirror1 1 1 diskslice
    

  3. 创建第二个并置。


    # metainit submirror2 1 1 submirror-diskslice
    

  4. 创建具有一个子镜像的单向镜像。


    # metainit mirror -m submirror1
    


    注意:

    镜像的元设备名称或卷名在整个群集中必须是唯一的。


  5. 将第二个子镜像与镜像连接。

    这一连接操作会启动子镜像的同步。


    # metattach mirror submirror2
    

  6. 编辑 /global/.devices/node@nodeid 文件系统的 /etc/vfstab 文件项。

    用镜像名称替换 device to mountdevice to fsck 列中的名称。


    # 
    vi /etc/vfstab
    #device        device        mount    FS     fsck    mount    mount
    #to mount      to fsck       point    type   pass    at boot  options
    #
    /dev/md/dsk/mirror /dev/md/rdsk/mirror /global/.devices/node@nodeid ufs 2 no global

  7. 在群集的其余各节点上重复执行步骤 1步骤 6

  8. 等待步骤 5 中启动的镜像同步完成。

    使用 metastat(1M) 命令查看镜像状态以及检验镜像同步是否完成。


    # metastat mirror
    

  9. 用于镜像全局名称空间的磁盘是否物理连接到多个节点(多端口连接)?

    • 如果不是,请继续执行步骤 10

    • 如果是,请执行以下步骤以启用用于镜像全局名称空间的磁盘的原始设备组的 localonly 特性。 如果引导设备与多个节点连接,则必须启用 localonly 特性以防止意外地将节点与其引导设备隔开。

    1. 如果需要,可以使用 scdidadm(1M) 命令来显示原始磁盘设备组的完整设备 ID 路径名称。

      在以下示例中,原始磁盘设备组名称 dsk/d2 是输出的第三列(即完整的设备 ID 路径名称)的一部分。


      # scdidadm -L
      …
      1         phys-schost-3:/dev/rdsk/c1t1d0     /dev/did/rdsk/d2
      

    2. 查看原始磁盘设备组的节点列表。

      输出类似于以下内容。


      # scconf -pvv | grep dsk/d2
      Device group name:						dsk/d2
      …
        (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
      …

    3. 节点列表是否包含多个节点名称?

    4. 从原始磁盘设备组的节点列表中删除所有节点,其磁盘已镜像的节点除外

      在节点列表中仅保留已镜像磁盘的那个节点。


      # scconf -r -D name=dsk/dN,nodelist=node
      
      -D name=dsk/dN

      指定原始磁盘设备组在群集范围内唯一的名称

      nodelist=node

      指定要从节点列表中删除的节点的名称

    5. 使用 scconf(1M) 命令可以启用 localonly 特性。

      启用 localonly 特性之后,该原始磁盘设备组将由节点列表中的节点专用。 如果引导设备与多个节点连接,则启用该特性可以防止意外地将节点与其引导设备隔开。


      # scconf -c -D name=rawdisk-groupname,localonly=true
      
      -D name=rawdisk-groupname

      指定原始磁盘设备组的名称

      有关 localonly 特性的详细信息,请参阅 scconf_dg_rawdisk(1M) 手册页。

  10. 是否要镜像无法卸载的根文件系统 (/) 以外的文件系统?

  11. 是否打算镜像用户定义的文件系统?

示例—镜像全局名称空间

下面的示例显示了创建镜像 d101 的过程,该镜像由分区 c0t0d0s3 上的子镜像 d111 和分区 c2t2d0s3 上的子镜像 d121 组成。 /global/.devices/node@1/etc/vfstab 文件项被更新为使用镜像名称 d101。 磁盘 c2t2d0 是一个多端口磁盘,所以启用了 localonly 特性。


(创建镜像)
# metainit -f d111 1 1 c0t0d0s3
d111: Concat/Stripe is setup
# metainit d121 1 1 c2t2d0s3
d121: Concat/Stripe is setup
# metainit d101 -m d111
d101: Mirror is setup
# metattach d101 d121
d101: Submirror d121 is attached
 
(编辑 /etc/vfstab 文件)
# vi /etc/vfstab
#device        device        mount    FS     fsck    mount    mount
#to mount      to fsck       point    type   pass    at boot  options
#
/dev/md/dsk/d101 /dev/md/rdsk/d101 /global/.devices/node@1 ufs 2 no global
 
(查看同步状态)
# metastat d101
d101: Mirror
      Submirror 0: d111
         State: Okay
      Submirror 1: d121
         State: Resyncing
      Resync in progress: 15 % done
…
 
(标识已镜像磁盘的原始磁盘设备组的设备 ID 名称)
# scdidadm -L
…
1         phys-schost-3:/dev/rdsk/c2t2d0     /dev/did/rdsk/d2
 
(显示设备组节点列表)
# scconf -pvv | grep dsk/d2
Device group name:						dsk/d2
…
  (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
…
 
(从节点列表中删除 phys-schost-3)
# scconf -r -D name=dsk/d2,nodelist=phys-schost-3
 
(启用 localonly 特性)
# scconf -c -D name=dsk/d2,localonly=true

如何镜像无法卸载的根文件系统 (/) 以外的文件系统

使用该过程,可以在正常使用系统期间镜像无法卸载的根文件系统 (/) 以外的文件系统,例如 /usr/optswap

  1. 成为群集中一个节点上的超级用户。

  2. 将无法卸载的文件系统驻留所在的盘片置于单盘片(单向)并置中。

    指定磁盘片的物理磁盘名称 (cNtXdYsZ)。


    # metainit -f submirror1 1 1 diskslice
    

  3. 创建第二个并置。


    # metainit submirror2 1 1 submirror-diskslice
    

  4. 创建具有一个子镜像的单向镜像。


    # metainit mirror -m submirror1
    


    注意:

    此镜像的元设备名称或卷名在整个群集中必是唯一的。


  5. 对要镜像的其余每个无法卸载的文件系统重复步骤 1步骤 4

  6. 在每个节点上,为已镜像的每个无法卸装的文件系统编辑 /etc/vfstab 文件项。

    用镜像名称替换 device to mountdevice to fsck 列中的名称。


    # vi /etc/vfstab
    #device        device        mount    FS     fsck    mount    mount
    #to mount      to fsck       point    type   pass    at boot  options
    #
    /dev/md/dsk/mirror /dev/md/rdsk/mirror /filesystem ufs 2 no global

  7. 从节点中清空任何资源组或设备组。


    # scswitch -S -h from-node
    
    -S

    清空所有资源组和设备组

    -h from-node

    指定要从中清空资源组或设备组的节点的名称

  8. 重新引导该节点。


    # shutdown -g0 -y -i6
    

  9. 将第二个子镜像连接到每个镜像。

    这一连接操作会启动子镜像的同步。


    # metattach mirror submirror2
    

  10. 等待步骤 9 中启动的镜像同步完成。

    使用 metastat(1M) 命令查看镜像状态以及检验镜像同步是否完成。


    # metastat mirror
    

  11. 用于镜像无法卸载的文件系统的磁盘是否物理连接到多个节点(多端口连接)?

    • 如果不是,请继续执行步骤 12

    • 如果是,请执行以下步骤,为用于镜像无法安装的文件系统的磁盘启用原始设备组的 localonly 特性。 如果引导设备与多个节点连接,则必须启用 localonly 特性以防止意外地将节点与其引导设备隔开。

    1. 如果必要,使用 scdidadm -L 命令显示原始磁盘设备组的完整设备 ID 路径名称。

      在下面的示例中,原始磁盘设备组名称 dsk/d2 是输出的第三列(即完整的磁盘 ID 路径名称)的一部分。


      # scdidadm -L
      …
      1            phys-schost-3:/dev/rdsk/c1t1d0    /dev/did/rdsk/d2
      

    2. 查看原始磁盘设备组的节点列表。

      输出类似于以下内容。


      # scconf -pvv | grep dsk/d2
      Device group name:						dsk/d2
      …
        (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
      …

    3. 节点列表是否包含多个节点名称?

    4. 从原始磁盘设备组的节点列表中删除所有节点,其根磁盘已镜像的节点除外

      在节点列表中仅保留已镜像根磁盘的那个节点。


      # scconf -r -D name=dsk/dN,nodelist=node
      
      -D name=dsk/dN

      指定原始磁盘设备组在群集范围内唯一的名称

      nodelist=node

      指定要从节点列表中删除的节点的名称

    5. 使用 scconf(1M) 命令启用 localonly 属性。

      启用 localonly 特性之后,该原始磁盘设备组将由节点列表中的节点专用。 如果引导设备与多个节点连接,则启用该特性可以防止意外地将节点与其引导设备隔开。


      # scconf -c -D name=rawdisk-groupname,localonly=true
      
      -D name=rawdisk-groupname

      指定原始磁盘设备组的名称

      有关 localonly 特性的详细信息,请参阅 scconf_dg_rawdisk(1M) 手册页。

  12. 是否打算镜像用户定义的文件系统?

示例—镜像无法卸载的文件系统

下面的示例显示了在节点 phys-schost-1 上创建镜像 d1 来镜像驻留在 c0t0d0s1 上的 /usr 的过程。 镜像 d1 由分区 c0t0d0s1 上的子镜像 d11 和分区 c2t2d0s1 上的子镜像 d21 组成。 /usr/etc/vfstab 文件项被更新为使用镜像名称 d1。 磁盘 c2t2d0 是一个多端口磁盘,所以启用了 localonly 特性。


(创建镜像)
# metainit -f d11 1 1 c0t0d0s1
d11: Concat/Stripe is setup
# metainit d21 1 1 c2t2d0s1
d21: Concat/Stripe is setup
# metainit d1 -m d11
d1: Mirror is setup
 
(编辑 /etc/vfstab 文件)
# vi /etc/vfstab
#device        device        mount    FS     fsck    mount    mount
#to mount      to fsck       point    type   pass    at boot  options
#
/dev/md/dsk/d1 /dev/md/rdsk/d1 /usr ufs  2       no global
 
(从 phys-schost-1 中清空资源组和设备组)
# scswitch -S -h phys-schost-1
 
(重新引导节点)
# shutdown -g0 -y -i6
 
(附加第二个子镜像)
# metattach d1 d21
d1: Submirror d21 is attached
 
(查看同步状态)
# metastat d1
d1: Mirror
      Submirror 0: d11
         State: Okay
      Submirror 1: d21
         State: Resyncing
      Resync in progress: 15 % done
…
 
(标识已镜像磁盘的原始磁盘设备组的设备 ID 名称)
# scdidadm -L
…
1         phys-schost-3:/dev/rdsk/c2t2d0     /dev/did/rdsk/d2
 
(显示设备组节点列表)
# scconf -pvv | grep dsk/d2
Device group name:						dsk/d2
…
  (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
…
 
(从节点列表中删除 phys-schost-3)
# scconf -r -D name=dsk/d2,nodelist=phys-schost-3
 
(启用 localonly 特性)
# scconf -c -D name=dsk/d2,localonly=true

如何镜像无法卸载的文件系统

使用该过程可以镜像无法卸载的用户定义文件系统。 在此过程中,不需要重新引导节点。

  1. 成为群集中一个节点上的超级用户。

  2. 卸载要镜像的文件系统。

    确保文件系统中没有正在运行的进程。


    # umount /mount-point
    

    有关详细信息,请参阅 umount(1M) 手册页和System Administration Guide: Basic Administration》中的“Mounting and Unmounting File Systems”

  3. 使可以卸载的用户定义文件系统所在的盘片处于单片(单向)并置状态。

    指定磁盘片的物理磁盘名称 (cNtXdYsZ)。


    # metainit -f submirror1 1 1 diskslice
    

  4. 创建第二个并置。


    # metainit submirror2 1 1 submirror-diskslice
    

  5. 创建具有一个子镜像的单向镜像。


    # metainit mirror -m submirror1
    


    注意:

    此镜像的元设备名称或卷名在整个群集中必是唯一的。


  6. 为要镜像的每个可卸载的文件系统重复执行步骤 1步骤 5

  7. 在每个节点上,为已镜像的每个文件系统编辑 /etc/vfstab 文件条目。

    使用镜像名称替换 device to mount 列和 device to fsck 列中的名称。


    # vi /etc/vfstab
    #device        device        mount    FS     fsck    mount    mount
    #to mount      to fsck       point    type   pass    at boot  options
    #
    /dev/md/dsk/mirror /dev/md/rdsk/mirror /filesystem ufs 2 no global

  8. 将第二个子镜像连接到镜像中。

    这一连接操作会启动子镜像的同步。


    # metattach mirror submirror2
    

  9. 等待步骤 8 中启动的镜像同步完成。

    使用 metastat(1M) 命令查看镜像状态。


    # metastat mirror
    

  10. 用于镜像用户定义文件系统的磁盘是否物理连接到多个节点(多端口连接)?

    • 如果不是,请继续执行步骤 12

    • 如果是,则执行以下步骤, 为用于镜像用户定义的文件系统的磁盘启用原始设备组的 localonly 特性。 如果引导设备与多个节点连接,则必须启用 localonly 特性以防止意外地将节点与其引导设备隔开。

    1. 如果需要,可以使用 scdidadm -L 命令来显示原始磁盘设备组的完整设备 ID 路径名称。

      在下面的示例中,原始磁盘设备组名称 dsk/d4 是输出的第三列(即完整的磁盘 ID 路径名称)的一部分。


      # scdidadm -L
      …
      1         phys-schost-3:/dev/rdsk/c1t1d0     /dev/did/rdsk/d2
      

    2. 查看原始磁盘设备组的节点列表。

      输出类似于以下内容。


      # scconf -pvv | grep dsk/d2
      Device group name:						dsk/d2
      …
        (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
      …

    3. 节点列表是否包含多个节点名称?

    4. 从原始磁盘设备组的节点列表中删除所有节点,其根磁盘已镜像的节点除外

      节点列表中只应保留已镜像根磁盘的节点。


      # scconf -r -D name=dsk/dN,nodelist=node
      
      -D name=dsk/dN

      指定原始磁盘设备组在群集范围内唯一的名称

      nodelist=node

      指定要从节点列表中删除的节点的名称

    5. 使用 scconf(1M) 命令启用 localonly 属性。

      启用 localonly 特性后,该原始磁盘设备组就由其节点列表中的节点专用。 如果引导设备与多个节点连接,则启用该特性可以防止意外地将节点与其引导设备隔开。


      # scconf -c -D name=rawdisk-groupname,localonly=true
      
      -D name=rawdisk-groupname

      指定原始磁盘设备组的名称

      有关 localonly 特性的详细信息,请参阅 scconf_dg_rawdisk(1M) 手册页。

  11. 安装已镜像的文件系统。


    # mount /mount-point
    

    有关详细信息,请参阅 mount(1M) 手册页和System Administration Guide: Basic Administration》中的“Mounting and Unmounting File Systems”

  12. 创建磁盘集。

    转到如何创建磁盘集

示例—镜像可以卸载的文件系统

下面的示例显示了创建镜像 d4 以镜像驻留在 c0t0d0s4 上的 /export 的过程。 镜像 d4 由分区 c0t0d0s4 上的子镜像 d14 和分区 c2t2d0s4 上的子镜像 d24 组成。 /export/etc/vfstab 文件条目被更新为使用镜像名称 d4。 磁盘 c2t2d0 是一个多端口磁盘,所以启用了 localonly 特性。


(卸载文件系统)
# umount /export
 
(创建镜像)
# metainit -f d14 1 1 c0t0d0s4
d14: Concat/Stripe is setup
# metainit d24 1 1 c2t2d0s4
d24: Concat/Stripe is setup
# metainit d4 -m d14
d4: Mirror is setup
 
(编辑 /etc/vfstab 文件)
# vi /etc/vfstab
#device        device        mount    FS     fsck    mount    mount
#to mount      to fsck       point    type   pass    at boot  options
#
/dev/md/dsk/d4 /dev/md/rdsk/d4 /export ufs 2 no	global
 
(附加第二个子镜像)
# metattach d4 d24
d4: Submirror d24 is attached
 
(查看同步状态)
# metastat d4
d4: Mirror
      Submirror 0: d14
         State: Okay
      Submirror 1: d24
         State: Resyncing
      Resync in progress: 15 % done
…
 
(标识已镜像磁盘的院使磁盘设备组的设备 ID 名称)
# scdidadm -L
…
1         phys-schost-3:/dev/rdsk/c2t2d0     /dev/did/rdsk/d2
 
(显示设备组节点列表)
# scconf -pvv | grep dsk/d2
Device group name:						dsk/d2
…
  (dsk/d2) Device group node list:		phys-schost-1, phys-schost-3
…
 
(从节点列表中删除 phys-schost-3)
# scconf -r -D name=dsk/d2,nodelist=phys-schost-3
 
(启用 localonly 特性)
# scconf -c -D name=dsk/d2,localonly=true
 
(装载文件系统)
# mount /export

如何创建磁盘集

为每个创建的磁盘集执行此过程。


注意:

如果使用 SunPlex Manager 来安装 Solstice DiskSuite,可能已经存在一个到三个磁盘集。 有关由 SunPlex Manager 创建的元集的信息,请参阅使用 SunPlex Manager 安装 Sun Cluster 软件


  1. 是否要在群集中创建三个以上的磁盘集?

    • 如果不是,请跳到步骤 6

    • 如果是,则继续执行步骤 2 以准备在群集中创建三个以上的磁盘集。 无论是第一次安装磁盘集还是要将多个磁盘集添加到完整配置的群集中,都必须执行该任务。

  2. 确保将 md_nsets 变量的值设置得足够高,可以满足要在群集中创建的磁盘集的总数。

    1. 在群集的任何节点上,检查 /kernel/drv/md.conf 文件中的 md_nsets 变量的值。

    2. 如果群集中磁盘集的总数大于 md_nsets 的现有值减一,则在每个节点上将 md_nsets 的值增加到所需的值。

      磁盘集的最大许可数为 md_nsets 的配置值减一。 md_nsets 可能的最大值是 32。

    3. 确保 /kernel/drv/md.conf 文件在群集的每个节点上都完全相同。


      Caution – Caution –

      不按本指南操作可能会导致严重的 Solstice DiskSuite/Solaris Volume Manager 错误,并且可能丢失数据。


    4. 从一个节点,关闭群集。


      # scshutdown -g0 -y
      

    5. 重新引导群集的每个节点。


      ok> boot
      

  3. 在群集的每个节点上,运行 devfsadm(1M) 命令。

    您可以同时在群集的所有节点上运行此命令。

  4. 从群集的一个节点,运行 scgdevs(1M) 命令更新全局设备名称空间。

  5. 在每个节点上,在尝试创建任何磁盘集之前,检验 scgdevs 命令是否已完成处理。

    scgdevs 命令在所有节点上远程调用其自身,即使仅从一个节点运行该命令也是如此。 要确定 scgdevs 命令是否已完成处理过程,请在群集的每个节点上运行以下命令。


    % ps -ef | grep scgdevs
    

  6. 确保您打算创建的磁盘集符合以下要求之一。

    • 如果正好用两个磁盘串配置磁盘集,则磁盘集必须正好与两个节点连接并且正好使用两个调解器主机,这两个主机必须是用于该磁盘集的那两个主机。 有关如何配置双串调解器的详细信息,请参阅配置双串调解器

    • 如果用两个以上磁盘串配置磁盘集,确保对于任何两个磁盘串 S1 和 S2,这些串上的磁盘驱动器的数目总和超过第三串 S3 上的磁盘驱动器数目。用公式表达此要求即为 count(S1) + count(S2) > count(S3)。

  7. 确保有本地状态数据库的复本。

    有关说明,请参阅如何创建状态数据库复本

  8. 成为将主控磁盘集的群集节点的超级用户。

  9. 创建磁盘集。

    以下命令用于创建磁盘集并将其注册为 Sun Cluster 磁盘设备组。


    # metaset -s setname -a -h node1 node2
    
    -s setname

    指定磁盘集名称

    -a

    添加(创建)磁盘集

    -h node1

    指定将主控磁盘集的主节点的名称

    node2

    指定将主控磁盘集的辅助节点的名称


    注意:

    运行 metaset 命令配置群集上的 Solstice DiskSuite/Solaris Volume Manager 设备组时,该命令缺省指定一个辅助节点。 可以在设备组创建后,使用 scsetup(1M) 公用程序更改设备组中所需的辅助节点数目。 有关如何更改 numsecondaries 特性的详细信息,请参阅 Sun Cluster System Administration Guide for Solaris OS 中的 “Administering Disk Device Groups”


  10. 检验新磁盘集的状态。


    # metaset -s setname
    

  11. 将磁盘驱动器添加到磁盘集中。

    转到将磁盘驱动器添加到磁盘集

示例—创建磁盘集

下面的命令创建两个磁盘集 dg-schost-1dg-schost-2 同时指定节点 phys-schost-1phys-schost-2 为潜在主节点。


# metaset -s dg-schost-1 -a -h phys-schost-1 phys-schost-2
# metaset -s dg-schost-2 -a -h phys-schost-1 phys-schost-2

将磁盘驱动器添加到磁盘集

将磁盘驱动器添加到磁盘集时,Solstice DiskSuite/Solaris Volume Manager 按照以下方法对磁盘驱动器进行重新分区,以便磁盘集的状态数据库可以存放到该磁盘驱动器上。

如何将磁盘驱动器添加到磁盘集

  1. 成为节点的超级用户。

  2. 确保已创建磁盘集。

    有关说明,请参阅如何创建磁盘集

  3. 列出 DID 映射。


    # scdidadm -L
    

    • 选择将主控或可能主控磁盘集的群集节点共享的磁盘驱动器。

    • 将磁盘驱动器添加到磁盘集时,请使用完整的设备 ID 路径名称。

    输出的第一列是 DID 实例编号,第二列是完整路径(物理路径),第三列是完整的设备 ID 路径名称(伪路径)。 对于相同的 DID 实例编号,共享磁盘驱动器具有多个项。

    在下面的示例中,DID 实例编号为 2 的项指示一个由 phys-schost-1phys-schost-2 共享的磁盘驱动器,完整的设备 ID 路径名称为 /dev/did/rdsk/d2


    1       phys-schost-1:/dev/rdsk/c0t0d0 /dev/did/rdsk/d1
    2       phys-schost-1:/dev/rdsk/c1t1d0 /dev/did/rdsk/d2
    2       phys-schost-2:/dev/rdsk/c1t1d0 /dev/did/rdsk/d2
    3       phys-schost-1:/dev/rdsk/c1t2d0 /dev/did/rdsk/d3
    3       phys-schost-2:/dev/rdsk/c1t2d0 /dev/did/rdsk/d3
    …

  4. 获取磁盘集的所有权。


    # metaset -s setname -t
    
    -s setname

    指定磁盘集名称

    -t

    获取磁盘集的所有权

  5. 将磁盘驱动器添加到磁盘集。

    使用完整的设备 ID 路径名称。


    # metaset -s setname -a drivename
    

    -a

    将磁盘驱动器添加到磁盘集

    drivename

    共享磁盘驱动器的完整设备 ID 路径名称


    注意:

    将磁盘驱动器添加到磁盘集时,请不要使用低级别设备名称 (cNtXdY)。 因为低级别设备名称是本地名称,并且在群集中不是唯一的,使用该名称可能使元集合不能切换。


  6. 检验磁盘集和磁盘驱动器的状态。


    # metaset -s setname
    

  7. 是否打算对磁盘驱动器进行重新分区以便在元设备或卷中使用?

示例—将磁盘驱动器添加到磁盘集

metaset 命令将磁盘驱动器 /dev/did/rdsk/d1/dev/did/rdsk/d2 添加到磁盘集 dg-schost-1


# metaset -s dg-schost-1 -a /dev/did/rdsk/d1 /dev/did/rdsk/d2

如何对磁盘集内的磁盘驱动器重新分区

使用 metaset(1M) 命令可以对磁盘集内的磁盘驱动器重新分区,以便每个磁盘驱动器都有一小部分保留在第 7 片中供 Solstice DiskSuite/Solaris Volume Manager 软件使用。 每个磁盘驱动器的剩余空间都放在盘片 0 中。要更有效地使用磁盘驱动器,请使用此过程修改磁盘的布局。 如果为盘片 1 到 6 分配了空间,可以在设置 Solstice DiskSuite 元设备或 Solaris Volume Manager 卷时使用这些盘片。

  1. 成为群集节点的超级用户。

  2. 使用 format 命令更改磁盘集中每个磁盘驱动器的磁盘分区。

    当对驱动器重新分区时,必须满足以下条件以防止 metaset(1M) 命令对磁盘驱动器进行重新分区。

    • 从柱面 0开始创建盘片 7 使其大小足以容纳一个状态数据库复本(大约 2 兆字节)。

    • 将第 7 片中的 Flag 字段设置为 wu(读-写,可卸载)。 不要将其设置为只读。

    • 不允许第 7 片重叠磁盘驱动器中的任何其它片。

    有关详细信息,请参阅 format(1M) 手册页。

  3. 使用 md.tab 文件定义元设备或卷。

    转到如何创建 md.tab 文件

如何创建 md.tab 文件

在群集中的每个节点上创建一个 /etc/lvm/md.tab 文件。 使用 md.tab 文件为所创建的磁盘集定义 Solstice DiskSuite 元设备或 Solaris Volume Manager 卷。


注意:

如果使用的是本地元设备或卷,需确保本地元设备名称或卷名称不同于用于构成磁盘集的设备 ID 名称。 例如,如果在磁盘集中使用了设备 ID 名称 /dev/did/dsk/d3,则不要将名称 /dev/md/dsk/d3 用于本地元设备或卷。 该要求不适用于共享元设备或卷,共享元设备或卷使用命名惯例 /dev/md/setname/{r}dsk/d#



提示:

为了避免混淆群集环境中的本地元设备或卷,使用的命名方案应使每个本地元设备名称或卷名在整个群集内都唯一。 例如,为节点 1 选择 d100-d199 之间的名称,而为节点 2 使用 d200-d299 之间的名称。


  1. 成为群集节点的超级用户。

  2. 列出创建 md.tab 文件时要引用的 DID 映射。

    md.tab 文件中使用完整的设备 ID 路径名称代替较低级别的设备名称 (cNtXdY)。


    # scdidadm -L
    

    在下面的示例中,输出的第一列是 DID 实例编号,第二列是完整路径(物理路径),第三列是完整的设备 ID 路径名称(伪路径)。


    1       phys-schost-1:/dev/rdsk/c0t0d0 /dev/did/rdsk/d1
    2       phys-schost-1:/dev/rdsk/c1t1d0 /dev/did/rdsk/d2
    2       phys-schost-2:/dev/rdsk/c1t1d0 /dev/did/rdsk/d2
    3       phys-schost-1:/dev/rdsk/c1t2d0 /dev/did/rdsk/d3
    3       phys-schost-2:/dev/rdsk/c1t2d0 /dev/did/rdsk/d3
    …

  3. 创建一个 /etc/lvm/md.tab 文件并使用您的首选文本编辑器来手工编辑该文件。

    有关如何创建 md.tab 文件的详细信息,请参阅 Solstice DiskSuite/Solaris Volume Manager 文档和 md.tab(4) 手册页。


    注意:

    如果在将用于子镜像的磁盘驱动器上具有现有数据,则必须在设置元设备或卷之前备份此数据。 然后将数据恢复到镜像上。


  4. 激活在 md.tab 文件中定义的元设备或卷。

    转到如何激活元设备或卷

示例—md.tab 文件样例

以下样例 md.tab 文件定义了名为 dg-schost-1 的磁盘集。 md.tab 文件中各行的顺序并不重要。


dg-schost-1/d0 -m dg-schost-1/d10 dg-schost-1/d20
    dg-schost-1/d10 1 1 /dev/did/rdsk/d1s0
    dg-schost-1/d20 1 1 /dev/did/rdsk/d2s0

以下示例使用 Solstice DiskSuite 术语。 对于 Solaris Volume Manager,trans 元设备称为事务卷,元设备称为。 另外,以下过程对两个卷管理器均有效。

md.tab 文件样例的结构如下。

  1. 第一行将设备 d0 定义为元设备 d10d20 的镜像。 -m 表示该设备为镜像设备。


    dg-schost-1/d0 -m dg-schost-1/d0 dg-schost-1/d20

  2. 第二行将元设备 d10d0 的第一个子镜像)定义为单向条。


    dg-schost-1/d10 1 1 /dev/did/rdsk/d1s0

  3. 第三行将元设备 d20d0 的第二个子镜像)定义为单向条。


    dg-schost-1/d20 1 1 /dev/did/rdsk/d2s0

如何激活元设备或卷

执行以下过程激活在 md.tab 文件中定义的 Solstice DiskSuite 元设备或 Solaris Volume Manager 卷。

  1. 成为群集节点的超级用户。

  2. 确保 md.tab 文件位于 /etc/lvm 目录中。

  3. 确保您对将要执行命令的节点上的磁盘集具有所有权。

  4. 获取磁盘集的所有权。


    # metaset -s setname -t
    
    -s setname

    指定磁盘集名称

    -t

    获取磁盘集的所有权

  5. 激活磁盘集的元设备或卷(在 md.tab 文件中定义)。


    # metainit -s setname -a
    
    -a

    激活 md.tab 文件中的所有元设备

  6. 为每个主设备和日志设备连接第二个子镜像 (submirror2)。

    当激活 md.tab 文件中的元设备或卷时,只连接了主设备和日志设备的第一个子镜像 (submirror1),所以必须手动连接 submirror2


    # metattach mirror submirror2
    

  7. 为群集中的每个磁盘集重复步骤 3步骤 6 的操作。

    如有必要,请从与磁盘驱动器连接的另一个节点运行 metainit(1M) 命令。 该步骤对于群集对拓扑是必需的,并非所有节点都能访问该拓扑中的磁盘驱动器。

  8. 检查元设备或卷的状态。


    # metastat -s setname
    

    有关详细信息,请参阅 metastat(1M) 手册页。

  9. 群集是否包含刚好用两个磁盘群组和两个节点配置的磁盘集?

示例—激活 md.tab 文件中的元设备或卷

在下面的示例中,在 md.tab 文件中为磁盘集 dg-schost-1 定义的所有元设备均已激活。 然后,主设备 dg-schost-1/d1 和日志设备 dg-schost-1/d4 的第二个子镜像也已激活。


# metainit -s dg-schost-1 -a
# metattach dg-schost-1/d1 dg-schost-1/d3
# metattach dg-schost-1/d4 dg-schost-1/d6