GPFS 3.1 for AIX 安装配置完全手册
GPFS安装、配置、管理
合用标准文档GPFS的安装、配置、管理合用标准文档目录1 GPFS安装、配置、管理和保护 (1)1.1GPFS安装 (1)1.2GPFS配置 (1)1.2.1集群节点配置 (1)1.2.2G PFS NSD磁盘配置 (1)1.2.3优化 GPFS集群配置 (3)1.2.4创立 GPFS文件系统 (4)1.2.5配置改正 (4)1.3GPFS管理和保护 (8)1GPFS安装、配置、管理和保护本局部围绕 XX公司 HPIS系统实质情况,描述 GPFS的安装、配置过程,以及 GPFS 管理和保护方法。
1.1 GPFS安装GPFS 3.3 及补丁使用 AIX 系统标准 installp方式安装,安装命令比方:#installp -agYXd . all查察安装结果 ;#lslpp -l |grep gpfsgpfs.base 3.3.0.16COMMITTED GPFS File Managergpfs.base 3.3.0.16COMMITTED GPFS File Managergpfs.docs.data 3.3.0.1 COMMITTED GPFS Server Manpages and1.2 GPFS配置1.2.1 集群节点配置准备 node 列表文件,节点属性: manager或 client,quorum或nonquorum #more /home/GPFS/nodeshpis1:manager-quorumhpis2:manager-quorum创立 RAC两节点的 GPFS集群#mcrcluster -N /home/GPFS/nodes -p hpis1 -s hpis2 -r /usr/bin/rsh -R /usr/bin/rcp -C cls_hpis-p,-s 分别表示主,辅集群管理效劳器-r /usr/bin/rsh -R /usr/bin/rcp表示rsh,rcp方式进行集群管理时使用rsh,rcp 管理方式;也可以经过配置ssh,使用 ssh,scp 方式查察集群配置#mmlscluster1.2.2 GPFS NSD磁盘配置因为 RAC只有两个 Server 节点,为保证 GPFS文件系统的高可用性,需要将两台 Server 均设为 quorum 节点,同时从两个储藏和一台Server 的当地盘中分别取一个盘作为tiebreaker quorum Disk。
浪潮InPath for AIX 存储系统用户手册说明书
浪潮存储系统InPath for AIX用户手册文档版本 2.0发布日期2020-09-28 适用版本InPath_for_AIX_V2.2.1及以上尊敬的用户:衷心感谢您选用浪潮存储系统!浪潮存储秉承“云存智用运筹新数据”的新存储之道,致力于为您提供符合新数据时代需求的存储产品和解决方案。
本手册用于帮助您更详细地了解和便捷地使用存储系统,涉及的截图仅为示例,最终界面请以实际设备显示的界面为准。
由于产品版本升级或其他原因,本手册内容会不定期进行更新,如有变动恕不另行通知。
除非另有约定,本手册仅作为使用指导,本手册中的所有陈述、信息和建议不构成任何明示或暗示的担保。
浪潮拥有本手册的版权,保留随时修改本手册的权利。
未经浪潮许可,任何单位和个人不得以任何形式复制本手册的内容。
如果您对本手册有任何疑问或建议,请向浪潮电子信息产业股份有限公司垂询。
技术服务电话:4008600011地址:中国济南市浪潮路1036号浪潮电子信息产业股份有限公司邮编:250101在您正式使用本存储系统之前,请先阅读以下声明。
只有您阅读并且同意以下声明后,方可正式开始使用本存储系统。
如果您对以下声明有任何疑问,请和您的供货商联系或直接与我们联系。
如您在开始使用本系统前未就以下声明向我们提出疑问,则默认您已经同意了以下声明。
1.请不要自行拆卸本存储系统机箱及机箱内任何硬件设备。
在本存储系统出现任何硬件故障或您希望对硬件进行任何升级时,请您将机器的详细硬件配置反映给我们的客户服务中心。
2.请不要将本存储系统的设备与任何其他型号的相应设备混用。
本存储系统的内存、CPU、CPU散热片、风扇、硬盘托架、硬盘等都是特殊规格的。
3.在使用本存储系统时遇到任何软件问题,请您首先和相应软件的提供商联系。
由提供商和我们联系,以方便我们共同沟通和解决您遇到的问题。
对于数据库、网络管理软件或其他网络产品的安装、运行问题,我们尤其希望您能够这样处理。
4.上架安装本存储系统前,请先仔细阅读相关产品手册中的快速安装指南。
AIX+NFS配置
AIX+NFS配置
1.1 服务端配置
1.1.1确认NFS是否启动
确认输出结果是否有nfs和portmap进程,如果没有相应进程,请启动相关进程。
1.1.2启动NFS服务
1.1.3查看NFS进程
检查portmap进程
1.1.4导出NFS目录
SMIT方式:
如果重新修改了/etc/exports,执行导出命令
-r :重新mount /etc/exports中分享出来的目录
-v :在 export 的?r候,将详细的信息输出到屏幕上。
1.1.5卸载导出目录
-a :全部mount或者unmount /etc/exports中的内容
-u :umount 目录
全部卸载导出的目录
1.1.6确认是否正确导出
1.2 客户端配置
1.2.1确认服务
1.2.2手动挂载NFS服务目录
1.2.3自动挂载配置
设置会话超时时间
修改/etc/profile文件,打开TMOUT参数,并设置超时间为5分钟,即:TMOUT=300
创建配置文件:
创建文件/etc/nfs.direct,文件内容:
启动automount服务。
AIX操作系统安装配置规范
AIX操作系统安装配置规范目录AIX操作系统安装配置规范 (1)1 系统安装配置标准 (4)2 安装配置指南 (6)2.1 操作系统安装 (6)2.2 语言包安装 (9)2.3 软件包安装 (10)2.4 补丁安装 (15)2.5 系统配置 (17)2.5.1 时区时间配置 (17)2.5.2 系统参数设置 (17)2.5.3 设置dump大小 (19)2.5.4 修改磁盘定额 (19)2.5.5 rootvg镜像 (19)2.5.6 配置TCP/IP (20)2.5.7 修改用户限制 (20)2.5.8 调整Paging Space (20)2.5.9 启动异步IO (21)2.5.10 修改系统引导映像、顺序 (22)2.5.11 syncd daemon的数据刷新频率 (22)1系统安装配置标准更改操作系统参数Maximum number ofPROCESSES allowedper userHIGH water markLOW water mark设置每个用户支持的最大进程数:chdev –l sys0 –amaxuproc=1024设置High water mark:chdev –l sys0 –a maxpout=33设置Low water mark:chdev –l sys0 –a minpout=24有HA测试需求的环境调整High water mark、Low watermark这两个值,其他无需执行设置dump大小为系统估计值和物理内存的三分之一值的较大者系统估计值:sysdumpdev -esmitty extendlv修改lg_dumplv的大小lsvg –l rootvgprtconf查看物理内存大小smitty mklvcopy 复制lg-dumplv调整PagingSpace大小如果内存>8G,则Paging Space大小和内存一样大如果内存<=8G ,则Paging Space大小是内存的1.5倍lsps –a 查看当前页面空间的大小lsvg rootvg查看smitty chps调整用户限制default: fsize=-1cpu=-1nofiles=-1vi /etc/security/limits将default段中3个值改为-1default: fsize=-1cpu=-1nofiles=-1配置TCP/IP根据实际情况进行配置smitty mktcpip适当增大rootvg的文件系统/usr为10G,/softinstall为5G,其他rootvg文件系统为1Gchfs –a size=10G /usr文件系统路径smitty jfs2 创建文件/softinstallmount /softinstall 挂载rootvg镜像确保rootvg中有两块内置磁盘,且互为镜像smitty extendvgextend rootvg hdisk1将hdisk1添加到rootvgsmitty mirrorvgbosboot –a 写入ha不选2安装配置指南2.1操作系统安装将AIX系统光盘放进主机的cdrom中,启动主机,选1进入到SMS Menu,选择从光盘引导启动。
AIX系统安装,配置手册(个人)
目录AIX系统的安装 (1)AIX系统安装后要做的事 (4)系统参数配置 (9)HA安装及配置 (11)IBM C 4.3 For AIX的安装 (26)AIX上为rootvg做镜像 (31)解除镜像 (33)关闭和打开dtlogin(CDE图形界面) (35)镜像盘mksysb恢复到单个磁盘 (37)mksysb磁带备份 (37)磁带恢复备份 (37)AIX上克隆rootvg的操作方法 (37)AIX系统补丁下载网站 (40)AIX系统的安装安装介质与方式AIX操作系统的安装可以:1)通过Tape安装。
需要16M RAM。
PCI总线的RS/6000系列小型机不支持该方式。
2)通过CD-ROM安装。
需要有8M RAM.3)通过网络安装。
这需要使用AIX Network Install Manager (NIM)来实现。
系统支持通过Token Ring 、FDDI、ethernet的安装。
4)预先安装(Preinstall).在购买时选择“预装操作系统”。
AIX操作系统的安装方式(Installation Method)有以下四种:完全覆盖安装:操作系统被安装在rootvg的第一块硬盘上,这将覆盖原系统中所有的系统保留目录。
保留安装:这种安装方式可以保留操作系统的版本不变,同时保留 rootvg上的用户数据,但将覆盖/usr 、/tmp、/var 和/ 目录。
用户还可以利用/etc/preserve.list指定系统安装时需要保留的文件系统。
默认的需保留的文件系统为/etc/filesystem 中所列。
升级安装:这种安装方式用于操作系统的升级,这将覆盖/tmp目录。
这是系统默认的安装方式。
备份带安装:恢复用mksysb命令生成的安装带中/image.data中指定的文件系统,这种安装方式用于系统(rootvg)的复制。
BOS(Base Operating System)安装? 打开主机电源。
? 连接好系统终端,把第一张安装介质(磁带、光碟)插入驱动器。
小型机安装配置完全手册第二部分
小型机安装配置完全手册第二部分1.1系统网络参数设置更改下列参数做为初始配置.no -p -o tcp_keepidle="1800"no -p -o tcp_finwait2="300"no -p -o udp_sendspace="65536"no -p -o udp_recvspace="655360"no -p -o tcp_tcpsecure="5"no -p -o tcp_sendspace="262144"no -p -o tcp_recvspace="262144"no -p -o tcp_nodelayack="1"no -p -o tcp_pmtu_discover="0"no -p -o tcp_nagle_limit="1"no -p -o sb_max="2097152"no -p -o rfc1323="1"no -p -o ipsendredirects="0"no -p -o ipignoreredirects="1"no -p -o ip6srcrouteforward="0"no -p -o clean_partial_conns="1"no -r -o ipqmaxlen="512"no -p -o tcp_ephemeral_low=9000no -p -o tcp_ephemeral_high=65500no -p -o udp_ephemeral_low=9000no -p -o udp_ephemeral_high=655001.2系统AIO参数设置########AIO 即(Asynchronous I/O)异步IO,AIO通常只对文件系统起作用,对裸设备没有作用,最大为10X并行磁盘数<80,最小为最大的一半,chdev -l aio0 -a maxservers=NewValue更改在重新引导后生效并且永久有效,如果使用了标志-T,更改会立即有效,而且持续到下次引导。
AIX操作系统安装配置
AIX操作系统安装配置目录1 安装操作系统 (1)1.1 配置HMC (1)1.2 配置ASMI (4)1.3 开始安装操作系统 (5)2 配置操作系统 (15)2.1 Bundle安装 (15)2.2 安装中文语言环境 (15)2.3 Mirror rootvg (15)2.4 调整文件系统大小 (16)2.5 修改ps空间 (16)2.6 调整/etc/security/limits (16)2.7 创建修改/.profile (16)2.8 调整系统时间 (16)2.9 重启系统 (16)1安装操作系统1.1配置HMC启动HMC,点击如下选项更改网络设置选择下图选项卡,点击details…配置IP地址如下,此地址与720 HMC1口默认IP地址169.254.2.147在同一网段用双绞线将HMC与720HMC1口连接,给720加电但不开机,将720添加到HMC在如下窗口中点击OK,HMC提示更改密码,修改为admin1.2配置ASMI打开刚刚添加进HMC的720的ASMI用户名admin,密码admin,点log in进去ASMI将系统启动模式改为standby,如下图所示1.3开始安装操作系统将720开机,将AIX系统介质插入CD-ROM,激活720全分区并打开console窗口,等待字符开机界面出现后迅速按1,进去SMS菜单如下选择5选择1选择3选择相应接口,后选择CD-ROM设备选择2选择1按2选择当前显示设备按1选择安装过程中语言为英文选择2开始安装AIX操作系统按1按1选择全新安装操作系统选择本地硬盘进行安装,可以选择一块,也可以选择两块选择3按上图所示进行选择,后按0检查没有问题按1开始安装安装完毕后选择虚拟终端类型为vt100如上图所示选择阅读license,后退出选择接受license,如下图选择为yes之后退出,设置root密码后选择最后一项完成操作系统安装2配置操作系统2.1B undle安装Smit install_bundle⏹APP-DEV⏹Server⏹CDE2.2安装中文语言环境Smit mlang2.3M irror rootvgextendvg –f rootvg hdisk1Mirrorvg rootvgBosboot –ad /dev/hdisk1Bootlist –m normal hdisk0 hdisk12.4调整文件系统大小Chfs –a size=20G /Chfs –a size=10G /usrChfs –a size=10G /varChfs –a size=20G /tmpChfs –a size=20G /homeChfs –a size=10G /opt2.5修改ps空间Chps –s lps_to_add(60) hd62.6调整/etc/security/limits 调整default节如下:default:fsize = -1core = -1cpu = -1data = -1rss = -1stack = -1nofiles =-12.7创建修改/.profile添加如下行:export PS1=`hostname`@'$PWD'#. ./.profile2.8调整系统时间Smit chtz_date2.9重启系统Shutdown -Fr。
GPFS for AIX安装配置完全手册_作者完整版
GPFS3.1for AIX安装配置完全手册作者简介:辛旻,西安交通大学学士学位,上海宝信系统服务部技术支持中心IBM主机技术路线负责人,有从事AIX工作的多年实践经验,曾公开发表过《AIX操作系统的内存调度机制剖析》一文,对IBM psystem平台有较为深入的掌握,已通过8门AIX相关认证,同时获得CATE高级认证。
摘要:本文详细描述了AIX5.3环境下安装配置GPFS3.1的步骤,对于第一次安装GPFS的同仁可以快速入门,对于有安装过的同仁,有一定的参考意义。
第一章前言1.GPFS 的简介GPFS 是IBM 公司第一个共享文件系统,起源于IBM SP 系统上使用的虚拟共享磁盘技术(VSD )。
作为这项技术的核心,GPFS 是一个并行的磁盘文件系统,它保证在资源组内的所有节点可以并行访问整个文件系统;而且针对此文件系统的服务操作,可以同时安全地在使用此文件系统的多个节点上实现。
GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上。
与NFS 相比,GPFS 在SAN 环境下可以提供更好的性能。
2.实验环境说明1)实验示意图:N J S 21A J S 21N 2J S 21A J S 21A J S 21A J S 21D S 8100S A Np N S D serv ers N S D serv erclien tclien tclien tclien t2)机器配置表:序号主机名用途ip地址用户系统环境1NSD1主NSD服务器10.66.3.982CPU/4G/AIX5305 2NSD2备用NSD服务器10.66.3.992CPU/4G/AIX5305 3App1应用服务器110.66.5.51user1(501)2CPU/4G/AIX5305 4App2应用服务器210.66.5.52user2(502)2CPU/4G/AIX5305 5App3应用服务器310.66.5.53user3(503)2CPU/4G/AIX5305 6App4应用服务器410.66.5.54user4504)2CPU/4G/AIX53053)实验目的:由于应用软件有对共享文件系统读写的要求,需要建立一个/share的共享文件系统,在上面建立不同目录供不同的用户读写使用。
AIX操作系统及相应软件安装手册
系统安装手册之操作系统及相应软件二零零九年7月目录第一章操作系统安装 (2)1.1概述 (2)1.2准备光盘 (2)1.3安装系统 (2)1.3.1 AIX基础 (2)1.3.2 安装系统 (3)1.3.3 安装系统软件集束 (7)1.3.4 安装文件集 (9)1.3.5 安装中文 (10)1.4创建逻辑卷组、创建用户、挂接文件系统 (11)1.4.1 创建组 (11)1.4.2 创建用户 (12)1.5修改系统参数 (14)1.5.1 修改AIX用户使用软系统资源限制 (14)1.5.2 修改交换区大小 (15)1.5.3 修改文件系统大小 (17)1.5.4 修改网络参数 (18)1.5.5 修改时区 (18)1.6其他命令 (19)1.6.1 安装系统patch包 (19)1.6.2 Rootvg硬盘镜像 (19)1.6.3 查看槽位 (19)1.6.4 引导顺序 (20)1.6.5 常见问题 (20)第二章HA安装及配置 (20)2.1概述 (20)2.2HA安装 (20)2.2.1 HA原理 (20)2.2.2 HA安装 (21)2.2.3 HA配置 (22)2.2.4 启动HACMP (29)2.2.5 关闭HACMP (30)2.2.6 测试HACMP (30)第一章操作系统安装1.1 概述操作系统采用的是IBM的AIX 6L 6102。
此AIX 6L 6102最新补丁SP31.2 准备光盘系统安装盘8张:AIX 6L大版本:Version 6.1小版本:6102系统补丁盘3张AIX 6L UpdateVersion 6.11.3 安装系统1.3.1AIX基础1、AIX安装AIX可供选择的安装方式有三种:全新覆盖安装(New and Complete Overwrite)这种方法安装系统将会覆盖用户所选择目标盘上的所有数据。
保留安装(Preservation Install)如果用户希望保留rootvg卷组中的用户数据,则可选择这种安装方法。
gpfs安装配置说明
GPFS系统配置(1)
▪ 支持1 to 8,192 个节点(V3.2 & V3.3) V3.1可达4096个节点 可多达 3794 个Linux节点和1530个AIX节点 有些用户实际环境已安装了超过500个节点GPFS
▪ 能mount多个文件系统 V3.2以上支持256个 V3.1.0.5开始支持64个 V3.1开始支持32个
Configuration data Servers角色
– 注: 对GPFS集群做变更配置必需这些节点
mmcrcluster命令
▪ Usage:
▪ mmcrcluster -N {NodeDesc[,NodeDesc...] | NodeFile
▪
-p PrimaryServer
▪
[-s SecondaryServer]
– Installp命令安装如下安装包(前面已经介绍了dsh,我们可以dsh对 多个节点进行同步安装,在节点数非常多时,可以节省很多工作量) ▪ gpfs.base ▪ gpfs.docs.data ▪ gpfs.msg.en_US ▪ gpfs.gui
安装GPFS介质—LINUX节点(Power 服务器)
安装前准备— 存储配置
▪ 将存储LUN/disk 配置映射到GPFS集群节点
– 依据系统需求的不同,disk连接拓扑可能会有差异 ▪ SAN存储模式是将所有节点直接映射到所有节点 ▪ NSD模式只需由作为NSD Server的节点链接disk ▪ 混合模式可以是部分节点直接连接存储,部分做为NSD Client,它们通过NSD Server,通过IP网络进行IO访问 (Network Block IO)
▪
tracedev
▪
dumpconv
GPFS配置指南_qhdx_卢永进编写
GPFS3.1在AIX上的安装和基本配置配置GPFS 3.1主要包括以下两个主要的步骤:1. 安装GPFS软件包和必要的前期准备2. 配置GPFS集群和文件系统硬件和软件配置本文中以下述系统环境为例,介绍配置步骤1. P570 AIX5.3 ML09,主机名qhdx_a2. P570 AIX5.3 ML09,主机名qhdx_bqhdx_a,qhdx_b连接到一个共享的DS5100磁盘阵列安装GPFS软件包和必要的前期准备1、远程shell用户必须具有在集群中的节点之间进行远程Shell和远程拷贝的能力,如采用OpenSSH。
2、软件安装将GPFS3.1的安装文件和3.1.0.12ML包解压缩后共有如下几个文件,用ls命令显示如下:用installp命令或smit安装检验安装结果:需要在所有节点上执行上述安装过程。
4、执行如下命令将GPFS命令行工具所在目录加入shell的执行路径/etc/profile:export PATH=$PATH:/usr/lpp/mmfs/bin5、环境介绍在qhdx_a上显示磁盘设备如下图所示,我们将用hdisk5至hdisk10共6块盘构建GPFS文件系统。
6、首先保证hosts文件里面包含所有集群节点的纪录。
7、在.rhost文件里面增加所有集群节点的纪录。
[root@lpar1#]cat /.rhostsqhdx_a rootqhdx_b root至此,rsh和rcp已能正常工作,可以用rsh hostname command 来验证配置是否正确。
8、准备集群的节点配置文件(cp 备份文件)[root@lpar1#]cat /tmp/mmfs/nodefile#NodeName:NodeDesignations:AdminNodeNameqhdx_a:manager-quorumqhdx_b:manager-quorum该节点配置文件每一行对应一个集群节点,每个集群节点有用减号分隔两个配置项。
gpfs
GPFS是IBM推出的行业领先的并行分布式集群文件系统,从1995年投入商用至今已经有10多年的历史。
GPFS是一个共享磁盘的文件系统,集群内的所有节点可以并行地访问所有共享磁盘,并通过分布式的Token管理机制和条带化技术来管理和优化节点的访问。
GPFS的应用范围非常广泛,从多节点文件共享服务、实时多媒体处理、到大型的高性能计算集群,我们都可以看到GPFS的优秀表现。
GPFS也应用在众多的企业应用里面,比如HACMP、Oracle RAC、SAP。
GPFS在这些应用里面都表现出了非常出色的性能和高可用性。
本文向大家介绍GPFS最新版本3.1版本基本概念及其在AIX环境下的安装和基本配置。
1.GPFS的版本历史1995年: GPFS前身Tiger Shark发布,应用于实时媒体处理行业,采用了数据条带化技术;1998年: GPFS1.4版发布,开始应用于高性能计算领域,并支持标准Posix语义;2002年: GPFS2.1版发布,开始支持Linux,并应用于IBM虚拟带库产品中;2005年: GPFS2.3版发布,开始支持32位/64位互操作性和广域网连接等特性;2006年: GPFS3.1版发布,新增信息生命周期管理和分布式锁管理功能。
除了主要版本发布外,GPFS还有多个不断更新的维护级别(ML)升级包,截至本文发稿时,GPFS3.1的当前维护级别(ML)为3.1.0.12,本文的安装和配置基于该版本。
2.GPFS的基本概念在安装和配置GPFS之前,需要先了解一下GPFS的一些基本概念和相关术语。
SAN:这里指的是磁盘存储设备通过光纤交换机连接到服务器的HBA卡,为服务器提供逻辑存储LUN的模式,在GPFS集群里面,可以通过将同一个LUN同时划分给多台服务器的方式为GPFS提供共享磁盘。
Disk:磁盘,指的是LUN在服务器上识别出的设备,对于单HBA卡LUN,AIX操作系统将其识别为hdisk,在多HBA卡多路径模式下有以下几种:1) MPIO on AIX = hdisk2) SDD (non-MPIO) on AIX = vpath3) PowerPath by EMC = hdiskpower4) HDLM by Hitatchi = dlmfdrvNSD:是Network Shared Disk的缩写,最早应用在GPFS的Linux集群上面。
AIX安装指南
1.1 AIX 安装指南1.1.1安装基本操作系统(BOS)打开计算机或在开机状态下重新启动(#reboot)将AIX安装盘放入光驱当系统自检keyboard 通过后,按"5"(从光驱引导)系统提示:Please define the system Console后,按"1"(确认终端)系统提示:Type a "1" and press Enter to use this terminal as the system console 后按1(选择英语为安装语言) 进入安装程序,按系统提示操作:选择2 Chang/show Installation Settings and Install” 其它选项不需改变,只需改以下两项将安装方式改为New and Complete Installation“选择所要安装系统的disk,开始install1.1.2设置终端类型(TTY)结束安装后,第一次启动时,系统提示选择终端类型,应选择ibm3151用"root"登录,接着出现系统设置(时间密码等),直接退出即可#export TERM=ibm3151设置终端类型否则无法进入smit#smit tty (设置终端类型否则以后启动还会要求选择终端类型)选择chang/show characeristics of a TTY (修改)修改ENABLE LOGIN 为"enable"修改TERMINAL type 为ibm31511.1.3安装Bundle#smit easy_install选择INPUT device / directory for software 为[/dev/cd0] 按F4选择选择Select a FileSet Bundle 为Server 及App-Dev(有图形设备需选Graphics-Startup)1.1.4选择安装软件#smit→Software Installation and Maintenance→Install and Update Software→SoftwareInstall and Updata from LATEST Available Software选择INPUT device / directory for software 为[/dev/cd0] (按F4选择)进入SOFTWARE to install选择所需安装的软件开头有"@"符即已安装过开头有"+"符即未安装过如不装图形终端,则以"X11"开头的不装以下必须装:pat (兼容AIX 3)bos.databos.dosutil (dos utility)有关info,msg的必须装1.1.5设置TCP/IP#lsdev -Cc adapter查看网卡设置(选择IBM 10/100 Mbps Ethernet PCI Adapter)#smit tcpip→Minimum Configuration & Startup→Available Network Interfaces"对话框中选择"en0 Standard Ethernet Network Interface"注意:如有多块网卡,根据前面查看的设置,选择正确的网卡,一般不选"et0 IEEE 802.3 Ethernet Network Interface"在HOSTNAME中填入所起的主机名(F50).在Internet ADDRESS (dotted decimal)设IP地址(61.175.196.158)在Network MASK (dotted decimal)设掩码(255.255.255.240)在Default GATEW AY Address设网关 (61.175.196.155)在Your CABLE Type选择"TP"全部选定后按回车Enter运行1.1.6设置VG卷组#smit vg→Add a Volume Group→Volume Grorp Name→Physical partition Size in megabytes(PP值一般:4.5G硬盘可设8M或16M;18.2G或36.4G硬盘可设32M)→Physical Volume Names(选择所需disk)全部选定后按回车Enter运行1.1.7设置LV逻辑卷#smit lv→Add a Logical V olumeVOLUME GROUP name中选择VG nameLogical volume NAME中填入所起的LV 的名字Number of LOGICAL PARTITIONS中填入LV大小(这里的数量为Logical Partition数量,一块LP 缺省值等于一块PP)全部选定后按回车Enter运行1.1.8设置File Systems#smit→System Storage Management (Physical & Logical Storage)→File Systems→Add/Chang/Show/Delete File Systems→Journaled File System→Add Journaled File System修改本文件系统块数(Size of File System)一块为512 Bytes修改Mount Point(为文件系统指定PA THS,如[/oracle])决定是否在系统启动时自动Mount该文件系统全部选定后按回车Enter运行1.1.9安装C及C++语言查看C安装手册中安装C语言所必须先安装的软件(Software Must be Installed)#lslpp -l|grep bos.adt.include#lslpp -l|grep bos.adt.lib用上述两条命令查看这些文件是否Comitted#smit install_latest将C/C++语言安装盘放入光驱→INPUT device / directory for software→"/dev/cd0 (SCSI Multimedia CD-ROM Drive)"SOFTWARE to install按"F4"系统显示选择安装文件选择以xlc开头的所有文件全部选定后按回车Enter运行1.1.10连接7133磁盘阵列中的磁盘将7133中磁盘连上(具体连接方法可查看7133/Model600随机资料)注意:7133 SSA接口的磁盘为回路连接,从主机后SSA ADAPTER连出后从另一根线连进,此回路中所串联的硬盘即该主机所使用硬盘#cfgmgr (激活系统,配置磁盘)注意:在关机状态下连接后再开系统自动调用cfgmgr1.1.11系统磁盘热插拔必须将所需拔出的磁盘中所在VG中的LV(Logical Volume)与File System进行umount#lsvg -l datavg (查看datavg中的详细信息).#df -k (查看文件系统的信息)#umount /cmis (umount 文件系统cmis)#varyoffvg datavg(切断datavg)#lsvg -o (查看当前激活的VG)#exportvg datavg. (输出datavg)此时可以拿出该磁盘(该磁盘可以为内置式).将该磁盘放入另外一台主机#importvg -y datavg hdisk1 (在另外一台主机上键入该命令).1.1.12备份策略1、rootvg可采用 #smit mksysb 来备份2、datavg中的文件系统可进入smit#smit→System Storage Management (Physical & Logical Storage)→File Systems->Backup a File System 选定预备份的文件系统回车确认即可3、datavg可采用smit命令#smit vg→Back Up a Volume Group 选定预备份的vg回车确认即可。
AIX系统安装、配置文档
一、AIX操作系统的安装与调整AIX 全名为(Advanced Interactive Executive),它是IBM 公司的UNIX操作系统,整个系统的设计从网络、主机硬件系统,到操作系统完全遵守开放系统的原则。
下面对AIX 作以介绍。
RS/6000 采用IBM 的UNIX操作系统-AIX作为其操作系统。
这是一个目前操作系统界最成功,应用领域最广,最开放的第二代的UNIX系统。
它特别适合于做关键数据处理(CRITICAL)。
AIX 包含了许多IBM 大型机传统受欢迎的特征,如系统完整性,系统可管理性和系统可用性。
在 AIX 操作系统上,有许多的数据库和开发工具,用户除了选用已有的应用软件外,还可以根据各自的需要进行开发。
此外,在AIX 之上,有一组功能强,使用方便的系统管理工具。
对于异种平台互存,互操作有很成熟的解决方案。
由于该 UNIX 的先进的内核技术和最好的开放性,因此,虽然RS/6000从宣布到今天只有短短的5 年多的时间,它已在各行各业有了广泛的运用,并在1993和1994年连续二年在MIDRANGE商用 UNIX 领域处于第一位。
RISC SYSTEM/6000的操作系统是AIX ,它是性能卓越的、开放的UNIX,汇集了多年来计算机界在UNIX上的研究成果,以IBM 在计算机体系结构、操作系统方面40多年极其丰富的经验。
最大限度的使用RISC技术,安装了象AIX 这样的具备工业界实力的UNIX操作系统。
它既可连接SAA 体系结构,又能与非IBM 系统的网络相连,因此,可以和多数专业银行现有的系统实现互连,这对今后业务系统拓展将带来极大的灵活性,并降低投资。
AIX 遵循一系列的国际标准:* IEEE POSIX1004.1-1990* X/OPEN 移植指南ISSUE3的基本级(XPG3)* AES/OS REVISION A (OSF/1 LEVEL 2 资格)* FIPS 151-1* AIX的编译器: XLC、C++(可选)、FORTRAN(可选)、PASCAL(可选)、COBOL(可选)* ADA 的编译器已达到XPG3“成员”级的认可。
GPFS3.1通用并行文件系统培训资料
lpar1:manager-quorum lpar2:manager-quorum lpar3:client-nonquorum lpar4:client-nonquorum
hdisk5:lpar2:lpar1:dataAndMetadata:: hdisk6:lpar1:lpar2:dataAndMetadata:: hdisk7:lpar2:lpar1:dataAndMetadata:: hdisk8:lpar1:lpar2:dataAndMetadata:: hdisk9:lpar2:lpar1:dataAndMetadata:: hdisk10:lpar1:lpar2:dataAndMetadata::
– 文件放置规则 – 文件迁移规则 – 文件删除规则
Page 14
© 2007 IBM Corporation
GPFS – 信息生命周期管理
基于业务需求的存储池管理
Storage Pool: Tier 2
Joe CEO
Storage Pool: Tier 1
File Placement Policy Filesets SATA
SAN
滚动式升级 混合集群 灵活性, 可集成性 和容量按需应变 在线删除节点和存储 在线增加节点和存储
Page 9 © 2007 IBM Corporation
GPFS工作原理: 高性能
256KB Blocksize
2MB File
Supported Block sizes 16KB, 64KB, 256KB ,512KB 1MB ,2MB ,4MB
LAN LAN LAN
享数据
远程 Mount File Systems /C2FS1 •共享部分数据 /C2FS2 •LAN 或 WAN /C2FS3 /C1FS1
aix 系统操作手册
IAIX系统操作手册系统操作手册版本:5L目录第一章AIX操作系统的安装 (5)安装介质与方式 (5)BOS(Base Operating System)安装 (5)第二章AIX操作系统基本命 (8)系统的进入和退出 (8)password (8)mkdir、rm、mv和cd (8)ls (9)date (10)wc (10)who (10)finger (11)ps (11)kill (15)find (15)grep (16)第三章vi编辑器 (18)3.1vi 简介 (18)3.2vi的进入与离开 (18)3.3vi 的文本输入模式 (18)3.4vi 基本编辑命令 (19)3.5文件处理子命令 (21)第四章存储管理 (21)4.1相关术语 (21)PV (Physical V olume) (21)VG (Volume Group) (21)PP (Physical Partition) (22)LP (Logical Partition) (22)LV(Logical V olume) (22)Mirror(镜像) (22)VGDA(V olume Group Description Area,卷组描述区) (22)VGSA(V olume Group Status Area,卷组状态区) (23)4.2PV的管理 (23)硬盘安装 (23)配置一个PV (23)修改PV的属性 (24)删除一个PV (24)4.3VG的管理 (24)创建一个VG (24)删除一个VG (25)4.4LV的管理 (27)增加一个LV (27)修改LV的属性 (28)删除一个LV (31)第五章RS6000 更换硬盘的过程 (32)HDISK0和HDISK1做成MIRROR,是ROOTVG (32)先做系统备份 (32)查看HDISK0的S/N,P/N号等,在换盘的时候做对照 (33)查看所有硬盘(包括逻辑盘)的状态# lsdev -Cc disk (33)停HACMP (34)把HDISK0从ROOTVG中不做MIRROW (34)关机 (34)开机 (34)把HDISK0加到ROOTVG中并做镜像 (35)重启动2号机 (35)关闭1号机的HACMP (35)重启动1号机 (35)启动1号机的HACMP (35)启动2号机的HACMP (35)第六章HACMP安装配置 (36)准备工作 (36)检测连8port卡的TTY (37)使用AIX安装CD安装文件 (37)修改电源管理 (38)Netscape安装和配置 (38)安装HACMP/ES软件 (38)安装最新的AIX和HACMP补丁 (38)SSA微码升级 (39)设置主机名 (39)为所有网卡绑定boot或standby的IP地址 (39)创建VG、LV和FS (40)修改系统参数 (41)重启两台机器 (41)配置HACMP (41)HA测试(一):启动和关闭 (43)HA测试(二):本机IP接管 (44)HA测试(三):资源接管 (44)第七章模拟硬盘更换 (46)预做方案 (46)查看硬盘信息 (46)把要更换硬盘从VG中拿掉 (46)关机 (46)准备工作 (46)拆机箱 (46)更换硬盘 (47)查看硬盘 (47)改PV (47)做镜像 (47)把另一块盘18G拿掉 (47)关机 (48)更换硬盘 (48)开机 (48)查看硬盘信息 (48)改PV (48)做镜像 (48)起服务 (48)英迈强人 (48)第二方案 (50)把把机器的前面板拆下 (50)查看硬盘信息,看哪个盘是干什么用的 (50)把要更换硬盘从VG中拿掉 (50)把硬盘做成PV (51)lspv查看硬盘情况 (51)把硬盘加到VG中 (51)把18G硬盘数据复制到36G上, (51)取下另一18G硬盘 (51)把硬盘做成PV (51)做镜像 (51)检查,OK (52)第一章AIX操作系统的安装安装介质与方式AIX操作系统的安装可以:1)通过Tape安装。
GPFS安装与设置
实验1 GPFS安装与设置提示:在开始之前,请登录您所在组的AIX节点,每个节点打开至少一个窗口,以便后续操作。
目标在本实验中将练习如下内容验证AIX 系统环境安装GPFS介质创建GPFS集群定义NSD(Network Shared Disks)创建GPFS文件系统第一节:环境验证A.AIX与GPFS版本验证验证每个节点AIX版本参考GPFS FAQ: /infocenter/clresctr/vxrx/index.jsp # oslevel_______________________________________________________该AIX是否支持GPFS?该AIX版本下对GPFS 是否有特定版本与patch要求?________________________________________________________AIX xlC版本?8.0以上# lslpp -l |grep xlC|grep rte___xlC.aix61.rte 10.1.0.2 COMMITTED XL C/C++ Runtime for AIX 6.1xlC.rte 10.1.0.2 COMMITTED XL C/C++ RuntimexlC.sup.aix50.rte 9.0.0.1 COMMITTED XL C/C++ Runtime for AIX_____________________________________________________IBM JDK Version? Jdk 5# cd /usr; ls java5# /usr/java5/bin/java -version__1.5_____________________________________________________B.网络配置验证各节点的hostname?node1,node2,node3PAlpar10 PAlpar11 PAlpar12________________________________________________________ 各节点是否能相互ping 通?# ping node1# ping node2# ping node3C.验证/etc/hosts文件,应包含组内给节点IP和hostname,如192.168.1.11node1192.168.1.12node2192.168.1.13node3D.ssh安装、配置与通讯验证#cd /home/soft/ssh; installp -agYXpd . all先预览是否能正常安装,输出如下表示通过:SUCCESSES---------Filesets listed in this section passed pre-installation verificationand will be installed.Selected Filesets-----------------openssh.base.client 5.0.0.5302 # Open Secure Shell Commandsopenssh.base.server 5.0.0.5302 # Open Secure Shell Serveropenssh.license 5.0.0.5302 # Open Secure Shell Licenseopenssh.man.en_US 5.0.0.5302 # Open Secure Shell Documentat... openssl.base 0.9.8.840 # Open Secure Socket Layeropenssl.license 0.9.8.840 # Open Secure Socket Licenseopenssl.man.en_US 0.9.8.840 # Open Secure Socket Layer # installp -agYXd . all安装后,如下表示正常:openssl.man.en_US 0.9.8.840 USR APPLY SUCCESS openssl.license 0.9.8.840 USR APPLY SUCCESS openssl.base 0.9.8.840 USR APPLY SUCCESS openssl.base 0.9.8.840 ROOT APPLY SUCCESS openssh.license 5.0.0.5302 USR APPLY SUCCESS openssh.base.client 5.0.0.5302 USR APPLY SUCCESS openssh.base.server 5.0.0.5302 USR APPLY SUCCESS openssh.base.client 5.0.0.5302 ROOT APPLY SUCCESS openssh.base.server 5.0.0.5302 ROOT APPLY SUCCESS openssh.man.en_US 5.0.0.5302 USR APPLY SUCCESS # ssh-keygen -t rsa在每个AIX节点生成ssh-key如下:Generating public/private rsa key pair.Enter file in which to save the key (//.ssh/id_rsa): 回车Created directory '//.ssh'.Enter passphrase (empty for no passphrase): 回车Enter same passphrase again: 回车Your identification has been saved in //.ssh/id_rsa.Your public key has been saved in //.ssh/id_rsa.pub.The key fingerprint is:db:0b:23:aa:81:a9:b2:41:33:97:8b:6b:b7:24:fc:2c root@node1在节点 node1 copy如下文件# cp /.ssh/id_rsa.pub /.ssh/authorized_keys从节点node2 copy /.ssh/id_rsa.pub 到节点1/tmp/id_rsa.pub2,需要输入节点2的root密码从节点node3 copy /.ssh/id_rsa.pub 到节点1/tmp/id_rsa.pub3,需要输入节点3的root密码# scp node2:/.ssh/id_rsa.pub /tmp/id_rsa.pub2root@node2's password:id_rsa.pub 100% 393 0.4KB/s 00:00 # scp node3:/.ssh/id_rsa.pub /tmp/id_rsa.pub3在node1将/tmp/id_rsa.pub2; /tmp/id_rsa.pub3追加到/.ssh/authorized_keys中#cat /tmp/id_rsa.pub2 >> /.ssh/authorized_keys#cat /tmp/id_rsa.pub3 >> /.ssh/authorized_keys将node1上/.ssh/authorized_keys copy到node2,node3#scp /.ssh/authorized_keys node2:/.ssh/authorized_keys#scp /.ssh/authorized_keys node3:/.ssh/authorized_keys在node1,node2,node3节点touch 一个/.hushlogin文件,以屏蔽登录回显信息# touch /.hushlogin验证node1,node2,node3节点的ssh通讯,如能显示日期验证通过on node1# ssh node2 date; ssh node3 dateon node2# ssh node1 date; ssh node3 dateon node3# ssh node1 date; ssh node2 dateE.rsh, dsh 配置创建并编辑/.rhosts文件,node1 rootnode2 rootnode3 root验证rsh通讯,如能显示日期验证通过on node1# rsh node2 date; rsh node3 dateon node2# rsh node1 date; rsh node3 dateon node3# rsh node1 date; rsh node2 date验证dsh通讯,如能显示日期验证通过on node1# dsh -n node2 date; dsh -n node3 dateon node2# dsh -n node1 date; dsh -n node3 dateon node3# dsh -n node1 date; dsh -n node2 dateF.检查各AIX系统共享disks#lsdev –Cc disk#lspv第二节:安装GPFS软件A. 在node1,node2,node3上分别预览与安装GPFS软件及其PTF(Program Temporary Fix)# dsh -n node1,node2,node3 "cd /home/soft/gpfs3.2.1/3.2.1.0; inutoc .; installp -agYXpd . all"# dsh -n node1,node2,node3 "cd /home/soft/gpfs3.2.1/3.2.1.0; installp -agYXd . all"# dsh -n node1,node2,node3 "cd /home/soft/gpfs3.2.1/ptf; inutoc .; installp -agYXpd . all"# dsh -n node1,node2,node3 "cd /home/soft/gpfs3.2.1/ptf; installp -agYXd . all"B. 在node1,node2,node3上分别验证GPFS软件# dsh -n node1,node2,node3 "lslpp -L gpfs.*"Fileset Level State Type Description (Uninstaller)----------------------------------------------------------------------------gpfs.base 3.2.1.13 A F GPFS File Managergpfs.docs.data 3.2.1.1 A F GPFS Server Manpages andDocumentationgpfs.gui 3.2.1.0 C F GPFS GUIgpfs.msg.en_US 3.2.1.11 A F GPFS Server Messages - U.S.EnglishState codes:A -- Applied.B -- Broken.C -- Committed.E -- EFIX Locked.O -- Obsolete. (partially migrated to newer version)? -- Inconsistent State...Run lppchk -v.Type codes:F -- Installp FilesetP -- ProductC -- ComponentT -- FeatureR -- RPM PackageC. 在node1,node2,node3上,将gpfs执行命令路径加入PATH环境变量# echo export PATH=$PATH:/usr/lpp/mmfs/bin >>/etc/profile# . /etc/profileD. 在node1,node2,node3上,确认gpfs PATH环境变量是否已正确# env|grep PATH# mmlsclustermmlscluster: 6027-1382 This node does not belong to a GPFS cluster.mmlscluster: 6027-1639 Command failed. Examine previous error messages to determine cause.第三节:创建一个双节点的GPFS集群在本练习中,我们首先建一个单节点的GPFS CLUSTER。
GPFS配置手册
GPFS配置⼿册江西省农信社GPFS安装⼿册V1.0⽬录1.江西省农信社GPFS规划 (2)1.1江西省农信社GPFS集群规划 (2)1.2集群Quorum⽅式 (3)1.3NSD磁盘组成 (3)1.4⽂件系统基本信息 (3)1.5GPFS系统环境⽰意图 (5)2.GPFS安装前准备 (5)2.1安装介质及补丁准备 (5)2.2Openssl及Openssh (6)2.3Linux节点安装ksh (6)2.4Linux节点修改⽹络参数 (6)3.GPFS安装配置 (7)3.1配置ssh信任关系 (7)3.2AIX安装GPFS软件 (10)3.3Linux安装GPFS软件 (11)3.4GPFS集群配置 (12)4.GPFS⽇常维护 (19)4.1GPFS启动 (19)4.2GPFS停⽌ (19)4.3查看GPFS使⽤状况 (20)1.江西省农信社GPFS规划1.1江西省农信社GPFS集群规划1.2集群Quorum⽅式集群Quorum⽅式采⽤Node Quorum + Tiebreaker disks,两个AIX节点加上⼀块专⽤的SAN磁盘,⽬前只有⼀个AIX节点,第⼆个AIX节点和SAN磁盘需要后续添加。
1.3NSD磁盘组成1.4⽂件系统基本信息1.5GPFS系统环境⽰意图GPFS Server: 2个AIX分区连接V7000 SAN Storage: SVCGPFS Client: 48个Power Linux分区GPFS管理⽹络:千兆交换机2.GPFS安装前准备2.1安装介质及补丁准备安装包:GPFS v3.5.0.0补丁:GPFS-3.5.0.112.2Openssl及Openssh确认AIX上openssl及openssh是否已安装,Linux默认已经安装; lslpp -l |grep open2.3Linux节点安装ksh#rpm -ivh ksh-20100621-19.el6.ppc64.rpm2.4Linux节点修改⽹络参数修改/etc/sysctl.conf⽂件,需修改的⽹络参数如下:修改完毕后执⾏sysctl -p /etc/sysctl.conf让配置⽣效3.GPFS安装配置3.1配置ssh信任关系在节点/doc/abb911b558fafab068dc0287.html 上⽣成并配置ssh密钥对#ssh-keygen -t rsa# cd .ssh# lsid_rsa id_rsa.pub# cat id_rsa.pub > authorized_keys# chmod 600 authorized_keys# echo "StrictHostKeyChecking no" > config # chmod 600 config 修改各节点的/etc/hosts⽂件,加⼊对集群中各节点的别名和ip地址验证本机⽆需密码的ssh登录#ssh `hostname`将.ssh⽬录复制到其他各节点#scp -r /.ssh /doc/abb911b558fafab068dc0287.html :/root/#scp -r /.ssh /doc/abb911b558fafab068dc0287.html :/root/#scp -r /.ssh /doc/abb911b558fafab068dc0287.html :/root/…#scp -r /.ssh /doc/abb911b558fafab068dc0287.html :/root/验证各节点间⽆密码的ssh登录3.2AIX安装GPFS软件1)gpfs3.5.0安装包放在/home/gpfsaix/iso⽬录下2)切换/home/gpfsaix/iso⽬录下,通过smitty installp安装GPFS软件3)安装补丁gpfs3.5版本,需要升级到3.5.0.11以上,补丁下载地址:/doc/abb911b558fafab068dc0287.html /support/fixcentral/swg/selectFixes?parent=Cluster+software&produ ct=ibm/power/IBM+General+Parallel+File+System&release=3.5.0&platform=AIX&function =all下载后上传到服务器后解压:gzip -d -c filename.tar.gz |tar -xvf -使⽤smitty update_all安装补丁4)安装后检查#lslpp -l|grep gpfs如果之前已经创建了cluster,在所有node都down的状态下,加载GPFS版本到最新版本:mmchconfig release=LATEST;如果是新装的GPFS,则可以忽略此步。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
GPFS 3.1 for AIX 安装配置完全手册辛旻 (xinmin@), IBM 主机工程师, 上海宝信软件股份有限公司简介:本文详细描述了 AIX 5.3环境下安装配置 GPFS 3.1的步骤,对于第一次安装 GPFS 的同仁可以快速入门,对于有安装过的同仁,有一定的参考意义。
前言GPFS 的简介GPFS 是 IBM 公司第一个共享文件系统,起源于 IBM SP 系统上使用的虚拟共享磁盘技术( VSD )。
作为这项技术的核心, GPFS 是一个并行的磁盘文件系统,它保证在资源组内的所有节点可以并行访问整个文件系统;而且针对此文件系统的服务操作,可以同时安全地在使用此文件系统的多个节点上实现。
GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上。
与 NFS 相比,GPFS 在 SAN 环境下可以提供更好的性能。
实验环境说明实验室示意图图1.实验环境机器配置表表 1. 机器配置表序号主机名用途IP 地址用户系统环境1 NSD1 主 NSD 服务器10.66.3.982 CPU/4 G/AIX 53052 NSD2 备用 NSD 服务器 10.66.3.99 2 CPU/4 G/AIX 53053 App1 应用服务器10.66.5.51 user1(501)2 CPU/4 G/AIX 53054 App2 应用服务器10.66.5.52 user2(502)2 CPU/4 G/AIX 53055 App3 应用服务器10.66.5.53 user3(503)2 CPU/4 G/AIX 53056 App4 应用服务器10.66.5.54 user4(504)2 CPU/4 G/AIX 5305实验目的由于应用软件有对共享文件系统读写的要求,需要建立一个/share 的共享文件系统,在上面建立不同目录供不同的用户读写使用。
实现方法安装 GPFS 系统,并利用用户id的不同建立目录,区分权限。
举例来说:1. /share/user1work 我们希望只有 App1 的 user1 用户能读写,那么我们在App1 机器上设置所有者为 user1,权限为700,完成后其他机器上没有该用户id,也就没有权限对该目录读写。
2./share/user1temp 我们希望其他用户 userx 可读进入该目录,则设置所有者为 user1,权限可设为750,由于 userx 的用户都是 bea 组的,所以该设置使得在其他机器上 bea 组的 userx 用户有权限进入并读取这个目录的文件。
回页首准备工作SAN 配置1.在阵列端配置磁盘阵列盘,建立 gpfs 的 volume group2.在光纤交换机配置所有服务器和阵列 host 口划分在一个 zone。
3.利用 DSCLI 将 volume group 设置和服务器做 hostconnect。
这个工作先用 mkgrou p建立一个 volume group v3,然后用 chvolgrp 将 fbvol 的 volume 磁盘加入该 group。
最后用 hostconnect 将服务器的 wwn 号命令逐一通过指定的 IOPORT 和该 group 以及勾连起来。
确认安装结果:Date/Time: August 13, 2007 7:40:05 PM GMT+08:00 IBM DSCLI Version: 5.2.400.426 DS:IBM.2107-75L3351Name ID WWPN HostType Profile portgrpvolgrpIDESSIOportApp1 IBM.2107-75L3351/0020 210000E08B9B4D48 pSeries IBM pSeries-AIX 0 IBM.2107-75L3351/V6I0232,I0032,I0302,I0102App1 IBM.2107-75L3351/0021 210100E08BBB4D48 pSeries IBM pSeries-AIX 0 IBM.2107-75L3351/V6I0232,I0032,I0302,I0102……4.所有服务器安装 sddpcm 多通道软件sddpcm 是IBM的高端存储的多路径软件,可以比 AIX 缺省的 MPIO 软件实现自动负载均衡和零时间 failover,性能也得到提高。
试验中安装了 sddpcm 的软件包devices.fcp.disk.ibm.mpio.rte 1.0.0.7 # IBM MPIO FCP Disk Device devices.sddpcm.53.rte 2.1.2.5 # IBM SDD PCM for AIX V53确认安装结果,有4条通路连接主机和存储的逻辑盘。
[App1][root][/]>pcmpath query essmapDisk Path P Location adapter LUN SN Type Size LSS Vol Rank C/A S Connectionport RaidModehdisk3 path0 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5hdisk3 path1 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5hdisk3 path2 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5hdisk3 path3 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID55.cfgmgr 最终扫描确认结果:在所有服务器都可看到该磁盘。
以 App3 举例[App3][root][/home/scripts]>lspvhdisk3 none None[App3][root][/]>pcmpath query essmapDisk Path P Location adapter LUN SN Type Size LSS Vol Rank C/A S Connectionport RaidModehdisk3 path0 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5hdisk3 path1 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5hdisk3 path2 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5hdisk3 path3 01-10-01[FC] fscsi0 75L33510125 IBM 2107-900 65.5GB 1 37 fffb 17Y R1-B1-H3-ZC 32 RAID5访问配置修改所有机器的/etc/hosts,将以下行加入,使得机器之间互相能解析主机名。
/etc/hosts#gpfs start10.66.3.98 NSD110.66.3.99 NSD210.66.5.51 App110.66.5.52 App210.66.5.53 App310.66.5.54 App4#gpfs end修改所有服务器的/.rhosts,将2个NSD服务器主机名加入NSD1 root NSD2 root编写几个 shell 脚本,方便以后安装1.run_cmd.sh #该脚本可在所以服务器上运行同一条命令。
cat machines.list|awk '{print "rsh "$1" \"hostname;$1 $2 $3 $4$5\""}'>/tmp/test.shcat /tmp/test.shsh /tmp/test.sh $1 $2 $3 $4 $5rm /tmp/test.sh2.machines.list #该文件为机器列表,供其他脚本使用,注意不能有空行。
10.66.5.51 App110.66.5.52 App210.66.5.53 App310.66.5.54 App410.66.3.98 NSD110.66.3.99 NSD23.rcp_file.sh #该脚本用来从 NSD 服务器上分发文件给各服务器做安装等用途。
cat machines.list|awk '{print "rcp $1 "$1":$1"}'>/tmp/test.shcat /tmp/test.shsh /tmp/test.sh $1rm /tmp/test.sh4.install_gpfs.sh #安装 GPFS 软件的脚本。
实验中 GPFS 安装软件放在/soft_ins/gpfs3.1下cd /soft_ins/gpfs3.1installp -acYd . all5.change_profile.sh 修改各服务器.proifle 的脚本,增加路径echo "export PATH=\$PATH:/usr/lpp/mmfs/bin:." >> /.profile确认从2个 NSD 服务器rsh,rcp访问各个服务器设置 ok。
[NSD1][root][/home/scripts/gpfs]>run_cmd.sh dateApp1Thu Aug 2 19:37:00 BEIST 2007App2Thu Aug 2 19:37:00 BEIST 2007 NSD1........[NSD1][root][/home/scripts/gpfs]>run_cmd.sh mkdir /home/scripts/gpfs[NSD1][root][ /home/scripts/gpfs]>rcp_file.sh/home/scripts/gpfs/change_profile.sh[NSD1][root][/home/scripts/gpfs]>run_cmd.sh ls -l /home/scripts/gpfs App1-rw-r--r-- 1 root system 37 Jun 28 14:08change_profile.sh[NSD1][root][/home/scripts/gpfs]>rcp_file.sh/home/scripts/gpfs/install_gpfs.sh[NSD1][root][/home/scripts/gpfs]> run_cmd.sh/home/scripts/gpfs/install_gpfs.sh确认每台服务器安装显示 ok添加所有.profile 的执行路径[NSD1][root][/home/scripts/gpfs]>run_cmd.sh/home/scripts/gpfs/chang_profile.sh目录准备[NSD1][root][/home/scripts/gpfs]>run_cmd.sh mkdir /share[NSD1][root][/home/scripts/gpfs]>run_cmd.sh ln -s /share /tmp/mmfs[NSD1][root][/]>vi /tmp/gpfs/nodefileNSD1:quorumNSD2:quorumApp1:clientApp2:clientApp3:clientApp4:client建立 GPFS 集群先确保清理干净原先 GPFS 集群[NSD1][root][/tmp/gpfs]>mmdelnode -f建立集群[NSD1][root][/tmp/gpfs]>mmcrcluster -C bgbcrun -U bgbc-N /tmp/gpfs/nodefile -p NSD1 -s NSD2Thu Jun 28 15:42:57 BEIST 2007: 6027-1664 mmcrcluster: Processing node NSD1Thu Jun 28 15:42:57 BEIST 2007: 6027-1664 mmcrcluster: Processing node NSD2…..mmcrcluster: Command successfully completedmmcrcluster: 6027-1371 Propagating the cluster configuration data to all affected nodes. This is an asynchronous process.其中参数含义-C bgbcrun 设定集群名称-U bgbc 定义域名-N /tmp/gpfs/nodefile 指定节点文件名-p NSD1 指定主NSD服务器为 NSD1-s NSD1 指定备NSD服务器为 NSD1确认查看[NSD1][root][/tmp/gpfs]>mmlsclusterGPFS cluster information========================GPFS cluster name: bgbcrun.NSD1GPFS cluster id: 739157013761844865GPFS UID domain: bgbcRemote shell command: /usr/bin/rshRemote file copy command: /usr/bin/rcpGPFS cluster configuration servers:-----------------------------------Primary server: NSD1Secondary server: NSD2Node Daemon node name IP address Admin node name Designation----------------------------------------------------------------------------------1 NSD1 10.66.3.98 NSD1 quorum2 NSD2 10.66.3.99 NSD2 quorum3 App1 10.66.5.51 App14 App2 10.66.5.52 App25 App3 10.66.5.53 App3[NSD1][root][/tmp/gpfs]>vi /tmp/gpfs/nsdfile添加hdisk2:NSD1:NSD2: dataAndMetadata:4生成 NSD 盘[NSD1][root][/tmp/gpfs]>mmcrnsd -F /tmp/gpfs/nsdfilemmcrnsd: Processing disk hdisk2mmcrnsd: 6027-1371 Propagating the cluster configuration data to all affected nodes. This is an asynchronous process.此时,该文件作了转换[NSD1][root][/tmp/gpfs]>cat nsdfile# hdisk2:NSD2:NSD1: dataAndMetadata:4gpfs1nsd:::dataAndMetadata:4:确认结果[NSD1][root][/tmp/gpfs]>lspvhdisk3 00003e846ffa7a6e gpfs1nsd启动 GPFS 系统[NSD2][root][/tmp/gpfs]>mmstartup -aThu Jun 28 15:52:12 BEIST 2007: 6027-1642 mmstartup: Starting GPFS ... NSD2: 6027-2114 The GPFS subsystem is already active.…[NSD2][root][/]>mmcrfs /share sharelv -F /tmp/gpfs/nsdfile -A yes -B 64K -n 30 -v noGPFS: 6027-531 The following disks of sharelv will be formatted on node NSD1:gpfs1nsd: size 67108864 KBGPFS: 6027-540 Formatting file system ...GPFS: 6027-535 Disks up to size 140 GB can be added to storage pool'system'.Creating Inode FileCreating Allocation MapsClearing Inode Allocation MapClearing Block Allocation MapGPFS: 6027-572 Completed creation of file system /dev/sharelv. mmcrfs: 6027-1371 Propagating the cluster configuration data to allaffected nodes. This is an asynchronous process.参数含义如下:/share 文件系统 mount 点名sharelv 指定文件系统 lv 名-F 指定 NSD 的文件名-A 自动 mount 选项为 yes-B 块大小为64K-n 挂载文件系统的节点估计数30个-v 校验建立磁盘是否已有文件系统为否装载文件系统[NSD2][root][/home/scripts/gpfs]>run_cmd.sh mount /share建立目录[App1][root][/]>mkdir /share/user1work[App1][root][/]>chown user1:bea /share/user1work[App1][root][/]>chmod 700 /share/user1work[App1][root][/]>mkdir /share/user1temp[App1][root][/]>chown user1:bea /share/user1temp[NSD1][root][/]>mmchconfigautoload=yesmmchconfig: Command successfully completedmmchconfig: 6027-1371 Propagating the cluster configuration data to all affected nodes. This is an asynchronous process.采用多个 Quorum 盘[NSD1][root][/]>mmchconfigsingleNodeQuorum=no mmchconfig: 6027-1119 Obsolete option: singleNodeQuorum显示 GPFS 选项属性[NSD1][root][/]>mmlsconfigConfiguration data for cluster bgbcrun.NSD2:----------------------------------------------- clusterName bgbcrun.NSD2clusterId 739157013761844865clusterTypelcautoload nouseDiskLease yesuidDomainbgbcmaxFeatureLevelAllowed 912至此 GPFS 的安装配置完成[NSD1][root][/]>mmgetstate -aNode number Node name GPFS state------------------------------------------1 NSD1 active2 NSD2 active3 App1 active4 App2 active5 App3 active[App1][/share]>ls -latrdrwx------ 2 user1 bea 2048 Jun 28 17:21 user1work drwxr--x-- 2 user1 bea 2048 Jun 28 17:21 user1temp drwx------ 2 502 bea 2048 Jun 28 17:22 user2work drwxr--x--- 2 502 bea 2048 Jun 28 17:22 user2temp drwx------ 2 503 bea 2048 Jun 28 17:22 user3work drwxr-x-- 2 503 bea 2048 Jun 28 17:22 user3temp drwxr---- 2 504 bea 2048 Jun 28 17:22 user4work drwxr-x--- 2 504 bea 2048 Jun 28 17:23 user4temp [App1][user1][/share]>cd user2workksh: user2temp : Permission denied.[App1][user1][/share]>cd user2temp[App1][user1][/share]>>aThe file access permissions do not allow the specified action.ksh[2]: a: 0403-005 Cannot create the specified file.[App1][user1][/share]>cd /user1temp[App1][user1][/share/user1temp]>>a[App1][user1][/share/user1temp]>ls -l-rw-r----- 1 user1 bea 0 Aug 13 18:47 a[App1][user1][/share/xhtemp]>rm a[App1][user1][/share/xhtemp]>ls -l[App1][/share]>ls -latrdrwxr------ 2 user1 bea 2048 Jun 28 17:21 user1work drwxr------ 2 user1 bea 2048 Jun 28 17:21 user1temp drwxr------ 2 502 bea 2048 Jun 28 17:22 user2work drwxr------ 2 502 bea 2048 Jun 28 17:22 user2temp drwxr------ 2 503 bea 2048 Jun 28 17:22 user3work drwxr------ 2 503 bea 2048 Jun 28 17:22 user3temp drwxr------ 2 504 bea 2048 Jun 28 17:22 user4work[NSD1][root][/home/scripts/gpfs]>mmaddnode -N bgbcw14:clientThu Jun 28 16:28:21 BEIST 2007: 6027-1664 mmaddnode: Processing node App3 mmaddnode: Command successfully completedmmaddnode: 6027-1371 Propagating the cluster configuration data to all affected nodes. This is an asynchronous process.2.停掉节点停掉所有节点[NSD2][root][/home/scripts/gpfs]>mmshutdown -aMon Jul 30 09:56:02 BEIST 2007: 6027-1341 mmshutdown: Starting force unmount ofGPFS file systemsNSD1: forced unmount of /share…App4: forced unmount of /shareMon Jul 30 09:56:07 BEIST 2007: 6027-1344 mmshutdown: Shutting down GPFS daemonsNSD1: Shutting down!…App3: Shutting down!NSD1: 'shutdown' command about to kill process 368890….App4: 'shutdown' command about to kill process 474040Mon Jul 30 09:56:13 BEIST 2007: 6027-1345 mmshutdown: Finished也可以用 mmshutdown -N 只停某个节点清除 GPFS1. fuser –kcu /share2. unmount /share #在所有节点3. mmdelfssharelv,4. mmlsfssharelv #检查结果5. mmdelnsd –F /tmp/gpfs/nsdfile6. mmshutdown –a7. mmdelnode –n /tmp/gpfs/nodefile总结总的来说,如果一步步参照本文的步骤,GPFS 的安装配置包括日常管理并不复杂。