高可用集群软件的技术简介

合集下载

基于浪潮天梭K1系统的HA高可用解决方案V1.3

基于浪潮天梭K1系统的HA高可用解决方案V1.3

基于浪潮天梭K1系统的高可用解决方案浪潮集团2013.07目录1.方案背景 (1)1.1背景分析 (1)1.2基于浪潮天梭K1系统的高可用解决方案 (2)1.3解决方案拓扑图 (3)1.4推荐配置............................................................................... 错误!未定义书签。

2.方案功能特色 (5)2.1可靠性 (5)2.2可扩展性 (7)2.3易管理 (8)3.客户价值 (8)4.成功案例 (9)4.1中国建设银行 (9)4.3中国进出口银行 (11)5.浪潮天梭K1系统简介 (12)1.方案背景1.1背景分析全球经济一体化的今天,企业的管理和运营已经离不开信息系统的支撑,因此企业信息系统的业务连续也成为决定企业生死存亡的重要因素之一。

如果一些关键应用一旦发生服务器宕机或应用故障,将给企业带来巨大的经济损失,并且由于业务的不可用而影响到企业的信誉,致使客户对企业失去信任,所造成的危害是致命的。

可见,对那些需要保障信息安全和提供不间断的信息服务的企业而言,业务系统的容错性和不间断性显得尤为重要。

因此,在保障各种关键应用持续运营,甚至达到永续经营并实现业务的良性循环方面,高可用集群管理软件的巨大作用得到了广泛认可。

一个牢固稳定的数据库系统对业务的连续性显得尤为重要。

Ontrack(国际权威的数据恢复机构)的调查数据表明,造成数据库数据丢失的原因排在第一位的是硬件故障,其他依次为人为错误、软件损坏、计算机病毒和自然灾害。

图1数据表明,硬件故障是数据库最大的威胁,其次是人为错误和软件损坏。

这个比例占到90%,但这三方面的风险都可以通过前期的硬件选型,软件选型和人员培训来减小。

所以一个健壮的信息系统的必然条件:➢高可靠和高性能的硬件;➢易操作和高可用的软件。

1.2基于浪潮天梭K1系统的高可用解决方案浪潮在业务连续性方面已经积累了多年的销售经验和研发经验,具有很大的客户保有量和丰富的销售经验,同时在这个过程中不断创新、不断挑战积累了很多的研发心得,结合浪潮多年理解的客户需求,开发了“浪潮K-HA高可用集群软件”,在保障信息系统的业务连续性方面走在了前列。

中标麒麟高可用集群软件

中标麒麟高可用集群软件

中标麒麟高可用集群是基于中标麒麟服务器操作系统开发的智能高可用软件产品,通过应用中标麒麟高可用集群产品可以提升软硬件系统及应用运行的稳定性和可靠性,该产品经过多年的用户应用及市场验证,提供的抗错能力足以支持关键业务系统应用可靠性苛刻要求为政府、金融、电力、医疗、运输、制造业、等行业用户提供高效、至微的可靠服务。

中标麒麟高可用集群软件依托“系统可靠”——“数据可靠”——“应用可靠”三层可靠保护实现对业务系统的“智能、多层次可靠保护”:系统可靠:保护用户的操作系统及硬件设备,对故障操作系统及硬件设备进行智能、快速、便捷的恢复数据可靠:为用户共享数据提供一致性保护,当系统出现脑裂等极端故障的情况下,保证数据不被破坏。

应用可靠:为用户业务系统稳定、高效、持续的运行提供缜密可靠保护。

产品优势可视化一键式单点安装配置全图形化安装配置,方便用户完成高可用软件的部署。

易用的管理界面友好、直观、简易操作的图形管理界面,能够简单快速的完成通用资源保护配置。

智能的切换技术完善的保护机制及丰富的应用程序代理,能够使服务器的任意硬件或资源在出现故障时能及时自动完成切换操作。

高效的可用性任何一个节点出现故障,都可以在极短的时间内进行自动切换,当故障排除后,服务自动回迁,提供7 X 24小时永不停机的企业级应用可靠保障。

丰富的集群保护方式支持双机热备、双机互备、多机备份等多种运行保护方式,用以满足各种应用保护需求安全的数据可靠性监控共享数据资源,利用磁盘心跳技术和共享磁盘的锁机制,保证在极端情况下数据的一致性。

丰富的资源保护不仅可以对诸多国际知名应用软件进行高可用保护,还可以深入监控国产数据库、中间件软件,同时对各种硬件资源进行深入的故障检测。

极低的系统资源占用最低限度的系统资源占用,使得宝贵的软硬件资源可以充分投入到不断扩展的业务服务中多种硬件平台支持多种硬件平台的支持能够最大限度的满足用户对不同平台应用的需求,并且支持多种文件系统及主流存储设备,使其可以灵活的部署高可用系统。

中标麒麟高可用集群软件(龙芯版)V7.0 产品白皮书说明书

中标麒麟高可用集群软件(龙芯版)V7.0 产品白皮书说明书
中标麒麟高可用集群软件(龙芯版)V7.0 产品白皮书
中标软件有限公司
目录
目录
目录 ...................................................................................................................................................i 前言 ..................................................................................................................................................v 内容指南 ........................................................................................................................................vii 中标麒麟高可用集群产品介绍....................................................................................................... 9 1 概述 ............................................................................................................................................ 11
第 i 页 / 共 54 页

软件开发知识:利用集群技术构建高可用性的系统

软件开发知识:利用集群技术构建高可用性的系统

软件开发知识:利用集群技术构建高可用性的系统随着互联网技术的不断发展,越来越多的企业和组织都在构建自己的高可用性系统,以保证业务的稳定性和数据的安全性。

其中的关键技术之一就是集群技术,通过多台服务器的联合工作,实现高可用性的系统构建。

本文将从以下四个方面深入阐述集群技术构建高可用性系统的要点和步骤。

首先,介绍集群技术的基本概念和原理。

其次,探讨如何利用集群实现系统的负载均衡和故障转移,同时介绍相关的软件和工具。

第三,详细解释如何选用适合的硬件设备和网络结构来搭建集群系统。

最后,对常见的集群系统故障进行分析,提出应对方法。

一、集群技术概述集群技术是一种将多台计算机联合起来构成一个高性能、高可用性、高扩展性的计算机系统的技术。

集群系统通常由多个相互独立的服务器节点组成,节点之间通过特定的网络通信协议进行数据的交换和共享。

在集群系统中,任何一个计算机节点都可以以工作节点的身份进入到整个集群体系中,从而实现任务的分配和执行。

而整个集群系统也可以通过编程、配置等方式实现负载均衡和故障转移,从而提高系统的可用性和稳定性。

二、集群技术实现高可用性系统的原理和步骤2.1负载均衡负载均衡是集群技术中最基本的概念之一。

在一个系统或服务中,用户的请求往往是随机分布的,不同请求的负载也会有所差异。

而通过负载均衡技术,可以将不同请求分配到不同计算机节点中进行处理,从而实现系统的负载均衡。

负载均衡可以分为硬件负载均衡和软件负载均衡两种类型。

硬件负载均衡一般采用专用网络交换机或路由器来实现,比如F5、NetScaler等;而软件负载均衡通常采用虚拟网络设备或软件来实现,比如Nginx、HAProxy等。

2.2故障转移故障转移指在集群系统中,如果某个节点出现了故障,如何及时将请求转发到其他节点,以保证系统的可用性和稳定性。

故障转移也可以分为硬件故障转移和软件故障转移两种类型。

硬件故障转移一般采用专用的硬件设备或热插拔设备来实现,比如磁盘阵列设备或高可用性存储系统。

高可用,多路冗余GFS2集群文件系统搭建详解

高可用,多路冗余GFS2集群文件系统搭建详解

⾼可⽤,多路冗余GFS2集群⽂件系统搭建详解⾼可⽤,多路冗余GFS2集群⽂件系统搭建详解2014.06标签:实验拓扑图:实验原理:实验⽬的:通过RHCS集群套件搭建GFS2集群⽂件系统,保证不同节点能够同时对GFS2集群⽂件系统进⾏读取和写⼊,其次通过multipath 实现node和FC,FC和Share Storage之间的多路冗余,最后实现存储的mirror复制达到⾼可⽤。

GFS2:全局⽂件系统第⼆版,GFS2是应⽤最⼴泛的集群⽂件系统。

它是由红帽公司开发出来的,允许所有集群节点并⾏访问。

元数据通常会保存在共享存储设备或复制存储设备的⼀个分区⾥或逻辑卷中。

实验环境:1 2 3 4 5 6 7 8[root@storage1 ~]# uname -r2.6.32-279.el6.x86_64[root@storage1 ~]# cat /etc/redhat-releaseRed Hat Enterprise Linux Server release 6.3 (Santiago) [root@storage1 ~]# /etc/rc.d/init.d/iptables status iptables: Firewall is not running.[root@storage1 ~]# getenforceDisabled实验步骤:1、前期准备⼯作0)、设置⼀台管理端()配置ssh 私钥、公钥,将公钥传递到所有节点上12 3 4 5 6 7 8 9 10 11 12 13 14[root@manager ~]# ssh-keygen \\⽣成公钥和私钥Generating public/private rsa key pair.Enter file in which to save the key (/root/.ssh/id_rsa):Enter passphrase (empty for no passphrase):……[root@manager ~]# for i in {1..6}; do ssh-copy-id -i 192.168.100.17$i; done \\将公钥传输到各节点/root/.ssh/⽬录下root@192.168.100.171's password:Now try logging into the machine, with "ssh '192.168.100.171'", and check in:.ssh/authorized_keysto make sure we haven't added extra keys that you weren't expecting..……[root@manager ~]# ssh node1 \\测试登录Last login: Sat Jun 8 17:58:51 2013 from 192.168.100.31[root@node1 ~]#1)、配置双⽹卡IP,所有节点参考拓扑图配置双⽹卡,并配置相应IP即可1 2 3 4 5[root@storage1 ~]# ifconfig eth0 | grep "inet addr" | awk -F[:" "]+ '{ print $4 }' 192.168.100.171[root@storage1 ~]# ifconfig eth1 | grep "inet addr" | awk -F[:" "]+ '{ print $4 }' 192.168.200.171……2)、配置hosts⽂件并同步到所有节点去(也可以配置DNS,不过DNS解析绝对不会有hosts解析快,其次DNS服务器出问题会直接导致节点和节点以及和存储直接不能够解析⽽崩溃)12 3 4 5 6 7 8 9[root@manager ~]# cat /etc/hosts127.0.0.1 localhost 192.168.100.102 manager 192.168.100.171 storage1 192.168.200.171 storage1 192.168.100.172 storage2 192.168.200.172 storage2 192.168.100.173 node1 192.168.200.173 node1 192.168.100.174 node2 9 10 11 12 13 14 15 16 17 18 19 20 21 22192.168.100.174 node2 192.168.200.174 node2 192.168.100.175 node3 192.168.200.175 node3 192.168.100.176 node4 192.168.200.176 node4 [root@manager ~]# for i in {1..6}; do scp /etc/hosts 192.168.100.17$i:/etc/ ; done hosts 100% 591 0.6KB/s00:00 hosts 100% 591 0.6KB/s00:00 hosts 100% 591 0.6KB/s00:00 hosts 100% 591 0.6KB/s00:00 hosts 100% 591 0.6KB/s00:00 hosts 100% 591 0.6KB/s00:003)、配置yum源(将所有节点光盘挂接到/media/cdrom,如果不⽅便,也可以做NFS,将镜像挂载到NFS⾥⾯,然后节点挂载到NFS共享⽬录中即可,注意:不同版本的系统,RHCS集群套件存放位置会有所不同,所以yum源的指向位置也会有所不同)1234 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38[root@manager ~]# cat /etc/yum.repos.d/rhel-gfs2.repo[rhel-cdrom]name=RHEL6U3-cdrombaseurl=file:///media/cdromenabled=1gpgcheck=0[rhel-cdrom-HighAvailability]name=RHEL6U3-HighAvailabilitybaseurl=file:///media/cdrom/HighAvailabilityenabled=1gpgcheck=0[rhel-cdrom-ResilientStorage]name=RHEL6U3-ResilientStoragebaseurl=file:///media/cdrom/ResilientStorageenabled=1gpgcheck=0[rhel-cdrom-LoadBalancer]name=RHEL6U3-LoadBalancerbaseurl=file:///media/cdrom/LoadBalancerenabled=1gpgcheck=0[rhel-cdrom-ScalableFileSystem]name=RHEL6U3-ScalableFileSystembaseurl=file:///media/cdrom/ScalableFileSystemenabled=1gpgcheck=0[root@manager ~]# for i in {1..6}; do scp /etc/yum.repos.d/rhel-gfs2.repo 192.168.100.17$i:/etc/yum.repos.d ; done rhel-gfs2.repo 100% 588 0.6KB/s00:00rhel-gfs2.repo 100% 588 0.6KB/s00:00rhel-gfs2.repo 100% 588 0.6KB/s00:00rhel-gfs2.repo 100% 588 0.6KB/s00:00rhel-gfs2.repo 100% 588 0.6KB/s00:00rhel-gfs2.repo 100% 588 0.6KB/s00:00[root@manager ~]# for i in {1..6}; do ssh 192.168.100.17$i "yum clean all && yum makecache"; doneLoaded plugins: product-id, security, subscription-managerUpdating certificate-based repositories.Unable to read consumer identity……4)、时间要同步,可以考虑配置NTP时间服务器,如果联⽹可以考虑同步互联⽹时间,当然也可以通过date命令设置相同时间。

Oracle三种高可用方案原理介绍--解决方案

Oracle三种高可用方案原理介绍--解决方案

Oracle三种高可用方案原理介绍--解决方案Oracle 三种高可用方案原理介绍一、概述Oracle因为是商用版本,所以高可用方案都已经非常成熟,主要有三种高可用方案,下边分别介绍一下。

1 RAC(Real Application Clusters)多个Oracle服务器组成一个共享的Cache,而这些oracle服务器共享一个基于网络的存储。

这个系统可以容忍单机/或是多机失败。

不过系统内部的多个节点需要高速网络互连,基本上也就是要全部东西放在在一个机房内,或者说一个数据中心内。

如果机房出故障,比如网络不通,那就坏了。

所以仅仅用RAC还是满足不了一般互联网公司的重要业务的需要,重要业务需要多机房来容忍单个机房的事故。

2 Data Guard.(最主要的功能是冗灾)Data Guard这个方案就适合多机房的。

某机房一个production 的数据库,另外其他机房部署standby的数据库。

Standby数据库分物理的和逻辑的。

物理的standby数据库主要用于production失败后做切换。

而逻辑的standby数据库则在平时可以分担production数据库的读负载。

3 MAAMAA(Maximum Availability Architecture)其实不是独立的第三种,而是前面两种的结合,来提供最高的可用性。

每个机房内部署RAC集群,多个机房间用Data Guard同步。

二、三种高可用方式工作原理1、Oracle 11G RACRAC环境与单实例最主要的区别是:.RAC的每个实例都有属于自己的SGA、后台进程。

由于数据文件、控制文件共享于所有实例,所以必须放在共享存储中。

..联机重做日志文件:只有一个实例可以写入,但是其他实例可以再回复和存档期间读取。

..归档日志:属于该实例,但在介质恢复期间,其他实例需要访问所需的归档日志。

..alter和trace日志:属于每个实例自己,其他实例不可读写。

HACMP工作原理介绍

HACMP工作原理介绍

HACMP工作原理介绍HACMP(High Availability Cluster Multiprocessing)是一种高可用性的集群解决方案,旨在提供在系统或硬件失败发生时,保证应用程序持续可用的能力。

它通过在多个计算节点上部署应用程序和数据,并实时监控系统健康状况,来实现高可用性。

1.集群:HACMP通过将多个计算节点连接在一起形成一个集群。

每个节点都是一台具备计算和存储能力的服务器,运行着相同的操作系统和应用程序。

集群中的节点通过专用网络互相通信,实现对整个集群的协调和控制。

2.资源:在HACMP中,应用程序和其相关的数据被称为资源。

资源可以是单个的进程、服务、文件系统等。

HACMP对资源的管理包括资源的分配、启动、停止和迁移等操作。

3.心跳检测:为了实时监控系统的健康状况,HACMP引入了心跳检测机制。

每个节点通过定期发送心跳信号来表示自己的正常运行,其他节点接收到心跳信号后确认,如果长时间未收到心跳信号则判断该节点可能出现故障。

4.预定义和自动化的故障切换:当一些节点出现故障时,HACMP会自动将该节点上的资源切换到其他节点上,以保证应用程序的持续可用性。

切换的过程中,HACMP会确保数据的一致性,并在尽可能短的时间内完成切换操作。

如果故障节点恢复正常,HACMP会自动将资源切换回原节点。

5.监控和故障恢复:HACMP提供了一套完善的监控和故障恢复机制。

它实时监控系统中的节点状态、资源状态和网络连接等信息,并根据预定义的策略执行相应的故障恢复动作。

当故障发生时,HACMP会立即做出响应,启动资源切换和恢复节点操作。

通过上述工作原理,HACMP能够实现高可用性的应用程序部署和运行。

它具有以下优点:1.高可用性:HACMP提供实时监控和故障恢复机制,能够及时检测和处理系统和软件故障,保证应用程序持续可用。

2.负载均衡:HACMP能够根据系统负载情况,将资源合理地分配到不同的节点上,实现负载均衡和性能优化。

HA 技术简介

HA 技术简介

高可用性(HA)集群通过一组计算机系统提供透明的冗余处理能力,从而实现不间断应用的目标。

高可用性(High Availability,简称HA)集群是共同为客户机提供网络资源的一组计算机系统。

其中每一台提供服务的计算机称为节点(Node)。

当一个节点不可用或者不能处理客户的请求时,该请求会及时转到另外的可用节点来处理,而这些对于客户端是透明的,客户不必关心要使用资源的具体位置,集群系统会自动完成。

HA集群系统硬件拓扑形式基于共享磁盘的HA集群系统通过共享盘柜实现集群中各节点的数据共享,包含主服务器、从服务器、存储阵列三种主要设备,以及设备间的心跳连接线。

而基于磁盘镜像的HA集群系统不包含存储阵列。

集群中两种服务器的本地硬盘通过数据镜像技术,实现集群中各节点之间的数据同步,从而实现集群的功能。

实际应用中,将节点1配置成“主服务器”,节点2配置成“从服务器”,主从服务器有各自的IP地址,通过HA集群软件控制,主从服务器有一个共同的虚拟IP地址,客户端仅需使用这个虚拟IP,而不需要分别使用主从IP地址。

这种措施是HA集群的首要技术保证,该技术确保集群服务的切换不会影响客户IP层的访问。

公网(Public Network)是应用系统实际提供服务的网络,私网(Private Network)是集群系统内部通过心跳线连接成的网络。

心跳线是HA集群系统中主从节点通信的物理通道,通过HA集群软件控制确保服务数据和状态同步。

不同HA集群软件对于心跳线的处理有各自的技巧,有的采用专用板卡和专用的连接线,有的采用串并口或USB口处理,有的采用TCP/IP网络处理,其可靠性和成本都有所不同。

近几年,基于TCP/IP 技术的心跳线因其成本低、性能优异而被广泛采用。

具体实现中主从服务器上至少各需配置两块网卡。

HA集群软件体系结构HA集群软件是架构在操作系统之上的程序,其主要由守护进程、应用程序代理、管理工具、开发脚本等四部分构成,应用服务系统是为客户服务的应用系统程序,比如MS SQL Server,Oracle,Sybase,DB2 UDB,Exchange,Lotus Notes等应用系统软件。

计算机集群技术概述

计算机集群技术概述

计算机集群技术概述摘要:集群(cluster)技术是一种较新的技术,通过集群技术,可以在付出较低成本的情况下获得在性能、可靠性、灵活性方面的相对较高的收益,其任务调度则是集群系统中的核心技术。

本文就集群系统的定义、发展趋势、任务调度等问题进行了简要论述。

关键词:计算机;集群;任务调度;发展趋势1 集群的定义集群是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理。

一个客户与集群相互作用时,集群像是一个独立的服务器。

集群配置是用于提高可用性和可缩放性。

2 采用集群的目的2.1 提高性能一些计算密集型应用,如:天气预报、核试验模拟等,需要计算机要有很强的运算处理能力,现有的技术,即使普通的大型机其计算也很难胜任。

这时,一般都使用计算机集群技术,集中几十台甚至上百台计算机的运算能力来满足要求。

提高处理性能一直是集群技术研究的一个重要目标之一。

2.2 降低成本通常一套较好的集群配置,其软硬件开销要超过100000美元。

但与价值上百万美元的专用超级计算机相比已属相当便宜。

在达到同样性能的条件下,采用计算机集群比采用同等运算能力的大型计算机具有更高的性价比。

2.3 提高可扩展性用户若想扩展系统能力,不得不购买更高性能的服务器,才能获得额外所需的CPU 和存储器。

如果采用集群技术,则只需要将新的服务器加入集群中即可,对于客户来看,服务无论从连续性还是性能上都几乎没有变化,好像系统在不知不觉中完成了升级。

2.4 增强可靠性集群技术使系统在故障发生时仍可以继续工作,将系统停运时间减到最小。

集群系统在提高系统的可靠性的同时,也大大减小了故障损失。

3 集群的分类3.1 科学集群科学集群是并行计算的基础。

通常,科学集群涉及为集群开发的并行应用程序,以解决复杂的科学问题。

科学集群对外就好像一个超级计算机,这种超级计算机内部由十至上万个独立处理器组成,并且在公共消息传递层上进行通信以运行并行应用程序。

HA高可用性软件介绍

HA高可用性软件介绍

如有帮助,欢迎支持。

ROSE HA高可用性软件介绍目录第一部分高可用性系统概述 (3)一、计算机系统的故障分类以及故障发生的概率分析 (3)二、高可用系统解决的问题 (3)三、高可用性的定义及与容错技术比较 (4)(一)高可用性与容错技术 (4)(二)高可用性系统的功能 (4)(三)故障恢复 (4)(四)服务延续性 (5)(五)实现高可用 (5)第二部分ROSE HA高可用性软件 (6)一、ROSE HA高可用性软件的工作模式 (6)(一)主从方式 (6)(二)双工方式 (6)二、ROSE HA高可用性软件的组成 (6)三、ROSE HA软件的运行过程 (7)第一部分高可用性系统概述一、计算机系统的故障分类以及故障发生的概率分析二、高可用系统解决的问题对现代企业来说,利用计算机系统来提供及时可靠的信息和服务是必不可少的另一方面,计算机硬件与软件都不可避免地会发生故障,这些故障有可能给企业带来极大的损失,甚至整个服务的终止、网络的瘫痪。

对于那些任何停工都将产生严重的财产损失、名誉损失、甚至生命损失的关键性应用的企业或公司,系统的高可用性显得更为重要。

因此,必须有适当的措施来确保计算机系统提供不间断的服务,以维护系统的可用性。

信息系统的可用性通常在两种情况下会受到影响,一种是系统当机、错误操作和管理引起的异常失败,另一种是由于系统维护和升级,需要安装新的硬件或软件而正常关机。

高可靠性软件必须为这两种情况提供不间断的系统服务。

三、高可用性的定义及与容错技术比较(一)高可用性与容错技术高可用性HA(High Availability)指的是通过尽量缩短因日常维护操作(计划)和突发的系统崩溃(非计划)所导致的停机时间,以提高系统和应用的可用性。

它与被认为是不间断操作的容错技术有所不同。

HA系统是目前企业防止核心计算机系统因故障停机的最有效手段。

容错FT(Fault Tolerant)技术一般利用冗余硬件交叉检测操作结果。

多节点高可用集群解决方案

多节点高可用集群解决方案

7/7
4/7
Skyge Multi-Node HA 高可用集群解决方案
2.2、基于数据镜像技术的高可用解决方案
通常在高可用软件中,为了保持数据一致性,不同的节点需要共享磁盘阵列。但是对于 很多系统来说, 一个磁盘阵列的造价太过昂贵。 因此出现了通过软件来实现共享数据的镜像 技术。在 Skyge Multi-Node HA 的高可用产品中,使用基于数据镜像技术的软件方式来实现 共享数据的同步。 DRBD(全称为:Distributed Replicated Block Device)是在 Linux 系统中一种基于 磁盘的网络镜像软件。DRBD 的基本原理相当简单,那就是把两台机器的两块磁盘通过网络 连接在一起,形成一个 RAID1 系统。两块磁盘的数据在任何时刻都保证是一致的。DRBD 负 责接收数据,把数据写到本地磁盘,然后发送给另一个主机。另一个主机再将数据存到自己 的磁盘中。DRBD 是由内核模块和相关用户态程序构成,用以构建高可用性的集群。其实现 方式是通过网络来镜像整个设备。 它允许用户在远程机器上建立一个本地块设备的实时镜像。 与心跳连接结合使用,也可以把它看作是一种网络 RAID。DRBD 的实现原理图,如下图 3:
图 3-DRBD 的实现原理
这种不需要共享存储的纯软高可用性解决方案,要节约很多成本,因为在价格上 IP 网 络要比专用的存储网络经济的多。
5/7
Skyge Multi-Node HA 高可用集群解决方案
图 4-基于数据镜像技术(DRBD)的高可用工作模式
解决方案优点:
系统切换时间短,最大程度减少业务中断的影响。 切换过程对应用程序无影响,无需重新启动或登录,做到无人值守。 不需要磁盘阵列,具有较高的性能价格比。 高效成熟的多种镜像方式,支持完全镜像、差分镜像。 最佳化的按需复制,支持自定义复制数据集。HA 的数据镜像是基于文件系统之上的以 字节为单位的按需复制,充分保证了系统性能和效率的最佳化。 消除备份窗口。 备份时可以使备机写入暂停或主机传输暂停, 在主机应用在线持续运行 的情况下,通过备机对数据进行备份操作。 支持丰富的应用配置,如:数据库应用 Oracle、DB2、Sybase、MySQL 等,文件服务应 用 NFS、SMB/CIFS 等,WEB 应用 Apache 等,商业应用 Websphere、Weblogic 等。 对服务器硬件配置要求较低, 且互备方式有效分摊系统负载, 可充分提高服务器硬件资 源的利用率。 简洁直观的管理工具,体贴的应用配置向导支持,便于维护管理。

VMware vSphere 5.1 高可用性 ---- 群集、HA、DRS、FT

VMware vSphere 5.1 高可用性 ----  群集、HA、DRS、FT

VMware vSphere 5.1 高可用性在本节中主要讲的是集群的一些功能和配置,相比5.0的设置,没有太大的变化。

VMware vSphere为虚拟机提供虚拟化的基础架构,将现有的物理资源转化成虚拟资源,将物理资源分成若干资源,为每个虚拟机提供包括CPU、内存等虚拟资源。

要想很好地分配这些资源,就必须要使用资源池。

资源池是灵活管理资源的逻辑抽象。

资源池可以分组为层次结构,用于对可用的CPU 和内存资源按层次结构进行分区。

群集中的资源池比单个ESXi主机上的还要重要,因为在群集中创建资源之后,整个资源池管理的就是所有的ESXi主机资源了。

所管理的资源是所有ESXi主机上的CPU和内存的资源总和。

高可用性和双机热备是VMware vSphere 5.1最重要的一部分,高可用并不是vSphere独有的,企业使用高可用就是为了服务的连续性和数据的安全性,HA是以一群ESXi服务器为主的群集功能,主要是目的是当虚拟机运行的主机发生故障时能及时转移主机,避免长时间的停机。

而FT双机热备则是保证虚拟机最长时间不停机,将虚拟机以双机热备的方式同时在两台主机运行,大大增强了业务的可连续性。

本节中主要讲的是讲的一下内容:一、建立群集二、设置HA高可用性三、测试HA高可用性四、设置DRS五、建立FT双机热备无论是计划停机时间还是非计划停机时间,都会带来相当大的成本。

但是,用于确保更高级别可用性的传统解决方案都需要较大开销,并且难以实施和管理。

VMware 软件可为重要应用程序提供更高级别的可用性,并且操作更简单,成本更低。

使用vSphere,组织可以轻松提高为所有应用程序提供的基准级别,并且以更低成本和更简单的操作来实现更高级别的可用性。

使用vSphere,可以独立于硬件、操作系统和应用程序提供更高可用性,减少常见维护操作的计划停机时间,在出现故障时提供自动恢复。

vSphere 可以减少计划的停机时间,防止出现非计划停机,并迅速从断电中恢复。

集群技术的介绍

集群技术的介绍

集群技术的介绍2008-04-11 09:05一、高可用性集群系统集群技术(Cluster技术)就是将多台服务器用集群软件连接在一起,组成一个高度透明的大型服务器群的计算机系统,作为一个整体为客户端提供服务,客户端能共享网络上的所有资源,如数据或应用软件等,同时客户端的用户并不关心其应用Server运行在那台服务器上,只关心其应用Server是否能连续工作。

当集群系统内某一台服务器出现故障时,其备援服务器便立即接管该故障服务器的应用服务,继续为前端的用户提供服务。

从客户端看来,集群中的所有服务器是一个系统,就像一台大型的计算机系统,其上运行着客户端需要的应用服务。

由于集群系统能够保证用户的业务是连续的并且具有持续可用的特性,即具有7x24的可用性。

在一年之内可达99.99%可用性时,这样的集群系统我们称为高可用性的集群系统。

在高可用性的集群系统中,由于是多台服务器在高可用性的集群系统软件的管理下为客户端提供服务,故每一个计算机的部件都有冗余备份,如服务器的主板、网卡、网络、电源系统、风扇系统、应用软件、存储设备(Disk Array)等等,其中最重要的是数据存放的介质要有冗余保护,一旦某个部件出现问题,冗余部件会自动接管故障部件的工作,也就是说某台服务器出现故障,则备份服务器将在集群软件的指挥下自动接管故障服务器的工作,从而消除了此故障对整个系统的影响。

现在常用的双机热备系统仅仅是只有两个节点的、最简单的集群系统,是高可用性集群系统的特例。

高可用性的集群系统主要包括以下几方面硬件组件:服务器组:在高可用性的集群系统中每个节点的服务器必须有自己的CPU、内存和磁盘。

每个服务器节点的磁盘是用于安装操作系统和集群软件程序。

对外提供服务的网路:集群系统中的服务器一般采用TCP/IP网络协议与客户端相连。

每个服务器上都有自己的应用服务,客户端必须通过集群服务器中的网络通路来得到自己的服务。

心跳信号通路:在高可用性的集群系统中每个节点必须有心跳接口,用于服务器节点之间互相监视和通信,以取得备援服务器的工作状态。

高可用性集群系统的实现

高可用性集群系统的实现

高可用性集群系统的实现高可用性(High Availability,HA)是指系统能够在遇到故障或异常情况下仍然正常运行的能力。

在实践中,高可用性集群系统是一种常见的解决方案,用于保障关键业务的连续可用性。

下面是一个高可用性集群系统的实现方式的详细介绍。

1. 负载均衡(Load Balancing)负载均衡是高可用性集群系统的核心组件之一、它通过将请求分发到多个服务器节点上,以达到负载的均衡。

当其中一服务器节点发生故障时,负载均衡器可以自动将请求重新分配到其他可用的节点上,实现对服务的无感知切换和故障恢复。

常见的负载均衡算法包括轮询、加权轮询、最少连接数等。

负载均衡器可以是硬件设备,如F5等,也可以是软件实现,如Nginx、HAProxy等。

2.多节点架构多节点架构可以采用主从模式或活动-备用模式。

在主从模式下,一个节点作为主节点提供服务,其他节点作为从节点,负责备份和故障恢复。

在活动-备用模式下,一个节点处于活动状态,提供服务,其他节点保持备用状态,等待发生故障时切换到活动状态。

3.数据同步和复制为了保证数据的一致性和可用性,高可用性集群系统需要进行数据的同步和复制。

数据同步可以通过主从复制、主主复制或镜像复制等方式来实现。

主从复制是指将主节点上的数据同步到从节点上,从节点可以作为备份用于故障恢复;主主复制是指多个节点之间相互同步数据,实现互为备份和故障切换;镜像复制是指将数据复制到多个节点上,每个节点都可独立提供服务。

数据同步和复制可以通过数据库复制、文件复制、分布式文件系统等方式来实现。

同时,为了保证数据的一致性,可以使用分布式事务、两阶段提交等机制。

4.心跳检测和故障恢复为了实时监测节点的状态和及时发现故障,高可用性集群系统需要进行心跳检测。

心跳检测是指多个节点之间周期性地相互发送心跳消息,一旦发现节点无响应或超时,就将其判定为故障节点。

当出现故障时,高可用性集群系统需要进行故障恢复。

故障恢复可以采用自动切换、人工干预或自动修复等方式。

zookeeper高可用原理

zookeeper高可用原理

zookeeper高可用原理Zookeeper是一个分布式协调服务,提供了高可用性和一致性特性。

其高可用性主要是通过以下几个原理来实现的:1. 去中心化:Zookeeper采用了一种去中心化的设计思路,将数据存储在多个节点上,而不是集中存储在一个单点上。

这样即使有一些节点发生故障,其他节点仍然可以继续提供服务,从而提高了系统的可用性。

2. 选举机制:在Zookeeper集群中,每个节点都有可能成为Leader节点或Follower节点。

Leader节点负责处理客户端的请求,而Follower节点负责与Leader节点保持数据一致性。

当Leader节点发生故障或服务器崩溃时,Follower节点会通过选举机制来选择一个新的Leader节点。

选举过程中,Follower节点会互相通信,通过提议和投票的方式选择一个Leader。

选举完成后,新的Leader节点会与其他节点同步数据,使整个集群重新达到一致状态。

3. 数据一致性:Zookeeper采用了原子广播协议来确保数据的一致性。

当客户端向Leader节点发送写请求时,Leader节点会将请求广播给所有Follower节点。

Follower节点会按照Leader节点的顺序执行这些请求,并将结果返回给Leader节点。

只有当大多数Follower节点都执行成功后,Leader节点才会认为写操作完成,从而确保了数据的一致性。

4. Watch机制:Zookeeper提供了Watch机制,客户端可以在节点上注册监听事件。

当节点的状态发生变化时,所有注册了该节点的客户端都会收到通知。

这种机制可以让客户端实时感知到系统的变化,从而及时作出相应的处理。

例如,当一个客户端注册了一些节点的Watch事件后,如果该节点的数据发生改变,客户端会收到通知并立即触发相应的回调函数。

Watch机制使得客户端可以及时了解到系统的最新状态,从而提高了系统的可用性。

5. 快速失败:Zookeeper在各个节点之间采用了快速失败机制。

高可用集群解决方案

高可用集群解决方案

高可用集群解决方案
《高可用集群解决方案》
在当今数字化时代,企业对于系统的稳定性和可用性要求越来越高。

为了保障业务的正常运行,高可用集群解决方案成为了企业的迫切需求。

高可用集群是一种通过将多台服务器进行集群化部署,实现故障转移和负载均衡的方式,以提高系统的稳定性和可用性。

高可用集群解决方案通常包括硬件和软件两个层面的技术。

在硬件方面,企业可以通过在多台服务器上部署相同的硬件设备,以实现冗余备份和故障转移。

同时,还可以借助负载均衡器来分担服务器的负载,提高系统的性能和稳定性。

在软件方面,高可用集群解决方案会使用一些特定的软件工具来实现故障检测、故障转移和数据同步等功能,从而保障整个系统的稳定性和可用性。

对于企业来说,选择合适的高可用集群解决方案非常重要。

首先,企业需要根据自身的业务需求和数据规模来选择适合的集群解决方案。

其次,企业还需考虑集群解决方案的成本和部署难度,以确保自身能够承受并维护这样的解决方案。

最后,企业还需考虑解决方案的可扩展性和未来的升级计划,以确保投资的长期有效性。

总的来说,高可用集群解决方案是企业保障系统稳定性和可用性的重要手段。

通过合理选择和部署适合自身业务需求的集群
解决方案,企业可以确保系统随时可用,从而提高业务的竞争力和用户体验。

高可用性集群解决方案HA

高可用性集群解决方案HA

1.业务连续1.1.共享存储集群业务系统运营时,服务器、网络、应用等故障将导致业务系统无法正常对外提供业务,造成业务中断,将会给企业带来无法估量的损失。

针对业务系统面临的运营风险,Rose提供了基于共享存储的高可用解决方案,当服务器、网络、应用发生故障时,Rose可以自动快速将业务系统切换到集群备机运行,保证整个业务系统的对外正常服务,为业务系统提供7x24连续运营的强大保障。

1.1.1.适用场景基于共享磁盘阵列的高可用集群,以保障业务系统连续运营硬件结构:2台主机、1台磁盘阵列主机备机心跳磁盘阵列局域网1.1.2.案例分析深圳某证券公司案例客户需求分析某证券公司在全国100多个城市和地区共设有40多个分公司、100多个营业部。

经营范围涵盖:证券经纪,证券投资咨询,与证券交易、证券投资活动有关的财务顾问,证券承销与保荐,证券自营,证券资产管理,融资融券,证券投资基金代销,金融产品代销,为期货公司提供中间介绍业务,证券投资基金托管,股票期权做市。

该证券公司的邮件系统承担着企业的内部沟通、关键信息的传达等重要角色,随着企业的业务发展,邮件系统的压力越来越重。

由于邮件服务器为单机运行,如果发生意外宕机,将会给企业的日常工作带来不便,甚至给企业带来重大损失。

因此,急需对邮件服务器实现高可用保护,保障邮件服务器的7×24小时连续运营。

解决方案经过实际的需求调研,结合客户实际应用环境,推荐采用共享存储的热备集群方案。

部署热备集群前的单机环境:邮件业务系统,后台数据库为MySQL,操作系统为RedHat6,数据存储于磁盘阵列。

在单机单柜的基础上,增加1台备用主机,即可构建基于共享存储的热备集群。

增加1台物理服务器作为邮件服务器的备机,并在备机部署邮件系统,通过Rose共享存储热备集群产品,实现对邮件应用的高可用保护。

如主机上运行的邮件系统出现异常故障导致宕机,比如应用服务异常、硬件设备故障,Rose将实时监测该故障,并自动将邮件系统切换至备用主机,以保障邮件系统的连续运营。

LifeKeeper功能简介

LifeKeeper功能简介
3.国家广电总局
监测中心
服务器
数量:2台
存储
DELL MD3000
数量:1台
操作系统
Windows server 2003 standard edition
数据库
MSSQL Server 2005
HA集群容错软件
LifeKeeper forwindows v6.0
2.石家庄联通系统配置案例
短信平台
服务器
HP ProLiant DL580 G2
数量:6台
存储
HP StorageWorks EVA5000
数量:3台
操作系统
Red Hat Enterprise Linux v4.1
数据库
Oracle 9iA集群容错软件
LifeKeeper for Linuxv6.0
第二部分Lifekeeper集群软件与其他集群软件的对比
LifeKeeper
Redhat Cluster Suite
Microsoft Cluster Server
运 行
环 境
可支持OS
支持RHEL、SUSE、Windows等各种OS
只支持RHEL4以后的版本
只支持Windows2000、2003、2008等Windows系统
4、适用于虚拟环境
LifeKeeper完全适用于虚拟环境,要实现虚拟化环境下的业务连续性,也需要高可用容错技术保障。
虽然虚拟化可通过减少服务器台数来削减TCO、提高服务器使用率等,但出现故障的可能性有时会比通常的物理服务器环境高。
适用于各种虚拟OS※,从硬件到Guest OS上的应用程序一并加以保护,“虚拟化+LifeKeeper”,可在削减成本的同时提高可用性。

高可用性软件LifeKeeper

高可用性软件LifeKeeper
© SIOS Technology, Inc. All rights Reserved.
13
LifeKeeper多路径工具包(ARK)
在Linux 系统下以多路径形式连接存储时,如何配置LifeKeeper ・在服务器连接存储的过程中,有很多客户在配置服务器连接存储的时候, 会选择通过交换机来做交叉连接、即多路径连接。如果客户选择多路径连 接方式,则需要单独购买LifeKeeper多路径工具包才可以使用LifeKeeper。 多路径工具包的选择是根据客户安装的多路径驱动程序来决定的,以下列 举出现有多路径驱动程序的种类。 * windows系统下做多路径连接是不需要多路径工具包的
fibre channel连接 RAID Disk
Applicationh A Application B
A
B
C
D
E
Application C
Application D
Application E
心跳线LAN Public LAN
© SIOS Technology, Inc. All rights Reserved.
© SIOS Technology, Inc. All rights Reserved.
集群的种类
集群可分3种,分别为负载均衡集群、高可用性集群 和高性能集群。 LifeKeeper是创建高可用性集群的软件。
© SIOS Technology, Inc. All rights Reserved.
6
14
LifeKeeper磁盘管理工具包(ARK)
在Linux 系统下如何实现大容量磁盘镜像 ・在linux操作平台用LifeKeeper 镜像工具包Data Replication做磁盘镜 像复制的时候,如果镜像的容量大于2TB,就需要单独购买LVM磁盘管理工 具包来实现数据复制功能。(2T的限制是因为Linux的nbd模块对于磁盘大小 的限制,而不是LK自身的限制)

软件系统运维技术中高可用集群的部署方法

软件系统运维技术中高可用集群的部署方法

软件系统运维技术中高可用集群的部署方法在软件系统运维技术中,高可用集群是一种常用的部署方法,它可以提高系统的稳定性和可靠性。

本文将介绍软件系统运维技术中高可用集群的部署方法,包括负载均衡、故障恢复、监控和自动化等方面的内容。

首先,负载均衡是高可用集群部署的重要组成部分。

负载均衡可以将流量分配到不同的服务器上,确保系统的负载均衡和高可用性。

常见的负载均衡算法有轮询算法、加权轮询算法和最少连接算法等。

通过将负载均衡器放置在系统前端,可以实现流量的智能分发,提高系统的性能和可用性。

其次,故障恢复是高可用集群部署中不可或缺的环节。

故障恢复包括故障检测、故障转移和故障恢复等步骤。

在高可用集群中,通过监控系统的各个节点的状态,一旦发现节点故障,可以快速地将流量切换到其他正常的节点上,从而实现系统的快速故障恢复。

监控是保证高可用集群运行稳定的关键。

通过对系统的实时监控,可以及时发现潜在的问题并采取相应的措施。

监控的内容包括服务器的负载情况、网络流量、磁盘空间、内存使用率等。

可以使用各种监控工具进行监控,如Zabbix、Nagios 等。

监控可以通过设置阈值和报警机制,实现对系统异常情况的及时响应和处理。

自动化是提高高可用集群部署效率和可靠性的重要手段。

通过自动化工具,可以快速地部署、配置和管理集群。

常见的自动化工具有Ansible、Puppet、SaltStack 等。

自动化部署可以减少人工操作的繁琐性和误操作的风险,提高部署的一致性和可靠性。

此外,备份和恢复策略也是保证高可用集群的重要环节。

定期对系统进行备份,以防系统发生故障时能够及时恢复。

备份的内容包括数据、配置文件及系统镜像等。

可以使用各种备份工具进行备份和恢复操作,如rsync、tar等。

总之,软件系统运维技术中高可用集群的部署方法包括负载均衡、故障恢复、监控和自动化等方面的内容。

通过合理部署高可用集群,可以提高系统的稳定性和可用性,并保证系统在面对故障时能够快速恢复正常运行。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
多级工作模式
在该模式下,工作方式支持主从模式、对等模式、 多机互备等模式,即运行一个任务或多个任务。
13
高可用集群技术(1)
共享磁盘技术
允许所有服务器访问所有磁盘,通过分布式锁定 管理器(DLM)来协调对共享磁盘的访问
主要产品: Oracle Parallel Server /Oracle Parallel Server
Retail
Home
$113.0
Shopping (TV) thousand
Retail
Home catalog $90.0
sales
thousand
Transportation Airline reservation
$89.5 thousand
8
集群技术分类
• 高可用性集群技术 • 高性能计算集群技术 • 高可扩展性集群技术
High Performance Computing Cluster
高可扩展性集群技术就是带均衡策略(算法)的服 务器群集。负载均衡群集在多节点之间按照一定的策 略(算法)分发网络或计算处理负载。负载均衡建立 在现有网络结构之上,它提供了一种廉价有效的方法 来扩展服务器带宽,增加吞吐量,提高数据处理能力, 同时又可以避免单点故障。
14
高可用集群技术(2)
镜像技术
通过专业软件,系统将数据写入到本地磁盘的同 时,通过网络发送一份拷贝,写入到对方服务器上 的相应目录中,使数据更新保持同步。
主要产品: BakBone 、Legato、CA、VERITAS
15
高可用集群技术(3)
非共享技术
每台服务器有自己的系统盘和共享数据盘,但对 数据盘的操作以独占方式进行,当服务器发生故障 时,数据盘的所有权自动漂移到对方接管
主要的目的:保障业务系统不间断运行
11
双机热备份系统
双机热备份系统是集群系统中最小运行模式,在 该模式下中采用两台PC服务器做为主机系统,采用 硬件冗余的方式保障业务系统的可持续运行。
双机工作模式
在该模式下,工作方式支持主从模式和对等模式, 即运行一个任务或两个任务。
12
多机集群系统
多机集群是将多台PC服务器纳入到一个大的管理 系统中,在该系统中,每台服务器运行各自的应用 子系统,同时又做为其它应用系统的备援节点,在 硬件冗余上进一步提高
5
非计划停机因素
• 40% 硬件故障 • 31% 软件故障 • 20% 用户错误 • 9% 其他错误
9%
31%
20%
40%
6
关键业务停滞带来的潜在损失
• 客户流失 • 错过商业机会 • 丧失在行业内地位 • 生产能力下降 • 恢复系统的额外支出 • 罚款 • 法律责任 • 名誉损害 • 生命危险 • 股票价值降低
企 业 核 心 竞 争 力 急 剧 下 降
7
关键业务停滞带来巨大经济损失
• 任何的宕机都会造成严重 的损失,关键IT系统的故 障可能很快造成整个商业 运作的瘫痪,每一分钟的 宕机都意味着收入、生产 和利润的损失,甚至于市 场地位的削弱。
Industry Financial
Business Operation
联鼎软件 LANDER SOFTWARE [核心业务数据安全服务商]
1
联鼎软件概况
• 上海联鼎软件是专业的数据安全产品研发推广、数据安 全解决方案供应商,领先的数据安全服务商。公司成立 于2000年,致力于高端集群与主机防护产品研发、用户 系统安全维护、系统整合。 公司投资800万元专注于研 发自主产权的软件产品,树立国产高端系统软件品牌, 目前公司拥有LanderCluster-DN、LanderCluster-MN、 LanderGuard、LanderBoot等联鼎系列数据安全产品, 已成为国内服务器集群及数据安全领域的领军企业,增 强了中国民族软件产业的核心竞争力。联鼎软件在Unix、 Linux 、Windows底层开发,在数据安全服务、系统性能 优化方面有丰富的经验。
Brokerage operations
Average Cost per Hour of Downtime
$6.5 million
Financial Media
Credit card/sales authorization
Pay-per-view television
$2.6 million $1.1 million
2
讲座提纲
• 集群技术介绍 • 集群技术分类 • LanderCluster技术实现
3
集群技术
4
什么是集群?
所谓集群,就是共同为客 户机提供网络资源的一组计 算机系统。
而其中的每一台提供服 务的计算机,我们称之为节 点。当一个节点不可用或者 不能处理客户的请求时,该 请求将会转到另外的可用节 点来处理,对这些对于客户 端来说,它根本不必关心这 些要使用的资源的具体位置, 集群系统会自动完成。
高性能计算集群技术(1)
能力计算(Capability Computing)
是一种基于大规模数据的计算需求,它通过专用 的并行计算软件,将复杂的计算并行推入到集群中 的各个节点上同时进行计算,其最终的目的是缩短 计算时间。
主要应用领域
地质探井数据、气象预报、天体物理、流体力学等 密集型的计算业务。
9Leabharlann 什么是高可用性集群系统“当故障发生时,数据不会丢失, 系统也能够在一个可以接受的时间限 内快速恢复,那么这个计算机系统就 可以认为高可用性的。”
10
高可用性集群系统 (High Availability Cluster) 高可用系统是指以减少服务中断(宕机) 时间为目的的服务器集群技术 针对高可用性集群技术目前使用的较多的是 两个节点的系统。
18
高性能计算集群技术(2)
容量计算(Capacity Computing)
容量计算相对于能力计算来讲是一中较小规模的 计算需求。容量计算的主要目的在于:提高系统的 吞吐能力,以最短的时间执行更多的任务(交易)。
主要应用领域
网络检索、远程医疗诊断、Web信息服务等通信 密集型处理任务
19
高性能计算集群,英文原文为
主要产品:Microsoft MSCS、LanderCluster、VERITAS VCS
16
高性能计算集群,英文原文为 High Performance Computing Cluster 简称HPC Cluster,是指以提高科学计算能 力为目的计算机集群技术。
主要的目的:提高计算处理能力
17
相关文档
最新文档