Hadoop、hive环境搭建详解
我学大数据技术(hadoop2.7+hbase1.0+hive1.2)
这个地方有点奇怪，应该是 1.7.0_45 ,我查一下。系统默认安装了 java 我全部删除，重新安 装 先查询一下有哪些 jdk ： rpm -qa jdk 然后 rpm -e 把查询的都删除 然后重新安装: rpm -ivh jdk-7u45-linux-x64.rpm
2、切换到 hadoop 用户，创建安装所需要的文件夹
2015 年 8 月 13 日 17:12 1、关机和重启 ?
1 shutdown -h now 2 shutdown -r now
2、创建用户，并设置密码 ?
1 useradd wukong ?
1 d wukong
根据提示输入密码，回车，并再确认输入一次密码。 3、查看，删除用户 ?
1 cat /etc/passwd ?
Prerequisites
Install Java. See the Hadoop Wiki for known good versions. Download a stable version of Hadoop from Apache mirrors. /hadoop/HadoopJavaVersions 说明 下载地址 java1.7.45 /technetwork/java/javase/downloads/index-jdk5-jsp-142662.html
来自 </allman90/blog/295173>
2、VMware 虚拟机的安装配置
2015 年 8 月 13 日 21:08
一、基础篇
1、环境的搭建 基础支撑环境的搭建
首先基于 VMware 搭建一个简单机器测试集群环境 1.1VM13808.html?ald 各位可以随意网站下载，系统用 64 位。
hive环境搭建
hive环境搭建注：本次搭建是基于已经搭建好的hadoop3集群搭建的，故对于hadoop3搭建不做介绍，且本次搭建是以本地模式为例特别关注：由于hadoop3xy不兼容hive2xy，如使⽤hive安装会出现各种问题，故使⽤hive3作为本次环境搭建1.安装mysql1.1安装mysql数据库yum install -y mysql-server1.2对字符集进⾏设置：进⼊/etc/f⽂件中，加⼊default-character-set=utf8，代码如下:1.3启动mysql服务，代码如下：service mysqld start #启动mysql服务service mysqld status #查看mysql是否启动systemctl enable mysqld #设置myql开机启动1systemctl daemon-reload #设置myql开机启动21.4设置myql的root密码mysql -uroot -p ,第⼀次进⼊时，默认密码为空，输⼊密码时直接回车可直接进⼊set password for 'root'@'localhost' = password('123456'); 设置密码为1234561.5新建root1⽤户，并且赋予两个⽤户远程登陆权限；create user 'root1'@'%' identified by '123456'; #如果使⽤root作为连接⽤户此步可以省略，本次安装使⽤root⽤户作为连接⽤户grant all on *.* to'root1'@'%'; #如果使⽤root作为连接⽤户此步可以省略，本次安装使⽤root⽤户作为连接⽤户grant all on *.* to'root'@'%';2.1配置hive-env.sh ,进⼊conf⽬录，cp hive-env.sh.template hive-env.sh ,打开 hive-env.sh⽂件：export HADOOP_HOME=/app/hadoop-3.2.1export HIVE_CONF_DIR=/app/hive-3.1.2/conf2.2配置hive-site.xml，进⼊conf⽬录，cp hive-default.xml.template hive-site.xml，打开hive-env.sh⽂件，对于如下内容有则修改，⽆则新增：<property><name>system:java.io.tmpdir</name><value>/user/hive/warehouse</value></property><property><name>system:</name><value>${}</value></property><property><name>hive.metastore.db.type</name><value>mysql</value></property><property><name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://localhost:3306/metastore?createDatabaseIfNotExist=true</value></property><property><name>javax.jdo.option.ConnectionDriverName</name><value>com.mysql.jdbc.Driver</value></property><property><name>javax.jdo.option.ConnectionUserName</name><value>root</value><description>user name for connecting to mysql server</description></property><property><name>javax.jdo.option.ConnectionPassword</name><value>root</value><description>password for connecting to mysql server</description></property>2.3创建⽬录：hadoop fs -mkdir -p /tmphadoop fs -mkdir -p /user/hive/warehousehadoop fs -chmod g+w /tmphadoop fs -chmod g+w /user/hive/warehouse2.4替换低版本的guava.jar⽂件，否则初始化时会报错：错误⼀：Exception in thread "main" ng.NoSuchMethodError: mon.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V原因：hadoop和hive的两个guava.jar版本不⼀致两个位置分别位于下⾯两个⽬录： - /usr/local/hive/lib/ - /usr/local/hadoop/share/hadoop/common/lib/解决办法：除低版本的那个，将⾼版本的复制到低版本⽬录下2.5删除hive-site.xml中的特殊字符，否则初始化时会报如下错误：错误⼆：Exception in thread "main" ng.RuntimeException: com.ctc.wstx.exc.WstxParsingException: Illegal character entity: expansion character (code 0x8at [row,col,system-id]: [3224,96,"file:/app/hive-3.1.2/conf/hive-site.xml"]原因： hive-site.xml配置⽂件中，3224⾏有特殊字符解决办法：进⼊hive-site.xml⽂件，跳转到对应⾏，删除⾥⾯的特殊字符即可2.6上次jdbc驱动⾄hive/lib⽬录下，否则会报如下错误：错误三：org.apache.hadoop.hive.metastore.HiveMetaException: Failed to load driverUnderlying cause: ng.ClassNotFoundException : com.mysql.jdbc.Driver原因：缺少jdbc驱动解决办法：上传jdbc( mysql-connector-java-5.1.36-bin.jar )驱动到 hive的lib下2.7初始化hiveschematool -dbType mysql -initSchema2.8启动 metastore服务（不启⽤会报：HiveException ng.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient。
大数据集群配置过程_hive篇
大数据集群配置过程_hive篇JDDC_SEED_BIGDATA 2015-01-151.概述本篇文档主要讲解hive的安装过程。
Hadoop是安装hbase和hive的基础，即安装hbase和hive之前必须先安装hadoop并且hdfs和mapreduce必须都功能正常。
因为hbase和hive 其底层所使用都是应用hadoop的两个核心部分—hdfs和mapreduce。
在安装hadoop之前需要考滤操作系统的版本（32位还是64位）以及hbase和hive的版本，否则会引起jar包不支持而导致的jar包替换或jar包重新编译等问题。
Hadoop、hbase、hive的版本匹配信息如下：由于我们所使用的操作系统centos6.5是32位，而且安装的hadoop是hadoop2.2.0，所以本次安装的hive版本是0.12.0切记，在安装hbase之前一定先安装hadoop，而且要确保hadoop中的HDFS和MAPREDUCE都是可以正常使用的。
2.正文与hadoop和hbase不同，hive在安装的过程中不需要把hive的包分别发布到个节点上，只需要在namenode节点上hive包进行配置，但需要在配置的过程中指定各个datanode节点的主机名。
2.1下载安装mysql本次将Hive配置成Server模式，并且使用MySQL作为元数据数据库。
原则上MySQL不必要非得安装在namenode节点上，可以装在一个单独的服务器上，并进行远程联接。
本次技术检证，由于资源有限，把mysql安装在namenode节点上。
下载MySQL-5.6.22-1.linux_glibc2.5.i386.rpm-bundle.tar，参考下载地址/downloads/。
具体的安装以及root初始密码的修改请参考《linux下MySQL安装及设置》和《MySQL修改root密码的各种方法整理》这两篇文档。
2.2创建Hive元数据库创建数据库hive：create database if not exists hive;创建数据库用户hive：create user hive identified by 'hive2015';授权可以访问数据库hive的主机和用户：grant all on hive.* to 'hive'@'hadoop01' identified by 'hive2015';grant all on hive.* to 'hive'@'hadoop02' identified by 'hive2015';grant all on hive.* to 'hive'@'hadoop03' identified by 'hive2015';grant all on hive.* to 'hive'@'hadoop04' identified by 'hive2015';2.3安装以及配置hive下载hive-0.12.0-bin.tar.gz，参考下载地址/downloads.html。
搭建hadoop集群的步骤
搭建hadoop集群的步骤Hadoop是一个开源的分布式计算平台，用于存储和处理大规模的数据集。
在大数据时代，Hadoop已经成为了处理海量数据的标准工具之一。
在本文中，我们将介绍如何搭建一个Hadoop集群。
步骤一：准备工作在开始搭建Hadoop集群之前，需要进行一些准备工作。
首先，需要选择适合的机器作为集群节点。
通常情况下，需要至少三台机器来搭建一个Hadoop集群。
其次，需要安装Java环境和SSH服务。
最后，需要下载Hadoop的二进制安装包。
步骤二：配置Hadoop环境在准备工作完成之后，需要对Hadoop环境进行配置。
首先，需要编辑Hadoop的配置文件，包括core-site.xml、hdfs-site.xml、mapred-site.xml和yarn-site.xml。
其中，core-site.xml用于配置Hadoop的核心参数，hdfs-site.xml用于配置Hadoop分布式文件系统的参数，mapred-site.xml用于配置Hadoop的MapReduce参数，yarn-site.xml用于配置Hadoop的资源管理器参数。
其次，需要在每个节点上创建一个hadoop用户，并设置其密码。
最后，需要在每个节点上配置SSH免密码登录，以便于节点之间的通信。
步骤三：启动Hadoop集群在完成Hadoop环境的配置之后，可以启动Hadoop集群。
首先，需要启动Hadoop的NameNode和DataNode服务。
NameNode是Hadoop分布式文件系统的管理节点，负责管理文件系统的元数据。
DataNode是Hadoop分布式文件系统的存储节点，负责实际存储数据。
其次，需要启动Hadoop的ResourceManager和NodeManager服务。
ResourceManager 是Hadoop的资源管理器，负责管理集群中的资源。
NodeManager是Hadoop的节点管理器，负责管理每个节点的资源。
hadoop环境搭建
hadoop环境搭建⼀、安装ssh免密登录命令：ssh-keygenoverwrite(覆盖写⼊)输⼊y⼀路回车将⽣成的密钥发送到本机地址ssh-copy-id localhost（若报错命令⽆法找到则需要安装openssh-clients）yum –y install openssh-clients测试免密设置是否成功ssh localhost⼆、卸载已有java确定JDK版本rpm –qa | grep jdkrpm –qa | grep gcj切换到root⽤户，根据结果卸载javayum -y remove java-1.8.0-openjdk-headless.x86_64 yum -y remove java-1.7.0-openjdk-headless.x86_64卸载后输⼊java –version查看三、安装java切换回hadoop⽤户，命令：su hadoop查看下当前⽬标⽂件，命令：ls将桌⾯的hadoop⽂件夹中的java及hadoop安装包移动到app⽂件夹中命令：mv /home/hadoop/Desktop/hadoop/jdk-8u141-linux-x64.gz /home/hadoop/app mv /home/hadoop/Desktop/hadoop/hadoop-2.7.0.tar.gz /home/hadoop/app解压java程序包，命令：tar –zxvf jdk-7u79-linux-x64.tar.gz创建软连接ln –s jdk1.8.0_141 jdk配置jdk环境变量切换到root⽤户再输⼊vi /etc/profile输⼊export JAVA_HOME=/home/hadoop/app/jdk1.8.0_141export JAVA_JRE=JAVA_HOME/jreexport CLASSPATH=.:$JAVA_HOME/lib:$JAVA_JRE/lib export PATH=$PATH:$JAVA_HOME/bin保存退出，并使/etc/profile⽂件⽣效source /etc/profile能查询jdk版本号，说明jdk安装成功java -version四、安装hadoop切换回hadoop⽤户，解压缩hadoop-2.6.0.tar.gz安装包创建软连接，命令：ln -s hadoop-2.7.0 hadoop验证单机模式的Hadoop是否安装成功，命令：hadoop/bin/hadoop version此时可以查看到Hadoop安装版本为Hadoop2.7.0，说明单机版安装成功。
Hadoop2.4、Hbase0.98、Hive集群安装配置手册
Hadoop、Zookeeper、Hbase、Hive集群安装配置手册运行环境机器配置虚机CPU E5504*2 (4核心)、内存 4G、硬盘25G进程说明QuorumPeerMain ZooKeeper ensemble member DFSZKFailoverController Hadoop HA进程，维持NameNode高可用 JournalNode Hadoop HA进程，JournalNode存储EditLog,每次写数据操作有大多数(>=N+1)返回成功时即认为该次写成功,保证数据高可用 NameNode Hadoop HDFS进程，名字节点DataNode HadoopHDFS进程， serves blocks NodeManager Hadoop YARN进程，负责 Container 状态的维护，并向 RM 保持心跳。
ResourceManager Hadoop YARN进程，资源管理 JobTracker Hadoop MR1进程，管理哪些程序应该跑在哪些机器上，需要管理所有 job 失败、重启等操作。
TaskTracker Hadoop MR1进程，manages the local Childs RunJar Hive进程HMaster HBase主节点HRegionServer HBase RegionServer, serves regions JobHistoryServer 可以通过该服务查看已经运行完的mapreduce作业记录应用 服务进程 主机/hostname 系统版本mysql mysqld10.12.34.14/ Centos5.810.12.34.15/h15 Centos5.8 HadoopZookeeperHbaseHiveQuorumPeerMainDFSZKFailoverControllerNameNodeNodeManagerRunJarHMasterJournalNodeJobHistoryServerResourceManagerDataNodeHRegionServer10.12.34.16/h16 Centos5.8 HadoopZookeeperHbaseHiveDFSZKFailoverControllerQuorumPeerMainHMasterJournalNodeNameNodeResourceManagerDataNodeHRegionServerNodeManager10.12.34.17/h17 Centos5.8 HadoopZookeeperHbaseHiveNodeManagerDataNodeQuorumPeerMainJournalNodeHRegionServer环境准备1.关闭防火墙15、16、17主机：# service iptables stop2.配置主机名a) 15、16、17主机：# vi /etc/hosts添加如下内容：10.12.34.15 h1510.12.34.16 h1610.12.34.17 h17b) 立即生效15主机：# /bin/hostname h1516主机：# /bin/hostname h1617主机：# /bin/hostname h173. 创建用户15、16、17主机：# useraddhduser密码为hduser# chown -R hduser:hduser /usr/local/4.配置SSH无密码登录a)修改SSH配置文件15、16、17主机：# vi /etc/ssh/sshd_config打开以下注释内容：#RSAAuthentication yes#PubkeyAuthentication yes#AuthorizedKeysFile .ssh/authorized_keysb)重启SSHD服务15、16、17主机：# service sshd restartc)切换用户15、16、17主机：# su hduserd)生成证书公私钥15、16、17主机：$ ssh‐keygen ‐t rsae)拷贝公钥到文件（先把各主机上生成的SSHD公钥拷贝到15上的authorized_keys文件，再把包含所有主机的SSHD公钥文件authorized_keys拷贝到其它主机上）15主机：$cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys16主机：$cat ~/.ssh/id_rsa.pub | ssh hduser@h15 'cat >> ~/.ssh/authorized_keys'17主机：$cat ~/.ssh/id_rsa.pub | ssh hduser@h15 'cat >> ~/.ssh/authorized_keys'15主机：# cat ~/.ssh/authorized_keys | ssh hduser@h16 'cat >> ~/.ssh/authorized_keys'# cat ~/.ssh/authorized_keys | ssh hduser@h17 'cat >> ~/.ssh/authorized_keys'5.Mysqla) Host10.12.34.14:3306b) username、passwordhduser@hduserZookeeper使用hduser用户# su hduser安装（在15主机上）1.下载/apache/zookeeper/2.解压缩$ tar ‐zxvf /zookeeper‐3.4.6.tar.gz ‐C /usr/local/配置（在15主机上）1.将zoo_sample.cfg重命名为zoo.cfg$ mv /usr/local/zookeeper‐3.4.6/conf/zoo_sample.cfg /usr/local/zookeeper‐3.4.6/conf/zoo.cfg2.编辑配置文件$ vi /usr/local/zookeeper‐3.4.6/conf/zoo.cfga)修改数据目录dataDir=/tmp/zookeeper修改为dataDir=/usr/local/zookeeper‐3.4.6/datab)配置server添加如下内容：server.1=h15:2888:3888server.2=h16:2888:3888server.3=h17:2888:3888server.X=A:B:C说明：X：表示这是第几号serverA：该server hostname/所在IP地址B：该server和集群中的leader交换消息时所使用的端口C：配置选举leader时所使用的端口3.创建数据目录$ mkdir /usr/local/zookeeper‐3.4.6/data4.创建、编辑文件$ vi /usr/local/zookeeper‐3.4.6/data/myid添加内容（与zoo.cfg中server号码对应）：1在16、17主机上安装、配置1.拷贝目录$ scp ‐r /usr/local/zookeeper‐3.4.6/ hduser@10.12.34.16:/usr/local/$ scp ‐r /usr/local/zookeeper‐3.4.6/ hduser@10.12.34.17:/usr/local/2.修改myida)16主机$ vi /usr/local/zookeeper‐3.4.6/data/myid1 修改为2b)17主机$ vi /usr/local/zookeeper‐3.4.6/data/myid1修改为3启动$ cd /usr/local/zookeeper‐3.4.6/$./bin/zkServer.sh start查看状态：$./bin/zkServer.sh statusHadoop使用hduser用户# su hduser安装（在15主机上）一、安装Hadoop1.下载/apache/hadoop/common/2.解压缩$ tar ‐zxvf /hadoop‐2.4.0.tar.gz ‐C /usr/local/二、 编译本地库，主机必须可以访问internet。
Hadoop 搭建
（与程序设计有关）
课程名称：云计算技术提高
实验题目：Hadoop搭建
Xx xx：0000000000
x x:xx
x x：
xxxx
2021年5月21日
实验目的及要求：
开源分布式计算架构Hadoop的搭建
软硬件环境：
Vmware一台计算机
算法或原理分析（实验内容）：
Hadoop是Apache基金会旗下一个开源的分布式存储和分析计算平台，使用Java语言开发，具有很好的跨平台性，可以运行在商用（廉价）硬件上，用户无需了解分布式底层细节，就可以开发分布式程序，充分使用集群的高速计算和存储。
三．Hadoop的安装
1.安装并配置环境变量
进入官网进行下载hadoop-2.7.5, 将压缩包在/usr目录下解压利用tar -zxvf Hadoop-2.7.5.tar.gz命令。同样进入 vi /etc/profile 文件，设置相应的HADOOP_HOME、PATH在hadoop相应的绝对路径。
4.建立ssh无密码访问
二．JDK安装
1.下载JDK
利用yum list java-1.8*查看镜像列表；并利用yum install java-1.8.0-openjdk* -y安装
2.配置环境变量
利用vi /etc/profile文件配置环境，设置相应的JAVA_HOME、JRE_HOME、PATH、CLASSPATH的绝对路径。退出后，使用source /etc/profile使环境变量生效。利用java -version可以测试安装是否成功。
3.关闭防火墙并设置时间同步
通过命令firewall-cmd–state查看防火墙运行状态；利用systemctl stop firewalld.service关闭防火墙；最后使用systemctl disable firewalld.service禁止自启。利用yum install ntp下载相关组件，利用date命令测试
Hadoop集群的搭建方法与步骤
Hadoop集群的搭建方法与步骤随着大数据时代的到来，Hadoop作为一种分布式计算框架，被广泛应用于数据处理和分析领域。
搭建一个高效稳定的Hadoop集群对于数据科学家和工程师来说至关重要。
本文将介绍Hadoop集群的搭建方法与步骤。
一、硬件准备在搭建Hadoop集群之前，首先要准备好适合的硬件设备。
Hadoop集群通常需要至少三台服务器，一台用于NameNode，两台用于DataNode。
每台服务器的配置应该具备足够的内存和存储空间，以及稳定的网络连接。
二、操作系统安装在选择操作系统时，通常推荐使用Linux发行版，如Ubuntu、CentOS等。
这些操作系统具有良好的稳定性和兼容性，并且有大量的Hadoop安装和配置文档可供参考。
安装操作系统后，确保所有服务器上的软件包都是最新的。
三、Java环境配置Hadoop是基于Java开发的，因此在搭建Hadoop集群之前，需要在所有服务器上配置Java环境。
下载最新版本的Java Development Kit（JDK），并按照官方文档的指引进行安装和配置。
确保JAVA_HOME环境变量已正确设置，并且可以在所有服务器上运行Java命令。
四、Hadoop安装与配置1. 下载Hadoop从Hadoop官方网站上下载最新的稳定版本，并将其解压到一个合适的目录下，例如/opt/hadoop。
2. 编辑配置文件进入Hadoop的安装目录，编辑conf目录下的hadoop-env.sh文件，设置JAVA_HOME环境变量为Java的安装路径。
然后，编辑core-site.xml文件，配置Hadoop的核心参数，如文件系统的默认URI和临时目录。
接下来，编辑hdfs-site.xml文件，配置Hadoop分布式文件系统（HDFS）的相关参数，如副本数量和数据块大小。
最后，编辑mapred-site.xml文件，配置MapReduce框架的相关参数，如任务调度器和本地任务运行模式。
hive安装配置实验实训报告
hive安装配置实验实训报告一、实验目的本实验旨在通过实际操作，掌握Hive的安装与配置过程，了解Hive的基本功能和使用方法，为后续的大数据处理和分析奠定基础。
二、实验环境1.硬件环境：高性能计算机，至少4核CPU、8GB内存、50GB 硬盘。
2.软件环境：Ubuntu 18.04操作系统，Java Development Kit (JDK) 1.8，Apache Hadoop 2.7.3。
三、实验步骤1.安装与配置Hadoop：首先，在实验环境中安装Hadoop，并配置Hadoop集群。
确保NameNode、SecondaryNameNode、DataNode等节点正常运行。
2.安装Hive：使用apt-get命令安装Hive。
在安装过程中，选择与Hadoop版本兼容的Hive版本。
3.配置Hive：编辑Hive的配置文件hive-site.xml，配置Hive连接到Hadoop集群的相关参数。
4.初始化Hive元数据：运行Hive的元数据初始化脚本，创建Hive元数据库。
5.启动Hive服务：使用以下命令启动Hive的元数据库、Metastore和HiveServer2等服务。
1.元数据库：hive --service metastore &2.Metastore：hive --service metastore &3.HiveServer2：hive --service hiveserver2 &6.测试Hive：使用Hive的命令行工具进入Hive交互式查询环境，执行简单的SQL查询语句，测试Hive是否安装成功。
四、实验结果与分析经过上述步骤，我们成功在实验环境中安装和配置了Hive。
通过执行简单的SQL查询语句，验证了Hive的基本功能。
具体而言，我们执行了以下查询语句：1.创建数据库：CREATE DATABASE mydatabase;2.选择数据库：USE mydatabase;3.创建表：CREATE TABLE mytable (id INT, name STRING);4.插入数据：INSERT INTO TABLE mytable VALUES (1, 'Alice'), (2, 'Bob');5.查询数据：SELECT * FROM mytable;6.删除表：DROP TABLE mytable;7.删除数据库：DROP DATABASE mydatabase;通过这些查询语句的执行，我们验证了Hive的基本功能，包括数据库管理、表创建、数据插入、数据查询、表删除和数据库删除等。
hadoop搭建与eclipse开发环境设置
hadoop搭建与eclipse开发环境设置――罗利辉1.前言1.1 目标目的很简单，为进行研究与学习，部署一个hadoop运行环境，并搭建一个hadoop开发与测试环境。
具体目标是：✓在ubuntu系统上部署hadoop✓在windows 上能够使用eclipse连接ubuntu系统上部署的hadoop进行开发与测试1.2 软硬件要求注意：Hadoop版本和Eclipse版本请严格按照要求。
现在的hadoop最新版本是hadoop-0.20.203，我在windows上使用eclipse（包括3.6版本和3.3.2版本）连接ubuntu上的hadoop-0.20.203环境一直没有成功。
但是开发测试程序是没有问题的，不过需要注意权限问题。
如果要减少权限问题的发生，可以这样做：ubuntu上运行hadoop的用户与windows 上的用户一样。
1.3 环境拓扑图ubuntu 192.168.69.231ubuntu2192.168.69.233 ubuntu1192.168.69.2322.Ubuntu 安装安装ubuntu11.04 server系统，具体略。
我是先在虚拟机上安装一个操作系统，然后把hadoop也安装配置好了，再克隆二份，然后把主机名与IP修改，再进行主机之间的SSH配置。
如果仅作为hadoop的运行与开发环境，不需要安装太多的系统与网络服务，或者在需要的时候通过apt-get install进行安装。
不过SSH服务是必须的。
3.Hadoop 安装以下的hadoop安装以主机ubuntu下进行安装为例。
3.1 下载安装jdk1.6安装版本是：jdk-6u26-linux-i586.bin，我把它安装拷贝到：/opt/jdk1.6.0_263.2 下载解压hadoop安装包是：hadoop-0.20.2.tar.gz。
3.3 修改系统环境配置文件切换为根用户。
●修改地址解析文件/etc/hosts，加入3.4 修改hadoop的配置文件切换为hadoop用户。
Hadoop大数据平台安装实验(详细步骤)(虚拟机linux)
大数据技术实验报告大数据技术实验一Hadoop大数据平台安装实验1实验目的在大数据时代，存在很多开源的分布式数据采集、计算、存储技术，本实验将在熟练掌握几种常见Linux命令的基础上搭建Hadoop(HDFS、MapReduce、HBase、Hive)、Spark、Scala、Storm、Kafka、JDK、MySQL、ZooKeeper等的大数据采集、处理分析技术环境。
2实验环境个人笔记本电脑Win10、Oracle VM VirtualBox 5.2.44、CentOS-7-x86_64-Minimal-1511.iso3实验步骤首先安装虚拟机管理程序，然后创建三台虚拟服务器，最后在虚拟服务器上搭建以Hadoop 集群为核心的大数据平台。
3.1快速热身，熟悉并操作下列Linux命令·创建一个初始文件夹，以自己的姓名（英文）命名；进入该文件夹，在这个文件夹下创建一个文件，命名为Hadoop.txt。
·查看这个文件夹下的文件列表。
·在Hadoop.txt中写入“Hello Hadoop!”，并保存·在该文件夹中创建子文件夹”Sub”，随后将Hadoop.txt文件移动到子文件夹中。
·递归的删除整个初始文件夹。
3.2安装虚拟机并做一些准备工作3.2.1安装虚拟机下载系统镜像，CentOS-7-x86_64-Minimal-1511.iso。
虚拟机软件使用Oracle VM VirtualBox 5.2.44。
3.2.2准备工作关闭防火墙和Selinux，其次要安装perl 、libaio、ntpdate 和screen。
然后检查网卡是否开机自启，之后修改hosts，检查网络是否正常如图：然后要创建hadoop用户，之后多次用，并且生成ssh 密钥并分发。
最后安装NTP 服务。
3.3安装MYSQL 3.3.1安装3.3.2测试3.4安装ZooKeeper。
Hadoop环境搭建
Hadoop环境搭建啥是⼤数据？问啥要学⼤数据？在我看来⼤数据就很多的数据，超级多，咱们⽇常⽣活中的数据会和历史⼀样，越来越多⼤数据有四个特点(4V)：⼤多样快价值学完⼤数据我们可以做很多事，⽐如可以对许多单词进⾏次数查询（本节最后的实验），可以对股市进⾏分析，所有的学习都是为了赚⼤钱！（因为是在Linux下操作，所以⽤到的全是Linux命令，不懂可以百度，这篇⽂章有⼀些简单命令。
常⽤）第⼀步安装虚拟机配置环境1.下载虚拟机，可以⽤⾃⼰的，没有的可以下载这个 passowrd：u8lt2.导⼊镜像，可以⽤这个 password：iqww （不会创建虚拟机的可以看看，不过没有这个复杂，因为导⼊就能⽤）3.更换主机名，vi /etc/sysconfig/network 改HOSTNAME=hadoop01 (你这想改啥改啥，主要是为了清晰，否则后⾯容易懵)注：在这⾥打开终端4.查看⽹段，从编辑-虚拟⽹络编辑器查看，改虚拟机⽹段，我的是192.168.189.128-254（这个你根据⾃⼰的虚拟机配置就⾏，不⽤和我⼀样，只要记住189.128这个段就⾏）5.添加映射关系，输⼊：vim /etc/hosts打开⽂件后下⾯添加 192.168.189.128 hadoop01（红⾊部分就是你们上⾯知道的IP）（这⾥必须是hadoop01，为了⽅便后⾯直接映射不⽤敲IP）6.在配置⽂件中将IP配置成静态IP 输⼊： vim /etc/sysconfig/network-scripts/ifcfg-eth0 （物理地址也要⼀样哦！不知道IP的可以输⼊：ifconfig 查看⼀下）7.重启虚拟机输⼊：reboot (重启后输⼊ ping 能通就说明没问题)第⼆步克隆第⼀台虚拟机，完成第⼆第三虚拟机的配置1.⾸先把第⼀台虚拟机关闭，在右击虚拟机选项卡，管理-克隆即可（克隆两台⼀台hadoop02 ⼀台hadoop03）2.克隆完事后，操作和第⼀部基本相同唯⼀不同的地⽅是克隆完的虚拟机有两块⽹卡，我们把其中⼀个⽹卡注释就好（⼀定牢记！通过这⾥的物理地址⼀定要和配置⽂件中的物理地址相同）输⼊：vi /etc/udev/rules.d/70-persistent-net.rules 在第⼀块⽹卡前加# 将第⼆块⽹卡改为eth03.当三台机器全部配置完之后，再次在hosts⽂件中加⼊映射达到能够通过名称互相访问的⽬的输⼊：vim /etc/hosts （三台都要如此设置）（改完之后记得reboot重启）第三步使三台虚拟机能够通过SHELL免密登录1.查看SSH是否安装 rmp -qa | grep ssh （如果没有安装，输⼊sudo apt-get install openssh-server）2.查看SSH是否启动 ps -e | grep sshd （如果没有启动，输⼊sudo /etc/init.d/ssh start）3.该虚拟机⽣成密钥 ssh-keygen -t rsa（连续按下四次回车就可以了）4.将密钥复制到另外⼀台虚拟机⽂件夹中并完成免密登录输⼊：ssh-copy-id -i ~/.ssh/id_rsa.pub 2 （同样把秘钥给hadoop03和⾃⼰）（输⼊完后直接下⼀步，如果下⼀步失败再来试试改这个修改/etc/ssh/ssh_config中的StrictHostKeyCheck ask ）5.之后输⼊ ssh hadoop02就可以正常访问第⼆台虚拟机啦注：可能你不太理解这是怎么回事，我这样解释⼀下，免密登录是为了后⾯进⾏集群操作时⽅便，⽣成秘钥就像是⽣成⼀个钥匙，这个钥匙是公钥，公钥可以打开所有门，之后把这个钥匙配两把，⼀把放在hadoop02的那⾥，⼀把放在hadoop03的那⾥，这样hadoop01可以对hadoop02和hadoop03进⾏访问。
Hive在云环境中的部署与最佳实践
Hive在云环境中的部署与最佳实践在云计算环境中，Hive是一种开源的数据仓库工具，广泛用于大数据分析和查询。
本文将介绍如何在云环境中部署Hive并提供一些最佳实践。
一、部署Hive在云环境中部署Hive需要以下步骤：1.选择适当的云提供商：根据实际需求选择一个适合的云提供商，如Amazon Web Services（AWS）、Microsoft Azure或Google Cloud Platform（GCP）等。
这些云提供商都提供了Hadoop和Hive的托管服务，可以轻松地进行部署。
2.创建虚拟机实例：在选择的云平台上创建一个虚拟机实例，确保实例的配置满足Hive运行的要求。
通常来说，建议选择具有足够内存和存储容量的实例类型。
3.安装Hadoop和Hive：在虚拟机实例上安装Hadoop和Hive。
可以通过使用云提供商的托管服务或手动安装这些组件。
确保按照Hadoop和Hive的官方文档进行正确的安装和配置。
4.配置Hive：安装完Hadoop和Hive后，需要根据实际需求进行配置。
主要包括设置Hadoop和Hive的环境变量、配置Hive的元数据存储和指定Hive使用的文件系统等。
5.启动Hive服务：配置完成后，启动Hive服务。
可以使用命令行工具或Web界面来访问Hive并执行查询操作。
二、最佳实践以下是一些在云环境中部署Hive时的最佳实践：1.应用资源的弹性伸缩：云提供商的弹性伸缩功能可根据需求自动调整云资源的数量和规模。
在Hive集群中，可以根据查询的负载自动增加或减少节点数量，以充分利用资源并提高性能。
2.数据备份与恢复：云环境中的Hive数据可以进行定期备份，以防止数据丢失。
云提供商通常提供了可靠的数据备份和恢复机制，可根据需要进行数据的备份和还原操作。
3.安全性管理：在云环境中部署Hive时，安全性是一个重要的考虑因素。
确保实施适当的访问控制策略和权限管理措施，以保护数据的机密性和完整性。
Hadoop开发环境搭建(Win8 + Eclipse + Linux)
Hadoop开发环境搭建（Win8+Linux）常见的Hadoop开发环境架构有以下三种：1、Eclipse与Hadoop集群在同一台Windows机器上。
2、Eclipse与Hadoop集群在同一台Linux机器上。
3、Eclipse在Windows上，Hadoop集群在远程Linux机器上。
点评：第一种架构：必须安装cygwin，Hadoop对Windows的支持有限，在Windows 上部署hadoop会出现相当多诡异的问题。
第二种架构：Hadoop机器运行在Linux上完全没有问题，但是有大部分的开发者不习惯在Linux上做开发。
这种架构适合习惯使用Linux的开发者。
第三种架构：Hadoop集群部署在Linux上，保证了稳定性，Eclipse在Windows 上，符合大部分开发者的习惯。
本文主要介绍第三种Hadoop开发环境架构的搭建方法。
Hadoop开发环境的搭建分为两大块：Hadoop集群搭建、Eclipse环境搭建。
其中Hadoop集群搭建可参考官方文档，本文主要讲解Eclipse环境搭建（如何在Eclipse 中查看和操作HDFS、如何在Eclipse中执行MapReduce作业）。
搭建步骤：1、搭建Hadoop集群（Linux、JDK6、Hadoop-1.1.2）2、在Windows上安装JDK6+3、在Windows上安装Eclipse3.3+4、在Eclipse上安装hadoop-eclipse-plugin-1.1.2.jar插件（如果没有，则需自行编译源码）5、在Eclipse上配置Map/Reduce Location搭建Hadoop集群此步骤可参考Hadoop官方文档在Windows上安装JDK此步骤可参考官方文档在Window上安装Eclipse此步骤可参考官方文档在Eclipse上安装hadoop-eclipse-plugin-1.1.2.jar插件Hadoop-1.1.2的发布包里面没有hadoop-eclipse-plugin-1.1.2.jar，开发者必须根据所在的环境自行编译hadoop-eclipse-plugin-1.1.2.jar插件。
hadoop安装指南(非常详细,包成功)
➢3.10.2.进程➢JpsMaster节点：namenode/tasktracker（如果Master不兼做Slave, 不会出现datanode/TasktrackerSlave节点：datanode/Tasktracker说明：JobTracker 对应于NameNodeTaskTracker 对应于DataNodeDataNode 和NameNode 是针对数据存放来而言的JobTracker和TaskTracker是对于MapReduce执行而言的mapreduce中几个主要概念，mapreduce整体上可以分为这么几条执行线索：jobclient，JobTracker与TaskTracker。
1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs，并把路径提交到Jobtracker,然后由JobTracker创建每个Task（即MapTask和ReduceTask）并将它们分发到各个TaskTracker服务中去执行2、JobTracker是一个master服务，软件启动之后JobTracker接收Job，负责调度Job的每一个子任务task运行于TaskTracker上，并监控它们，如果发现有失败的task就重新运行它。
一般情况应该把JobTracker部署在单独的机器上。
3、TaskTracker是运行在多个节点上的slaver服务。
TaskTracker主动与JobTracker通信，接收作业，并负责直接执行每一个任务。
TaskTracker都需要运行在HDFS的DataNode上3.10.3.文件系统HDFS⏹查看文件系统根目录：Hadoop fs–ls /。
Hadoop平台搭建与应用(第2版)(微课版)项目8 Hadoop平台应用综合案例
教 学 提 示
项目8 Hadoop平台应用综合案例
任务8.1 本地数据集上传到数据仓库Hive中
下面把test.txt中的数据导入到数据仓库Hive中。为了完成这个操作，需要先把test.txt上传到HDFS中，再在Hive中创建一个外部表，完成数据的导入。
1．启动HDFS
HDFS是Hadoop的核心组件，因此，要想使用HDFS，必须先安装Hadoop。这里已经安装了Hadoop，打开一个终端，执行命令“start-all.sh”，启动Hadoop服务。
（3）在项目名上，右击选择Open Module Settings，在弹出的页面中选择Modules，单击+号，选择Scala，若本地没有scala，则单击Create...，再单击Download...，选择scala版本2.11.0,单击OK。
（4）编辑pom.xml文件。
（5）在scala文件夹下，新建scala文件，选择Object型，命名为WordCount。
578 NodeManager
3154 Jps
1028 QuorumPeerMain
474 DataNode
1102 HRegionServer
进入HBase Shell。
在HBase中创建user_action表。
新建一个终端，导入数据。
再次切换到HBase Shell运行的终端窗口，执行命令“scan'user_action'”，查询插入的数据。
启动Hadoop集群和HBase服务，并查看集群节点进程。
master1节点的进程如下。
[root@master1 bin]# jps
1714 SecondaryNameNode
Hadoop大数据开发基础教案Hadoop集群的搭建及配置教案
Hadoop大数据开发基础教案-Hadoop集群的搭建及配置教案教案章节一：Hadoop简介1.1 课程目标：了解Hadoop的发展历程及其在大数据领域的应用理解Hadoop的核心组件及其工作原理1.2 教学内容：Hadoop的发展历程Hadoop的核心组件（HDFS、MapReduce、YARN）Hadoop的应用场景1.3 教学方法：讲解与案例分析相结合互动提问，巩固知识点教案章节二：Hadoop环境搭建2.1 课程目标：学会使用VMware搭建Hadoop虚拟集群掌握Hadoop各节点的配置方法2.2 教学内容：VMware的安装与使用Hadoop节点的规划与创建Hadoop配置文件（hdfs-site.xml、core-site.xml、yarn-site.xml）的编写与配置2.3 教学方法：演示与实践相结合手把手教学，确保学生掌握每个步骤教案章节三：HDFS文件系统3.1 课程目标：理解HDFS的设计理念及其优势掌握HDFS的搭建与配置方法3.2 教学内容：HDFS的设计理念及其优势HDFS的架构与工作原理HDFS的搭建与配置方法3.3 教学方法：讲解与案例分析相结合互动提问，巩固知识点教案章节四：MapReduce编程模型4.1 课程目标：理解MapReduce的设计理念及其优势学会使用MapReduce解决大数据问题4.2 教学内容：MapReduce的设计理念及其优势MapReduce的编程模型（Map、Shuffle、Reduce）MapReduce的实例分析4.3 教学方法：互动提问，巩固知识点教案章节五：YARN资源管理器5.1 课程目标：理解YARN的设计理念及其优势掌握YARN的搭建与配置方法5.2 教学内容：YARN的设计理念及其优势YARN的架构与工作原理YARN的搭建与配置方法5.3 教学方法：讲解与案例分析相结合互动提问，巩固知识点教案章节六：Hadoop生态系统组件6.1 课程目标：理解Hadoop生态系统的概念及其重要性熟悉Hadoop生态系统中的常用组件6.2 教学内容：Hadoop生态系统的概念及其重要性Hadoop生态系统中的常用组件（如Hive, HBase, ZooKeeper等）各组件的作用及相互之间的关系6.3 教学方法：互动提问，巩固知识点教案章节七：Hadoop集群的调优与优化7.1 课程目标：学会对Hadoop集群进行调优与优化掌握Hadoop集群性能监控的方法7.2 教学内容：Hadoop集群调优与优化原则参数调整与优化方法（如内存、CPU、磁盘I/O等）Hadoop集群性能监控工具（如JMX、Nagios等）7.3 教学方法：讲解与案例分析相结合互动提问，巩固知识点教案章节八：Hadoop安全与权限管理8.1 课程目标：理解Hadoop安全的重要性学会对Hadoop集群进行安全配置与权限管理8.2 教学内容：Hadoop安全概述Hadoop的认证与授权机制Hadoop安全配置与权限管理方法8.3 教学方法：互动提问，巩固知识点教案章节九：Hadoop实战项目案例分析9.1 课程目标：学会运用Hadoop解决实际问题掌握Hadoop项目开发流程与技巧9.2 教学内容：真实Hadoop项目案例介绍与分析Hadoop项目开发流程（需求分析、设计、开发、测试、部署等）Hadoop项目开发技巧与最佳实践9.3 教学方法：案例分析与讨论团队协作，完成项目任务教案章节十：Hadoop的未来与发展趋势10.1 课程目标：了解Hadoop的发展现状及其在行业中的应用掌握Hadoop的未来发展趋势10.2 教学内容：Hadoop的发展现状及其在行业中的应用Hadoop的未来发展趋势（如Big Data生态系统的演进、与大数据的结合等）10.3 教学方法：讲解与案例分析相结合互动提问，巩固知识点重点和难点解析：一、Hadoop生态系统的概念及其重要性重点：理解Hadoop生态系统的概念，掌握生态系统的组成及相互之间的关系。
Hadoop,HBase,hive安装步骤
Hadoop，ZooKeeper，HBase,hive(HQL) 安装步骤Hadoop安装：首先我们统一一下定义，在这里所提到的Hadoop是指Hadoop Common，主要提供DFS（分布式文件存储）与Map/Reduce的核心功能。
Hadoop在windows下还未经过很好的测试，所以推荐大家在linux（cent os 6.X）下安装使用。
准备安装Hadoop集群之前我们得先检验系统是否安装了如下的必备软件：ssh和Jdk1.6（因为Hadoop需要使用到Jdk中的编译工具，所以一般不直接使用Jre）。
可以使用yum install rsync来安装rsync。
一般来说ssh是默认安装到系统中的。
Jdk1.6的安装方法下载linux版本的java，#mkdir /usr/java#cd /usr/java#chmod a+x jdk-6u27-linux-i586.bin#./jdk-6u27-linux-i586.bin安装完成后，设臵环境变量：在etc/profile中设臵#export JAVA_HOME=/usr/java/jdk1.6.0_27#exportCLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOM E/lib/tools.jar#export PATH=$PATH:$JAVA_HOME/bin设臵完成后，使用reboot或者source /etc/profile确保以上准备工作完了之后我们就开始安装Hadoop软件，假设我们用三台机器做Hadoop集群，分别是：192.168.0.141、192.168.0.142和192.168.0.143（下文简称141，142和143），且都使用root用户。
这里有一点需要强调的就是，务必要确保每台机器的主机名和IP地址之间能正确解析。
Host配臵一个很简单的测试办法就是ping一下主机名，比如在ww-1上ping ww-2，如果能ping通就OK！若不能正确解析，可以修改/etc/hosts文件，如果该台机器作Namenode用，则需要在hosts文件中加上集群中所有机器的IP地址及其对应的主机名；如果该台机器作Datanode用，则只需要在hosts文件中加上本机IP地址和Namenode机器的IP地址。
Hadoop环境配置之hive环境配置详解
<value>/opt/module/apache-hive-3.1.2-bin/tmp/${hive.session.id}_resources</value> <description>Temporary local directory for added resources in the remote file system.</description>
<configuration> <property>
<name>javax.jdo.option.ConnectionDriverName</name> <value>com.mysql.cj.jdbc.Driver</value> <description>Driver class name for a JDBC metastore</description> </property> <property> <name>javax.jdo.option.ConnectionUserName</name> <value>root</value> <description>Username to use against metastore database</description> </property> <property> <name>javax.jdo.option.ConnectionPassword</name> <value>123456</value> # 自定义密码 <description>password to use against metastore database</description> </property> <property> <name>javax.jdo.option.ConnectionURL</name> <value>jdbc:mysql://192.168.1.100:3306/hive?useUnicode=true&characterEncoding=utf8&useSSL=false&serverTimezone=GMT</value> <description>
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
一、Hadoop 环境搭建 首先在 Apache 官网下载 hadoop 的包 hadoop-0.20.2.tar.gz。
解压 hadoop-0.20.2.tar.gz 包，具体命令如下： tar zxvf hadoop-0.20.2.tar.gz 其中要注意的是，tar 包用 xvf ，gz 包用 zxvf。
在安装中，如果遇到识别问题，或者无法解压，很有可能是权限问题，解决方案 是修改此文件的使用权限，命令如下： chmod 777 hadoop-0.20.2.tar.gz 其中，777 为所有权限。
如果依然报错，如：Archive contains obsolescent base-64 headers;Error exit delayed from previous errors。
这种情况，一般是压缩包损坏的问题。
因为大多数人会将包下载到 windows 环境，再通过 ftp 等方法上传到 Linux 环境。
容易产生包损坏。
建议大 家直接下载到 Linux 即可。
具体命令如下： wget /apache-mirror/hadoop/core/hadoop-0.20.2/ hadoop-0.20.2.tar.gz 直接下载到当前目录。
当文件准备好之后，我们要修改配置，将 Hadoop 简单 run 起来。
首先，我们进入 hadoop-0.20.2/conf 目录当中，其中会存在如下配置文件： 首先修改 masters 和 slaves，这个是指定我们的 m 和 s 的 ip 地址，这里我们 就以单台机器为例子，在文件中直接输入当前机器的 IP。
之后我们修改 mapred-site.xml 文件，具体配置如下 Xml 代码 1. <span style="font-size: medium;"><?xml version="1.0"?> 2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 3.4. <!-- Put site-specific property overrides in this file. --> 5. 6. <configuration> 7. <property> 8. 9. 10. tracker runs 11. single map 12. 13. 14. option. 15. 16. <name>mapred.job.tracker</name> <value>hdfs://192.168.216.57:8012</value> <description>The host and port that the MapReduce jobat. If "local", then jobs are run in-process as aand reduce task. Pass in the jobtracker hostname via the -Dhadoop.jobtracker=JOBTRACKER_HOST java</description> </property>17. </configuration></span><?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?><!-- Put site-specific property overrides in this file. --><configuration><property> <name>mapred.job.tracker</name> <value>hdfs://192.168.216.57:8012</value> <description>The host and port that the MapReduce job tracker runs at. If "local", then jobs are run in-process as a single map and reduce task. Pass in the jobtracker hostname via the -Dhadoop.jobtracker=JOBTRACKER_HOST java option. </description> </property> </configuration>job.tracker 是关键，mapReduce 会将一个 job，通过 map()，打散为 n 个 task。
之后是对文件 core-site.xml 的配置，详细配置如下： Xml 代码1. <span style="font-size: medium;"><?xml version="1.0"?> 2. <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 3. 4. <!-- Put site-specific property overrides in this file. -->5. 6. <configuration> 7. 8. 9. 10. 11. 12. 13. 14. <property> <name></name> <value>hdfs://cap216057.sqa:9000</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/home/admin/tmp/</value>15. <description>A base for other temporary directories. Set to a 16. directory off of the user's home directory for the simple test. 17. 18. 19. 20. </configuration></span> </description> </property><?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?><!-- Put site-specific property overrides in this file. --><configuration><property> <name></name> <value>hdfs://cap216057.sqa:9000</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/home/admin/tmp/</value> <description>A base for other temporary directories. Set to a directory off of the user's home directory for the simple test. </description> </property></configuration>这个主要是配置我们的文件系统。
其中， 的 value， 不可以写 IP 地址，要写域名。
域名的查询，具体命令如下：cd~cd etc vi hosts在 hosts 文件中，找到自己 IP 对应的域名。
到此，Hadoop 本身的配置就算完成了。
但 hadoop 会在 master/slaves 之间进 行文件的操作，在机器之间操作时候，就必须做到免登陆。
对此，我们就得设置 相应的公钥私钥。
具体命令如下： ssh-keygen -t rsa -P '' -P 表示密码，-P '' 就表示空密码，也可以不用-P 参数，这样就要 三车回车，用-P 就一次回车。
它在/~ 下生成.ssh 目录，.ssh 下有 id_rsa 和 id_rsa.pub。
如果是多台机器，则需要将公钥 id-rsa.pub 通过 scp 到其他机器的 相同目录。
之后，追加公钥到相应文件，具体如下： cat id_rsa.pub >> .ssh/authorized_keys chmod 600 .ssh/authorized_keys 其中，authorized_keys 要的权限是 600第一次登录是时要你输入 yes，之后就不用了。
OK，所有均搞定了，进入 hadoop-0.20.2/bin 路径，直接执行 start-all.sh 脚本，即可启动 Hadoop 的服务了。
我们可以通过 web 的方式，对 Hadoop 的运转进行监控，具体 url 如下： 控制台：http://cap216057.sqa:50030/jobtracker.jsp 数据节点：http://cap216057.sqa:50070/dfshealth.jsp cap216057.sqa 可以再 hosts 里配置，或者直接访问 IP 地址。
二、 Hive 搭建Hive 搭建在 Hadoop 的基础之上，相对就会简单很多。