云计算虚拟化hadoop实验报告

合集下载
相关主题
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

四川大学计算机学院、软件学院

实验报告

学号: 姓名:专业:班级: 9 第 15 周

小数据集都可以完全并行地进行处理。

二、Linux及KVM虚拟机安装

1.首先我们找到比较常用的Linux适用版本镜像文件,这里我们使用的是图形化做

得非常好的Ubuntu ,然后使用UltraISO做出一个启动盘并在电脑上做出一个双系统,分区大小我们参照网络上的建议将主分区目录设置为20G,成功做出一个Linux系统(这里我忘了截图了)

装机的过程和下面的虚拟机装机是一样的。

2.然后我们在完成Linux下的基础软件安装的情况下进行程序的KVM虚拟机安装,

首先使用如下指令:$ egrep -o '(vmx|svm)' /proc/cpuinfo检查Linux是否

支持安装KVM,结果显示是可以安装的,于是我们这里使用指令:$ apt-get install qemu-kvm libvirt-bin virt-manager bridge-utils安装KVM虚拟机,安装过程是自动完成的,如下图所示:

3.经验证我们发现KVM是安装成功并且正常运行的,安装成功的验证指令为:#

lsmod | grep kvm,到这里KVM的安装就基本完成了。

4.然后我们需要在KVM上创建一个虚拟机,具体操作步骤如下:在根下创建images

目录,在images下创建iso和test目录。

5.之后我们使用指令:virt-install --name ubuntutest --hvm --ram 1024 --vcpus

1 --disk path=/images/test/,size=10 --network network:default

--accelerate --vnc --vncport=5911 --cdrom /images/iso/ –d创建虚拟机,至此我们基本完成了前期的基础性工作,操作流程图如下所示:

虚拟机装机界面:

6.虚拟机创建完成之后还可以使用# virsh list –all指令验证虚拟机是否存在,

以及# virsh start VMNAME指令启动虚拟机

三、SSH的创建及使用

首先创建Hadoop用户组,使用指令:$ sudo addgroup hadoop,然后创建一个Hadoop 用户,使用如下指令:$ sudo adduser -ingroup hadoop hadoop,并且为用户添加权限,使用如下指令:$ sudo gedit /etc/sudoers,操作截图如下所示:

1.

接上)实

算法、程序、步

方法)

2.然后我们使用新增加的Hadoop用户登录Ubuntu系统,之后我们使用指令sudo

apt-get install openssh-server安装ssh,运行截图如下所示:

3.ssh安装完成之后我们使用指令:sudo /etc/ssh start启动服务,并且使用指

令ps -e | grep ssh查看服务是否启动正确,程序运行截图如下所示:

4.然后我们设置免密码登录并生成公钥和私钥,使用如下指令:ssh-keygen -t rsa

-P "",程序运行截图如下所示:

5.此时会在/home/hadoop/.ssh下生成两个文件:id_rsa和,前者为私钥,后者

为公钥。下面我们将公钥追加到authorized_keys中,它用户保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容。cat ~/.ssh/ >> ~/.ssh/authorized_keys,程序截图如下所

6.最后我们使用指令:ssh localhost来登录ssh,完成我们第二部分的前期准备

工作,程序截图如下所示:

四、JAVA环境变量配置

1.我们使用指令:sudo apt-get install openjdk-7-jdk来获取并安装java的jdk,

并使用指令:java –version来检测jdk是否安装成功,程序截图如下所示:

五、安装Hadoop

1.首先从官网下载Hadoop的安装包,然后使用指令:sudo tar xzf 将hadoop解

压,然后我们在命令窗口中输入指令:sudo mv /usr/local/hadoop拷贝到/usr/local/下,使用指令:sudo chmod 774 /usr/local/hadoop获取文件读写权限,步骤截图如下所示:

2.然后我们需要对~/.bashrc文件进行配置,需要知道JAVA——HOME环境变量,使

用如下指令查询:update-alternatives - -config java,然后利用指令:sudo gedit ~/.bashrc打开文本编辑窗口,并如图所示编辑内容,保存后关闭,执行指令:source ~/.bashrc使更改生效,步骤截图如下所示:

3.最后我们进行目录为/usr/local/hadoop/etc/hadoop/的文件更改,执行命令:

sudo gedit /usr/local/hadoop/etc/hadoop/打开文本编辑窗口,如图所示修改文本内容,保存后关闭,步骤截图如下所示:

六、WordCount实例测试

1.首先我们在/usr/local/hadoop路径下创建input文件夹,使用指令:mkdir

input,然后使用指令:cp input将拷贝到input文件夹下,步骤截图如下所示:

相关文档
最新文档