阿里云服务器搭建hadoop集群补充

softyun3年前云服务器31

1 阿里云服务器选配

首先附上官网链接:阿里云官网


点击上边链接,注册后登陆官网,选择产品选项,然后选择云服务器ECS,就进入云服务器ECS购买界面。

进入云服务ECS购买界面,点击立即购买,在界面中分为一键购买自定义购买,如何对配置没有概念,感觉太麻烦,推荐使用一键购买。本文以一键购买为例,主要是从以下几个方面进行选购:


地域及可用性实例规格镜像网络类型(公网带宽)购买数量(购买时长)


地域及可用性:选择离自己比较近的地域,如我在上海,选择华东2(上海),搭建hadoop集群的时候,购买的多台服务器一定要选择在同一个区域,避免后续配置麻烦。


实例规格: 选择CPU,及CPU运行内存,搭建hadoop集群的时候,master主机的运行内存必须是2G以上,其他节点可以为1G。我选购的3台云服务器的配置为:master:1 vCPU 2GiB,slave1:1 vCPU 1GiB,slave2:1 vCPU 1GiB。


镜像:选择服务器的系统和系统版本,系统可以选择CentOS和Ubuntu,版本无要求,我选择是 CentOS 8.0 64位。
网络类型(公网带宽):选择带宽,1-200Mbps都可以选择,我选择是1Mbps。


-购买数量(购买时长):选择购买数量和购买时长之后,付完款,就可以登陆了。配置越高费用越高。我选择的最低配置一个月:60元。


购买完成后,进入实例。选择远程登陆,输入自己的密码,即可进入系统。进入为命令行模式(黑窗口),不是图形化界面。登陆云服务器的方法,可以通过官网登陆,也可以通过SecureCRT或者Xshell等软件进行登陆,输入的IP地址(外网IP地址)和密码即可。


官网上的一个活动,有想法的可以参与一下。
阿里云大礼包领取


2 使用WEB界面访问hadoop集群

使用WEB界面访问HDFS和Yarn,该端口分别为50070和18088,这两个端口在这个文件中hdfs-site.xml、yarn-site.xml设置的。忘记的可以参考上一篇文章:阿里云搭建hadoop集群


使用WEB界面访问HDFS和Yarn的两个条件:


关闭防火墙云服务器安全组配置端口

关闭防火墙命令



1
2
3
4
5
6
7
8
9
10
11
12
13
#查看防火墙开启状态
systemctl status firewalld
#关闭防火墙
systemctl stop firewalld
#禁止开机启动防火墙
systemctl disable firewalld
#开启防火墙
systemctl start firewalld
#设置开机启动防火墙
systemctl enable firewalld
#重启防火墙
systemctl restart firewalld
123456789101112




云服务器安全组配置端口


进入控制台,选择自己已经开通的云服务器ECS产品,选择网络与安全,点击安全组,选择配置规则,然后选择手动添加,添加如上两个端口。

WEB界面访问HDFS和Yarn,直接在浏览器中输入外网IP地址:50070访问HDFS,外网IP地址:18088访问Yarn。




3 hadoop集群验证功能

HDFS功能测试
上传本地文件到HDFS根目录,命令如下:



1
2
3
hdfs dfs -put spark-3.0.1-bin-hadoop3.2.tgz hdfs://master:9000 /
#也可去掉hdfs://master:9000,core-site.xml中设置的hdfs名字。
hdfs dfs -put spark-3.0.1-bin-hadoop3.2.tgz  /





本地文件上传到HDFS成功的话,会在web端下 中看到上传的文件,以及文件备份数,文件块大小,文件块的存放位置。


Yarn功能测试
运行一个jar任务,计算pi(圆周率)大小,命令如下:



1
hadoop jar /usr/local/hadoop-3.2.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.2.1.jar pi 10 10




找到hadoop文件下的mapreduce例子运行,会在web端看到job历史。


不求点赞 只求有用


免责声明:本文内容来自用户上传并发布,站点仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。请核实广告和内容真实性,谨慎使用。

相关文章

阿里云新加坡vps:云服务器ecs突发性能型t6 2核2G仅105.4元/年

阿里云新加坡vps怎么样?阿里云小站有一款新加坡vps,性价比不错。阿里云ecs突发性能型t6配置,开发者成长计划补贴!阿里云轻量低负载场景,20%CPU性能轻松覆盖!阿里云轻量服务器新加坡vps配置...

阿里云服务器ECS新春特惠:轻量云服务器低至38元/年起,老用户续费及回归权益

2022年新年已经过去,各大云商家促销貌似已经成了常态,可见竞争的激烈。对于我们用户来说,都希望在大促活动中捡到便宜,但是实际上商家会更胜一筹,阿里云秒杀活动中三年套餐云服务器方案很少,如果有3年就要...

阿里云618年中大促钜惠:限量秒杀1核2G ECS共享型n4仅59.9元/年起

阿里云官网上线了阿里云618上云年中促钜惠抢先看页面,目前还不能参与购买产品,不过已经可以看出来618活动期间的活动内容了。5月25日-5月31日,阿里云用户可以领取新老同享9折优惠券和飞天会员专属大...

阿里云服务器怎么购买?阿里云服务器购买流程指南

阿里云服务器怎么购买?阿里云是国内第一大云服务器厂商,所以往往我会推荐公司客户优先选择阿里云。阿里云服务器购买有三种方式,一种是直接在活动上买,一种是通过一键购买方式,最后一种是自定义购买,快速配置没...

阿里云ECS云服务器和轻量应用服务器有啥区别?如何选择?

阿里云ecs云服务器和轻量应用服务器有啥区别?最近是阿里云双11活动期间,很多小伙伴不清楚「ECS云服务器」和「轻量应用服务器」两者之间的区别,虽然轻量应用服务器和 ECS 云服务器的相同之处是都可以...

阿里云服务器ECS登录用户名是什么?系统不同默认账号也不同

阿里云ECS云服务器登录用户名是什么?很多站长喜欢选阿里云服务器上云建站,不过我们通常购买阿里云ecs服务器后,会有一个默认用户名,一般根据云服务器操作系统不同用户名也不同,一般来讲默认的ECS云服务...