分享好友 最新动态首页 最新动态分类 切换频道
Hadoop下载安装及HDFS配置教程
2024-12-27 03:27

Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System,简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streaming access)文件系统中的数据。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,而MapReduce则为海量的数据提供了计算。
简言之,Hadoop的核心就是解决两个问题,一是存储(采用HDFS,二是计算(采用MapReduce编程模型

Hadoop下载安装及HDFS配置教程

1、安装虚拟机VMware

Hadoop框架运行组lunix系统之上,那么window系统上如何运行Hadoop呢?这就需要虚拟机了。VMWare (Virtual Machine ware)是一个“虚拟PC”软件公司,它的产品可以使你在一台机器上同时运行二个或更多Windows、DOS、LINUX系统。简单来说是一种软件,用它可以在一个系统中装另外一个系统。这就满足了我们window系统上安装lunix系统的需求。

1.1 VMware Workstation Pro 15.5下载

链接:https://pan.baidu.com/s/1Z3H3SNKgmvcAYD7_Q1rQlQ
提取码:0zty

1.2 虚拟机安装

2、在虚拟机上安装CentOS系统

2.1 CentOS系统下载

https://www.jianshu.com/p/a63f47e096e8

2.2 CentOS系统安装

https://www.runoob.com/w3cnote/vmware-install-centos7.html
对于CentOS系统的安装,我建议新手直接选择【典型】配置即可,不必设置太多自定义选项。系统安装关键两点和在电脑上安装window系统一样,选择系统位置和分配磁盘空间

2.3 JDK安装和环境配置

https://www.cnblogs.com/maomao999/p/9764251.html

1、下载Hadoop

到Apache官方网站下载自己对应版本即可
https://hadoop.apache.org/releases.html

2、建议保留安装的初始CentOS系统,然后克隆这个初始系统,进行Hadoop的相关配置

3、添加ip地址和hostname以及ip和hostname的关联

3.1查看ip地址
 
 
3.2 添加ip地址到ifcfg-ens33文件
 
 
3.3 修改hostname名字
 
 
3.4 将ip与hostname关联
 
 
3.5 重启系统
 

4、将hadoop压缩包通过Xftp传到CentOS系统中

5、解压hadoop压缩包

 
 
5.1 hadoop文件结构

bin文件夹:里面都是可执行的二进制脚本文件
etc/hadoop文件夹:里面都是hadoop系统配置文件,后面对于hadoopp的配置文件都在这个目录。
sbn文件夹:里面都是可执行的二进制脚本文件,里面包括HDFS的启动,关闭
share文件夹:里面是hadoop的文档和运行核心包

6、配置hadoop环境变量

编辑环境变量

 
 
 

验证hadoop是否加入环境变量

 
 

7、配置hadoop-env.sh

将JAVA的路径配置到hadoop的环境文件中

 
 

8、配置core-sit.xml

 

1、配置哪台机器为namenode

 

2、默认hadoop的配置将数据放在系统临时目录中:/tmp/hadoop-${user.name},系统临时目录可能会导致集群数据的不安全,因此修改配置,将数据存放在指定的目录,本文将数据存放在解压后的hadoop-2.9.2的下的data文件夹下

 

9、配置hdfs-site.xml(用来对hdfs文件系统做相关配置

 

1、修改block的副本数据,因为本次hdfs是单机版的集群,只有一个服务器,3个副本也没有地方放,所以,把副本数修改为1

 

2、修改root的权限,这样可以让非root用户也可以操作hdfs

 

10、配置slaves文件,就是配置哪些机器为DataNode节点,跟随NameNode同时启动

 
 

11、格式化NameNode(仅仅第一次需要格式化

就像U盘一样,插到windows系统上需要格式化为windows的文件系统,插到lunix系统上需要格式化为lunix的文件系统

 

12、启动hdfs集群

 

查看是否启动成功

 
 

13、上传文件数据到hdfs

如将aa.txt文件上传到hdfs的根目录(/)

 

14、访问hdfs可视化管理界面

关闭防火墙

 

在浏览器中输入 IP地址:50070即可查看

最新文章
雨人Ghost Win7x86 SP1无精简纯净版
雨人Ghost Win7x86 SP1无精简纯净版_C8.32***************************GHOST版的迅捷 安装版的品质 百分百完整 真正的纯净雨人Ghost Win7x86 SP1无精简纯净版_C8.32 ------智能识别品牌机兼容机,自动激活……****************************
鹤岗网站排名优化,策略与实践,鹤岗seo
鹤岗网站排名优化策略与实践,包括关键词研究、内容优化、链接建设等。通过深入了解用户需求和搜索习惯,选取合适的关键词,提高网站在搜索引擎中的排名。注重网站内容的质量和原创性,定期更新有价值的内容,吸引用户访问和分享。积极寻求
超逼真美女写真生成全攻略,教你用AI轻松制作完美作品!
在社交媒体蓬勃发展的时代,我们似乎每天都被美丽的图片和视频包围。然而,这些令人心动的写真到底是如何生成的呢?是否有一种工具可以帮助我们轻松制作出逼真而富有魅力的美女写真?答案是肯定的!通过画画、拍照、修图,我们可以用AI技术
高档轿车的智能化配置有哪些亮点?
高档轿车的智能化配置亮点众多。比如奔驰纯电 G 级,内饰搭载第 2 代 MBUX 智能人机交互系统,有“数字越野座舱”“实时越野路面影像”功能,可选 MBUX 高端后排娱乐系统,丰富车内娱乐。奥迪 AUDI E 概念车,采用激光雷达路线,配备高级驾
连点器免费永久版下载安装
连点器免费永久版下载安装是一款无需root权限的连接器app,它可以帮助用户快速连接,解放双手,非常完整和强大。用户只需要设置点击频率和点击位置,就可以挂机了,而且还支持后台自动运行。这款万能连接器非常实用,适用于各种需要频繁点
香港最准100‰免费,揭秘“香港最准100%免费”关键词背后的真相与风险:警惕网络陷阱,保护个人隐私安全
  揭秘“香港最准100%免费”关键词背后的真实面纱与潜在危害  摘要:
雷雨 pdf epub mobi txt 电子书 下载 2024
他被称为“东方的莎士比亚”,他的四大剧作在舞台和人间反复上演。 每部剧作都是他对那个时代热烈的的爱与恨,都是一首燃烧生命的诗。 生命始于夏,作者出于一种“情感的迫切的需要”,“以一种悲悯的情怀来俯视这群地上的人们”,通过两个
成色好的Y31S是国产精品首选-体验卓越性能与高性价比:打造智能手机新标杆!
在如今的智能手机市场,国产品牌的崛起带来了更多的选择,而成色好的Y31S作为一款经典之作,以其卓越的性能和高性价比赢得了众多用户的青睐。这款手机不仅在外观设计上精致独特,在硬件配置和用户体验上也做到了极致的平衡,成为不少人心目
百度搜索指数究竟意味着什么?又应当如何去查看?
百度堪称众人最为熟知的平台,据相关统计,其当下的用户访问量已然超亿,并且这一数据还在持续上扬。正因如此,众多企业的营销活动都依托于百度平台展开,皆期望借助其庞大且精准的流量,以更快达成产品与服务的变现目标。然而,在百度的营
谷歌浏览器32位1.3.36.352
谷歌浏览器是一款快速、安全且免费的网络浏览器,软件内置防止“网络钓鱼”及恶意软件功能,可以提帮助你快速、安全的搜索到自己需要的内容,对于追求速度,隐私安全的用户们,就快下载这款浏览器吧。谷歌浏览器地址栏搜索在谷歌浏览器地址
相关文章
推荐文章
发表评论
0评