文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Linux系统怎样搭建hadoop集群

2023-06-28 15:27

关注

这篇文章跟大家分析一下“Linux系统怎样搭建hadoop集群”。内容详细易懂,对“Linux系统怎样搭建hadoop集群”感兴趣的朋友可以跟着小编的思路慢慢深入来阅读一下,希望阅读后能够对大家有所帮助。下面跟着小编一起深入学习“Linux系统怎样搭建hadoop集群”的知识吧。

Hadoop是一个可以更容易开发和运行处理大规模数据的软件平台。该平台使用的是面向对象编程语言Java实现的,具有良好的可移植性。

HADOOP简介:

Linux系统安装HADOOP步骤:

1尝试新建一个名为hadoop的用户并且设置密码(同时添加管理员权限):

Linux系统怎样搭建hadoop集群

但是在刚开始就遇到了问题:由于我们下载的Hadoop和jdk在Windows下下载的,将文件共享进ubuntu时,只能共享到第一个创建的用户(我也不知道为什么),而且ubuntu下网络很慢,所以,我就没有创建新的用户,在原有的用户上进行的安装(后面运行成功证实是可以的)。

2.更新apt,下载vim

Linux系统怎样搭建hadoop集群

3.安装SSH、配置SSH无密码登陆:(提示(SSH首次登陆提示),输入 yes 。然后按提示输入密码 hadoop,这样就登陆到本机了)

Linux系统怎样搭建hadoop集群

4.安装jdk(在Linux命令行界面中,执行如下Shell命令):

Linux系统怎样搭建hadoop集群

解压过程:

Linux系统怎样搭建hadoop集群

JDK文件解压缩以后,可以执行如下命令到/usr/lib/jvm目录查看一下:Linux系统怎样搭建hadoop集群

继续执行如下命令,设置环境变量:

Linux系统怎样搭建hadoop集群

下面命令使用vim编辑器打开了hadoop这个用户的环境变量配置文件,在这个文件的开头位置,添加如下几行内容(注意自己的jdk 版本号):

Linux系统怎样搭建hadoop集群

5.安装hadoop3.2.1(Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用,成功则会显示 Hadoop 版本信息):

Linux系统怎样搭建hadoop集群

总体的命令:

Linux系统怎样搭建hadoop集群

6.Hadoop单机配置(非分布式):(Hadoop 默认模式为非分布式模式(本地模式),无需进行其他配置即可运行)

运行例子:

Linux系统怎样搭建hadoop集群

在此我们选择运行 grep 例子,我们将 input 文件夹中的所有文件作为输入,筛选当中符合正则表达式 dfs[a-z.]+ 的单词并统计出现的次数,最后输出结果到 output 文件夹中Linux系统怎样搭建hadoop集群

最后的结果与教程相符合:

Linux系统怎样搭建hadoop集群

将 ./output 删除

Linux系统怎样搭建hadoop集群

7. Hadoop伪分布式配置

修改配置文件 core-site.xml (通过 gedit 编辑会比较方便: gedit ./etc/hadoop/core-site.xml),Linux系统怎样搭建hadoop集群

修改为:

Linux系统怎样搭建hadoop集群

同样的,修改配置文件 hdfs-site.xml:

Linux系统怎样搭建hadoop集群

配置完成后,执行 NameNode 的格式化:

Linux系统怎样搭建hadoop集群

开启 NameNode 和 DataNode 守护进程:Linux系统怎样搭建hadoop集群

还好没有教程中的错误:

Linux系统怎样搭建hadoop集群Linux系统怎样搭建hadoop集群

网页面中打开9870端口:

Linux系统怎样搭建hadoop集群

到这里表明已经成功!

四、 实验中遇到的问题和解决办法,总结

问题一:Ubuntu和Windows之间的文件传输,拖拽,共享粘贴板。解决办法:安装VBox的增强功能,以及设置如下的地方(自行百度):Linux系统怎样搭建hadoop集群

Linux系统怎样搭建hadoop集群Linux系统怎样搭建hadoop集群

问题二:新用户下,不能拖拽文件(就算是管理员也不行)没有解决,因此没有在新用户hadoop下安装,但是最后仍然是成功的

关于Linux系统怎样搭建hadoop集群就分享到这里啦,希望上述内容能够让大家有所提升。如果想要学习更多知识,请大家多多留意小编的更新。谢谢大家关注一下编程网网站!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     807人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     351人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     314人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     433人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     221人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-人工智能
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯