大数据|如何在windows上搭建hadoop的客户端

一般情况,hadoop是集群运行在Linux上作为服务端,我们想使用命令行访问集群,就需要登录hadoop-master机器使用 hadoop fs -* 命令访问,感觉这样操作有点麻烦,所以我们在本地的windows上搭建一个hadoop的客户端,使用cmd命令访问集群。

  1. 获取hadoop包
最简单的方式就是直接将master上的hadoop包下载到本地
大数据|如何在windows上搭建hadoop的客户端
文章图片

  1. 配置环境变量
# 新增 HADOOP_HOME=D:\tools\hadoop\hadoop-3.2.1# PATH后面追加 %HADOOP_HOME%\bin

大数据|如何在windows上搭建hadoop的客户端
文章图片

大数据|如何在windows上搭建hadoop的客户端
文章图片

  1. bin目录加入winutils.exe
百度搜索关键字"winutils.exe",自己下载,这里就不提供了。
大数据|如何在windows上搭建hadoop的客户端
文章图片

  1. 配置机器映射
很多情况情况下, Hadoop的配置文件都使用机器名代替IP,Linux节点只需要修改机器名 /etc/hostname 和 IP映射 /etc/hosts 就行。windows需要修改C:\Windows\System32\drivers\etc\hosts文件,新增如下映射就行
大数据|如何在windows上搭建hadoop的客户端
文章图片

第一列是机器IP,第二列是机器名
使用以下命令列出根目录下所有的文件、文件夹
hadoop fs -ls /

出现以下错误
The system cannot find the path specified. Error: JAVA_HOME is incorrectly set. Please update D:\tools\hadoop\hadoop-3.2.1\etc\hadoop\hadoop-env.cmd '-Xmx512m' is not recognized as an internal or external command, operable program or batch file.

大数据|如何在windows上搭建hadoop的客户端
文章图片

需要更新配置文件${HADOOP_HOME}/etc/hadoop/hadoop-env.cmd,配置JAVA_HOME
大数据|如何在windows上搭建hadoop的客户端
文章图片

因为JAVA_HOME路径里面出现了【空格】,所有用【双引号】引起来。
再使用上面命令行,成功
大数据|如何在windows上搭建hadoop的客户端
文章图片

【大数据|如何在windows上搭建hadoop的客户端】hadoop常用命令行可参考
https://blog.csdn.net/admin_15082037343/article/details/93304234

    推荐阅读