大数据|如何在windows上搭建hadoop的客户端
一般情况,hadoop是集群运行在Linux上作为服务端,我们想使用命令行访问集群,就需要登录hadoop-master机器使用 hadoop fs -*
命令访问,感觉这样操作有点麻烦,所以我们在本地的windows上搭建一个hadoop的客户端,使用cmd命令访问集群。
- 获取hadoop包
文章图片
- 配置环境变量
# 新增
HADOOP_HOME=D:\tools\hadoop\hadoop-3.2.1# PATH后面追加
%HADOOP_HOME%\bin
文章图片
文章图片
- bin目录加入winutils.exe
文章图片
- 配置机器映射
/etc/hostname
和 IP映射 /etc/hosts
就行。windows需要修改C:\Windows\System32\drivers\etc\hosts文件,新增如下映射就行文章图片
第一列是机器IP,第二列是机器名
使用以下命令列出根目录下所有的文件、文件夹
hadoop fs -ls /
出现以下错误
The system cannot find the path specified.
Error: JAVA_HOME is incorrectly set.
Please update D:\tools\hadoop\hadoop-3.2.1\etc\hadoop\hadoop-env.cmd
'-Xmx512m' is not recognized as an internal or external command,
operable program or batch file.
文章图片
需要更新配置文件${HADOOP_HOME}/etc/hadoop/hadoop-env.cmd,配置JAVA_HOME
文章图片
因为JAVA_HOME路径里面出现了【空格】,所有用【双引号】引起来。
再使用上面命令行,成功
文章图片
【大数据|如何在windows上搭建hadoop的客户端】hadoop常用命令行可参考
https://blog.csdn.net/admin_15082037343/article/details/93304234
推荐阅读
- 我要做大厨
- Docker应用:容器间通信与Mariadb数据库主从复制
- 任时光绽放成六月繁花
- 《真与假的困惑》???|《真与假的困惑》??? ——致良知是一种伟大的力量
- 知识
- 三十年后的广场舞大爷
- 奔向你的城市
- 我从来不做坏事
- 考研英语阅读终极解决方案——阅读理解如何巧拿高分
- 樱花雨