Python 连接hive(Linux)之所以选择基于Linux系统用Python连接hivelinux命令hive,是因为在window下会出现Hadoop认证失败linux命令hive的问题 。会出现执行python脚本的机器无目标hive的kerberos认证信息类似错误linux命令hive,也会出现sasl调用问题:
该错误我尝试多次,未能解决(有知道window下解决方案的欢迎留言),所以建议使用Linux系统 。
VMware WorkstationUbuntu
网上教程很多,本文推荐一个教程:
主要是以下四个包:
在安装包sasl的过程会出现麻烦,主要是Ubuntu中缺乏sasl.h的问题,这里可以通过下面语句解决
这和centos有一些区别 。
本文是基于本机虚拟机用Python连接的公司测试环境的hive(生产环境和测试环境是有隔离的,生产环境需要堡垒机才能连接)
因缺乏工程和计算机基础的知识,对很多的地方都linux命令hive了解的不够深入 , 欢迎大神指点,最后向以下两位大佬的帖子致谢:
[1]
[2]
大数据学习需要哪些课程?1、Java编程技术
Java编程技术是大数据学习linux命令hive的基础linux命令hive,Java是一种强类型语言,拥有极高的跨平台能力,可以编写桌面应用程序、Web应用程序、分布式系统和嵌入式系统应用程序等,是大数据工程师最喜欢的编程工具,因此,想学好大数据,掌握Java基础是必不可少的!
2、Linux命令
对于大数据开发通常是在Linux环境下进行的,相比Linux操作系统,Windows操作系统是封闭的操作系统,开源的大数据软件很受限制,因此,想从事大数据开发相关工作,还需掌握Linux基础操作命令 。
3、Hadoop
【linux命令hive 查看文件权限的Linux命令】Hadoop是大数据开发的重要框架,其核心是HDFS和MapReduce , HDFS为海量的数据提供了存储,MapReduce为海量的数据提供了计算,因此,需要重点掌握,除此之外,还需要掌握Hadoop集群、Hadoop集群管理、YARN以及Hadoop高级管理等相关技术与操作!
4、Hive
Hive是基于Hadoop的一个数据仓库工具 , 可以将结构化的数据文件映射为一张数据库表 , 并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行,十分适合数据仓库的统计分析 。对于Hive需掌握其安装、应用及高级操作等 。
5、Avro与Protobuf
Hive是基于Hadoop的一个数据仓库工具 , 可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能 , 可以将sql语句转换为MapReduce任务进行运行,十分适合数据仓库的统计分析 。对于Hive需掌握其安装、应用及高级操作等 。
6、ZooKeeper
ZooKeeper是Hadoop和Hbase的重要组件,是一个为分布式应用提供一致性服务的软件,提供的功能包括linux命令hive:配置维护、域名服务、分布式同步、组件服务等,在大数据开发中要掌握ZooKeeper的常用命令及功能的实现方法 。
7、HBase
HBase是一个分布式的、面向列的开源数据库,它不同于一般的关系数据库,更适合于非结构化数据存储的数据库 , 是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,大数据开发需掌握HBase基础知识、应用、架构以及高级用法等 。
8、phoenix
phoenix是用Java编写的基于JDBC API操作HBase的开源SQL引擎,其具有动态列、散列加载、查询服务器、追踪、事务、用户自定义函数、二级索引、命名空间映射、数据收集、行时间戳列、分页查询、跳跃查询、视图以及多租户的特性,大数据开发需掌握其原理和使用方法 。
9、Redis
phoenix是用Java编写的基于JDBC API操作HBase的开源SQL引擎,其具有动态列、散列加载、查询服务器、追踪、事务、用户自定义函数、二级索引、命名空间映射、数据收集、行时间戳列、分页查询、跳跃查询、视图以及多租户的特性 , 大数据开发需掌握其原理和使用方法 。
linux rhive环境变量怎么设置有几种方法:
1、重新登录linux命令hive;
2、重启机器;
3、使用source命令linux命令hive , 如:#soure .bash_profile
就可以直接让环境变量的修改生效了 。
4、使用点号也可以让环境变量生效,如:#. .bash_profile
“.” 命令是soure命令的缩写 。
关于linux命令hive和查看文件权限的Linux命令的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息 , 记得收藏关注本站 。
推荐阅读
- 网红户外直播,网红户外直播用什么设备
- redisstring过期时间,redishash过期时间
- 简单一点的大冒险3类游戏,比较简单的大冒险16关
- 企鹅视频搞笑开箱是什么,企鹅视频动画
- php数据库对象类型 php对象是什么类型的数据
- 路由器怎么判断是否可穿墙,怎么检测路由器有没有被蹭网
- 电脑钉钉直播时没有提示音,电脑钉钉直播没有提示音怎么设置
- go语言管道操作,go语言工具
- 能恋爱结婚的仙侠游戏名字,可以结婚的仙侠手游排行