世事洞明皆学问,人情练达即文章。这篇文章主要讲述第2章 Hive安装相关的知识,希望能为你提供帮助。
文章目录
- 第2章 Hive安装
- 2.1 Hive安装地址
- Hive安装及配置
- Hadoop集群配置
- MySQL安装
- 安装MySql服务器
- 安装客户端
- 1.进入mysql
- 2.显示数据库
- 3.使用mysql数据库
- 4.展示mysql数据库中的所有表
- 5.展示user表的结构
- 6.查询user表 这里我已经改过的 ,所以user下面只有root用户
- 7.修改user表,把Host表内容修改为%
- 8.删除root用户的其他host
- 9.刷新
- 10.退出
- hive元数据配置到mysql
- 配置Metastore到MySql
- 多窗口启动Hive测试
- HiveJDBC访问
- Hive常用交互命令
- Hive常见属性配置
- hive 配置日志信息
第2章 Hive安装 2.1 Hive安装地址
1.Hive官网地址
http://hive.apache.org/
2.文档查看地址
【https://cwiki.apache.org/confluence/display/Hive/GettingStarted
3.下载地址
http://archive.apache.org/dist/hive/
4.github地址
https://github.com/apache/hive
Hive安装及配置
把apache-hive-1.2.1-bin.tar.gz上传到linux的/opt/software目录下
(2)解压apache-hive-1.2.1-bin.tar.gz到/opt/module/目录下面
文章图片
1解压:
tar -zxvf apache-hive-1.2.1-bin.tar.gz -C /opt/module/
2.修改名字:
mv apache-hive-1.2.1-bin/ hive
3.改/opt/module/hive/conf目录下的hive-env.sh.template名称为hive-env.sh
命令:
mv hive-env.sh.template hive-env.sh
4. 配置hive-env.sh 文件
文章图片
Hadoop集群配置
1.启动:
start-dfs.sh
start-yarn.sh
1.在HDFS上创建/tmp和/user/hive/warehouse两个目录并修改他们的同组权限可写(这个是conf下面的默认的路径)
hadoop fs -mkdir /tmp
hadoop fs -mkdir -p /user/hive/warehouse
给权限
hadoop fs -chmod g+w /tmp
hadoop fs -chmod g+w /user/hive/warehouse
配置环境变量
vi /etc/profile
文章图片
启动hive
文章图片
hive的一些基本操作
文章图片
提问:
再打开一个客户端窗口启动hive,会产生java.sql.SQLException异常
Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeException:
Unable to instantiate
org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient
at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:522)
at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:677)
at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:621)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
Caused by: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient
at org.apache.hadoop.hive.metastore.MetaStoreUtils.newInstance(MetaStoreUtils.java:1523)
at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.<
init>
(RetryingMetaStoreClient.java:86)
at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.getProxy(RetryingMetaStoreClient.java:132)
at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.getProxy(RetryingMetaStoreClient.java:104)
at org.apache.hadoop.hive.ql.metadata.Hive.createMetaStoreClient(Hive.java:3005)
at org.apache.hadoop.hive.ql.metadata.Hive.getMSC(Hive.java:3024)
at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:503)
... 8 more
原因是,Metastore默认存储在自带的derby数据库中,推荐使用mysql存储Metastore;
MySQL安装
a安装包准备
1.查看mysql是否安装,如果安装了,卸载mysql
rpm -qa|grep mysql
mysql-libs-5.1.73-7.el6.x86_64
2. 卸载
#
rpm -e --nodeps mysql-libs-5.1.73-7.el6.x86_64
3.解压
unzip mysql-libs.zip
文章图片
文章图片
安装MySql服务器
#
rpm -ivh MySQL-server-5.6.24-1.el6.x86_64.rpm
产生随机密码( 每一个人都不一样)
#
cat /root/.mysql_secret
OEXaQuS8IWkG19Xs
c查看MySQL的状态 和启动
#service mysql status
#service mysql start
安装客户端
1.安装mysql客户端
rpm -ivh MySQL-client-5.6.24-1.el6.x86_64.rpm
2.连接mysql
mysql -uroot -pOEXaQuS8IWkG19Xs
3.修改密码
mysql>
SET PASSWORD=PASSWORD(\'000000\');
4.退出mysql
mysql>
exit
mysql中的表主机配置(目的:配置只要root用户+密码,在任何主机上多能登录linux 上的mysql数据库)
1.进入mysql #
mysql -uroot -p000000
文章图片
2.显示数据库 mysql>
show databases;
文章图片
3.使用mysql数据库 mysql>
use mysql;
文章图片
4.展示mysql数据库中的所有表 mysql>
show tables;
文章图片
5.展示user表的结构 mysql>
desc user;
文章图片
6.查询user表 这里我已经改过的 ,所以user下面只有root用户 mysql>
select User, Host, Password from user;
文章图片
7.修改user表,把Host表内容修改为% mysql>
update user set host=\'%\' where host=\'localhost\';
文章图片
8.删除root用户的其他host
mysql>
delete from user where Host=\'hadoop102\';
mysql>
delete from user where Host=\'127.0.0.1\';
mysql>
delete from user where Host=\'::1\';
9.刷新
mysql>
flush privileges;
10.退出
mysql>
quit;
hive元数据配置到mysql
驱动拷贝
1.在/opt/software/mysql-libs目录下解压mysql-connector-java-5.1.27.tar.gz驱动包
#tar -zxvf mysql-connector-java-5.1.27.tar.gz
文章图片
2.拷贝/opt/software/mysql-libs/mysql-connector-java-5.1.27目录下的mysql-connector-java-5.1.27-bin.jar到/opt/module/hive/lib/
#cp mysql-connector-java-5.1.27-bin.jar /opt/module/hive/lib/
进入这个目录先要
文章图片
配置Metastore到MySql
1.在/opt/module/hive/conf目录下创建一个hive-site.xml
$ touch hive-site.xml
$ vi hive-site.xml
2.根据官方文档配置参数,拷贝数据到hive-site.xml文件中
https://cwiki.apache.org/confluence/display/Hive/AdminManual+MetastoreAdmin
<
?xml version="1.0"?>
<
?xml-stylesheet type="text/xsl" href="https://www.songbingjia.com/android/configuration.xsl"?>
<
configuration>
<
property>
<
name>
javax.jdo.option.ConnectionURL<
/name>
# 这里是连接的用户名字,也可以是id地址
<
value>
jdbc:mysql://bigdata03:3306/metastore?createDatabaseIfNotExist=true<
/value>
<
description>
JDBC connect string for a JDBC metastore<
/description>
<
/property>
<
property>
<
name>
javax.jdo.option.ConnectionDriverName<
/name>
<
value>
com.mysql.jdbc.Driver<
/value>
<
description>
Driver class name for a JDBC metastore<
/description>
<
/property>
<
property>
<
name>
javax.jdo.option.ConnectionUserName<
/name>
<
value>
root<
/value>
<
description>
username to use against metastore database<
/description>
<
/property>
<
property>
<
name>
javax.jdo.option.ConnectionPassword<
/name>
# 这里是mysql的密码
<
value>
123456<
/value>
<
description>
password to use against metastore database<
/description>
<
/property>
<
/configuration>
3.配置完毕后,如果启动hive异常,可以重新启动虚拟机。(重启后,别忘了启动hadoop集群)
多窗口启动Hive测试 1.先启动MySQL
$ mysql -uroot -p123456
查看有几个数据库
mysql>
show databases;
±-------------------+
| Database |
±-------------------+
| information_schema |
| mysql |
±-------------------+
2.再次打开多个窗口,分别启动hive
$ hive
3.启动hive后,回到MySQL窗口查看数据库,显示增加了metastore数据库
文章图片
HiveJDBC访问
2.6.1 启动hiveserver2服务
$ hiveserver2
文章图片
启动beeline(打开另外一个hive窗口)
$ beeline
文章图片
退出命令 :
hiveserver2 &
文章图片
beeline退出命令
!quit
exit:先隐性提交数据,再退出;
quit:不提交数据,退出;
- 一定要提前启动MySQL服务或者将MySQL服务设置为自启动
查看hive 帮助命令
文章图片
1.“-e”不进入hive的交互窗口执行sql语句
文章图片
2.“-f”执行脚本中sql语句
(1)在/opt/module/data目录下创建hivef.sql文件
文章图片
将查询的结果追加到 本地目录
文章图片
在hive cli命令窗口中如何查看hdfs文件系统
hive(default)> dfs -ls /;
文章图片
3.在hive cli命令窗口中如何查看本地文件系统
hive(default)> ! ls /opt/module/datas;
文章图片
JDBC中,!sh
d查看hive中写的所有历史命令
文章图片
Hive常见属性配置
Hive数据仓库位置配置
1)Default数据仓库的最原始位置是在hdfs上的:/user/hive/warehouse路径下。
2)在仓库目录下,没有对默认的数据库default创建文件夹。如果某张表属于default数据库,直接在数据仓库目录下创建一个文件夹。
3)修改default数据仓库原始位置(将hive-default.xml.template如下配置信息拷贝到hive-site.xml文件中)。
<
property>
<
name>
hive.metastore.warehouse.dir<
/name>
<
value>
/user/hive/warehouse<
/value>
<
description>
location of default database for the warehouse<
/description>
<
/property>
配置同组用户有执行权限
hdfs dfs -chmod g+w /user/hive/warehouse
2.9.2 查询后信息显示配置
1)在hive-site.xml文件中添加如下配置信息,就可以实现显示当前数据库,以及查询表的头信息配置。
<
property>
<
name>
hive.cli.print.header<
/name>
<
value>
true<
/value>
<
/property>
<
property>
<
name>
hive.cli.print.current.db<
/name>
<
value>
true<
/value>
<
/property>
2)重新启动hive,对比配置前后差异。
(1)配置前,
文章图片
图6-3 配置后
文章图片
hive 配置日志信息
【第2章 Hive安装】
文章图片
文章图片
查看当前所有的配置信息
hive>
set;
推荐阅读
- 对话系统简介与OPPO小布助手的工程实践
- gini基尼系数,累积准确度分布,AUC(风控模型核心指标)
- Hadoop 官方WordCount案例带你手把手的解析
- 对话交互(封闭域任务型与开放域闲聊算法技术)
- 用户路径分析之利器“桑基图”
- 深度学习中的分布式训练
- greenplum的升级与连接池pgbouncer
- 零代码上线小布对话技能(技能平台的实践与思考)
- Apache Airflow单机/分布式环境搭建