第2章 Hive安装

世事洞明皆学问,人情练达即文章。这篇文章主要讲述第2章 Hive安装相关的知识,希望能为你提供帮助。

文章目录

    • 第2章 Hive安装
      • 2.1 Hive安装地址
      • Hive安装及配置
      • Hadoop集群配置
      • MySQL安装
      • 安装MySql服务器
      • 安装客户端
        • 1.进入mysql
        • 2.显示数据库
        • 3.使用mysql数据库
        • 4.展示mysql数据库中的所有表
        • 5.展示user表的结构
        • 6.查询user表 这里我已经改过的 ,所以user下面只有root用户
        • 7.修改user表,把Host表内容修改为%
        • 8.删除root用户的其他host
        • 9.刷新
        • 10.退出
      • hive元数据配置到mysql
      • 配置Metastore到MySql
        • 多窗口启动Hive测试
      • HiveJDBC访问
      • Hive常用交互命令
      • Hive常见属性配置
      • hive 配置日志信息

第2章 Hive安装 2.1 Hive安装地址
1.Hive官网地址
http://hive.apache.org/
2.文档查看地址
【https://cwiki.apache.org/confluence/display/Hive/GettingStarted
3.下载地址
http://archive.apache.org/dist/hive/
4.github地址
https://github.com/apache/hive
Hive安装及配置
把apache-hive-1.2.1-bin.tar.gz上传到linux的/opt/software目录下
(2)解压apache-hive-1.2.1-bin.tar.gz到/opt/module/目录下面
第2章 Hive安装

文章图片

1解压:tar -zxvf apache-hive-1.2.1-bin.tar.gz -C /opt/module/
2.修改名字:mv apache-hive-1.2.1-bin/ hive
3.改/opt/module/hive/conf目录下的hive-env.sh.template名称为hive-env.sh
命令:mv hive-env.sh.template hive-env.sh
4. 配置hive-env.sh 文件
第2章 Hive安装

文章图片

Hadoop集群配置
1.启动:
start-dfs.sh start-yarn.sh

1.在HDFS上创建/tmp和/user/hive/warehouse两个目录并修改他们的同组权限可写(这个是conf下面的默认的路径)
hadoop fs -mkdir /tmp hadoop fs -mkdir -p /user/hive/warehouse

给权限
hadoop fs -chmod g+w /tmp hadoop fs -chmod g+w /user/hive/warehouse

配置环境变量
vi /etc/profile

第2章 Hive安装

文章图片
启动hive
第2章 Hive安装

文章图片
hive的一些基本操作
第2章 Hive安装

文章图片
提问:
再打开一个客户端窗口启动hive,会产生java.sql.SQLException异常
Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:522) at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:677) at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:621) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:606) at org.apache.hadoop.util.RunJar.run(RunJar.java:221) at org.apache.hadoop.util.RunJar.main(RunJar.java:136) Caused by: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient at org.apache.hadoop.hive.metastore.MetaStoreUtils.newInstance(MetaStoreUtils.java:1523) at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.< init> (RetryingMetaStoreClient.java:86) at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.getProxy(RetryingMetaStoreClient.java:132) at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.getProxy(RetryingMetaStoreClient.java:104) at org.apache.hadoop.hive.ql.metadata.Hive.createMetaStoreClient(Hive.java:3005) at org.apache.hadoop.hive.ql.metadata.Hive.getMSC(Hive.java:3024) at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:503) ... 8 more 原因是,Metastore默认存储在自带的derby数据库中,推荐使用mysql存储Metastore;

MySQL安装
a安装包准备
1.查看mysql是否安装,如果安装了,卸载mysql
rpm -qa|grep mysql

mysql-libs-5.1.73-7.el6.x86_64
2. 卸载
#rpm -e --nodeps mysql-libs-5.1.73-7.el6.x86_64
3.解压
unzip mysql-libs.zip

第2章 Hive安装

文章图片

第2章 Hive安装

文章图片

安装MySql服务器
#rpm -ivh MySQL-server-5.6.24-1.el6.x86_64.rpm
产生随机密码( 每一个人都不一样)
#cat /root/.mysql_secret
OEXaQuS8IWkG19Xs
c查看MySQL的状态 和启动
#service mysql status #service mysql start

安装客户端
1.安装mysql客户端
rpm -ivh MySQL-client-5.6.24-1.el6.x86_64.rpm

2.连接mysql
mysql -uroot -pOEXaQuS8IWkG19Xs

3.修改密码
mysql> SET PASSWORD=PASSWORD(\'000000\');

4.退出mysql
mysql> exit

mysql中的表主机配置(目的:配置只要root用户+密码,在任何主机上多能登录linux 上的mysql数据库)
1.进入mysql #mysql -uroot -p000000
第2章 Hive安装

文章图片

2.显示数据库 mysql> show databases;
第2章 Hive安装

文章图片

3.使用mysql数据库 mysql> use mysql;
第2章 Hive安装

文章图片

4.展示mysql数据库中的所有表 mysql> show tables;
第2章 Hive安装

文章图片

5.展示user表的结构 mysql> desc user;
第2章 Hive安装

文章图片

6.查询user表 这里我已经改过的 ,所以user下面只有root用户 mysql> select User, Host, Password from user;
第2章 Hive安装

文章图片

7.修改user表,把Host表内容修改为% mysql> update user set host=\'%\' where host=\'localhost\';
第2章 Hive安装

文章图片

8.删除root用户的其他host
mysql> delete from user where Host=\'hadoop102\'; mysql> delete from user where Host=\'127.0.0.1\'; mysql> delete from user where Host=\'::1\';

9.刷新
mysql> flush privileges;

10.退出
mysql> quit;

hive元数据配置到mysql
驱动拷贝
1.在/opt/software/mysql-libs目录下解压mysql-connector-java-5.1.27.tar.gz驱动包
#tar -zxvf mysql-connector-java-5.1.27.tar.gz
第2章 Hive安装

文章图片

2.拷贝/opt/software/mysql-libs/mysql-connector-java-5.1.27目录下的mysql-connector-java-5.1.27-bin.jar到/opt/module/hive/lib/
#cp mysql-connector-java-5.1.27-bin.jar /opt/module/hive/lib/
进入这个目录先要
第2章 Hive安装

文章图片

配置Metastore到MySql
1.在/opt/module/hive/conf目录下创建一个hive-site.xml
$ touch hive-site.xml $ vi hive-site.xml

2.根据官方文档配置参数,拷贝数据到hive-site.xml文件中
https://cwiki.apache.org/confluence/display/Hive/AdminManual+MetastoreAdmin
< ?xml version="1.0"?> < ?xml-stylesheet type="text/xsl" href="https://www.songbingjia.com/android/configuration.xsl"?> < configuration> < property> < name> javax.jdo.option.ConnectionURL< /name> # 这里是连接的用户名字,也可以是id地址 < value> jdbc:mysql://bigdata03:3306/metastore?createDatabaseIfNotExist=true< /value> < description> JDBC connect string for a JDBC metastore< /description> < /property> < property> < name> javax.jdo.option.ConnectionDriverName< /name> < value> com.mysql.jdbc.Driver< /value> < description> Driver class name for a JDBC metastore< /description> < /property> < property> < name> javax.jdo.option.ConnectionUserName< /name> < value> root< /value> < description> username to use against metastore database< /description> < /property> < property> < name> javax.jdo.option.ConnectionPassword< /name> # 这里是mysql的密码 < value> 123456< /value> < description> password to use against metastore database< /description> < /property> < /configuration>

3.配置完毕后,如果启动hive异常,可以重新启动虚拟机。(重启后,别忘了启动hadoop集群)
多窗口启动Hive测试 1.先启动MySQL
$ mysql -uroot -p123456

查看有几个数据库
mysql> show databases;

±-------------------+
| Database |
±-------------------+
| information_schema |
| mysql |
±-------------------+
2.再次打开多个窗口,分别启动hive
$ hive

3.启动hive后,回到MySQL窗口查看数据库,显示增加了metastore数据库
第2章 Hive安装

文章图片

HiveJDBC访问
2.6.1 启动hiveserver2服务
$ hiveserver2
第2章 Hive安装

文章图片

启动beeline(打开另外一个hive窗口)
$ beeline
第2章 Hive安装

文章图片
退出命令 :
hiveserver2 &

第2章 Hive安装

文章图片

beeline退出命令
!quit

exit:先隐性提交数据,再退出;
quit:不提交数据,退出;
  • 一定要提前启动MySQL服务或者将MySQL服务设置为自启动
Hive常用交互命令
查看hive 帮助命令
第2章 Hive安装

文章图片

1.“-e”不进入hive的交互窗口执行sql语句
第2章 Hive安装

文章图片

2.“-f”执行脚本中sql语句
(1)在/opt/module/data目录下创建hivef.sql文件
第2章 Hive安装

文章图片
将查询的结果追加到 本地目录
第2章 Hive安装

文章图片

在hive cli命令窗口中如何查看hdfs文件系统
hive(default)> dfs -ls /;
第2章 Hive安装

文章图片

3.在hive cli命令窗口中如何查看本地文件系统
hive(default)> ! ls /opt/module/datas;
第2章 Hive安装

文章图片

JDBC中,!sh
d查看hive中写的所有历史命令
第2章 Hive安装

文章图片

Hive常见属性配置
Hive数据仓库位置配置
1)Default数据仓库的最原始位置是在hdfs上的:/user/hive/warehouse路径下。
2)在仓库目录下,没有对默认的数据库default创建文件夹。如果某张表属于default数据库,直接在数据仓库目录下创建一个文件夹。
3)修改default数据仓库原始位置(将hive-default.xml.template如下配置信息拷贝到hive-site.xml文件中)。
< property> < name> hive.metastore.warehouse.dir< /name> < value> /user/hive/warehouse< /value> < description> location of default database for the warehouse< /description> < /property>

配置同组用户有执行权限
hdfs dfs -chmod g+w /user/hive/warehouse

2.9.2 查询后信息显示配置
1)在hive-site.xml文件中添加如下配置信息,就可以实现显示当前数据库,以及查询表的头信息配置。
< property> < name> hive.cli.print.header< /name> < value> true< /value> < /property> < property> < name> hive.cli.print.current.db< /name> < value> true< /value> < /property>

2)重新启动hive,对比配置前后差异。

(1)配置前,
第2章 Hive安装

文章图片

图6-3 配置后
第2章 Hive安装

文章图片

hive 配置日志信息
【第2章 Hive安装】
第2章 Hive安装

文章图片

第2章 Hive安装

文章图片

查看当前所有的配置信息
hive> set;


    推荐阅读