1. 首页
  2. 文章中心
  3. 大数据

CetnOS 6.7安装Hive 1.2.1master

100 阅读 0 评论
我是靠谱客的博主 饱满鸡翅，这篇文章主要介绍CetnOS 6.7安装Hive 1.2.1master，现在分享给大家，希望可以做个参考。

之前已经在CentOS 6.7上安装部署Hadoop 2.7.2（http://blog.csdn.net/noob_f/article/details/53366756），并正常启动Hadoop集群。

机器名作用
masterNameNode
slaveDataNode

master

复制代码
1
2
3
4
[root@master ~]# wget https://mirrors.tuna.tsinghua.edu.cn/apache/hive/stable/apache-hive-1.2.1-bin.tar.gz
[root@master ~]# tar zxvf apache-hive-1.2.1-bin.tar.gz
[root@master ~]# mv apache-hive-1.2.1-bin /usr/local/

Hive环境变量

复制代码
1
[root@master ~]# vi /etc/profile.d/hive.sh

添加

复制代码
1
2
3
export HIVE_HOME=/usr/local/apache-hive-1.2.1-bin
export PATH=$PATH:$HIVE_HOME/bin

保存退出

复制代码
1
2
3
4
5
[root@master ~]# source /etc/profile.d/hive.sh
[root@master ~]# hive
Logging initialized using configuration in jar:file:/usr/local/apache-hive-1.2.1-bin/lib/hive-common-1.2.1.jar!/hive-log4j.properties
hive> quit;
[root@master ~]#

安装MySQL

复制代码
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
[root@master ~]# rpm -qa |grep mysql
mysql-libs-5.1.73-5.el6_6.x86_64
[root@master ~]# yum -y remove mysql-lib*
[root@master ~]# yum list |grep mysql
apr-util-mysql.x86_64
1.3.9-3.el6_0.1
base
bacula-director-mysql.x86_64
5.0.0-13.el6
base
bacula-storage-mysql.x86_64
5.0.0-13.el6
base
dovecot-mysql.x86_64
1:2.0.9-22.el6
base
freeradius-mysql.x86_64
2.2.6-6.el6_7
base
libdbi-dbd-mysql.x86_64
0.8.3-5.1.el6
base
mod_auth_mysql.x86_64
1:3.0.0-11.el6_0.1
base
mysql.x86_64
5.1.73-7.el6
base
mysql-bench.x86_64
5.1.73-7.el6
base
mysql-connector-java.noarch
1:5.1.17-6.el6
base
mysql-connector-odbc.x86_64
5.1.5r1144-7.el6
base
mysql-devel.i686
5.1.73-7.el6
base
mysql-devel.x86_64
5.1.73-7.el6
base
mysql-embedded.i686
5.1.73-7.el6
base
mysql-embedded.x86_64
5.1.73-7.el6
base
mysql-embedded-devel.i686
5.1.73-7.el6
base
mysql-embedded-devel.x86_64
5.1.73-7.el6
base
mysql-libs.i686
5.1.73-7.el6
base
mysql-libs.x86_64
5.1.73-7.el6
base
mysql-server.x86_64
5.1.73-7.el6
base
mysql-test.x86_64
5.1.73-7.el6
base
pcp-pmda-mysql.x86_64
3.10.9-6.el6
base
php-mysql.x86_64
5.3.3-48.el6_8
updates
qt-mysql.i686
1:4.6.2-28.el6_5
base
qt-mysql.x86_64
1:4.6.2-28.el6_5
base
rsyslog-mysql.x86_64
5.8.10-10.el6_6
base
rsyslog7-mysql.x86_64
7.4.10-5.el6
base
[root@master ~]# yum install mysql-server.x86_64
[root@master ~]# rpm -qa |grep -i mysql
mysql-5.1.73-7.el6.x86_64
mysql-libs-5.1.73-7.el6.x86_64
mysql-server-5.1.73-7.el6.x86_64
perl-DBD-MySQL-4.013-3.el6.x86_64

将MySQL的JDBC驱动文件mysql-connector-java-5.1.40-bin.jar（该文件可在安装MySQL的lib目录下找到，我是在mysql官网下载的）复制到Hive的依赖库中

复制代码
1
2
3
4
5
[root@master ~]# wget http://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.40.tar.gz
[root@master ~]#
tar zxvf mysql-connector-java-5.1.40.tar.gz
[root@master ~]# cp mysql-connector-java-5.1.40/mysql-connector-java-5.1.40-bin.jar /usr/local/apache-hive-1.2.1-bin/lib/

设置MySQL

复制代码
1
2
3
4
5
6
7
8
9
[root@master ~]# /etc/init.d/mysqld start
[root@master ~]# mysql -u root -p
Enter password:
Welcome to the MySQL monitor.
Commands end with ; or g.
Your MySQL connection id is 2
Server version: 5.1.73 Source distribution
mysql> create database hiveDB;

修改root密码

复制代码
1
2
3
mysql> use mysql;
mysql> update user set password=password('root') where user='root';

刷新系统权限表

复制代码
1
2
3
mysql> FLUSH PRIVILEGES;
mysql> quit;

重新登录mysql

复制代码
1
2
3
4
5
[root@master ~]# mysql -u root –p
mysql> grant all privileges on hiveDB.* to 'root'@'%' identified by 'root';
mysql> flush privileges;
mysql> quit;

配置Hive

复制代码
1
[root@master ~]# vi /usr/local/apache-hive-1.2.1-bin/conf/hive-env.sh.template

修改

复制代码
1
# HADOOP_HOME=${bin}/../../hadoop

为

复制代码
1
HADOOP_HOME=/usr/local/hadoop-2.7.2

保存退出

复制代码
1
2
3
4
5
6
7
8
9
10
11
[root@master ~]# mv /usr/local/apache-hive-1.2.1-bin/conf/hive-env.sh.template /usr/local/apache-hive-1.2.1-bin/conf/hive-env.sh
[root@master ~]# /usr/local/hadoop-2.7.2/bin/hdfs dfs -ls /
16/11/25 19:08:51 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Found 2 items
drwx------
- root supergroup
0 2016-11-25 16:36 /tmp
drwxr-xr-x
- root supergroup
0 2016-11-25 01:16 /user
  • 创建数据仓库操作过程中临时数据在HDFS上的转存目录
复制代码
1
[root@master ~]# /usr/local/hadoop-2.7.2/bin/hdfs dfs -mkdir /tmp/hive
  • 创建数据仓库操作过程中数据文件在HDFS上的存储目录
复制代码
1
2
3
[root@master ~]# /usr/local/hadoop-2.7.2/bin/hdfs dfs -mkdir /user/hive
[root@master ~]# /usr/local/hadoop-2.7.2/bin/hdfs dfs -mkdir /user/hive/warehouse

文件hive-site.xml内保存Hive运行时所需要的相关配置信息

复制代码
1
[root@master ~]# vi /usr/local/apache-hive-1.2.1-bin/conf/hive-site.xml

添加

复制代码
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<configuration>
<!-- Hive Execution Parameters -->
<property>
<name>hive.exec.scratchdir</name>
<value>/tmp/hive</value>
<description>HDFS root scratch dir for Hive jobs which gets created with write all (733) permission. For each connecting user, an HDFS scratch dir: ${hive.exec.scratchdir}/&lt;username&gt; is created, with ${hive.scratch.dir.permission}.</description>
</property>
<property>
<name>hive.metastore.warehouse.dir</name>
<value>hdfs://master:9000/hive/warehouse</value>
<description>location of default database for the warehouse</description>
</property>
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
<description>Driver class name for a JDBC metastore</description>
</property>
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>root</value>
<description>Username to use against metastore database</description>
</property>
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>root</value>
<description>password to use against metastore database</description>
</property>
<property>
<name>javax.jdo.option.Multithreaded</name>
<value>true</value>
<description>Set this to true if multiple threads access metastore through JDO concurrently.</description>
</property>
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://master:3306/hiveDB?createDatabaseIfNotExist=true</value>
<description>JDBC connect string for a JDBC metastore</description>
</property>
</configuration>

保存退出

  • 属性hive.exec.scratchdir：执行Hive操作访问HDFS时用于存储临时数据的目录，默认为/tmp/目录，通常设置为/tmp/hive/。
  • 属性hive.metastore.warehouse.dir：执行Hive数据仓库操作的数据存储目录，设置为HDFS存储路径hdfs://master_hostname:port/hive/warehouse，这里设为hdfs://master:9000/hive/warehouse。
  • 属性javax.jdo.option.ConnectionDriverName：设置Hive连接MySQL的驱动名称，属性值为com.mysql.jdbc.Driver。
  • 属性javax.jdo.option.ConnectionUserName：Hive连接存储metastore内容的数据库的用户名。
  • 属性javax.jdo.option.ConnectionPassword：Hive连接存储metastore内容的数据库的密码。
  • 属性javax.jdo.option.Multithreaded：是否允许Hive与MySQL之间存在多条连接，设置为true，表示允许。
  • 属性javax.jdo.option.ConnectionURL：设置Hive通过JDBC模式连接MySQL数据库存储metastore内容，属性值为jdbc:mysql://host/database_name?createDatabaseIfNotExist=true，这里设为jdbc:mysql://master:3306/hiveDB?createDatabaseIfNotExist=true。
复制代码
1
2
3
4
5
6
7
8
[root@master ~]# hive
Logging initialized using configuration in jar:file:/usr/local/apache-hive-1.2.1-bin/lib/hive-common-1.2.1.jar!/hive-log4j.properties
hive> SHOW TABLES;
OK
Time taken: 1.637 seconds
hive> quit;
[root@master ~]#

转载于:https://www.cnblogs.com/Genesis2018/p/8304710.html

最后

以上就是饱满鸡翅最近收集整理的关于CetnOS 6.7安装Hive 1.2.1master的全部内容，更多相关CetnOS内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
点赞(66)

相关文章

[Hive - LanguageManual] VirtualColumns
[Hive - LanguageManual] VirtualColumns
hive1.2.1搭建遇到的问题
hive1.2.1搭建遇到的问题
Hive安装与部署使用mysql元数据库安装。
Hive安装与部署使用mysql元数据库安装。
hive安装
hive安装
CetnOS 6.7安装Hive 1.2.1master
CetnOS 6.7安装Hive 1.2.1master
apache-hive-1.2.1和hbase-1.2.2的整合(伪分布式)
apache-hive-1.2.1和hbase-1.2.2的整合(伪分布式)
hive环境---安装系列五
hive环境---安装系列五
1、hive安装详细步骤
1、hive安装详细步骤

评论列表共有 0 条评论

立即
投稿
返回
顶部