Hive 实现将时间(时间戳)归到某时间片
【Hive 实现将时间(时间戳)归到某时间片】在进行数据处理或者建模的时候我们常常需要将某一时间段内的时间统一归于到某一时刻,来表征他们同属于这一时间段。比如2017-12-19 13:23:30,我们按照10min作为一个时间段向前划分,这个时间会被划分到2017-12-19 13:20:00,如果按照30min作为一个时间段,这个时间会被划分到2017-12-19 13:00:00。其他时间段长度可以依次类推。
如果使用python,scala,Java等语言来实现是一件很容易的事情,但是在工业生产环境中,我们希望可以直接HQL实现的还是用HQL,以下我们就使用纯HQL来解决。
我们知道时间戳表示1970年至今的秒数,一个小时有3600秒,10分钟为600秒,所以我们使用时间戳来除600秒然后向下取整(扔掉余数),得到的从1970年开始,到现在的时间段数量(10分钟作为一个时间段),然后这个值再乘上600,得到的就是所属的那个时间片开始的时刻。举例如下:
30分钟作为一个时间段
# 注意一点,hive的的除法会自动转为double类型,所以我们要加一个CAST
# 结果为2017-11-11 13:00:00
SELECT DISTINCT FROM_UNIXTIME(60*30*CAST(UNIX_TIMESTAMP("2017-11-11 13:23:23")/(60*30) AS BIGINT), 'yyyy-MM-dd HH:mm:ss')
FROM test_table
10分钟作为一个时间段
# 注意一点,hive的的除法会自动转为double类型,所以我们要加一个CAST
# 结果为2017-11-11 13:20:00
SELECT DISTINCT FROM_UNIXTIME(60*10*CAST(UNIX_TIMESTAMP("2017-11-11 13:23:23")/(60*10) AS BIGINT), 'yyyy-MM-dd HH:mm:ss')
FROM test_table
推荐阅读
- 关于QueryWrapper|关于QueryWrapper,实现MybatisPlus多表关联查询方式
- MybatisPlus使用queryWrapper如何实现复杂查询
- python学习之|python学习之 实现QQ自动发送消息
- 科学养胃,别被忽悠,其实真的很简单
- 其实你就是个普通人
- 海院(实干是海院风景(上))
- 你眼里的不公平,其实很公平
- 孩子不是实现父母欲望的工具——林哈夫
- opencv|opencv C++模板匹配的简单实现
- Node.js中readline模块实现终端输入