莫问天涯路几重,轻衫侧帽且从容。这篇文章主要讲述kudu表数据备份还原说明相关的知识,希望能为你提供帮助。
文档目的?ods层kudu大表数据迁移到hive
迁移步骤?先将数据从kudu备份到hdfs上,再从hdfs将数据还原到hive
数据备份脚本?
#!/bin/bash dt=`date "+%Y%m%d %H:%M:%S"` echo "$dt 开始数据备份!" > > ./backup.log sudo -u hdfs spark-submit --master yarn \\ --class org.apache.kudu.backup.KuduBackup /opt/cloudera/parcels/CDH/jars/kudu-backup2_2.11-1.10.0-cdh6.3.0.jar \\ --kuduMasterAddresses gray-data-dwma01,gray-data-dwma02,gray-data-dwma03,data-gray-alhzgz-ecs-dtpbu-cdh-tank-v2-dwma-04,data-gray-alhzgz-ecs-dtpbu-cdh-tank-v2-dwma-05 \\ --rootPath /user/hive/warehouse/kudu-backup \\ db_prod.ads_agent_data_driver_apply_ds dt=`date "+%Y%m%d %H:%M:%S"` if [ $? -eq 0 ]; then echo "$dt 备份成功!" > > ./backup.log else echo "$dt 备份失败!" > > ./backup.log fi |
脚本说明:脚本执行方式 nohup sh 脚本名 &
:dt 系统时间
:--class org.apache.kudu.backup.KuduBackup 本地jar路径
:--kuduMasterAddresses kuduMaster地址
:--rootPath 备份目录
:db_prod.ads_agent_data_driver_apply_ds 需要备份的库表,脚本只需修改此处
数据还原脚本?
#/bin/bash dt=`date "+%Y%m%d %H:%M:%S"` echo "$dt 开始数据还原!" > > ./backup.log sudo -u hdfs spark-submit --master yarn \\ --class org.apache.kudu.backup.KuduRestore /opt/cloudera/parcels/CDH/jars/kudu-backup2_2.11-1.10.0-cdh6.3.0.jar \\ --kuduMasterAddresses gray-data-dwma01,gray-data-dwma02,gray-data-dwma03,data-gray-alhzgz-ecs-dtpbu-cdh-tank-v2-dwma-04,data-gray-alhzgz-ecs-dtpbu-cdh-tank-v2-dwma-05 \\ --rootPath /user/hive/warehouse/kudu-backup \\ db_prod.ads_agent_data_driver_apply_ds dt=`date "+%Y%m%d %H:%M:%S"` if [ $? -eq 0 ]; then echo "数据还原成功!" > > ./backup.log else echo "数据还原失败!" > > ./backup.log fi |
脚本说明:脚本执行方式 nohup sh 脚本名 &
:dt 系统时间
:--class org.apache.kudu.backup.KuduRestore 本地jar路径
:--kuduMasterAddresses kuduMaster地址
:--rootPath 备份保存目录
:db_prod.ads_agent_data_driver_apply_ds 需要还原的库表,脚本只需修改此处
【kudu表数据备份还原说明】
推荐阅读
- JavaWeb+MySQL实现课程管理系统
- linux-ext4格式文件误删除恢复
- CentOS 备份实战
- 信而泰一体化智能测试,助力客户降本增效
- [ 链表OJ题 --C语言实现 ] 反转链表
- “军备竞赛”时期的对比学习
- 40篇学完C语言——(第七篇)地址算术运算
- 就全懂了
- 学妹一反常态主动联系我,我要不要答应帮她()