锐客网

  1. 首页 > 睿知 > it技术 > >

elasticsearch7.16版本数据冷热分层迁移失败总结

IT知识ElasticsearcElasticSearc

家资是何物，积帙列梁梠。这篇文章主要讲述elasticsearch7.16版本数据冷热分层迁移失败总结相关的知识，希望能为你提供帮助。
背景介绍：最近将某产品服务日志由本地服务器存储全部迁移到ELK，使用索引生命周期进行管理，由于日志量较大，每天的日志量为500G，考虑到成本问题，采用es的冷热数据分层，将不常查询的数据放到温层普通硬盘，保留近2个月，经常读写查询的日志在hot层保留近3天日志，2Tssd硬盘，配置好各个节点的角色后（关于配置比较简单，这里不再多说，新版本省去了很多步骤，主要是在node.roles定义角色即可），然后观察迁移结果，发生在warm层一直处于migrate状态，数据无法迁移到warm节点。
通过kibana界面或API命令（GET 索引名/_ilm/explain）可以看到索引在温热数据层迁移的状态成功与否，失败的话会有如下提示
失败提示1：
Waiting for [1] shards to be allocated to nodes matching the given filters


失败提示2:
lifecycle action [migrate] waiting for [2] shards to be moved to the [data_warm] tier (tier migration preference configuration is [data_warm,data_hot])”


可以通过API查看当前索引迁移状态：
GET   /_cluster/allocation/explain   #主要介绍这个排错方法，非常好用

  "index": "logstash-xxx”,#索引名字
  "shard": 4,#索引的某个具体的分片
  "primary": true

查看返回的结果，主要是explanation字段的值，描述了迁移失败的原因，一般都对应的解决办法：


错误原因1（节点匹配错误）:
node does not match index setting [index.routing.allocation.require] filters [box_type:“cold”,_id:“so1n_id_3”]


错误原因2（node_concurrent_incoming_recoveries设置过小）:
"reached the limit of incoming shard recoveries [6], cluster setting [cluster.routing.allocation.node_concurrent_incoming_recoveries=6] (can also be set via [cluster.routing.allocation.node_concurrent_recoveries])”


成功提示：
rebalance_explanation：cannot rebalance as no target node exists that can both allocate this shard and improve the cluster balance。


总结：
【elasticsearch7.16版本数据冷热分层迁移失败总结】由于个人原因，未能在测试阶段进行充分验证，差点造成大错，还好过期数据已经按计划进行了迁移。

    推荐阅读


    上一篇：U盘把 FAT32 转成 NTFS 的方式，实现过大的文件可以传输

    下一篇：centos7 以上 安装 docker 和 docker-compose