elasticsearch 索引数据多了怎么办，如何调优，部署？

Posted 2021-08-21 四猿外

索引数据的规划，应在前期做好规划， 正所谓“ 设计先行，编码在后” ，这样才能有效的避免突如其来的数据激增导致集群处理能力不足引发的线上客户检索或者其他业务受到影响。

如何调优：

动态索引层面

基于模板+时间+rollover api 滚动创建索引，举例： 设计阶段定义： blog 索引的模板格式为： blog_index_时间戳的形式，每天递增数据。

这样做的好处：不至于数据量激增导致单个索引数据量非常大， 接近于上线2 的32 次幂-1，索引存储达到了TB+甚至更大。

一旦单个索引很大，存储等各种风险也随之而来， 所以要提前考虑+及早避免。

存储层面

冷热数据分离存储，热数据（比如最近3 天或者一周的数据），其余为冷数据。

对于冷数据不会再写入新数据，可以考虑定期force_merge 加shrink 压缩操作，节省存储空间和检索效率。

部署层面

一旦之前没有规划，这里就属于应急策略。

结合ES 自身的支持动态扩展的特点，动态新增机器的方式可以缓解集群压力，注意： 如果之前主节点等规划合理，不需要重启集群也能完成动态新增的。