es 集群写入优化

Posted 水滴石川1

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了es 集群写入优化相关的知识,希望对你有一定的参考价值。

提示:以下设置针对es index 设置

场景1:设置合理的刷新 时间 index.refresh_interval , 刷新写入时间间隔,提高es 数据的写入能力,带来的影响是日志获取时间会延迟refresh_interval  的时间 针对es 的索引设置

# 针对指定索引设置

PUT /cc2/settings{
  {
    "index" : {
        "refresh_interval" : "4s"
    }
}

# 针对集群所有索引设置

PUT /*/_settings
{
    "index":{
          "refresh_interval" : "4s"
    }
}

场景2:es translog 时间,延迟落盘时间也可以提高写入的性能

#  针对单一索引设置

PUT /cc2/_settings
{
  "index.translog" : { 
     "durability": "async",
     "sync_interval": "120s",
     "flush_threshold_size": "1g"
   }
}

 

# 针对可以改整个集群的索引,PUT /*/_settings
{
    "index":{
      "translog":{
         "flush_threshold_size" : "1g",
          "sync_interval" : "120s",
          "durability" : "async"
      }
    }
}

 

 

参考链接:https://www.elastic.co/guide/en/elasticsearch/reference/7.13/indices-update-settings.html

                 https://www.elastic.co/guide/en/elasticsearch/reference/current/index-modules-translog.html

以上是关于es 集群写入优化的主要内容,如果未能解决你的问题,请参考以下文章

spark->es快速导入数据

记一次日志采集问题:logstash没有向ES写入数据

datax写数据到es慢

spark如何优化设置

Elasticsearch 写入优化,从 3000 到 8000/s,让你的 ES 飞起来。。。

es写入数据的工作原理是啥?