elasticsearch使用BulkProcessor批量入库数据

Posted allen-rg

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了elasticsearch使用BulkProcessor批量入库数据相关的知识,希望对你有一定的参考价值。

在解决es入库问题上,之前使用过rest方式,经过一段时间的测试发现千万级别的数据会存在10至上百条数据的丢失问题,

在需要保证数据的准确性的场景下,rest方式并不能保证结果的准确性,因此采用了elasticsearch的BulkProcessor方式来进行数据入库,

实际上采用es客户端不同,rest方式采用的是restClient,基于http协议,BulkProcessor使用的是TransportClient,基于Tcp协议。

 

 



原文链接:https://blog.csdn.net/wslyk606/article/details/79413980

以上是关于elasticsearch使用BulkProcessor批量入库数据的主要内容,如果未能解决你的问题,请参考以下文章

Elasticsearch:使用 Python elasticsearch-dsl-py 库对 Elasticsearch 进行查询

python使用elasticsearch模块操作elasticsearch

Elasticsearch:如何使用 shell 脚本来写入数据到 Elasticsearch 中

Elasticsearch数据迁移--elasticdump

Elasticsearch:使用 Debian 软件包安装 Elasticsearch

Elasticsearch:使用 Debian 软件包安装 Elasticsearch