elk+kafka+zookeeper+filebeat安装
Posted hanxiaohui
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了elk+kafka+zookeeper+filebeat安装相关的知识,希望对你有一定的参考价值。
ElasticSearch6.0
ElasticSearch6.0安装
#依赖jdk8 rpm -ivh elasticsearch-6.0.0.rpm vim /etc/elasticsearch/elasticsearch.yml #配置如下 node.name: es1 node.master: true node.data: true path.data: /home/es/data path.logs: /home/es/logs network.host: 192.168.55.215 http.port: 9200 bootstrap.memory_lock: false #centos6需要 bootstrap.system_call_filter: false #centos6需要 ##以下两项是head插件访问es需要配置 http.cors.enabled: true http.cors.allow-origin: "*" # 设置索引的分片数,默认为5 #index.number_of_shards: 5 # 设置索引的副本数,默认为1: #index.number_of_replicas: 1 mkdir -p /home/es/{data,logs} chown -R elasticsearch.elasticsearch /home/es vim /etc/security/limits.conf #添加或修改以下内容 * hard nproc 4096 * soft nproc 4096 * hard nofile 131072 * soft nofile 65536 /etc/elasticsearch/jvm.options #更改启动内存,测试环境512M就可以了 -Xms1g -Xmx1g /etc/sysconfig/elasticsearch #启动脚本的一些环境变量例如 JAVA_HOME=/opt/java /etc/init.d/elasticsearch start #启动es
ElasticSearch配置文件详解
https://blog.csdn.net/zxf_668899/article/details/54582849
ElasticSearch6.0-head插件安装(界面查看es索引)
#网址:http://www.cnblogs.com/Onlywjy/p/Elasticsearch.html #包D:sharesrcelkelk6.0elasticsearch-head插件 1.安装node tar -C /opt/ -zxvf node-v4.4.7-linux-x64.tar.gz vim /etc/profile.d/node.sh #配置node环境变量 export NODE_HOME=/opt/node-v4.4.7-linux-x64 export PATH=$PATH:$NODE_HOME/bin export NODE_PATH=$NODE_HOME/lib/node_modules source /etc/profile.d/node.sh 2.安装grunt unzip elasticsearch-head-master.zip cd elasticsearch-head-master npm install -g grunt-cli //执行后会生成node_modules文件夹 grunt -version #检查是否安装成功 修改head插件源码 修改服务器监听地址:Gruntfile.js #93行,默认端口号库9100 修改连接地址:_site/app.js #4354行,修改es连接地址 3.运行head 在elasticsearch-head-master目录下 npm install #(安装下载下来的包,如果出错再执行一遍) grunt server & #后台启动、netstat -lnp | grep 9100 4.访问http://xxx:9100
5.head使用
https://www.cnblogs.com/yanan7890/p/6640289.html
ElasticSearch6.0索引清理
curl -XGET ‘http://192.168.55.219:9200/_cat/indices/?v‘ #查询索引 curl -XDELETE ‘http://127.0.0.1:9200/logstash-2016-07-*‘ #api删除索引 脚本加api删除(推荐) vim /opt/sh/es-index-clear.sh #/bin/bash #指定日期(7天前) DATA=`date -d "1 week ago" +%Y.%m.%d` #当前日期 time=`date` #删除7天前的日志 curl -XDELETE http://127.0.0.1:9200/*-${DATA} if [ $? -eq 0 ];then echo $time"-->del $DATA log success.." >> /tmp/es-index-clear.log else echo $time"-->del $DATA log fail.." >> /tmp/es-index-clear.log fi 添加到任务计划 crontab -e 10 1 * * * sh /tmp/es-index-clear.sh > /dev/null 2>&1
elasticSearch常用命令
原网址:https://zhaoyanblog.com/archives/732.html curl ‘localhost:9200/_cluster/health?pretty‘ 健康检查 curl ‘localhost:9200/_cluster/state?pretty‘ 集群详细信息
以上是关于elk+kafka+zookeeper+filebeat安装的主要内容,如果未能解决你的问题,请参考以下文章
ELK+zookeeper+kafka收集springcould日志配置文档
ELK之七------Zookeeper和Kafka安装与配置
ELK 日志分析系统整合 KafKa Zookeeper 集群