Enable ES Kibana
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Enable ES Kibana相关的知识,希望对你有一定的参考价值。
参考技术A Kibana是一个非常流行的开源可视化工具,用来操作Elastic search。在AWS ES domain上,你可以看到一个kibana的link但是当你点开这个link,想要使用kibana的时候,就会出现一个error:
以上错误的意思很明显:
我当前不是已经登录了一个user, 为什么会是匿名user呢?原因是当你直接点开kibana的link,相当于给es domain发了一个HTTPs请求
你发送这个请求的时候直接使用了浏览器,肯定是匿名的,而且是一个GET请求,因此这个报错非常make sense, 一个匿名的用户没有权限执行es:ESHttpGet请求。
其实就是说如何有权限给 GET https://EShostName/_plugin/kibana/ 发请求?
每一种AWS资源,都可以给自己配置access controll policy,去限制其他资源或者其他Role对自己的访问。当然Elatsic search也是一样
我们可以通过上图红框标明的位置去修改当前这domain的access controll policy。
ES提供了很多policy帮助你controll access to your cluster:
https://docs.aws.amazon.com/elasticsearch-service/latest/developerguide/es-ac.html#es-ac-types-ip
这里我们需要使用 IP-based Policies 进行access kibana的controll。
这种policy限制只有一个或者多个IP地址可以access cluster。这种policy最大的优势是允许 unsign 的request发往cluster。其实就是任何匿名User,只要给ES发请求的IP地址在 IP-based Policies 的white list中,就可以给ES发请求。
这种policy对ES来说非常的便捷,因为ES中基本上所有的操作都是通过HTTP请求实现。
对于kibana我们选择使用 IP-based Policies , 因为本身kibana并不能支持IAM Role、User
可以将下面的policy配置给cluster domain:
上买的policy允许IP地址在IpAddress中的匿名user发任何ES HTTP请求到test-domain中。
如果我们将这个policy配置给test-domain domain,那么就以为这个匿名用户可以发ES GET请求了,那么此时你再打开kibana的link(其实就是给ES发GET请求)就可以成功了。
使用kibana操作elasticsearch(es)
1、安装kibana
2、kibana的修改配置
3、开始配合es进行文档的增删查改
4、补充说明以及注意事项
先进行安装kibana:
先下载kibana,再解压
修改配置文件:
vim config/kibana.yml # 放开注释,将默认配置改成如下: server.port: 5601 server.host: "0.0.0.0" elasticsearch.url: "http://192.168.202.128:9200" kibana.index: ".kibana"
先进行elasticsearch的启动,完成后,切换为root用户,进行kibana的启动:
在bin目录下:
./kibana
在浏览器上输入当前服务器的IP地址+端口号(5601):
开始操作:
打开dev Tools:
获取所有数据:
GET /_search
返回结果中的数据的含义:
1 took:耗费了几毫秒 2 timed_out:是否超时,false是没有,默认无timeout 3 _shards:shards fail的条件(primary和replica全部挂掉),不影响其他shard。默认情况下来说,一个搜索请求,会打到一个index的所有primary shard上去,当然了,每个primary shard都可能会有一个或多个replic shard,所以请求也可以到primary shard的其中一个replica shard上去。 4 hits.total:本次搜索,返回了几条结果 5 hits.max_score:score的含义,就是document对于一个search的相关度的匹配分数,越相关,就越匹配,分数也高 6 hits.hits:包含了匹配搜索的document的详细数据,默认查询前10条数据,按_score降序排序 7 ———————————————— 8 版权声明:本文为CSDN博主「东天里的冬天」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。 9 原文链接:https://blog.csdn.net/gwd1154978352/article/details/82804942
timeout这边默认是没有的,也就意味着当你搜索的时候也会知道所有搜索结束才会返回结果,但是
当我们做一些时间比较敏感的搜索的时候,等待时间很久,对用户来说是非常不友好的,那我们可以
通过设置timeout这个值来定时返回已经搜索到的数据。 timeout机制,指定每个shard,就只能在timeout时间范围
内,将搜索到的部分数据(也可能是搜索到的全部数据),直接返回给client,而不是等到所有数据全部
搜索出来后再返回。
可以通过以下方式进行设置:
1 timeout=10ms,timeout=1s,timeout=1m 2 GET /_search?timeout=10m
开始创建Document:
1 PUT /ecommerce/product/1 2 3 "name" : "gaolujie yagao", 4 "desc" : "gaoxiao meibai", 5 "price" : 30, 6 "producer" : "gaolujie producer", 7 "tags": [ "meibai", "fangzhu" ] 8 9 PUT /ecommerce/product/2 10 11 "name" : "jiajieshi yagao", 12 "desc" : "youxiao fangzhu", 13 "price" : 25, 14 "producer" : "jiajieshi producer", 15 "tags": [ "fangzhu" ] 16 17 PUT /ecommerce/product/3 18 19 "name" : "zhonghua yagao", 20 "desc" : "caoben zhiwu", 21 "price" : 40, 22 "producer" : "zhonghua producer", 23 "tags": [ "qingxin" ] 24
进行增删改查:
1 #2.查询 2 GET /ecommerce/product/2 3 4 #3.覆盖,替换文档(全量替换) 5 PUT /ecommerce/product/1 6 7 "name" : "jiaqiangban gaolujie yagao", 8 "desc" : "gaoxiao meibai", 9 "price" : 30, 10 "producer" : "gaolujie producer", 11 "tags" : [ "meibai" , "fangzhu" ] 12 13
注意:1.document是不可变的,如果要修改document的内容,可以通过全量替换,直接对document
重新建立索引,替换里面所有的内容。
2.es会将老的document标记为deleted(逻辑删除),然后新增我们给定的一个document,当我们
创建越来越多的document的时候,es会在适当的时机在后台自动删除(物理删除)标记为deleted
的document。
3.替换必须带上所有的field,否则其他数据会丢失。
14 #4.修改(更新文档) 15 POST /ecommerce/product/1/_update 16 17 "doc" : 18 "name" : "jiaqianban gaolujie yagao1" 19 20 21 22 #5.删除文档 23 DELETE /ecommerce/product/2 24
注意:在删除一个document之后,我们可以从侧面证明,它不是立即物理删除的,因为它的一些版本号信息还是保留的
25 #6.使用query DSL 请求查询 26 GET /ecommerce/product/_search 27 28 "query" : 29 "match_all" : 30 31 32 #6.1查询名称包含yaogao的商品,同时按照价格降序排列 33 GET /ecommerce/product/_search 34 35 "query" : 36 "match" : 37 "name" : "yagao" 38 39 , 40 "sort" : [ 41 "price" : "desc" 42 ] 43 44 45 #6.2分页查询 46 #总共3条商品,假设每页就显示1条商品,现在显示第2页,所以就查出来第2个商品 47 GET /ecommerce/product/_search 48 49 "query" : "match_all" : , 50 "from" : 1, 51 "size" : 1 52 53 54 #6.3指定查询项 55 GET /ecommerce/product/_search 56 57 "query" : "match_all" : , 58 "_source" : ["name", "price"] 59 60 61 #6.4过滤查询 62 #搜索商品名称包含yaogao,而且售价大于25元的商品 63 GET /ecommerce/product/_search 64 65 "query" : 66 "bool" : 67 "must" : 68 "match" : 69 "name" : "yagao" 70 71 , 72 "filter" : 73 "range" : 74 "price": "gt" : 25 75 76 77 78 79 80 81 #7.ull-text search(全文检索) 82 GET /ecommerce/product/_search 83 84 "query" : 85 "match" : 86 "producer": "yagao producer" 87 88 89 90 91 #8.phrase search(短语搜索) 92 GET /ecommerce/product/_search 93 94 "query" : 95 "match_phrase" : 96 "producer" : "yagao producer" 97 98 99 100 101 #9.多条件查询 102 #名字中有"yagao",描述上可以有fangzhu也可以没有,价格不能是25元 103 104 GET /ecommerce/_search 105 106 "query" : 107 "bool" : 108 "must" : [ 109 110 "match" : 111 "name" : "yagao" 112 113 114 ], 115 "should" : [ 116 117 "match" : 118 "desc" : "fangzhu" 119 120 , 121 122 "match" : 123 "desc" : "caoben" 124 125 126 ], 127 "must_not" : [ 128 129 "match" : 130 "price" :25 131 132 133 ], 134 "minimum_should_match" : 1 135 136 137
在以上的实例中:
从第六条开始需要做出的补充:
两种请求分类:query string search / query DSL
第一种:类似搜索全部商品: GET /ecommerce/product/_search (参数直接拼接在请求上,不带json参数的)
query string search的由来,因为search参数都是以http请求的query string来附带的。
搜索商品名称中包含yagao的商品,而且按照售价降序排列: GET /ecommerce/product/_search?
q=name:yagao&sort=price:desc
适用于临时的在命令行使用一些工具,比如curl,快速的发出请求,来检索想要的信息;但是
如果查询请求很复杂,是很难去构建的,所以在生产环境中,几乎很少使用query string search。
第二种:DSL:Domain Specified Language,特定领域的语言
http request body:请求体,可以用json的格式来构建查询语法,比较方便,可以构建各种复杂的语法,
比query string search肯定强大太多了。
full-text search 全文检索)和 phrase search(短语搜索)的区别:
全文检索会将输入的搜索串拆解开来,去索引里面去一一匹配,只要能匹配任意一个拆解后的单词,就可以作为结果返回。
phrase search: 要求输入的搜索串,必须在指定的字段文本中,完全包含一模一样的,才可以算匹配成功,才能作为结果返回。
多条件查询中的字段描述:
must: 表示一定要满足;
should: 表示可以满足也可以不满足;
must_not: 表示不能满足该条件;
minimum_should_match:1 : 表示最小匹配度,可以设置为百分之百,设置了这个值的时候就必须满足should里面的设置了,
另外注意这边should里面同一字段设置的多个值,意思是当这个值等于X或者等于Y都成立,务必注意格式。
以上是关于Enable ES Kibana的主要内容,如果未能解决你的问题,请参考以下文章
html Detectar javascript deshabilitado。来自:http://www.enable-javascript.com/es/
elasticsearch5.3安装kibanax-pack插件elasticsearch-an