微服务-数据聚合

Posted 2023-04-17

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了微服务-数据聚合相关的知识，希望对你有一定的参考价值。

参考技术A

微服务的难点：

例：

前端请求数据后，根据数据再分别请求其他服务。

例如：

缺点：

在服务中调用其他服务将数据补全，然后返回到前端

例如：

缺点：

在前后端中间增加BFF数据聚合服务。

AggregationParam

配合Aggregation的属性上使用

例如：

需求侧：

提供侧：

wy-aggregation-service

实现使用的是Egg框架（node.js)。node 对于IO有好性能。同时，由于js是弱类型语言，更容易对json数据处理。

用户服务

CRM服务

订单服务

https://gitee.com/wenyu7980/wy-aggregation
https://gitee.com/wenyu7980/wy-aggregation-service

微服务Elasticsearch数据聚合&自动补全&数据同步

🚗Es学习·第四站~
🚩Es学习起始站：【微服务】Elasticsearch概述&环境搭建(一)
🚩本文已收录至专栏：微服务探索之旅
👍希望您能有所收获

在第二站的学习中，我们已经导入了大量数据到es中，实现了数据存储功能。接下来如需看自己实操效果请根据第二站的三.环境搭建部分导入初始数据。

一.数据聚合

(1) 聚合的作用

聚合(aggregations)可以让我们极其方便的实现对数据的统计、分析、运算。例如：

什么品牌的手机最受欢迎？
这些手机的平均价格、最高价格、最低价格？
这些手机每月的销售情况如何？

实现这些统计功能的比数据库的sql要方便的多，而且查询速度非常快，可以实现近实时搜索效果。

(2) 聚合的种类

聚合常见的有三类：

桶（Bucket）聚合：用来对文档做分组
- TermAggregation：按照文档字段值分组，例如按照品牌值分组、按照国家分组
- Date Histogram：按照日期阶梯分组，例如一周为一组，或者一月为一组
度量（Metric）聚合：用以计算一些值，比如：最大值、最小值、平均值等
- Avg：求平均值
- Max：求最大值
- Min：求最小值
- Stats：同时求max、min、avg、sum等
管道（pipeline）聚合：其它聚合的结果为基础做聚合

注意：参加聚合的字段必须是keyword、日期、数值、布尔类型

(3) Bucket聚合

如果我们要统计所有数据中的酒店品牌有几种，其实就是按照品牌对数据分组。此时可以根据酒店品牌的名称做聚合，也就是Bucket聚合。

(3.1) 基本使用

语法如下：

GET /hotel/_search

  "size": 0,  // 设置size为0，设置结果中不包含文档，只包含聚合结果
  "aggs":  // 定义聚合
    "brandAgg":  //给聚合起个名字
      "terms":  // 聚合的类型，按照品牌值聚合，所以选择term
        "field": "brand", // 参与聚合的字段
        "size": 20 // 希望获取的聚合结果数量

结果如图：

doc_count为聚合分组后其中文档的数量。

(3.2) 结果排序

默认情况下，Bucket聚合会统计Bucket内的文档数量，记为_count，并且按照_count降序排序。

我们可以通过指定order属性，自定义聚合的排序方式：

GET /hotel/_search

  "size": 0, 
  "aggs": 
    "brandAgg": 
      "terms": 
        "field": "brand",
        "order": 
          "_count": "asc" // 按照_count升序排列
        ,
        "size": 20

(3.3) 限定范围

默认情况下，Bucket聚合是对索引库的所有文档做聚合，但真实场景下，只会对用户搜索的结果聚合。因此上述聚合必须添加限定条件。

我们要限定聚合的文档范围，只需添加query条件即可：

GET /hotel/_search

  "query": 
    "range": 
      "price": 
        "lte": 200 // 只对200元以下的文档聚合
      
    
  , 
  "size": 0, 
  "aggs": 
    "brandAgg": 
      "terms": 
        "field": "brand",
        "size": 20

这次，聚合得到的品牌明显变少了：

(4) Metric聚合

上述我们通过使用Bucket聚合对酒店按照品牌分组，形成了一个个桶。现在我们需要对桶内的酒店做运算，获取每个品牌的用户评分的min、max、avg等值。

这就要用到Metric聚合了，例如stat聚合：就可以获取min、max、avg等结果。

语法如下：

GET /hotel/_search

  "size": 0, 
  "aggs": 
    "brandAgg":  
      "terms":  
        "field": "brand", 
        "size": 20
      ,
      "aggs":  // 是brands聚合的子聚合，也就是分组后对每组分别计算
        "score_stats":  // 聚合名称
          "stats":  // 聚合类型，这里stats可以计算min、max、avg等
            "field": "score" // Metric聚合字段，这里是score

这里的score_stats聚合是在brandAgg的聚合内部嵌套的子聚合。因为我们需要在每个桶分别计算。

另外，我们还可以给聚合结果做个排序，例如按照每个桶的酒店平均分做排序：

(5) RestAPI实现聚合

(5.1) 基础语法

聚合条件与query条件同级别，因此需要使用request.source()来指定聚合条件。

聚合条件的语法：

聚合的结果也与查询结果不同，API也比较特殊。不过同样是JSON逐层解析：

(5.2) 使用示例

需求：查询杭州的所有酒店分类数据。

@Test
void tesAggregationt( ) 
        // 1.准备Request
        SearchRequest request = new SearchRequest("hotel");
        // 2.准备DSL
        // 2.1.query
       request.source().query(QueryBuilders.termQuery("city","杭州"));
        // 2.2.设置size
        request.source().size(0);
        // 2.3.聚合
        request.source().aggregation(AggregationBuilders
                                   .terms("brandAgg")
                                   .field("brand")
                                   .size(100)
                                  );
        // 3.发出请求
        SearchResponse response = client.search(request, RequestOptions.DEFAULT);
        // 4.解析结果
        Aggregations aggregations = response.getAggregations();
   	    // 4.1.根据聚合名称获取聚合结果
   	    Terms brandTerms = aggregations.get(aggName);
   	    // 4.2.获取buckets
   	    List<? extends Terms.Bucket> buckets = brandTerms.getBuckets();
   	    // 4.3.遍历打印结果
   	    for (Terms.Bucket bucket : buckets) 
   	        // 4.4.获取key
   	        String key = bucket.getKeyAsString();
            System.out.println(key);

运行可以看到我们成功查出了酒店数据

二.自动补全

当用户在搜索框输入字符时，我们应该提示出与该字符有关的搜索项，如图：

这种根据用户输入的字母，提示完整词条的功能，就是自动补全了。

(1) 拼音分词器

要实现根据字母做补全，就必须对文档按照拼音分词，这时就需要自己配置拼音分词功能,在GitHub上恰好有elasticsearch的拼音分词插件。

链接：https://pan.baidu.com/s/1eSlsQ6ypaDNkqXO75mC6IA
提取码：3yzw

资料中也提供了拼音分词器的安装包：

安装步骤：

连接服务器，切换到es绑定的插件数据卷中

cd /var/lib/docker/volumes/es-plugins/_data

2. 将压缩包上传至此目录并解压

unzip elasticsearch-analysis-pinyin-7.12.1.zip -d py

3. 重启elasticsearch

docker restart es

测试用法

POST /_analyze

  "text": "如家酒店还不错",
  "analyzer": "pinyin"

结果：

如上可以看到我们已经成功安装好了拼音分词器。但是它还存在一些问题，无法直接使用，接下来让我们一起解决吧。

(2) 自定义分词器

(2.1) 概述

默认的拼音分词器会将每个汉字单独分为拼音，而我们所希望的是每个词条形成一组拼音，因此需要对拼音分词器做个性化定制，形成自定义分词器。

elasticsearch中分词器（analyzer）的组成包含三部分：

character filters：在tokenizer之前对文本进行处理。例如删除字符、替换字符
tokenizer：将文本按照一定的规则切割成词条（term）。例如keyword，就是不分词；还有ik_smart
tokenizer filter：将tokenizer输出的词条做进一步处理。例如大小写转换、同义词处理、拼音处理等

文档分词时会依次由这三部分来处理文档：

(2.2) 使用

我们在可以在创建索引库时，通过settings来配置自定义的analyzer(分词器)。

声明自定义分词器的语法如下：

PUT /test  // 创建索引库

  "settings": 
    "analysis": 
      "analyzer":  // 自定义分词器
        "my_analyzer":   // 自定义分词器名称
          "tokenizer": "ik_max_word", // 切割词条
          "filter": "py"      // 自定义拼音处理方式
        
      ,
      "filter":  // 自定义tokenizer filter
        "py":  // 过滤器名称
          "type": "pinyin", // 过滤器类型，这里是pinyin
		  "keep_full_pinyin": false,
          "keep_joined_full_pinyin": true,
          "keep_original": true,
          "limit_first_letter_length": 16,
          "remove_duplicated_term": true,
          "none_chinese_pinyin_tokenize": false
        
      
    
  ,
  "mappings": 
    "properties": 
      "name":   // 定义字段
        "type": "text",  // 定义类型
        "analyzer": "my_analyzer",  // 定义字段分词器
        "search_analyzer": "ik_smart"

拼音分词器filter属性详细配置介绍可以看官方文档拼音分词插件。

测试：

(2.3) 补充

拼音分词器适合在创建倒排索引的时候使用，但不适合在搜索的时候使用，这是为了避免搜索时搜到到同音字。

改进使用：

PUT /test  

  "settings": 
    "analysis": 
      "analyzer":  
        "my_analyzer":   
          "tokenizer": "ik_max_word", 
          "filter": "py"      
        
      ,
      "filter":  
        "py": ...
      
    
  ,
  "mappings": 
    "properties": 
      "name":   
        "type": "text",  
        "analyzer": "my_analyzer",  // 指定创建倒排索引分词器
        "search_analyzer": "ik_smart"   // 指定搜索时分词器

我们可以在配置中指定两个分词器，一个用于创建倒排索引，一个用于搜索。

(3) 自动补全查询

es提供了Completion Suggester查询来实现自动补全功能。这个查询会匹配以用户输入内容开头的词条并返回。为了提高补全查询的效率，对于文档中字段的类型有一些约束：

参与补全查询的字段必须是completion类型。
字段的内容一般是用来补全的多个词条形成的数组。

比如，一个这样的索引库：

// 创建索引库
PUT test

  "mappings": 
    "properties": 
      "title":
        "type": "completion"

然后插入下面的数据：

// 示例数据
POST test/_doc

  "title": ["Sony", "WH-1000XM3"]

POST test/_doc

  "title": ["SK-II", "PITERA"]

POST test/_doc

  "title": ["Nintendo", "switch"]

查询的DSL语句如下：

// 自动补全查询
GET /test/_search

  "suggest": 
    "title_suggest": 
      "text": "s", // 查询时待补全关键字
      "completion": 
        "field": "title", // 补全查询的字段
        "skip_duplicates": true, // 跳过重复的
        "size": 10 // 获取前10条结果

测试结果：

如上可以看到我们已经成功实现了自动补全功能，接下来让我们一起用Java代码来实现一下。

(4) RestAPI实现自动补全

(4.1) 基础语法

先让我们看看发送请求代码对比

自动补全结果解析的代码如下：

(4.2) 使用示例

@Test
void testSuggester() 
        // 1.准备Request
        SearchRequest request = new SearchRequest("hotel");
        // 2.准备DSL
        request.source().suggest(new SuggestBuilder().addSuggestion(
            "suggestions",
            SuggestBuilders.completionSuggestion("suggestion")
            .prefix("h")
            .skipDuplicates(true)
            .size(10)
        ));
        // 3.发起请求
        SearchResponse response = client.search(request, RequestOptions.DEFAULT);
        // 4.解析结果
        Suggest suggest = response.getSuggest();
        // 4.1.根据补全查询名称，获取补全结果
        CompletionSuggestion suggestions = suggest.getSuggestion("suggestions");
        // 4.2.获取options
        List<CompletionSuggestion.Entry.Option> options = suggestions.getOptions();
        // 4.3.遍历打印
        for (CompletionSuggestion.Entry.Option option : options) 
            String text = option.getText().toString();
            System.out.println(text)