smm中整合es,kafka,redis

Posted shanzhongqi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了smm中整合es,kafka,redis相关的知识,希望对你有一定的参考价值。

.ssm整合redis

  1. 导入依赖

  2. 编写配置文件,修改配置文件的ip,和端口

技术图片

 

 

 

  1. 让spring的配置文件加载redis的配置

技术图片

 

 

 

  1. 就可以直接使用redis了.再代码的任意位置,注入RedisTemplate就ok

 

 技术图片

 

 

 

2.redis作为缓存思路

  1. 先从redis中查询有没有数据

  2. 如果redis中没有热点数据,就从mysql中查询,查询出来之后,往redis保存一份,返回

  3. 如果redis中有数据,直接返回就ok

            //redis优化:
//1.先从redis中看看有没有
List<Plan> redisPlans = redisTemplate.opsForList().range("zhunneng_plans", 0, -1);
if(redisPlans ==null || redisPlans.size()==0) {
//redis中没有该数据,从mysql中查询,且放入redis一份,返回给前台
PageInfo<Plan> info = planService.findAll(pageNum,pageSize);
System.out.println("从mysql中查询了数据!!!!!!!!!!!!!!!!!!!!!");
//往redis中存一份
redisTemplate.opsForList().rightPushAll("zhunneng_plans", info.getList().toArray());
model.addAttribute("info", info);

}else {
// redis数据不为空
System.out.println("从redis中查询了数据!!!!!!!!!!!!!!!!!!!!!");
model.addAttribute("info", new PageInfo<>(redisPlans));
}
?

注意:别忘记启动redis服务

3.ssm中整合kafka(生产者)

  1. 导入依赖(用提供的pom中的依赖)

  2. 编写配置文件producer.xml,修改主题,ip,端口

  3. 让spring来加载producer.xml

技术图片

 

 

 

  1. 就可以在需要的位置注入Kafkatemplate来使用了

技术图片

 

 

 技术图片

 

 

 

 

4.ssm中整合kafka(消费者)

  1. 导入依赖

  2. 编写配置文件(consumer.xml),修改配置文件的ip,主题,监听器的全限定类名

  3. 让spring配置文件加载consumer.xml

技术图片

 

 

 

  1. 可以根据配置文件,编写监听器

技术图片

 

 

 

技术图片

 

 

 

  1. 如果要测试发,收消息,一定要在kafka的服务中启动kafka(先启动zk),为了测试服务器上能否收到消息,还要启动一个消费者,来监听消息

5.ssm中整合es

  1. 导入依赖

  2. 编写配置文件,修改ip和端口,指定仓库接口的包扫描位置

技术图片

 

 

 

  1. 根据配置文件的包的位置,就可以创建接口了(继承:ElasticsearchRepository),此时这个接口就具备了CRUD的功能

技术图片

 

 

 

  1. 在实体类中指定索引库的名称(必须小写字母),和表名,指定主键对应的id,指定某个搜索字段的存储属性

 

 

 

 技术图片

 

 

 

  1. 紧接着我们就写一个测试类,可以注入XXXRepository这个接口,实现数据的导入,因为我们的es索引库中没数据,想要搜索到数据,必须得从mysql中查询出数据,然后导入到es索引库,能够保证mysql的数据,和es索引库的数据的一致性

技术图片

 

 

 

  1. 我们就可以直接调用咱们的HLUtils工具类,实现高亮了

PageInfo<Plan> info = (PageInfo<Plan>) HLUtils.findByHighLight(elasticsearchTemplate, Plan.class, pageNum, pageSize, new String[] {"manager","name","content"}, "id", keyword);

6.把项目部署到Linux中

  1. 修改db.properties

技术图片

 

 

 

注意:linux中不识别 只识别 /

  1. 把windows上mysql的相关表导入到linux的mysql里

技术图片

 

 

  1. 接着就可以打包了

 

  1. 到日志中找到对应的war

  1. 找到这个位置的war,复制到桌面,重命名叫ROOT.war

 

  1. 打开CRT ,上传ROOT.war 到tomcat下的webapps下,注意:上传之前一定要先关闭tomcat,然后删除ROOT目录

  2. 动态查看日志

 

  1. 启动tomcat(注意:启动tomcat之前,保证redis,es,kafka服务的启动)

 

  1. 在浏览器中访问该项目

 

  1. 模拟一个域名来访问,到:C:windowssystem32driversetc

找hosts文件.修改hosts文件里的内容:

 

保存成功之后,就可以直接访问了!!

 

7.如何才能保证es索引库,redis数据库,mysql数据库中的数据一致性?

增加,修改,删除的时候,不仅要对mysql做操作,还要利用kafka发送消息,接收消息,让监听器接收到消息之后,做对应的同步es索引库,同步redis数据库(无论是增,删,改,都选择把redis的数据删除了.)的操作

 

以上是关于smm中整合es,kafka,redis的主要内容,如果未能解决你的问题,请参考以下文章

flume整合数据到kafka,sparkStreaming消费数据,并存储到hbase和redis中

flume整合数据到kafka,sparkStreaming消费数据,并存储到hbase和redis中

Spring整合kafka消费者和生产者&redis的步骤

Flume+Kafka+Storm+Redis 大数据在线实时分析

springboot整合~swagger~kafka~nginx~redis~mysql(在linux服务器环境下部署运行测试)

SparkStreaming整合kafka