smm中整合es,kafka,redis
Posted shanzhongqi
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了smm中整合es,kafka,redis相关的知识,希望对你有一定的参考价值。
-
导入依赖
-
编写配置文件,修改配置文件的ip,和端口
-
让spring的配置文件加载redis的配置
-
就可以直接使用redis了.再代码的任意位置,注入RedisTemplate就ok
2.redis作为缓存思路
-
先从redis中查询有没有数据
-
如果redis中没有热点数据,就从mysql中查询,查询出来之后,往redis保存一份,返回
-
如果redis中有数据,直接返回就ok
//redis优化:
//1.先从redis中看看有没有
List<Plan> redisPlans = redisTemplate.opsForList().range("zhunneng_plans", 0, -1);
if(redisPlans ==null || redisPlans.size()==0) {
//redis中没有该数据,从mysql中查询,且放入redis一份,返回给前台
PageInfo<Plan> info = planService.findAll(pageNum,pageSize);
System.out.println("从mysql中查询了数据!!!!!!!!!!!!!!!!!!!!!");
//往redis中存一份
redisTemplate.opsForList().rightPushAll("zhunneng_plans", info.getList().toArray());
model.addAttribute("info", info);
}else {
// redis数据不为空
System.out.println("从redis中查询了数据!!!!!!!!!!!!!!!!!!!!!");
model.addAttribute("info", new PageInfo<>(redisPlans));
}
?
注意:别忘记启动redis服务
3.ssm中整合kafka(生产者)
-
导入依赖(用提供的pom中的依赖)
-
编写配置文件producer.xml,修改主题,ip,端口
-
让spring来加载producer.xml
-
就可以在需要的位置注入Kafkatemplate来使用了
4.ssm中整合kafka(消费者)
-
导入依赖
-
编写配置文件(consumer.xml),修改配置文件的ip,主题,监听器的全限定类名
-
让spring配置文件加载consumer.xml
-
可以根据配置文件,编写监听器
-
如果要测试发,收消息,一定要在kafka的服务中启动kafka(先启动zk),为了测试服务器上能否收到消息,还要启动一个消费者,来监听消息
5.ssm中整合es
-
导入依赖
-
编写配置文件,修改ip和端口,指定仓库接口的包扫描位置
-
根据配置文件的包的位置,就可以创建接口了(继承:ElasticsearchRepository),此时这个接口就具备了CRUD的功能
-
在实体类中指定索引库的名称(必须小写字母),和表名,指定主键对应的id,指定某个搜索字段的存储属性
-
紧接着我们就写一个测试类,可以注入XXXRepository这个接口,实现数据的导入,因为我们的es索引库中没数据,想要搜索到数据,必须得从mysql中查询出数据,然后导入到es索引库,能够保证mysql的数据,和es索引库的数据的一致性
-
我们就可以直接调用咱们的HLUtils工具类,实现高亮了
PageInfo<Plan> info = (PageInfo<Plan>) HLUtils.findByHighLight(elasticsearchTemplate, Plan.class, pageNum, pageSize, new String[] {"manager","name","content"}, "id", keyword);
6.把项目部署到Linux中
-
修改db.properties
注意:linux中不识别 只识别 /
-
把windows上mysql的相关表导入到linux的mysql里
-
接着就可以打包了
-
到日志中找到对应的war
-
找到这个位置的war,复制到桌面,重命名叫ROOT.war
-
打开CRT ,上传ROOT.war 到tomcat下的webapps下,注意:上传之前一定要先关闭tomcat,然后删除ROOT目录
-
动态查看日志
-
启动tomcat(注意:启动tomcat之前,保证redis,es,kafka服务的启动)
-
在浏览器中访问该项目
-
模拟一个域名来访问,到:C:windowssystem32driversetc
找hosts文件.修改hosts文件里的内容:
保存成功之后,就可以直接访问了!!
7.如何才能保证es索引库,redis数据库,mysql数据库中的数据一致性?
增加,修改,删除的时候,不仅要对mysql做操作,还要利用kafka发送消息,接收消息,让监听器接收到消息之后,做对应的同步es索引库,同步redis数据库(无论是增,删,改,都选择把redis的数据删除了.)的操作
以上是关于smm中整合es,kafka,redis的主要内容,如果未能解决你的问题,请参考以下文章
flume整合数据到kafka,sparkStreaming消费数据,并存储到hbase和redis中
flume整合数据到kafka,sparkStreaming消费数据,并存储到hbase和redis中
Flume+Kafka+Storm+Redis 大数据在线实时分析
springboot整合~swagger~kafka~nginx~redis~mysql(在linux服务器环境下部署运行测试)