基于Storm+KafKa技术实现“天猫双十一”大屏实时展示项目

Posted 2021-01-23 xuetu2018

基于Storm+KafKa技术实现“天猫双十一”大屏实时展示项目
资料下载：

https://pan.baidu.com/s/1BX7jG1llz4zdT5fqdi4sHQ
提取码：c2nl

Storm是什么？ 为什么学习Storm？ Storm是Twitter开源的分布式实时大数据处理框架，被业界称为实时版Hadoop。 随着越来越多的场景对Hadoop的MapReduce高延迟无法容忍，比如网站统计、推荐系统、预警系统、金融系统(高频交易、股票)等等， 大数据实时处理解决方案（流计算）的应用日趋广泛，目前已是分布式技术领域最新爆发点，而Storm更是流计算技术中的佼佼者和主流。 按照storm作者的说法，Storm对于实时计算的意义类似于Hadoop对于批处理的意义。

Hadoop提供了map、reduce原语，使我们的批处理程序变得简单和高效。 同样，Storm也为实时计算提供了一些简单高效的原语，而且Storm的Trident是基于Storm原语更高级的抽象框架，类似于基于Hadoop的Pig框架， 让开发更加便利和高效。

本课程会深入、全面的讲解Storm，并穿插企业场景实战讲述Storm的运用。 淘宝双11的大屏幕实时监控效果冲击了整个IT界，业界为之惊叹的同时更是引起对该技术的探索。 学完本课程你可以自己开发升级版的“淘宝双11”，还等什么？

课程大纲：

1、【第一章】课程介绍，Storm简介及背景和现状，和JStorm对比
2、Storm架构原理详解
3、虚拟机安装和设置注意事项
4、Zookeeper集群部署和测试
5、Storm集群搭建及测试
6、Eclipse下介绍storm-starter例子，讲解常用API类
7、API简介和入门案例开发
8、API体系一栏，Spout和Bolt系列类介绍
9、几种Grouping策略详解
10、FatJar插件安装、打包发布，详解Storm UI界面使用
11、通过UI界面检测作业状况，详解UI查看技巧，界面查日志logviewer
12、Wroker、Executer、Task概念及关系详解，动态调整并发度
13、【实战案例】计算当天销售额
14、【案例升级】计算当天销售额和购买人数
15、时间窗口的概念及相关API介绍
16、滚动窗口 Tumbling Window的实战案例
17、滑动窗口 Sliding Window的实战案例
18、Storm容错机制Acker详解
19、【案例】Acker失败重发编码实现
20、Storm集群Start-all.sh和Stop-all.sh命令开发一
21、Storm集群Start-all.sh和Stop-all.sh命令开发二

 

22、【第二章】Kafka架构原理、概念详解
23、Kafka集群搭建
24、Kafka Java API 简单开发测试
25、storm-kafka 详解和实战案例，工程转到IntelliJIDEA上
26、storm-kafka案例详解续，IDEA使用技巧
27、【项目1-地区销售额】需求分析和架构设计
28、【项目1-地区销售额】Topo开发1
29、【项目1】HBase读写开发
30、【项目1】Topo开发2，加入写HBase和启动初始化动作
31、【项目1】Highchats图表的开发思路，项目中加入Web模块
32、【项目1】Servlet代码实现和讲解，项目运行

 

33、【第三章】Storm高级运用Trident入门，DRPC概念
34、Trident基础二
35、Trident的FirstN、投影操作、链操作、重分区
36、【项目2-省份销售TopN】需求分析，Topo开发一
37、【项目2-省份销售TopN】Topo开发二
38、【项目2】打包发布Topo，配置和启动DRPC Server，开发DRPC客户端进行验证
39、【项目2】Web端开发和项目运行
40、【项目3】需求分析，Topo开发
41、Topo开发二
42、Topo开发三，增加启动Topo进行初始化数据的机制
43、Web端开发一
44、Web端开发二，项目运行