大数据系统之系统设计

Posted 2020-07-30 成都笨笨

　　大数据已经成为一种发展趋势，得到越来越多的公司参与。最近从事大数据系统设计开发和推荐引擎方面的工作，分几篇文章两个系列把自己的心得记录一下，

和大家分享一下大数据方面的经验。

整个平台包括监控系统、日志分析系统、推荐系统。按数据业务步骤划分，分为数据采集、清洗、存储、分析和服务。整个数据流程如下图：

 

 

　　实际项目中和这流程图有点差异。前端日志搜集采用的Flume。