Flink实战|小米流式平台架构演进与实践
Posted HBase技术社区
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink实战|小米流式平台架构演进与实践相关的知识,希望对你有一定的参考价值。
小米集群业务线众多,从信息流,电商 ,广告到金融等覆盖了众多了领域,小米流式平台为小米集团各业务提供一体化的流式数据解决方案,主要包括数据采集,数据集成和流式计算三个模块。
目前每天数据量达到 2万亿条,实时同步任务1.5万,实时计算的数据1万亿条。伴随着小米业务的发展,流式平台也经历三次大升级改造,满足了众多业务的各种需求。
最新的一次迭代基于Apache Flink,对于流式平台内部模块进行了彻底的重构,同时小米各业务也在由Spark Streaming逐步切换到Flink。
设计并构建了小米分布式消息队列Talos,并主导完成了流式平台两次大的版本迭代。
个人长期关注于分布式计算领域,长期参与消息中间件,流式数据收集与集成,流式计算等系统的研发与构建。
11 月 28 日 - 30 日,Flink Forward Asia 邀请阿里巴巴集团首席技术官、阿里云智能总裁行癫与多位来自阿里、腾讯、小米、美团、字节跳动、百度、英特尔、DellEMC、Lyft、Netflix 及 Flink 创始团队等近 30 家知名企业资深技术专家齐聚北京国际会议中心,与全球开发者共同探讨大数据时代核心技术与开源生态。
大会围绕 Apache Flink 及其核心技术开设五大专题,全面分享大数据及其算力的核心内容。其中的专题四板块有夏军老师的专题分享呦~
专场邀请小米、美团点评、Netflix、菜鸟物流及 OPPO 等数仓技术专家分析实时数仓的应用实践及平台智能化的探索与思考。
以上是关于Flink实战|小米流式平台架构演进与实践的主要内容,如果未能解决你的问题,请参考以下文章
百度阿里腾讯平台架构都熟悉,小米大数据平台架构OLAP架构演进是否了解
Apache Flink 在京东的实践与优化
美团实时数仓架构演进与建设实践
今晚直播流式处理新秀Flink原理与实践
汤楚熙:美团实时数仓架构演进与建设实践
汤楚熙:美团实时数仓架构演进与建设实践