Flink从入门到精通100篇(二十三)-基于Apache Flink的爱奇艺实时计算平台建设实践

Posted 文宇肃然

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink从入门到精通100篇(二十三)-基于Apache Flink的爱奇艺实时计算平台建设实践相关的知识,希望对你有一定的参考价值。

前言

随着大数据的快速发展,行业大数据服务越来越重要。同时,对大数据实时计算的要求也越来越高。今天会和大家分享下爱奇艺基于Apache Flink的实时计算平台建设实践。

今天的介绍会围绕下面三点展开:

  • Flink的现状与改进

  • 平台化的探索和实践:实时计算平台

  • Flink业务案例

01Flink的现状与改进

1. Flink现状

首先和大家分享下爱奇艺大数据服务的发展史。

 

  • 2012年搭建了第一个Hadoop集群,当时只有大概20几个节点,使用的计算框架是MapReduce和Hive等

  • 到2013,2014年,开始使用Hadoop 2.0,上线了Storm和Spark,由于Storm的使用性和稳定性不够好,被放弃使用,转而使用Spark

  • 2015年发布了第一个实时计算平台Europa,上线了Kafka

  • 2017年使用了Flink,同时我们基于Spark和Flink打造了流式计算引擎St

以上是关于Flink从入门到精通100篇(二十三)-基于Apache Flink的爱奇艺实时计算平台建设实践的主要内容,如果未能解决你的问题,请参考以下文章

Flink从入门到精通100篇(二十三)-Flink实战应用案例:如何清理过期的 Checkpoint 目录?

Flink从入门到精通100篇(二十二)-微博基于Flink的机器学习实战项目

Flink从入门到精通100篇(二十一)-万字长文详解 Flink 中的 CopyOnWriteStateTable

Flink从入门到精通100篇(二十四)-对Flink SQL Client 源码做深度解析

Flink从入门到精通100篇(二十二)-Apache Flink OLAP引擎性能优化及应用

Flink从入门到精通100篇(二十一)-Apache Flink 与 Apache Hive 的集成