德国IT咨询公司NETWAYS使用Apache Mesos的实践分享
Posted Mesosphere APAC
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了德国IT咨询公司NETWAYS使用Apache Mesos的实践分享相关的知识,希望对你有一定的参考价值。
"Snowflakes are not manageable." Thats's why Netways, an IT consulting company based in Nuremberg in Germany, uses Mesos.
“我们无法管理每一片雪花”——这就是德国纽伦堡的一家名叫NETWAYS的IT咨询公司采用Mesos的原因。
NETWAYS (netways.de) 是德国纽伦堡的一家IT咨询公司。专长于开源相关的解决方案,特别是监控领域的方案,它们是Icinga 2项目的长期支持伙伴。该公司在德国还负责运营几个重要会议,包括“开源数据中心大会”(OSDC.de)和“德国OpenStack Days”。
在NETWAYS(主营的)咨询业务之上,它们也向诸如日本电商巨头乐天(rakuten.de)在内的客户提供可托管云服务。在这个业务领域,NETWAYS依托Apache Mesos搭建了一个SaaS (Software-as-a-Service,软件即服务)平台。该平台向客户提供流行开源工具运行实例的创建和托管, 譬如Icinga 2、GitLab、RocketChat和NextCloud。
笔者采访了就职于NETWAYS,负责领导该平台的搭建和运营的Sebastian Saemann。
我们聊到了这套Mesos平台的初创期,那是在2015年左右,项目早期他们就接受并相信容器是提供这套服务的技术基础。在开始该项目之前,团队在配置管理和自动化领域已经有了相当雄厚的技术积累,所以他们最初决定自己实现整套系统。
但团队很快意识到,纯靠手工搭建对于实现一个长期项目是不可持续的。Sebastian跟笔者提到了这样一个比喻,“我们无法管理每一片雪花”。于是团队很自然地转向寻求已有的容器调度实现。在评估了Docker Swarm、Kubernetes和Mesos之后,团队选择了Mesos方案,不光由于Mesos在处理大规模工作负载方面更成熟,更在于它运行容器化服务以外任务方面的潜力和能力,以及Mesos所赋予NETWAYS的未来扩张能力。
NETWAYS目前的Mesos平台由3个控制节点组成,其上分别运行Zookeeper,Mesos Master节点和Marathon框架;同其他20个代理节点一起目前能够供应400-500个容器的集群。同时它们也采用了Marathon-LB负载均衡和Chronos框架。整个平台都搭建在NETWAYS自己的数据中心(on- prem部署),运行在私有Openstack云提供的虚拟机上。整个数据中心的部署调度和配置管理全部基于Puppet实现。下层的OpenStack通过Midonet方案提供了完整的SDN特性;Mellanox交换机硬件上运行的是Cumulus Linux,整个技术栈往下直到网络层实现都运用Linux。这样实现的优点在于,开发团队在SaaS平台的每一层都可以使用Puppet和其他标准(Linux)工具链。
Mesos代理均使用Docker实现容器化,NETWAYS在这一层次采用很多Docker专属实现。持久化存储由它们自己的Ceph集群提供。通过YP Engineering (github.com/yp-engineering/rbd-docker-plugin)提供的插件,可以通过Docker创建并挂载Ceph Rados块设备。使用Docker的overlay network网络模式支持平台内部的网络隔离,为每个创建服务的用户提供二层(网络)隔离。
通过上述方案集成使得SaaS平台成型可用,但是作为一个生产系统,围绕Docker守候进程的问题始终困扰着开发团队。Docker守候进程会在特定情形下失去响应,而此时重启Docker会导致技术栈更底层的很多问题,譬如Ceph层的死锁。NETWAYS的SaaS团队未来感兴趣的领域在于如何利用Mesos的通用容器运行时解耦对Docker的依赖。
该套系统投入生产环境已经超过一年,NETWAYS的客户接纳度很好。基于客户的需求,它们最终目标是提供10倍于现今规模的服务能力。Mesos平台的可靠性和对运维的简化使得NETWAYS可以将SaaS平台团队的规模控制在相对小的范围内,团队的12名工程师里,实际只有2-3人涉及Mesos相关工作,并且随后都改成兼职支持了。运用自建服务平台过程中掌握的Mesos技能,NETWAYS现在也为它们的客户搭建Mesos集群,目前已经成功地运营了许多集群服务。引述Sebastian的话说“我现在就愉快地当一个(Mesos)客户”。
原文发布时间:2018年9月6日
WE ARE HIRING!
=========
Engineering Manager, China
China Customer Operations Engineer, Beijing
China Customer Success Manager, Beijing
China Solutions Architect, Beijing/Shanghai
Enterprise Account Executive, Shanghai
China Sales Engineer, Shanghai
以上是关于德国IT咨询公司NETWAYS使用Apache Mesos的实践分享的主要内容,如果未能解决你的问题,请参考以下文章