Dropbox的GO语言之旅：可靠性和持久性

Posted 2021-04-05 CSDN

技术资讯，第一时间送达！

作者丨Tammy Butow

翻译丨Diwei

译者注：作者在本文介绍了Dropbox公司是如何开启探索使用Go语言之路的，在探索的过程中遇到了哪些问题，从结果来看证明了Go语言的可靠性和持久性。以下为译文。

Tammy Butow(@tammybutow)是Dropbox基础架构开发团队的工程经理。Tammy管理着代码工作流——包括了Dropbox内使用Go从编码到上线的整个过程。她在2017年的GopherCon大会上谈到了Dropbox的工程师是如何使用Go语言建立和运行大型服务。

注意：这篇文章记录了大会上的演讲内容。如果遗漏了什么，请在Twitter上告诉我(@sqs)。如果有错误，肯定是我描述的有问题;因为Tammy的演讲太棒了!

Dropbox探索使用Go语言之旅

Tammy引用了Rob Pike于2012年编写的谷歌Go语言：专为软件工程服务设计的编程语言》中的说法，解释了Go语言为何能够在Dropbox公司当中发挥重要作用:

“Go语言非常高效，支持扩展，而且还能提高生产。一些程序员觉得使用Go进行工作很有趣;另一些人则认为它缺乏想象力，甚至枯燥乏味。本文我们将解释为什么这些对立的观点是不成立的。Go语言旨在解决谷歌在软件开发中所面临的问题，导致了这门语言并不是一门突破性的研究语言，但对于大型软件项目来说，它还是一个很优秀的工具。”——Rob Pike，2012年

Dropbox的规模非常庞大:

• 超过5亿个用户

• 200000个商业客户

• 500PB的用户数据

• 数据EB GO存储系统

因此，Dropbox对它们的系统、语言和工程师们有很高的要求。指导原则以及要求是:

• 建立可靠的系统

• 构建安全的系统

• 将可靠性和安全性合并到初始设计中

• 99.9999999999%(12个9)的可靠性

• 99.99%的可用性

Dropbox公司对Go语言的应用

现在Dropbox的大多数基础架构都是用Go编写的。具体包括如下:

• Go服务器库拥有150名贡献者（来自总计500名工程师）

• Dropbox公司内部超过15个团队构建和运行Go服务

• 在Dropbox公司内总共有130万行Go语言代码

使用Go开发的关键系统包括：

• RAT:限速与限流工具

• HAT:memcached的替代方案

• AFS:一套用于替代全局Zookeeper的文件系统

• Edgestore:分布式数据库

• Bolt:消息传递

• DBmanager:用于对Dropbox的6000多个数据库进行自动化和监控

• “Jetstream”、“Telescope” 、分块路由以及更多……

其中许多都是原本的非Go系统。

Dropbox开始使用Go语言的原因是?

Tammy分享了一些关于Dropbox是如何一步步使用Go语言的故事。

Hack技术周成就Go速率限制器原型设计

在一年的Hack技术周之前，Dropbox的工程师们针对各项服务分别进行限速与限流。所以Dropbox的一位工程师决定为这些事情建立一个公共服务的实现，因此RAT诞生了。

最初的RAT原型是在4天内完成的，并在第5天进行演示。短短几周之后，RAT的大名在公司内部迅速扩散。另一位Dropbox工程师给Tammy的团队发了电子邮件，看看他们时如何在Python项目中使用RAT。整合过程进展的很顺利，采用率也逐渐在提升，RAT也变得越来越实用。现在，Dropbox的好几个团队都使用了RAT。

DBmanager

Dropbox公司拥有6000多个数据库，这样一个庞大的系统需要自动化和监控。在任意给定的时刻，数据库都在进行复制、故障转移以及通过副本进行主体升级等。

为了管理这些问题，Dropbox的工程师建立了DBmanager，它是一套Web UI，可以快速查看所有6000多个数据库中发生的事情。它还将这些状态信息发布到其它系统中。

Go语言升级版

有了成百上千的工程师，Dropbox小心翼翼地进行Go语言各主要版本的升级工作。Tammy表示升级过程没有产生任何问题，过程非常顺利！

下面来看一些有趣的事实：

• Dropbox最近完成了从1.5版升级到1.6版的生产服务。

• 为了追踪升级过程，他们创建了一个简单的Dropbox文件文档，并让每个服务负责人汇报进展，并在必要时向他们寻求帮助。

• Dropbox将会跳过1.7版本，在1.6迁移完全完成(包括非生产服务)的情况下直接升级到1.8。

Dropbox如何培训新工程师使用Go

每个Dropbox工程师都经历了同样严格的培训过程，包括:

• 阅读基础设施拓扑资料、Go语言风格指南以及Protobuf风格指南

• 严格但友好的代码审查

• 在Go中构建一个娱乐性质应用程序(应用程序商店)

• 学习Bazel的构建和代码测试

对于有经验的工程师来说，这个过程需要一个星期左右的时间。

Dropbox的Go语言发展情况如何?有哪些缺点呢?

总的来说，Dropbox的Go应用之路非常成功。

• 使用Go语言以后富有成效。

• 编写和使用服务变得很容易了。(人们喜欢做这两种事情！)

• Go语言标准库非常出色。

• 调试工具(总体上)运行很好。

一个关键的数据点是，Dropbox没有努力将服务从另一种语言改写为另一种语言，这表明人们对其相当满意。(Tammy确实抛出了一份有趣的信息:Dropbox公司也在部分使用Rust，但其并不属于Go的替代品。)

Dropbox公司在使用Go语言时遇到哪些困难?

Tammy证实称，Go语言最大的问题在于处理竞态条件。

• 数据竞态类bug给调试、查询与修复等工作带来挑战。

• 一些Dropbox的工程师特别善于发现这些，而其他工程师则依赖于他们的专业技能。

• Go数据竞赛检测器并不总是有用的。确定这种不起作用的情况非常重要。

• 必须以审慎的态度设计需要对数据进行并发访问的Go程序。

Dropbox雇佣了那些关心可靠性和持久性的工程师，因此他们亦应当有能力解决上述问题(尽管在任何地方，并发性都是非常困难的)。