开源推荐-C++开发的微服务框架Tars

Posted 2023-04-19

参考技术A

Tars致力于建设微服务技术生态，在底层基础设施、服务框架、上层应用以及DevOps等方面，都做了较为深入的研发。

2020年3月10日，Linux基金会正式宣布旗下的TARS开源项目成立TARS子基金会。这是一个 专注于微服务领域 的开源基金会，致力于帮助企业拥抱微服务体系架构，解决在使用微服务方面可能出现的问题。这是首个 起源于中国开源项目 的国际开源基金会，也是Linux基金会下 唯一聚焦微服务技术生态 的子基金会。

Tars基金会里目前收录了9个项目，分为5部分：工具集（Tars Lab）、服务治理（Service Governance）、微服务开发框架（Development Framwork）、存储（DCache）和基础设施（Infrustructure）。

1、Tars Lab

Tars Lab项目提供了压力测试TarsJMeter，基准测试集TarsBenchmark和一些开发工具包。TarsJavaStart，可以生成服务端和客户端的TarsJava脚手架，快速开始Tars服务的开发。TarsTools，是一款支持多种IDE的JetBrains插件，为实现编辑Jce/Tars文件使用的（支持Intellij IDEA、android Studio、phpStorm、WebStorm、GoLand、CLion等）。

2、服务治理

服务治理包含了2个项目：TSeer专注于处理服务注册与发现；TarsGateway是基于Tars框架开发的微服务网关，除具备网关的基础功能外，还可以自动将HTTP转换成Tars-RPC协议。

3、微服务开发框架

这部分只包含Tars一个项目，核心模块由C++开发，提供了多语言开发框架，默认rpc调用，是Tars基金会的核心项目。其他项目都是围绕这个项目研发的。

4、微服务存储

这部分只包含DCache一个项目，它是基于Tars框架开发的 分布式共享内存存储系统 ，支持常用的kv数据结构、支持二级索引、支持在线扩缩容、支持自动持久化到后端db等特性。DCache依赖Tars框架的运行，但也得益于Tars，使得存储服务的运维成本几乎为0。

5、微服务基础设施

这是一个将Tars与K8S融合使用的项目，致力于将Tars融入到K8S生态中。

在这方面还有一个更优秀的项目K8SFramework，致力于将Tars与K8S深度融合，相信未来会纳入到基金会中。

| Tars的前世今生

Tars的前身是腾讯内部的TAF框架，已经经过了10年的验证，稳定运行与1.6w+服务器，100多个业务线中。

据统计， Tars已在超过 120 家公司、 261200 台服务器上稳定运行。

在分布式环境下，所有的微服务（包括DCache的服务）都可以通过框架自带的控制台-TarsWeb进行管理， 可以做到所有服务状态可监控，可以在控制台上进行启停、修改配置、执行运维指令等操作。

在分布式部署的情况下，可以通过Web控制台实现一键升级、回退。

Tars自带配置中心，分级配置，可以统一修改配置，做到“一点修改，全局生效”。

在服务部署时，可以在界面上填写要发布的节点，一键部署、扩容。

框架提供了状态监控的能力，可以监控服务的调用质量，如流量情况，平均耗时、超时率和异常率。

框架状态可以在控制台上一键核查。

Tars提供配套的性能测试工具，这也是Tars基金会的子项目。性能测试工作不再依赖专业的测试人员。

| Tars优势

1、原生RPC调用

Tars使用自研的RPC协议通信，服务之间建立长连接，在通信频繁的场景下具备显著的性能优势。

2、多语言支持

除C++和Java外，Tars还支持NodeJs，PHP，Go等语言，提供了相应的SDK。当团队技术栈多样化时，可以多语言协同开发，无缝对接，开发者可以选择自己熟悉的语言进行开发，提升团队整体效率。

在这方面，Spring Cloud想要支持异构语言，需要借助SideCar构建Service Mesh。 业界现在有一些比较流行的服务网格解决方案，但是 并没有形成统一的标准 ， 可移植性不高 。比较常见的像Istio，由于是代理模式，而且非长连接，会存在 更大的延迟 。另一方面，Istio的部署和运维都非常 复杂 ，需要更多的学习成本和运维成本。

3、内置服务治理功能

Tars框架内嵌了丰富的服务治理功能，包括熔断、限流、负载均衡、认证、加密等。同时，在服务监控、数据采集，以及灰度部署、跨机房部署等方面，都原生支持，集成度高。

Spring Cloud要支持这些功能，要么需要集成其他组件，要么需要设计开发来实现。都需要付出额外的学习成本和研发成本。

4、运维监控

Tars为使用者提供了一体化的运维管理控制台，我们可以在Web上进行一键部署、扩容、升级、回退等运维操作。

Spring Cloud并没有配套的工具。要实现Web管控， 需要借助K8S和容器，同样需要付出额外的成本。

5、国产化

Tars是国内公司主导的开源项目，这一点就不多说什么了。

6、“套装”优势

Tars框架提供了微服务相关的一体化解决方案，常规情况下不需要再去集成其他组件，不存在兼容性问题。这就好比MacBook和兼容机的区别，兼容机你可能需要付出更多的试错成本才能达到想要的效果。

| 劣势

1、项目热度

Tars开源较晚，到目前只有5年多时间，项目热度不如Spring Cloud，应用也没Spring Cloud广泛。

2、Tars的云原生之路

Tars和K8s的深度融合也开源不久（2020年7月，K8SFramework），还有待落地验证。这个项目现在的更新频率较高，不建议在生产中使用。但是从这一点也可以看到社区工作者对Tars与K8S融合的高涨热情，相信未来这个项目一定会大放异彩！

Tars在微服务开发、运维、监控等方面提供了一体化的解决方案，可以帮助我们低成本构建企业级微服务。适用于各种规模的团队，各种规模的系统。

在做技术选型时，如果团队中有C++开发人员，或者有多语言开发的情况，而且团队规模、资源有限的情况下，建议选择Tars。它在运维、监控、测试等方面会为我们节约大量成本。

未来，随着 K8SFramework 项目的日渐成熟，相信Tars生态会被更多的团队熟知和使用。

Dubbo注意：腾讯推出高性能 RPC 开发框架

Tars是基于名字服务使用Tars协议的高性能RPC开发框架，同时配套一体化的服务治理平台，帮助个人或者企业快速的以微服务的方式构建自己稳定可靠的分布式应用。

Tars是将腾讯内部使用的微服务架构TAF（Total Application Framework）多年的实践成果总结而成的开源项目。Tars这个名字来自《星际穿越》电影中机器人Tars， 电影中Tars有着非常友好的交互方式，任何初次接触它的人都可以轻松的和它进行交流，同时能在外太空、外星等复杂地形上，超预期的高效率的完成托付的所有任务。拥有着类似设计理念的Tars也是一个兼顾易用性、高性能、服务治理的框架，目的是让开发更简单，聚焦业务逻辑，让运营更高效，一切尽在掌握。

目前该框架在腾讯内部，有100多个业务、10多万台服务器上运行使用。你们公司正在使用什么RPC框架呢？

设计思想

Tars的设计思路是采用微服务的思想对服务进行治理，同时对整个系统的各个模块进行抽象分层，将各个层次之间相互解耦或者松耦合，如下图：

最底的协议层，设计思路是将业务网络通信的协议进行统一，以IDL(接口定义语言)的方式，开发支持多平台、可扩展、协议代码自动生成的统一协议。在开发过程中，开发人员只需要关注通讯的协议字段的内容，不需要关注其实现的细节，大大减轻了开发服务时需要考虑的协议是否能跨平台使用、是否可能需要兼容、扩展等问题。

中间的公共库、通讯框架、平台层，设计思路是让业务开发更加聚焦业务逻辑的本身。因此，从使用者的角度出发，封装了大量日常开发过程中经常使用的公共库代码和远程过程调用，让开发使用更简单方便；从框架本身的角度出发，做到高稳定性、高可用性、高性能，这样才能让业务服务运营更加放心；从分布式平台的角度出发，解决服务运营过程中，遇到的容错、负载均衡、容量管理、就近接入、灰度发布等问题，让平台更加强大。

最上面的运营层，设计思路是让运维只需要关注日常的服务部署、发布、配置、监控、调度管理等操作。

整体架构

架构拓扑

整体架构的拓扑图主要分为2个部分：服务节点与公共框架节点。

服务节点:

服务节点可以认为是服务所实际运行的一个具体的操作系统实例，可以是物理主机或者虚拟主机、云主机。随着服务的种类扩展和规模扩大，服务节点可能成千上万甚至数以十万计。每台服务节点上均有一个Node服务节点和N(N>=0)个业务服务节点，Node服务节点会对业务服务节点进行统一管理，提供启停、发布、监控等功能，同时接收业务服务节点上报过来的心跳。

公共框架节点:

除了服务节点以外的服务，其他服务节点均归为一类。

公共框架节点，数量不定，为了自身的容错容灾，一般也要求在在多个机房的多个服务器上进行部署，具体的节点数量，与服务节点的规模有关，比如，如果某些服务需要打较多的日志，就需要部署更多的日志服务节点。

又可细分为如下几个部分：

Web管理系统：在Web上可以看到服务运行的各种实时数据情况，以及对服务进行发布、启停、部署等操作；

Patch（发布管理）：提供服务的发布功能；

Config（配置中心）：提供服务配置文件的统一管理功能；

Log（远程日志）：提供服务打日志到远程的功能；

Stat（调用统计）：统计业务服务上报的各种调用信息，比如总流量、平均耗时、超时率等，以便对服务出现异常时进行告警；

Property（业务属性）：统计业务自定义上报的属性信息，比如内存使用大小、队列大小、cache命中率等，以便对服务出现异常时进行告警；

Notify（异常信息）：统计业务上报的各种异常信息，比如服务状态变更信息、访问db失败信息等，以便对服务出现异常时进行告警；

原则上要求全部的节点之间网络互通，至少每台机器的node能够与公共框架节点之间都是可以连通的。

特性

tars协议

tars协议采用接口描述语言（Interface description language，缩写IDL）来实现，它是一种二进制、可扩展、代码自动生成、支持多平台的协议，使得在不同平台上运行的对象和用不同语言编写的程序可以用RPC远程调用的方式相互通信交流， 主要应用在后台服务之间的网络传输协议，以及对象的序列化和反序列化等方面。

协议支持的类型分两种，基本类型和复杂类型。

基本类型包括：void、bool、byte、short、int、long、float、double、string、unsigned byte、unsigned short、unsigned int；

复杂类型包括：enum、const、struct、vector、map，以及struct、vector、map的嵌套。

例如:

调用方式

通过IDL语言协议，可以定义服务提供的接口，并自动生成客户端和服务端的相关通信代码，服务端只需实现业务逻辑即可对外提供服务，客户端通过自动生成的代码即可调用服务，调用方式支持三种模式：

同步调用：客户端发出调用请求后等待服务返回结果后再继续逻辑；

异步调用：客户端发出调用请求后继续其他业务逻辑，服务端返回结果又由回调处理类处理结果；

单向调用：客户端发出调用请求后就结束调用，服务端不返回调用结果。

负载均衡

负载均衡支持轮询、hash、权重等多种方式。

容错保护

容错保护通过两种方式实现：名字服务排除和Client主动屏蔽。

名字服务排除的策略：

Client主动屏蔽：

为了更及时的屏蔽故障节点，Client根据调用被调服务的异常情况来判断是否有故障来更快进行故障屏蔽。具体策略是，当client调用某个svr出现调用连续超时，或者调用的超时比率超过一定百分比，client会对此svr进行屏蔽，让流量分发到正常的节点上去。对屏蔽的svr节点，每隔一定时间进行重连，如果正常，则进行正常的流量分发。

过载保护

为了防止业务因为访问量突增或服务器故障造成系统整体的繁忙，进而导致全部服务的不可用，框架内部做相应设计来应对。实现请求队列，服务调用通过非阻塞方式实现异步系统，从而达到提升系统处理能力的目的。并且对队列的长度进行监控，当超过某个阀值，则拒绝新的请求。对请求设置超时时间，当请求包从队列里读取出来是判断请求是否超时，如果超时则不做处理。

消息染色

框架提供了对某服务某接口的特定请求进行染色的能力，染色的消息可以透传到后面需要访问的所有服务上，对染色的请求，服务自动把日志上报到特定的染色日志服务器上，使用者只需在染色服务器上即可分析请求访问的路径，方便跟踪定位问题。如下：

IDC分组

为了加快服务间的访问速度，减少跨地区、跨机房调用带来的网络资源消耗，减少网络故障带来的影响，框架提供了跨地区、跨机房，就近接入的功能。

SET分组

为了方便对业务服务部署管理进行标准化和容量化，框架提供了Set部署能力，set之间没有调用关系，互不干扰，故障隔离，提高运维效率和服务可用性。

数据监控

为了更好反映和监控小到服务进程、大到业务的运行质量情况，框架支持以下数据上报的功能:

• 提供了服务模块间调用信息统计上报的功能，方便用户查看服务的流量、延时、超时、异常等情况；

image

• 提供了用户自定义属性数据上报的功能，方便用户查看服务的某些维度或者指标，比如内存使用情况、队列大小、cache命中率等；

• 提供了服务状态变更和异常信息上报的功能，方便用户查看服务的何时发布过、重启过、宕过以及遇到的异常致命错误等；

集中配置

对业务配置进行集中管理并且操作web化，使配置修改更容易，通知更及时，配置变更也更安全；对配置变更进行历史记录，让配置可以轻松回退到前一版本。配置拉取服务化，服务只需调用配置服务的接口即可获取到配置文件。

为了能灵活管理配置文件，配置文件分为几个级别：应用配置、Set配置、服务配置和节点配置。

应用配置为最高一级的配置文件，它是多个服务配置提炼出来的公共配置，服务配置通过引用它来使用其配置内容。

Set配置是具体一个Set分组下所有服务的公共配置，在应用配置的基础上进行补充追加。

服务配置是具体一个服务下所有节点的公共配置，可以引用应用配置。

节点配置是一个应用节点的个性化配置，它和服务配置合并成为具体一个服务节点的配置。

项目地址

  
    
    
  

   
     
     
    
       阿飞的博客 发起了一个读者讨论 你心目中最理想的RPC框架是哪个？为什么？    精选讨论内容   
        
 
          
         
 
         
 
         
 
          
 
            
           

             阿飛 
           
以上是关于开源推荐-C++开发的微服务框架Tars的主要内容，如果未能解决你的问题，请参考以下文章
 
 腾讯正式对外开源高性能 RPC 开发框架与微服务平台Tars
 开源项目：腾讯推出高性能 RPC 开发框架
 开源了！腾讯推出一款高性能 RPC 开发框架
 开源微服务TARS接口测试揭秘
 腾讯高性能 RPC 开发框架
 腾讯推出高性能 RPC 开发框架