RPC框架性能基本比较测试

Posted 2020-08-03 掉进书洞里的猫

gRPC是Google最近公布的开源软件，基于最新的HTTP2.0协议，并支持常见的众多编程语言。 我们知道HTTP2.0是基于二进制的HTTP协议升级版本，目前各大浏览器都在快马加鞭的加以支持。 我们可以设想一下，未来浏览器支持HTTP2.0，并通过现有开源序列化库比如protobuf等，可以直接和各种语言的服务进行高效交互，这将是多么“美好”的场景！

gPRC的Java实现底层网络库是Netty，而且是用到最新的Netty5.0.0.Alpha3的开发版本，因为最新版本针对HTTP/2做了很多改进。 为了跨语言，gPRC也和其他方案一样，采用了类似古老IDL的接口描述语言，利用自家的Protobuf项目带的protoc编译器来生成框架代码。这和目前最流行的Facebook开源的，现为Apache顶级项目的Thrift原理一致。

我比较好奇，这个新出世的框架的性能怎么样，和现有的RPC开源方案比较如何。就花了一些时间进行简单比较。 我选择了以下五种开源项目进行测试：gRPC, Thrift, Wildfly, Dubbo, JBoss EAP。 为了简化，测试范例都使用项目自带的demo或者sample等进行简单修改，使得跨进程网络调用次数一致。

gRPC https://github.com/grpc/grpc

1. 从Github master主干上获得最新版本，按照说明文件进行编译。如上所述，网络框架是Netty5，基于最新的HTTP/2.

2. 测试例子为 RouteGuideClient

3. IDL为 route_guide.proto

4. 选择其中getFeature方法，去除不用的语句和屏幕输出，进行10,000次同步调用。

TestClientSync client = new TestClientSync("localhost", 8980);
try {
  final long startTime = System.nanoTime();

  for (int i = 0; i < 10000; i++)
    client.getFeature(409146138, -746188906);

  final long endTime = System.nanoTime();
  info("method 1 : " + (endTime - startTime));
}

public void getFeature(int lat, int lon) {
  try {
    Point request = Point.newBuilder().setLatitude(lat).setLongitude(lon).build();
    Feature feature = blockingStub.getFeature(request);
  } catch (RuntimeException e) {
    logger.log(Level.WARNING, "RPC failed", e);
    throw e;
  }
}

多次执行，记录需要的时间。

gRPC还有一种非阻塞的调用方法，不过因为时间有限，为了简化测试，我只用标准的server启动的方式，asyncStub在大并发访问时出错，用时也较长，故这次测试没有这种方法的结果数据。

Thrift http://thrift.apache.org

1. 从Apache网站获得最新的0.9.2版本，本机编译获得C的编译器和Java运行环境。

2. 测试例子为 JavaClient.java

3. IDL tutorial.thrift

int diff;
final long startTime = System.nanoTime();
try {
  for (int i = 0; i < 10000; i++)
     diff = client.calculate(1, work);
} catch (InvalidOperation io) {
  System.out.println("Invalid operation: " + io.why);
}
final long endTime = System.nanoTime();
System.out.println("method 1 : " + (endTime - startTime));

Thrift采用经典的基于网络端口的RPC，效率最高，在最后的总结数据可以看到。

Wildfly 8.2.0 http://www.wildfly.org

Wildfly是JBossAS改名后的JBoss应用服务器，实现了完整的JavaEE规范。我们知道JavaEE中远程RPC调用是在EJB规范中定义的。我们这里就是要测试Wildlfy中的远程EJB调用能力，

1. 选用的Wildfly8.2是目前发布的最新稳定版本。这个版本也支持端口多路服用，也就是EJB远程调用是通过HTTP端口复用来进行的，利用HTTP的Upgrade机制做到二进制运行时刻协商升级。尽管不是纯粹的HTTP/2，但也运行机理也相差无几。

2. 测试例子选用jboss-eap-quickstarts项目中的远程ejb调用例子 RemoteEJBClient.java

3. 纯Java的RPC方案好处是不需要再有IDL文件定义和编译生成代码的过程，只要商议好接口就可以了

public interface RemoteCalculator {
    int add(int a, int b);
}

int sum=0;
final long startTime = System.nanoTime();

for (int i = 0; i < 10000; i++) {
         sum = statelessRemoteCalculator.add(a, b);
}

final long endTime = System.nanoTime();
System.out.println("method 1 : " + (endTime - startTime));

调用无状态的SessionBean方法10,000次,对应的远程EJB服务是部署在Wildfly应用服务器中的EJB。

Dubbo 2.5.4-SNAPSHOT https://github.com/alibaba/dubbo

Dubbo是阿里集团开源的一个极为成员的RPC框架，在很多互联网公司和企业应用中广泛使用。协议和序列化框架都可以插拔是及其鲜明的特色。同样的远程接口是基于Java Interface，并且依托于spring框架方便开发。可以方便的打包成单一文件，独立进程运行，和现在的微服务概念一致。

1. 采用github中master主干，目前版本是 2.5.4-SNAPSHOT

2. 测试例子选用其中的demo进行修改 DemoAction.java

public interface DemoService {
    String sayHello(String name);
}

final long startTime = System.nanoTime();

for (int i = 0; i < 10000; i ++) {
    try {
        String hello = demoService.sayHello("world" + i);
    } catch (Exception e) {
        e.printStackTrace();
    }
}
final long endTime = System.nanoTime();
System.out.println("method 1 : " + (endTime - startTime));

调用完毕后查看输入log文件获得运行时间。

Redhat JBoss EAP 6.3.2 Link

EAP是JBossAS的商业版本，实现了完整的JavaEE规范。

1. EAP6基于AS7.2以后的版本构建，红帽提供商业支持。

2. AS7在7.2以后，社区版没有再发布，具备能力的企业可以从源码进行编译使用，EAP6.3基于AS7.4分支构建，很快发布的EAP6.4基于AS7.5分支构建，不出意外这个会是最后一个EAP6的minor版本。

3. AS7还没有像Wildfly完全采用端口复用的方式，短程EJB调用通过独立端口完成，基于JBossRemoting3的网络连接管理能力。

4. 测试例子依然选用jboss-eap-quickstarts项目中的远程ejb调用例子

public interface RemoteCalculator {
    int add(int a, int b);
}

记录一万次调用后的时长。

数据结果

最终经过4轮测试，不间断运行10,000次远程RPC调用后的结果如下：

我们可以看到Thrift的效率最高，大概领先一个数量级。而其他三个项目的性能数据在同数量级中，由高到低分别为JBossEAP, dubbo, wildfly和gRPC。

需要说明的有以下几点：

1. 为了简化测试，我并没有选择同样的调用接口，而是顺手用了项目自带的，方便修改的示例程序。其中gRPC和Thrift的接口有对象传递，稍微复杂一些。

2. 不是严格的性能测试流程，比如没有做预热过程，以及测试都运行在我的桌面用机上，没有完全恢复成“干净”的状态。

3. 都是简单的服务器单一进程实例，标准示范例子，没有做特别优化和设置多个线程池之类的。而客户端调用也是最简单的阻塞式多次调用压力测试。应该是用多个机器多连接，多个线程，以及异步非阻塞的调用多种环境进行测试更为客观，有机会再继续完善。

4. 之前没有看到过基于HTTP/2的RPC调用性能比较，理论上是应该低于经典的基于端口的RPC方案的。这个测试结果可以简单印证这个猜想。Thrift的数据遥遥领先.gRPC还在开发之中，基于的Netty还是alpha版本，而且非阻塞的方式还没有最后的数据。我想耐心一些，给gRPC一些时间，它会让我们惊艳的。

5. Wildfly表现良好，要知道它的服务端可是完整的JavaEE服务器啊。不过有时间的化，我试试看经典RMI连接的效率如何，要是能和thrift一个数量级就更好了。

6. dubbo性能也很出色，而且协议层可以更换的话，应该还能有更大提升。

7. 我的测试在一台过时的笔记本上，受条件限制，没有先进的G级网络和多台服务器进行标准化性能测试。如果哪位在互联网或者企业工作的朋友有条件，也愿意充分完成这个测试，请和我联系，我会完整介绍我的测试搭建环境，共享代码，并帮助完成。我想那个结果会更有意义。

补记

1. 最初四个测试时间为2015-03-11，03-21加入EAP6.3.2的测试，为基于JBossRemoting的EJB远程调用测试，性能良好。和thrift进入一个数量级，EJB功能可是很丰富的，带有事务，安全等高级企业级组件特性。

2. Wildfly8经过配置后使用和EAP类似的远程调用选项，效率和EAP应该是一致的。