Elastic：应用程序性能监控/管理(APM)实践

Posted 2021-03-20 sanduzxcvbnm

在今天的文章里，我们将介绍Elastic的一个重要的应用：应用程序性能管理（Application Performance Monitoring/Management)，简称APM。那么到底什么是APM呢？

随着时代的发展，我们的IT架构越来越复杂，比如：

我们系统的服务器越来越多，而且更多的设备都部署在云端。复杂的系统甚至有成千个微服务及架构所组成，那么我们的业务请求可能需要一个或更多的服务共同来完成。那么现在的问题是，如果我们的请求变得很慢，我们想知道到底是哪个环节出现问题了呢？经验丰富的程序员或者系统设计者，可能从一些log里找到答案。可是当我们的log变得非常大的时候，而且我们的接口也越来越多时，这个时候，也许我们也无能为力。

当我们在设计页面或者请求时，经常会遇到上面的这种等待的情况。可能有个别的工具能有效地解决部分的问题，但是如何能从整个的系统里来完成这种问题的定位及分析。Elastic推出的APM解决方案可以完美地解决这些问题。为我们的系统设计者或程序员提供了一个快速定位的方法。

APM 到底是什么呢？

我们先来看一下如下的这个图：

如上图所示，在不同时刻我们请求时，我们发现为什么在17:36:30发生的一个请求需要花将近8秒的时间，而另外在17:36:30分发生的一个请求却返回一个错误的代码？

Elastic APM方案是世界上第一个开源的APM 解决方案：

• APM记录数据库查询，外部HTTP请求以及对应用程序的请求期间发生的其他缓慢操作的跟踪
  • 很容易让程序员看到应用在运行时各个部分所花的时间
• 它收集未处理的错误和异常
  • 很容让程序员调试错误
• 在客户面对性能瓶颈和错误之前先定位到问题所在
• 提高开发团队的生产力

APM适用于Elastic Stack的位置

APM如何把数据存于Elasticsearch中，并提供分析呢？我们看一下如下的架构图：

如上图所示，我们看到一个最典型的APM架构图：

• 我们需要架设一台专门的APM服务器，虽然也可以和Elastic Stack的其它服务器处于同一台服务器中
• AMP agent专门收集数据并发送数据到APM服务器中。这里的APM agents包含：

• APM服务器把数据发送到Elasticsearch中，并进行数据分析
• Kibana可以帮我们把数据进行展示并显示在Dashboard之中

总体来说，APM数据仅仅是另外Elasticsearch索引。在Kibana中已经有一个现成的APM应用可以被我们所使用。我们也可以根据需求自己定制自己的Dashboard。APM可以完美地结合机器学习和告警。

APM术语

• Service: 在apm agent配置中进行设置，以将特定的apm agent组标识为单个服务，这是一种逻辑上标识一组事务的方法
• Transaction: 组成一个服务的请求和响应，例如 登录api调用，每个调用由单独的span组成。
• Span: 事务中的单个事件，例如方法调用，数据库查询或缓存插入或检索，即需要花费时间才能完成的任何事件。
• Erorrs：具有匹配的异常或日志消息的异常组

它们之间的关系可以用如下的图来表示：

分布式tracing：

例子

在今天的练习中，我们将以Java Spring boot为例来展示如何使用Elastic APM。

下载Spring boot代码

首先，我们在terminal中打入如下的命令：

git clone https://github.com/liu-xiao-guo/elastic-apm-demo

上面的一个例子是一个简单的Spring boot应用。它有一下的几个特点：

• 它可以REST接口访问mysql的数据库进行添加数据，请求数据
• 它可以通过REST接口进行访问百度天气接口来获得天气数据

下面是它的部分代码：

        @PostMapping(path="/add") // Map ONLY POST Requests
        public @ResponseBody String addNewUser (@RequestParam String name
                , @RequestParam String email) {
            // @ResponseBody means the returned String is the response, not a view name
            // @RequestParam means it is a parameter from the GET or POST request
     
            User n = new User();
            n.setName(name);
            n.setEmail(email);
            userRepository.save(n);
            return "Saved";
        }
     
        @GetMapping(path="/all")
        public @ResponseBody Iterable<User> getAllUsers() {
            // This returns a JSON or XML with the users
            return userRepository.findAll();
        }
     
        @GetMapping(path="/weather")
        public @ResponseBody String getBaiduWeather() throws InterruptedException {
            // Add some random delays before getting the info
            double delay = Math.random() * 10;
            System.out.println("delay: " + delay);
            TimeUnit.SECONDS.sleep((long)delay);
     
            String weather = getWeatherInform("北京");
     
            return weather;
        }

在获得天气（weather）的接口中，我故意加入了一下随机数的延迟，这样来模拟每一次请求的时间是不同的。

我们可以在应用的根目录下打入如下的命令：

./mvnw clean package

这样它将会在当前目录下的target子目录下生产一个叫做accessing-data-mysql-0.0.1-SNAPSHOT.jar的文件。

    $ ls ./target/accessing-data-mysql-0.0.1-SNAPSHOT.jar
    ./target/accessing-data-mysql-0.0.1-SNAPSHOT.jar

我们可以把这个文件拷入到我们想要的任何一个目录中。针对我的情况，我把它拷入到我的home目录下的data/apm目录中。

    $ pwd
    /Users/liuxg/data/apm
    liuxg-2:apm liuxg$ ls accessing-data-mysql-0.0.1-SNAPSHOT.jar
    accessing-data-mysql-0.0.1-SNAPSHOT.jar

安装MySQL

我们可以按照文档的需求来安装我们的MySQL。我们在一个terminal中打入如下的命令：

mysql -uroot -p

我们打入root用户的密码进入到MySQL之中。为了创建一个数据库，我们在MySQL的prompt中打入如下的命令：

    mysql> create database db_example; -- Creates the new database
    mysql> create user 'springuser'@'%' identified by 'ThePassword'; -- Creates the user
    mysql> grant all on db_example.* to 'springuser'@'%'; -- Gives all privileges to the new user on the newly created database

上面的命令创建了一个叫做db_example的数据库。同时，它也创建了一个叫做springuser的用户及其密码ThePassword。我们可以通过Navicat工具来查看:

运行Elastic Stack

安装及运行我们的Elasticsearch及Kibana。我们打开我们的Kibana界面，并点击左上角的部分：

然后，我们按照上面的步骤一步一步地进行安装：

上面的步骤非常详细。对于APM agent的选择来讲，因为我们是Java应用，所以我们选择Java agent。我们下载相应的agent jar文件，并存放于我们上面放置spring boot的jar文件所处的文件夹。针对我的情况是home目录下的data/apm。

    $ pwd
    /Users/liuxg/data/apm
    liuxg-2:apm liuxg$ ls elastic-apm-agent-1.10.0.jar 
    elastic-apm-agent-1.10.0.jar

在这个时候，我们可以开始运行我们的Spring Java应用了。我们可以通过如下的命令来运行：

    java -javaagent:./elastic-apm-agent-1.10.0.jar          -Delastic.apm.service_name=sample_apm          -Delastic.apm.server_url=http://localhost:8200          -Delastic.apm.secret_token=          -Delastic.apm.application_packages=accessing-data-mysql          -jar accessing-data-mysql-0.0.1-SNAPSHOT.jar

注意：这里的sample_apm是我给取的一个服务名称。你可以根据自己的需求取一个独特的名字。如果你不想这么麻烦，你可以在当前的目录下生产一个叫做elasticapm.properties的文件。它的内容如下：

    service_name=sample_apm
    application_packages=accessing-data-mysql
    server_url=http://localhost:8200

那么我们可以通过如下的命令来运行：

    java -javaagent:./elastic-apm-agent-1.10.0.jar          -Delastic.apm.secret_token=          -jar accessing-data-mysql-0.0.1-SNAPSHOT.jar

等我们的Spring Boot应用完全起来后，我们点击Kibana中的“Check agent status”按钮。这个时候可能显示没有任何的数据。我们可以打开我们的浏览器，并在浏览器的地址栏中输入如下的地址：

我们可以看到我们得到了一下天气的数据信息。那么这个时候我们可以在Agent status中看到信息：

启动APM应用

如果你已经运行到这里，那么你基本上已经把整个的环境运行起来了。我们可以在terminal中打入如下的命令：

curl localhost:8080/demo/add -d name=First -d email=[e-mail]

上面的应用是向我们的数据中写入一条记录。

curl 'localhost:8080/demo/all'

运行上面的命令可以展示已经输入的所有的记录

curl 'localhost:8080/demo/weather'

运行上面的命令可以获得百度天气API接口所带给我们的天气信息。

上面的所有的信息我们都可以在浏览器中的地址栏中输入。

点击Kibana中的APM应用图标：

在上面我们可以看到应用的四个接口的统计情况。

我们在这个APM应用的dashboard上可以看到我们所有的API的调用情况。比如：

因为在我的应用中，我故意加入了一些延迟，所以导致我们的整个getBaiduWeather的请求时间为9.157秒才完成，而api.map.baidu.com的时间只有149ms。

到这里我的讲解就完成了。剩下的留给大家自己去挖掘哈！

参考：
【1】Accessing data with MySQL(https://spring.io/guides/gs/accessing-data-mysql/)