2017年总结及2018年计划

Posted start12

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了2017年总结及2018年计划相关的知识,希望对你有一定的参考价值。

  时间的车轮已经滚过了2017,本来是计划年底12月份结束之前将过去一年的工作和学习总结下,无奈一直托更,看来拖延症还是没有改善;趁着2018年到来之时,月初留空,就将这件事情落实下。

  其实2017年大概就是折腾以下三件事情:

  一、以性能为相关的工作,这占用这一年的大部分时间,包括性能测试,性能分析和性能调优。

  1、性能测试:这没什么好说的,大都是重复的执行,先根据测试需求将测试场景设计好,然后重复执行,找到问题就需要记录,然后重新执行验证,挺枯燥的。

  2、性能分析:性能分析的关键在于数据的收集,没有数据收集何来分析呢,大数据分析也是这套路;数据收集又在于监控,针对不同的运行环境部署相应的监控配置;待数据收集完毕后,按预期的数据需求来分析数据,服务器的性能分析基本都是看CPU,内存,磁盘和IO,网络和IO等这些数据。大多数服务器又分为应用,中间件,数据库,让服务器专心干一种事情。

  CPU分析

  在观察CPU性能的时候,按照负载特征归纳的方法,可以检查如下清单:  

  * 整个系统范围内的CPU负载如何,CPU使用率如何,单个CPU的使用率呢?
  * CPU负载的并发程度如何?是单线程吗?有多少线程?
  * 哪个应用程序在使用CPU,使用了多少?
  * 哪个内核线程在使用CPU,使用了多少?
  * 中断的CPU用量有多少?
  * 用户空间和内核空间使用CPU的调用路径是什么样的?
  * 遇到了什么类型的停滞周期?

  这里列举了一些系统性能分析工具,调用路径和停滞周期的分析可以使用perf工具,dstat工具也比较常用,也可以使用DTrace等更灵活的工具。

  

工具

描述
uptime 平均负载
vmstat 包括系统范围的CPU平均负载
top 监控每个进程/线程CPU用量
pidstat 每个进程/线程CPU用量分解
ps 进程状态
perf CPU剖析和跟踪,性能计数器分析

更强大的工具可以使用火焰图,火焰图可以帮助分析CPU的调用路径。

内存分析

内存问题检查清单:

* 系统范围内的物理内存和虚拟内存使用率
* 换页、交换、oom的情况
* 内核和文件系统缓存的使用情况
* 进程的内存用于何处
* 进程为何分配内存
* 内核为何分配内存
* 哪些进程在持续地交换
* 进程或者内存是否存在内存泄漏?

内存的分析工具如下:

工具 描述
free 缓存容量统计信息
vmstat 虚拟内存统计信息
top 监视每个进程的内存使用情况
ps 进程状态
Dtrace 分配跟踪
 
除了DTrace,所有的工具只能回答信息统计,进程的内存使用情况等等,至于是否发生内存泄漏等,只能通过分配跟踪。但是DTrace需要对内核函数有很深入的了解,通过D语言编写脚本完成跟踪。Perf也有一些诸如cache-miss、page-faults的事件用于跟踪,但是并不直观。
 
磁盘和IO分析

对于磁盘IO,可以列出如下等问题来帮助我们分析性能问题:

* 每块磁盘的使用率是多少?
* 每块磁盘上有多长等待队列?
* 平均服务时间和等待时间时多少?
* 是哪个应用程序或者用户正在使用磁盘?
* 应用程序读写的方式是怎样的?
* 为什么会发起磁盘IO,内核调用路径是什么样的?
* 磁盘上的读写比是多少?
* 随机IO还是顺序IO?

 Linux对磁盘的性能分析工具主要如下:

工具 描述
iostat 各种单个磁盘统计信息
iotop、pidstat 按进程列出磁盘IO的使用情况
perf、Dtrace 跟踪工具
磁盘上是随机IO还是顺序IO,很多时候并没有很好的方式去判断,因为块设备回写磁盘的时候,随机IO可能已经被整理为顺序IO了。对于磁盘的分析同样可以使用perf跟踪事件或者DTrace设置探针。 
 
网络和IO分析
 
对于网络性能,可以列出一下问题来帮助参考分析:
* 平均数据包的大小(RX、TX)是多少?
* 协议是什么?TCP or UDP?
活跃的TCP/UDP端口是多少?B/s、每秒连接数?
*
 哪个进程在主动地使用网络?
 
Linux对网络的性能分析工具主要如下:
工具 描述
netstat 网络栈和接口统计信息
sar 统计信息历史
ifconfig 接口配置
perf、Dtrace TCP/IP栈跟踪:连接、数据包、丢包,延时
 
以上内容参考《性能之巅:洞悉系统、企业与云计算》和服务器性能优化的正确姿势http://www.brendangregg.com,了解详细的内容也可以去阅读。
 
3、性能调优:这一年的调优主要是数据库方向的调优,因为性能测试发现数据库是性能瓶颈的问题所在,引起性能瓶颈的原因是数据库服务的IO负载高和表索引;将磁盘从普通的硬盘换成SSD可以解决IO负载高的问题,表索引的问题需要将关键的SQL语句找出来,针对性优化。具体的优化步骤由于篇幅过大,这里不做详细解说,有时间另外开篇。
 
关于性能调优的问题,可以看看《性能之巅:洞悉系统、企业与云计算》和《图解性能优化》这两本书,京东上都有售,价格加起来差不多200来块钱,不算太贵。
 
二、学习Python接口测试和Django
 
2016年底看到虫师在博客更新关于Pyhton接口测试方面,于是也跟着节奏学习;到3月份实体书《Web接口开发与自动化测试——基于Python语言》,主要还是学习Django接口开发和测试,然后也写了一个简单的博客系统,一直修修补补,到现在也没完工。
 
三、学习Pyhton爬虫和多线程
 
学习爬虫开始目的是为了网上爬点妹子下来,也是在网上发现这个网站比较有趣:http://cuiqingcai.com/,然后就是跟着玩,接着玩了大概3个月,从8月到11月,每天下班回去就研究爬虫写代码;主要是学习Requests库,Beautiful Soup,xpath语法,多线程和MongoDB。
 
以上就是这一年折腾的事情了,对于2018年,计划是做这三件事,重新学习Java,架构和性能调优,数据库。

以上是关于2017年总结及2018年计划的主要内容,如果未能解决你的问题,请参考以下文章

2017年总结和2018年计划

总结及2017年计划

2017小结及遇见更好的2018

2018年总结和明年计划

2018年全年回顾及2019年计划

2018年年度总结 & 2019年计划