日志快速筛选 之 linux命令grep|uniq|wc|awk

Posted 2020-08-27 等你归去来

　　以前我个人的观念是，在线上运行的东西尽量不要记什么流水日志。

　　但是后来我变了，发现在线上记日志是一个绝对有必要的东西，尤其是在当下很流行的微服务的推动下，没有日志的帮助，犹如一个睁眼瞎，排查问题基本靠猜，这可不行。

　　那就打印记录每次的访问日志，尤其是访问接口时的参数及返回数据和耗费时间等，这是对自己将问题抛给上层及性能优化的依据。但是日志量应该是非常大的，一定要注意及时清理。

　　那么问题来了，当发现问题时，如何快速定位到错误的地方就很重要了。

日志样例如下（某次访问的产生的日志）：

[2017-01-14 17:38:44]  New [email protected]: 112.65.141.22
[2017-01-14 17:38:44]  New [email protected]: 112.65.141.22 param: <xml><ToUserName><![CDATA[gh_27923assff]]></ToUserName> <FromUserName><![CDATA[osj3ut7w0VqGU-6k1WssdmAQPVU]]></FromUserName> <CreateTime>1484386723
</CreateTime> <MsgType><![CDATA[text]]></MsgType> <Content><![CDATA[http://satwx.ddd.com/wap]]></Content> <MsgId>6375392430314143735</MsgId> </xml>
[2017-01-14 17:38:44]  cat@http://192.168.1.125:30008/eagleeye/monitor/logEvent @visit, msg=> New [email protected]: 112.65.141.22 ...
[2017-01-14 17:38:44]  api begin: [get] http://192.168.1.11:40003/micsite/api/ss/microsite/1.1/wchat/getAcken?wchatName=wx477026f155386
[2017-01-14 17:38:44]  api end: cost: 0.0081648826599121 sec,return data: {"error":"4000063","msg":"无该公众账号的accessToken信息 !","status":"0"}
[2017-01-14 17:38:44]  get token error [code:status 0]: {"error":"4000063","msg":"无该公众账号的accessToken信息 !","status":"0"}
[2017-01-14 17:38:44]  api begin: [get] https://api.weixin.qq.com/cgi-bin/user/info?access_token=&openid=osj3ut7w0VqGU-6k1WHVi5mAQPVU&lang=zh_CN
[2017-01-14 17:38:44]  api end: cost: 0.08442211151123 sec,return data: {"errcode":41001,"errmsg":"access_token missing hint: [ohHxoa0723vr30!]"}
[2017-01-14 17:38:44]  get UnionId error: {"errcode":41001,"errmsg":"access_token missing hint: [ohHxoa0723vr30!]"}
[2017-01-14 17:38:45]  POST  https://a1.easemob.com/ddd/xyytest/token {"grant_type":"client_credentials","client_id":"YXA6895cUK3_EeW3YsEU_isqRQ","client_secret":"YXA61QdxmD9yvNcxd9zaHrcmFfTRZ3M"}
[2017-01-14 17:38:45]  return data: {"access_token":"YWMtf7ebhtFWEeaBVquozfw40QAAAA3A67AAAAAAHz3lxQrf8R5bdiwR4FZYgHzdwBPGgDdng322dddssvrzggb2_tQflF-cf4FEO07WzyZJuEQ","expires_in":4205288,"app
lication":"f3de5c50-adff-11e5-b762-c114fe2b2a45"} , cost: 0.19826197624207 sec
[2017-01-14 17:38:45]  POST  https://a1.easemob.com/dd/xyytest/messages {"target_type":"users","target":["custom"],"msg":{"type":"txt","msg":"http:\/\/satwx.shoujidai.com\/wap"},"from":"hx_callback","ext"
:{"weichat":{"visitor":{"source":"weixin","msgId":"6375392430314143735","openid":"osj3ut7w0VqGU-6k1WHVi5mAQPVU","mp":"wx812302f2923a0e2f","userNickname":null}}}}
[2017-01-14 17:38:45]  return data: {"action" : "post","application" : "f3de5c50-adff-11e5-b762-c114fe2b2a45", "path" : "/messages"} , cost: 0.15990281105042 sec
[2017-01-14 17:38:45]  output: (empty)
[2017-01-14 17:38:45]  ---- This time cost: 0.52057886123657 sec ----

 

问题1、我想查看有多少独立访问了这台机器？(可能有多天的访问日志)

grep -n -E "\[2017-01-14 [0-9]{2}:[0-9]{2}:[0-9]{2}\] [0-9]+\.[0-9]+\.[0-9]+\.[0-9]+" *log | awk ‘{if(!ip[$3]++) print $3 " ===> " $1 " " $2 " "  $4;}‘ | sort | uniq | less

　　想要统计总共有多少ip时，只需后接一个wc -l 的管道命令即可：

cat a.log | wc -l

问题2、发现某个外网接口慢了，怎样查看该接口慢的地方都有哪些？

grep -A1 -n "api.weixin.qq.com/cgi-bin/" *.log | grep -v "api.weixin.qq.com" | awk ‘$6 > 5‘ | less     #grep -v 是将接口访问栏给去掉，只留下时间记录行，过滤出访问时间大于5秒的日志
. | wc -l  #统计总共有多少地方

问题3、假设有错误产生，但是不确定访问是否访问到该机器，是否可以同时看到访问日志与错误日志？

tail -f access_log error_log   # 将访问日志与错误日志同时动态打印出来，如果同时出现则证明访问到该机器且可查看错误

问题4、如何清理日志？用crontab运行定时cron脚本。crontab -e

FilePath=/data/log
find FilePath -mtime +3 -name ‘*.log‘  -exec rm -rf {} \; 

问题5、临时检查某接口是否通畅？使用curl命令

curl -i http://coe.test.com:8080/micro_site/api/user/info  #加-i参加可返回头信息，更多命令可查看帮助文档
ping coe.test.com  #直接看该域名是否可用
telnet coe.test.com #如果需要，也可以使用telnet命令

问题6、使用docker容器进行管理测试环境，一些简单的docker 命令应该知晓

docker ps | grep myserver    #查看docker 进程，过滤想要的行，如查看映射端口及完全的镜像名称
docker exec -it myserver /bin/bash      #进入自己的docker 容器

问题7、其他技巧？

netstat -tunlp          #查看网络端口监听情况，以确定服务器是否有问题
ps -ef | grep httpd    #查看进程相关 pstree 更生动                
grep -F -f a.txt b.txt  #求文件交集
sort a.txt b.txt | uniq -d  #求两文件交集
sort a.txt b.txt b.txt | uniq -u   #求两文件不重复的项

说到日志筛选，其实只是想定位到问题在哪里，在这里就多了几句，以备后用吧！

对于php解释型语言，调试起来相对方便，直接在服务器上改掉进行尝试即可，但是也有一个坏处就是没有编译器来给你检查代码，会隐藏一些语法错误。一般来说，将访问日志与错误日志一起打印会让你快速解决问题。语法错误相对好解决，逻辑错误则需要定位代码位置，仔细分析才能解决。

对于像java一类的编译型语言，调试则相对麻烦一些。一般在改动很小或者一两个文件的时候，可以直接通过替换.class文件的方式，重启服务器进行快速调试，但是对于多个文件的更改基本上就得重新打包上传了。.war包的class文件可以方便的通过ftp工作替换，而.jar包则麻烦些，需先将服务器上的jar包下载至本地，用压缩工具打开后，直接替换class文件后，再将整个jar包上传即可。java的日志相对会比较大，所以清理文件会更多或更频繁。

使用svn, git等工具进行代码管理很方便，但有时提交文件修改时，容易忘记添加的文件，多半会引起ClassNotFoundException，快速搞定。

对于NullPointerException异常，找到引发错误的行，观察是哪个变量可能引起该错误，可能是接口响应，可能是数据库问题。

对于OutOfMemoryError异常，加内存或者优化代码解决。