一文带你全面了解缓存最关心的性能指标
Posted 冰 河
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了一文带你全面了解缓存最关心的性能指标相关的知识，希望对你有一定的参考价值。
大家好，我是冰河~~
往往开始做一个项目时，不会过多的考虑性能问题，以快速迭代功能为主。后续随着业务的快速发展，系统运行的性能越来越慢，此时，就需要对系统进行相应的优化，而效果最显著的就是给系统加上缓存。
那么，问题来了，当你为系统加上缓存时，有没有考虑过使用缓存需要注意哪些事项呢？
缓存命中率
缓存命中率是从缓存中读取数据的次数与总读取次数的比率，命中率越高越好。缓存命中率=从缓存中读取次数 / (总读取次数 (从缓存中读取次数 + 从慢速设备上读取次数))。这是一个非常重要的监控指标，如果做缓存，则应通过监控这个指标来看缓存是否工作良好。
缓存类型
缓存类型总体上来看，可以分为：堆缓存、堆外缓存、磁盘缓存和分布式缓存。
堆内存
使用Java堆内存来存储对象。使用堆缓存的好处是没有序列化/反序列化，是最快的缓存。缺点也很明显，当缓存的数据量很大时，GC（垃圾回收）暂停时间会变长，存储容量受限于堆空间大小。一般通过软引用/弱引用来存储缓存对象。即当堆内存不足时，可以强制回收这部分内存释放堆内存空间。一般使用堆缓存存储较热的数据。可以使用Guava Cache、Ehcache 3.x、 MapDB实现。
堆外内存
即缓存数据存储在堆外内存，可以减少GC暂停时间（堆对象转移到堆外，GC扫描和移动的对象变少了），可以支持更多的缓存空间（只受机器内存大小限制，不受堆空间的影响）。但是，读取数据时需要序列化/反序列化。因此，会比堆缓存慢很多。可以使用Ehcache 3.x、 MapDB实现。
磁盘缓存
即缓存数据存储在磁盘上，在JVM重启时数据还存在，而堆/堆外缓存数据会丢失，需要重新加载。可以使用Ehcache 3.x、MapDB实现。
分布式缓存
分布式缓存可以使用ehcache-clustered(配合Terracotta server)实现Java进程间分布式缓存。也可以使用Memcached、Redis实现。
使用分布式缓存时，有两种模式如下：
- 单机模式：存储最热的数据到堆缓存，相对热的数据到堆外缓存，不热的数据到磁盘缓存。
- 集群模式：存储最热的数据到堆缓存，相对热的数据到对外缓存，全量数据到分布式缓存。
缓存回收策略
缓存的回收策略总体上来说包含：基于空间的回收策略、基于容量（空间）的回收策略、基于时间的回收策略和基于对象引用的回收策略。
基于空间
基于空间指缓存设置了存储空间，如设置为10MB，当达到存储空间上限时，按照一定的策略移除数据。
基于容量
基于容量指缓存设置了最大大小，当缓存的条目超过最大大小时，按照一定的策略移除旧数据。
基于时间
TTL(Time To Live):存活期，即缓存数据从创建开始直到到期的一个时间段（不管在这个时间段内有没有被访问，缓存数据都将过期）。TTI(Time To Idle)：空闲期，即缓存数据多久没被访问后移除缓存的时间。
基于对象引用
软引用：如果一个对象是软引用，则当JVM堆内存不足时，垃圾回收器可以回收这些对象。软引用适合用来做缓存，从而当JVM堆内存不足时，可以回收这些对象腾出一些空间供强引用对象使用，从而避免OOM。弱引用：当垃圾回收器回收内存时，如果发现弱引用，则将它立即回收。相对于软引用，弱引用有更短的生命周期。
注意：只有在没有其他强引用对象引用弱引用/软引用对象时，垃圾回收时才回收该引用。即如果有一个对象（不是弱引用/软引用对象）引用了弱引用/软引用对象，那么垃圾回收时不会回收该弱引用/软引用对象。
回收算法
使用基于空间和基于容量的缓存会使用一定的策略移除旧数据，通常包含：FIFO算法、LRU算法和LFU算法。
- FIFO(First In First Out)：先进先出算法，即先放入缓存的先被移除。
- LRU(Least Recently Used)：最近最少使用算法，时间时间距离现在最久的那个被移除。
- LFU(Least Frequently Used)：最不常用算法，一定时间段内使用次数（频率）最少的那个被移除。
实际应用中基于LRU的缓存居多。
写在最后
如果你想进大厂，想升职加薪，或者对自己现有的工作比较迷茫，都可以私信我交流，希望我的一些经历能够帮助到大家~~
推荐阅读：
- 《实践出真知：全网最强秒杀系统架构解密，不是所有的秒杀都是秒杀！！》
- 《从零到上亿用户，我是如何一步步优化MySQL数据库的？（建议收藏）》
- 《我用多线程进一步优化了亿级流量电商业务下的海量数据校对系统，性能再次提升了200%！！（全程干货，建议收藏）》
- 《我用多线程优化了亿级流量电商业务下的海量数据校对系统，性能直接提升了200%！！（全程干货，建议收藏）》
- 《我用10张图总结出了这份并发编程最佳学习路线！！（建议收藏）》
- 《高并发场景下一种比读写锁更快的锁，看完我彻底折服了！！（建议收藏）》
- 《全网最全性能优化总结！！（冰河吐血整理，建议收藏）》
- 《三天撸完了MyBatis，各位随便问！！（冰河吐血整理，建议收藏）》
- 《奉劝那些刚参加工作的学弟学妹们：要想进大厂，这些并发编程知识是你必须要掌握的！完整学习路线！！（建议收藏）》
- 《奉劝那些刚参加工作的学弟学妹们：要想进大厂，这些核心技能是你必须要掌握的！完整学习路线！！（建议收藏）》
- 《奉劝那些刚参加工作的学弟学妹们：这些计算机与操作系统基础知识越早知道越好！万字长文太顶了！！（建议收藏）》
- 《我用三天时间开发了一款老少皆宜的国民级游戏，支持播放音乐，现开放完整源代码和注释（建议收藏）！！》
- 《我是全网最硬核的高并发编程作者，CSDN最值得关注的博主，大家同意吗？（建议收藏）》
- 《毕业五年，从月薪3000到年薪百万，我掌握了哪些核心技能？（建议收藏）》
- 《我入侵了隔壁妹子的Wifi，发现。。。（全程实战干货，建议收藏）》
- 《千万不要轻易尝试“熊猫烧香”，这不，我后悔了！》
- 《清明节偷偷训练“熊猫烧香”，结果我的电脑为熊猫“献身了”！》
- 《7.3万字肝爆Java8新特性，我不信你能看完！（建议收藏）》
- 《在业务高峰期拔掉服务器电源是一种怎样的体验？》
- 《全网最全Linux命令总结！！（史上最全，建议收藏）》
- 《用Python写了个工具，完美破解了MySQL！！（建议收藏）》
- 《SimpleDateFormat类到底为啥不是线程安全的？（附六种解决方案，建议收藏）》
- 《MySQL 8中新增的这三大索引，直接让MySQL起飞了，你竟然还不知道！！（建议收藏）》
- 《撸完Spring源码，我开源了这个分布式缓存框架！！（建议收藏）》
- 《亿级流量高并发秒杀系统商品“超卖”了，只因使用的JDK同步容器中存在这两个巨大的坑！！（踩坑实录，建议收藏）》
- 《奉劝那些刚参加工作的学弟学妹们：要想学好并发编程，这些并发容器的坑是你必须要注意的！！（建议收藏）》
- 《公司的报表工具太难用，我三天撸了个Excel工具，运营小姐姐直呼太好用了，现已开源！！（建议收藏）》
- 《奉劝那些刚参加工作的学弟学妹们：要想进大厂，这些并发编程核心技能是你必须要掌握的！！（建议收藏）》
- 《阿里面试官：高并发大流量秒杀系统如何正确的解决库存超卖问题？（建议收藏）》
- 《Redis五大数据类型与使用场景汇总！！（含完整实战案例，建议收藏）》
好了，今天就到这儿吧，小伙伴们点赞、收藏、评论，一键三连走起呀，我是冰河，我们下期见~~
以上是关于一文带你全面了解缓存最关心的性能指标的主要内容，如果未能解决你的问题，请参考以下文章