有关linux下redis overcommit_memory的问题

Posted Zhengs

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了有关linux下redis overcommit_memory的问题相关的知识,希望对你有一定的参考价值。

转载自:http://skly-java.iteye.com/blog/2167400

启动错误

  1.WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add ‘vm.overcommit_memory = 1‘ to /etc/sysctl.conf and then reboot or run the command ‘sysctl vm.overcommit_memory=1‘ for this to take effect.

  2.WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.

解决方法

  第一个警告有两个方式解决(overcommit_memory)

    1.   echo "vm.overcommit_memory=1" > /etc/sysctl.conf 

      然后sysctl -p  /etc/sysctl.conf  使配置文件生效

    2.  echo 1 > /proc/sys/vm/overcommit_memory  不需要启机器就生效,临时生效而已,重启机器就失效了,要永久生效,就该配置文件sysctl.conf 吧


  linux相关知识点转自:http://blog.csdn.net/hncdsun/article/details/5093983

   sysctl配置与显示在/proc/sys目录中的内核参数.可以用sysctl来设置或重新设置联网功能,如IP转发、IP碎片去除以及源路由检查等。用户只需要编辑/etc/sysctl.conf文件,即可手工或自动执行由sysctl控制的功能。

      命令格式:

        sysctl [-n] [-e] -w variable=value

        sysctl [-n] [-e] -p <filename> (default /etc/sysctl.conf)

        sysctl [-n] [-e] -a

        常用参数的意义:

          -w   临时改变某个指定参数的值,如

                 sysctl -w net.ipv4.ip_forward=1

          -a   显示所有的系统参数

          -p   从指定的文件加载系统参数,如不指定即从/etc/sysctl.conf中加载

        如果仅仅是想临时改变某个系统参数的值,可以用两种方法来实现,例如想启用IP路由转发功能:

          1) #echo 1 > /proc/sys/net/ipv4/ip_forward

          2) #sysctl -w net.ipv4.ip_forward=1

          以上两种方法都可能立即开启路由功能,但如果系统重启,或执行了

          # service network restart

          命令,所设置的值即会丢失,如果想永久保留配置,可以修改/etc/sysctl.conf文件

         将 net.ipv4.ip_forward=0改为net.ipv4.ip_forward=1


 

  第二个警告解决

    1. echo 511 > /proc/sys/net/core/somaxconn

overcommit_memory参数说明

  设置内存分配策略    /proc/sys/vm/overcommit_memory(可选,根据服务器的实际情况进行设置)
  可选值:0、1、2。
    0, 表示内核将检查是否有足够的可用内存供应用进程使用;如果有足够的可用内存,内存申请允许;否则,内存申请失败,并把错误返回给应用进程。
    1, 表示内核允许分配所有的物理内存,而不管当前的内存状态如何。
    2, 表示内核允许分配超过所有物理内存和交换空间总和的内存

  注意:redis在dump数据的时候,会fork出一个子进程,理论上child进程所占用的内存和parent是一样的,比如parent占用 的内存为8G,这个时候也要同样分配8G的内存给child,如果内存无法负担,往往会造成redis服务器的down机或者IO负载过高,效率下降。所 以这里比较优化的内存分配策略应该设置为 1(表示内核允许分配所有的物理内存,而不管当前的内存状态如何)。这里又涉及到Overcommit和OOM。

什么是Overcommit和OOM


  在Unix中,当一个用户进程使用malloc()函数申请内存时,假如返回值是NULL,则这个进程知道当前没有可用内存空间,就会做相应的处理工作。许多进程会打印错误信息并退出。

  Linux使用另外一种处理方式,它对大部分申请内存的请求都回复"yes",以便能跑更多更大的程序。因为申请内存后,并不会马上使用内存。这种技术叫做Overcommit。

  当内存不足时,会发生OOM killer(OOM=out-of-memory)。它会选择杀死一些进程(用户态进程,不是内核线程),以便释放内存。

Overcommit的策略


  Linux下overcommit有三种策略(Documentation/vm/overcommit-accounting):
    0. 启发式策略。合理的overcommit会被接受,不合理的overcommit会被拒绝。
    1. 任何overcommit都会被接受。
    2. 当系统分配的内存超过swap+N%*物理RAM(N%由vm.overcommit_ratio决定)时,会拒绝commit。
      overcommit的策略通过vm.overcommit_memory设置。
      overcommit的百分比由vm.overcommit_ratio设置。

      # echo 2 > /proc/sys/vm/overcommit_memory
      # echo 80 > /proc/sys/vm/overcommit_ratio

当oom-killer发生时,linux会选择杀死哪些进程


  选择进程的函数是oom_badness函数(在mm/oom_kill.c中),该函数会计算每个进程的点数(0~1000)。点数越高,这个进程越有可能被杀死。每个进程的点数跟oom_score_adj有关,而且oom_score_adj可以被设置(-1000最低,1000最高)。

 














以上是关于有关linux下redis overcommit_memory的问题的主要内容,如果未能解决你的问题,请参考以下文章

Redis第一篇安装

为 EC2 上的 Ubuntu 16.04 解决关于 overcommit_memory 和透明大页面的 Redis 警告

Linux 内核参数Overcommit_memory(最近生产中Airflow和Greenplum有被这个参数坑到......)

Redis启动警告错误解决

redis环境设置

Linux vm运行参数 - overcommit相关的参数