一文搞懂 , Linux内核—— 同步管理(下)

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了一文搞懂 , Linux内核—— 同步管理(下)相关的知识,希望对你有一定的参考价值。

参考技术A 上面讲的自旋锁,信号量和互斥锁的实现,都是使用了原子操作指令。由于原子操作会 lock,当线程在多个 CPU 上争抢进入临界区的时候,都会操作那个在多个 CPU 之间共享的数据 lock。CPU 0 操作了 lock,为了数据的一致性,CPU 0 的操作会导致其他 CPU 的 L1 中的 lock 变成 invalid,在随后的来自其他 CPU 对 lock 的访问会导致 L1 cache miss(更准确的说是communication cache miss),必须从下一个 level 的 cache 中获取。

这就会使缓存一致性变得很糟,导致性能下降。所以内核提供一种新的同步方式:RCU(读-复制-更新)。

RCU 解决了什么

RCU 是读写锁的高性能版本,它的核心理念是读者访问的同时,写者可以更新访问对象的副本,但写者需要等待所有读者完成访问之后,才能删除老对象。读者没有任何同步开销,而写者的同步开销则取决于使用的写者间同步机制。

RCU 适用于需要频繁的读取数据,而相应修改数据并不多的情景,例如在文件系统中,经常需要查找定位目录,而对目录的修改相对来说并不多,这就是 RCU 发挥作用的最佳场景。

RCU 例子

RCU 常用的接口如下图所示:

为了更好的理解,在剖析 RCU 之前先看一个例子:

#include<linux/kernel.h>#include<linux/module.h>#include<linux/init.h>#include<linux/slab.h>#include<linux/spinlock.h>#include<linux/rcupdate.h>#include<linux/kthread.h>#include<linux/delay.h>structfoointa;structrcu_headrcu;;staticstructfoo*g_ptr;staticintmyrcu_reader_thread1(void*data)//读者线程1structfoo*p1=NULL;while(1)if(kthread_should_stop())break;msleep(20);rcu_read_lock();mdelay(200);p1=rcu_dereference(g_ptr);if(p1)printk("%s: read a=%d\n",__func__,p1->a);rcu_read_unlock();return0;staticintmyrcu_reader_thread2(void*data)//读者线程2structfoo*p2=NULL;while(1)if(kthread_should_stop())break;msleep(30);rcu_read_lock();mdelay(100);p2=rcu_dereference(g_ptr);if(p2)printk("%s: read a=%d\n",__func__,p2->a);rcu_read_unlock();return0;staticvoidmyrcu_del(structrcu_head*rh)//回收处理操作structfoo*p=container_of(rh,structfoo,rcu);printk("%s: a=%d\n",__func__,p->a);kfree(p);staticintmyrcu_writer_thread(void*p)//写者线程structfoo*old;structfoo*new_ptr;intvalue=(unsignedlong)p;while(1)if(kthread_should_stop())break;msleep(250);new_ptr=kmalloc(sizeof(structfoo),GFP_KERNEL);old=g_ptr;*new_ptr=*old;new_ptr->a=value;rcu_assign_pointer(g_ptr,new_ptr);call_rcu(&old->rcu,myrcu_del);printk("%s: write to new %d\n",__func__,value);value++;return0;staticstructtask_struct*reader_thread1;staticstructtask_struct*reader_thread2;staticstructtask_struct*writer_thread;staticint__initmy_test_init(void)intvalue=5;printk("figo: my module init\n");g_ptr=kzalloc(sizeof(structfoo),GFP_KERNEL);reader_thread1=kthread_run(myrcu_reader_thread1,NULL,"rcu_reader1");reader_thread2=kthread_run(myrcu_reader_thread2,NULL,"rcu_reader2");writer_thread=kthread_run(myrcu_writer_thread,(void*)(unsignedlong)value,"rcu_writer");return0;staticvoid__exitmy_test_exit(void)printk("goodbye\n");kthread_stop(reader_thread1);kthread_stop(reader_thread2);kthread_stop(writer_thread);if(g_ptr)kfree(g_ptr);MODULE_LICENSE("GPL");module_init(my_test_init);module_exit(my_test_exit);

执行结果是:

myrcu_reader_thread2:reada=0myrcu_reader_thread1:reada=0myrcu_reader_thread2:reada=0myrcu_writer_thread:writetonew5myrcu_reader_thread2:reada=5myrcu_reader_thread1:reada=5myrcu_del:a=0

RCU 原理

可以用下面一张图来总结,当写线程 myrcu_writer_thread 写完后,会更新到另外两个读线程 myrcu_reader_thread1 和 myrcu_reader_thread2。读线程像是订阅者,一旦写线程对临界区有更新,写线程就像发布者一样通知到订阅者那里,如下图所示。

写者在拷贝副本修改后进行 update 时,首先把旧的临界资源数据移除(Removal);然后把旧的数据进行回收(Reclamation)。结合 API 实现就是,首先使用 rcu_assign_pointer 来移除旧的指针指向,指向更新后的临界资源;然后使用 synchronize_rcu 或 call_rcu 来启动 Reclaimer,对旧的临界资源进行回收(其中 synchronize_rcu 表示同步等待回收,call_rcu 表示异步回收)。

为了确保没有读者正在访问要回收的临界资源,Reclaimer 需要等待所有的读者退出临界区,这个等待的时间叫做宽限期(Grace Period)。

Grace Period

中间的黄色部分代表的就是 Grace Period,中文叫做宽限期,从 Removal 到 Reclamation,中间就隔了一个宽限期,只有当宽限期结束后,才会触发回收的工作。宽限期的结束代表着 Reader 都已经退出了临界区,因此回收工作也就是安全的操作了。

宽限期是否结束,与 CPU 的执行状态检测有关,也就是检测静止状态 Quiescent Status。

Quiescent Status

Quiescent Status,用于描述 CPU 的执行状态。当某个 CPU 正在访问 RCU 保护的临界区时,认为是活动的状态,而当它离开了临界区后,则认为它是静止的状态。当所有的 CPU 都至少经历过一次 Quiescent Status 后,宽限期将结束并触发回收工作。

因为 rcu_read_lock 和 rcu_read_unlock 分别是关闭抢占和打开抢占,如下所示:

staticinlinevoid__rcu_read_lock(void)preempt_disable();

staticinlinevoid__rcu_read_unlock(void)preempt_enable();

所以发生抢占,就说明不在 rcu_read_lock 和 rcu_read_unlock 之间,即已经完成访问或者还未开始访问。

Linux 同步方式的总结

资料免费领

学习直通车

一文搞懂GitLab安装部署及服务配置

GitLab安装部署

Git,GitHub,GitLab,这三个东东长得好像呀,都是个啥?

Git是Linus Torvalds(如果不知道这位大神是谁,请出门左转,慢走不送~)为了帮助管理Linux内核而开发的一个开放源代码的版本控制软件。

GitHub,又名全球最大同行交友软件(O(∩_∩)O哈哈~),是一个面向开源及私有项目的托管平台,因为仅仅支持Git作为唯一的版本库格式,故名GitHub。

GitLab是由GitLabInc.开发的,是基于MIT许可证的Git仓库管理工具,具有Wiki和Issue跟踪功能,目前有企业版和社区版两个分支,对于个人来说,社区版应该是完全够用的。

其实,简单来说,可以把GitLab看做是个个人版的GitHub,也就是说,可以在自己服务器上部署一套GitLab服务,该服务可以提供代码仓库托管等功能,用法与GibHub基本一致。

GitLab安装

# 安装并配置必要的依赖
[root@cos ~]# yum install -y curl policycoreutils-python openssh-server
[root@cos ~]# systemctl enable sshd
[root@cos ~]# systemctl start sshd
# CentOS7系统中,在防火墙打开场景下,打开HTTP, HTTPS和SSH访问
[root@cos ~]# firewall-cmd --permanent --add-service=http
[root@cos ~]# firewall-cmd --permanent --add-service=https
[root@cos ~]# systemctl reload firewalld

# 安装Postfix,用来发送通知邮件
[root@cos ~]# yum install postfix
[root@cos ~]# systemctl enable postfix
[root@cos ~]# systemctl start postfix

注意:为了避免下载失败导致GitLab安装失败,可以配置清华镜像,镜像配置操作如下

# GitLab Community Edition镜像使用帮助
# https://mirror.tuna.tsinghua.edu.cn/help/gitlab-ce/
# 1. 新建/etc/yum.repos.d/gitlab-ce.repo, 内容如下
[gitlab-ce]
name=Gitlab CE Repository
baseurl=https://mirrors.tuna.tsinghua.edu.cn/gitlab-ce/yum/el$releasever/
gpgcheck=0
enabled=1

使用yum安装GitLab社区版

# yum安装GitLab社区版
[root@cos ~]# yum makecache
[root@cos ~]# yum install gitlab-ce
Loaded plugins: fastestmirror
Loading mirror speeds from cached hostfile
 * base: mirrors.huaweicloud.com
 * epel: hkg.mirror.rackspace.com
 * extras: mirrors.huaweicloud.com
 * updates: mirrors.huaweicloud.com
Resolving Dependencies
--> Running transaction check
---> Package gitlab-ce.x86_64 0:12.9.1-ce.0.el7 will be installed
--> Finished Dependency Resolution

Dependencies Resolved

=========================================================================================
 Package        Arch        Version            Repository        Size
=========================================================================================
Installing:
 gitlab-ce      x86_64      12.9.1-ce.0.el7    gitlab-ce         721 M

Transaction Summary
=========================================================================================
Install  1 Package

Total download size: 721 M
Installed size: 721 M
Is this ok [y/d/N]: y
Downloading packages:
gitlab-ce-12.9.1-ce.0.el7.x86_64.rpm                                                    | 721 MB  00:01:49     
Running transaction check
Running transaction test
Transaction test succeeded
Running transaction
  Installing : gitlab-ce-12.9.1-ce.0.el7.x86_64                                                            1/1 
It looks like GitLab has not been configured yet; skipping the upgrade script.

       *.                  *.
      ***                 ***
     *****               *****
    .******             *******
    ********            ********
   ,,,,,,,,,***********,,,,,,,,,
  ,,,,,,,,,,,*********,,,,,,,,,,,
  .,,,,,,,,,,,*******,,,,,,,,,,,,
      ,,,,,,,,,*****,,,,,,,,,.
         ,,,,,,,****,,,,,,
            .,,,***,,,,
                ,*,.
  


     _______ __  __          __
    / ____(_) /_/ /   ____ _/ /_
   / / __/ / __/ /   / __ `/ __   / /_/ / / /_/ /___/ /_/ / /_/ /
  \\____/_/\\__/_____/\\__,_/_.___/
  

Thank you for installing GitLab!

GitLab was unable to detect a valid hostname for your instance.
Please configure a URL for your GitLab instance by setting `external_url`
configuration in /etc/gitlab/gitlab.rb file.
Then, you can start your GitLab instance by running the following command:
  sudo gitlab-ctl reconfigure
For a comprehensive list of configuration options please see the Omnibus GitLab readme
https://gitlab.com/gitlab-org/omnibus-gitlab/blob/master/README.md
GitLab now ships with a newer version of PostgreSQL (11.7), but it is not yet
enabled by default. To upgrade, please see:
https://docs.gitlab.com/omnibus/settings/database.html#upgrade-packaged-postgresql-server

Verifying  : gitlab-ce-12.9.1-ce.0.el7.x86_64                                                            1/1 

Installed:
  gitlab-ce.x86_64 0:12.9.1-ce.0.el7                                                                           

Complete!

安装完成后,重点关注下面提示信息:

GitLab was unable to detect a valid hostname for your instance.
GitLab无法为你的GitLab检测到有效的主机名。

Please configure a URL for your GitLab instance by setting `external_url`
configuration in /etc/gitlab/gitlab.rb file.
请通过配置`external_url`为你的GitLab实例配置一个URL,该配置项在/etc/gitlab/gitlab.rb文件中。

Then, you can start your GitLab instance by running the following command:
  sudo gitlab-ctl reconfigure
然后,通过运行sudo gitlab-ctl reconfigure启动你的GitLab实例

注意:配置完成后,需要使用sudo gitlab-ctl reconfigure命令重新配置并启动GitLab实例才行。

在GitLab安装完成后,首次登录时,需要配置GitLab管理员密码,如下图所示。

技术图片

注意:管理员账号为root,管理员密码非常重要,是维护GitLab服务的重要账户,尽量不要搞忘了。

GitLab配置及内存优化

根据上面的安装步骤安装完成后后,启动GitLab实例后,你可能会想,这下可以愉快的与GitLab玩耍了吧、

砰,一大盆凉水浇过来、

GitLab是非常吃内存和服务器性能的,为了在自己主机或者虚拟机上正常启动和访问,需要进行下面配置和调优。

先看下官方给出的推荐CPU,内存配置:

技术图片

GitLab推荐至少2核CPU,只有1核的话,可能会导致GitLab服务卡死,无法正常对外服务。

技术图片

由上可知,内存配置主要影响GitLab服务的并发用户数量,对于自己使用来说,感觉2GB完全够用了。

GitLab配置文件路径:/etc/gitlab/gitlab.rb。下面对GitLab关键配置进行修改:

## GitLab URL
##! URL on which GitLab will be reachable.
##! 用户访问GitLab的URL地址
external_url ‘http://cos‘

###! Minimum worker_processes is 2 at this moment
###! GitLab默认开启进程数为CPU核数+1,可以提高服务器的相应时间,太吃内存
###! GitLab的最小工作进程,该参数最小值为2,设为1可能导致服务器卡死
unicorn[‘worker_processes‘] = 2

### **Only change these settings if you understand well what they mean**
###! 工程进程的内存限制,默认最小为400MB,最大为650MB
unicorn[‘worker_memory_limit_min‘] = "200 * 1 << 20"
unicorn[‘worker_memory_limit_max‘] = "300 * 1 << 20"

# sidekiq并发数默认值为25
sidekiq[‘concurrency‘] = 5

###! Changing any of these settings requires a restart of postgresql.
###! By default, reconfigure reloads postgresql if it is running. If you
###! change any of these settings, be sure to run `gitlab-ctl restart postgresql`
###! after reconfigure in order for the changes to take effect.
##! **recommend value is 1/4 of total RAM, up to 14GB.**
##! 数据库缓存,默认值为256MB
##!推荐值为1/4的RAM大小,按推荐值肯定崩了
postgresql[‘shared_buffers‘] = "128MB"
##! 数据库并发数
postgresql[‘max_worker_processes‘] = 4

GitLab启动

GitLab安装配置完成后,我们可以通过gitlab-ctl start命令启动,gitlab-ctl stop命令停止GitLab服务。

# 查看GitLab服务状态
[root@cos ~]# gitlab-ctl status
run: gitaly: (pid 2202) 830s; run: log: (pid 2201) 830s
run: gitlab-workhorse: (pid 2212) 830s; run: log: (pid 2211) 830s
run: logrotate: (pid 2217) 830s; run: log: (pid 2214) 830s
run: nginx: (pid 2198) 830s; run: log: (pid 2197) 830s
run: postgresql: (pid 2204) 830s; run: log: (pid 2203) 830s
run: redis: (pid 2213) 830s; run: log: (pid 2210) 830s
run: sidekiq: (pid 2195) 830s; run: log: (pid 2193) 830s
run: unicorn: (pid 2196) 830s; run: log: (pid 2194) 830s

GitLab服务启动后,我们可以通过Web页面访问GitLab服务。

技术图片

接下来,会专门再写一篇博客讲述如何在Windows上通过Git客户端像访问GitHub一样访问GitLab,敬请期待~

以上是关于一文搞懂 , Linux内核—— 同步管理(下)的主要内容,如果未能解决你的问题,请参考以下文章

一文搞懂GitLab安装部署及服务配置

一文搞懂supervisor进程管理

一文搞懂 USB 设备端驱动框架

一文搞懂Python上下文管理器

一文搞懂Linux进程调度原理

一文搞懂四种同步工具类