Vmware+gdb调试Linux内核——工欲善其事，必先利其器

Posted 2020-09-17 yxysuanfa

      今天我最终忍受不了qemu的低速跟不可理喻的各种bug，開始寻找新的调试内核的方法。然后想到了Vmware，那么成熟的虚拟机怎么可能调试不了内核。于是尝试了一番，发现结果很的棒！所以立刻奋笔疾书。把这种方法记录下来。

         我们这里主要分成几个步骤：

                                                         1、vmware和linux的安装

                                                         2、vmware编译Linux内核

                                                         3、vmware和gdb主机的配置

                                                         4、測试

一、vmware和linux的安装

1）VMware for Linux的安装

        官网下载地址：

              https://my.vmware.com/web/vmware/details?downloadGroup=WKST-1002-LX&productId=362&rPId=5404

              注：官网下载须要进行注冊在太平洋等站点能够找到，但因为csdn博客url限制问题不能列出。

        下载完毕之后。chmod a+x filename。然后在终端./filename执行安装程序。接下来和win下的安装基本一样，这里不作具体介绍。

2）Linux虚拟机的安装

        安装完vmware之后，我们在虚拟机上安装Linux系统。

并在接下来的（二）中。在Linux虚拟机上编译新的内核。

这里的安装和物理机安装基本事一样的。可是有点小技巧。由于我们接下来须要在Linux虚拟机上编译内核，所以这里建议安装Development，由于编译的时候不仅须要make还需有其它库的支持。我相信没有愿意在虚拟机里面再配一次yum源的。

        所以我们在创建虚拟机的时候，须要选择创建之后安装系统：

       

           虚拟机创建完毕后，通过虚拟机的setting属性。设置光盘挂载镜像：

        

          然后启动虚拟机。就能够进行安装。

二、vmware编译Linux内核

         1）共享目录的制作

          首先选择右键中的install vmware tool，将自己主动把vmware tool的安装文件挂载到光盘。我们把里面的.tar.gz

文件拿出来。解压而且运行里面的安装文件。一路enter就ok了

          然后我们在setting中继续例如以下的设置：

         

         上图的意思是虚拟机中/mnt/hgfs/HostFile 文件相应主机中/home/sleipnir/Documents文件实现共享

         2）内核编译

         内核下载：www.kernel.org

         我的版本号是2.6.32.62。

不同的版本号编译的方法事有一些差异的。比方2.6.32.61须要改动arch/x86/include/asm/ptrace.h的代码。不然编译会报错。下载下来之后，我们进行解压，然后利用menuconfig进行模块的选择，最后编译。详细的命令行例如以下：

         tar xvf kernel-file.tar.gz       //解压

         cd kernel-file

         make menuconfig               //利用menuconfig进行模块定义，详细在前面几篇文章中进行了介绍

         make -j4 all                          //编译-j4是使用多线程编译，假设散热不好的机子不建议使用。

过热会导致重新启动

         make bzImage                     //压缩内核

         make modules                     //编译模块

         make modules_install        //安装模块

         make install                         //安装内核

注意：make install的时候。假设报错ERROR：modinfo:could not find module XXXX能够不用管。reboot之后新内核能够正常执行。至于原理我们这里提供一篇文章进行解释：

               

三、vmware和gdb主机的配置

       完毕了上面步骤之后，我们须要对虚拟机做2步配置

       1）将虚拟机上内核的编译目录复制到主机的同样路径以下。比方虚拟机上的编译文件在/usr/kernel/linux-2.6.32.62。

那这里我们须要在主机的同样路经中把linux-2.6.32.62拷贝过来。拷贝的方法能够利用上面的共享目录。

       2）在主机上。配置vmware虚拟机的配置文件。配置文件在虚拟机的安装目录中，以.vmx后缀结尾。

往后面加入debugStub.listen.guest32="1"。假设是64位的机器就改成debugStub.listen.guest64="1"

四、測试

       1）在主机上打开Vmware(注：临时不须要打开虚拟机)

       2）在主机上，进入到内核编译目录（刚刚从虚拟机拷贝过来的）

       3）gdb进入调试模式

       4）（gdb）file vmlinux

             （gdb）target remote localhost:8832（注：这里假设事64位机器则是8864port）

               然后打开虚拟机

               效果例如以下：

       5）（gdb）b start_kernel

             （gdb）c

               效果例如以下：