20145239 GDB调试汇编堆栈过程分析

Posted 2020-08-22

20145239 GDB调试汇编堆栈过程分析

测试源代码

#include<stdio.h>

short addend1 = 1;
static int addend2 = 2;
const static long addend3 = 3;

static int g(int x)
{
    return x + addend1;
}  

static const int f(int x)
{
    return g(x + addend2);
}

int main(void)
{
    return f(8) + addend3;
}

GCC编译

使用gcc - g example.c -o example -m32指令在64位的机器上产生32位汇编，然后使用gdb example指令进入gdb调试器

进入之后先在main函数处设置一个断点，再run一下，使用disassemble指令获取汇编代码，用i(info) r(registers)指令查看各寄存器的值：

• 可见此时主函数的栈基址为 0xffffefb8，用x(examine)指令查看内存地址中的值，但目前%esp所指堆栈内容为0，%ebp所指内容也为0

• 首先，结合display命令和寄存器或pc内部变量，输入display /i $pc、display /i $esp、display /i $ebp。这样在每次执行下一条汇编语句时，都会显示出当前执行的语句。下面展示每一步时%esp、%ebp和堆栈内容的变化。

• call指令将下一条指令的地址入栈，此时%esp,%ebp和堆栈的值为：

• 将上一个函数的基址入栈，从当前%esp开始作为新基址：

• 先为传参做准备：

• 实参的计算在%eax中进行：

• f函数的汇编代码：

• 实参入栈：

• call指令将下一条指令的地址入栈：

• 计算short+int：

• pop %ebp指令将栈顶弹到%ebp中，同时%esp增加4字节：

• ret指令将栈顶弹给%eip：

• 因为函数f修改了%esp，所以用leave指令恢复。leave指令先将%esp对其到%ebp，然后把栈顶弹给%ebp：

• 主函数汇编代码：