bug诞生记——不定长参数隐藏的类型问题

Posted 2022-11-30 breaksoftware

        这个bug的诞生源于项目中使用了一个开源C库。由于对该C库API不熟悉，一个不起眼的错误调用，导致一系列诡异的问题。最终经过调试，我们发现发生了内存覆盖问题。为了直达问题根节，我将问题代码简化如下（转载请指明出于breaksoftware的csdn博客）

#include <iostream>
#include <stdarg.h>

enum type 
    PARAM,
    RESULT
;

void set_zero(type t, ...) 
    va_list arg;
    va_start(arg, t);
    if (PARAM == t) 
        long* param_longp = va_arg(arg, long *);
        *param_longp = 0;
     else 
        int* param_intp = va_arg(arg, int *);
        *param_intp = 0;
    

    va_end(arg);


int main() 
    int x = 1;
    int y = 2;
    set_zero(PARAM, &y);
    std::cout << "x = " << x << "; y = " << y << std::endl;
    return 0;

        如果只是简单看一下main函数，可以认为输出是

x = 1; y = 0

        然而实际输出是

x = 0; y = 0

        是不是很诡异？我们在main函数中只是把y的值从2修改成0，根本没有“动”过x变量。但是最终x的值变成了0。

        由于示例足够简单，我们可以通过阅读源码来定位问题。第26行传递的参数y是4个字节的int类型。而在第13行，发现参数被当成8个字节的long类型设置为0，这样就覆盖了y空间之后的4个字节。而x变量正好在内存上位于y变量之后，这样x的值也会被改成0。

        现实中，我们的场景比较复杂，最终我们通过GDB来确定该问题。其过程大致如下

Reading symbols from ./test...done.
(gdb) b 26
Breakpoint 1 at 0xb0a: file main.cpp, line 26.
(gdb) r
Starting program: /home/fangliang/projects/test_cover/test 

Breakpoint 1, main () at main.cpp:26
26              set_zero(PARAM, &y);
(gdb) p &x
$1 = (int *) 0x7fffffffe434
(gdb) p x
$2 = 1
(gdb) p &y
$3 = (int *) 0x7fffffffe430
(gdb) p y
$4 = 2
(gdb) x/2x &y
0x7fffffffe430: 0x00000002      0x00000001
(gdb) awatch x
Hardware access (read/write) watchpoint 2: x
(gdb) c
Continuing.

Hardware access (read/write) watchpoint 2: x

Old value = 1
New value = 0
set_zero (t=PARAM) at main.cpp:21
21      
(gdb) disas
……
   0x0000555555554a64 <+234>:   mov    -0xd8(%rbp),%rax
   0x0000555555554a6b <+241>:   movq   $0x0,(%rax)
=> 0x0000555555554a72 <+248>:   jmp    0x555555554acb <set_zero(type, ...)+337>
……
   0x0000555555554acb <+337>:   nop
   0x0000555555554acc <+338>:   mov    -0xb8(%rbp),%rax
---Type <return> to continue, or q <return> to quit---q
Quit
(gdb) i r rax 
rax            0x7fffffffe430   140737488348208
(gdb) x/2x 0x7fffffffe430
0x7fffffffe430: 0x00000000      0x00000000

        第2行在代码第26行下了断点，为了让我们可以在main函数中查看x、y变量的地址和值。

        第10,14和18行可以看出x和y变量的内存空间是连续的。

        第19行我们给“莫名”被修改的变量x下了内存读写断点。执行continue后，由于x的值被从1改成0，从而触发了断点。

        第30行，我们查看当前代码处的汇编指令。

        第33行，是触发内存断点，即x的值被修改的位置。movq是给8个字节赋值，于是我们只要验证rax地址是否就是y变量的地址。

        第41行验证了rax地址就是y变量地址，从而可以证明就是movq   $0x0,(%rax)导致x变量值被改变。

        第43行，我们查看此时x和y的内存空间的值，它们已经都是0了。

        如果我们把set_zero方法改成针对y变量的函数

void set_param(long* param_longp) 
    *param_longp = 0;

        这样如果我们给其传递int型变量，编译器就会报错

main.cpp: In function ‘int main()’:
main.cpp:30:14: error: cannot convert ‘int*’ to ‘long int*’ for argument ‘1’ to ‘void set_param(long int*)’
  set_param(&y);

        而使用可变长参数则正好掩盖了该问题。