是否有用于创建核心转储的 x86 指令？

Posted 2023-02-22

【中文标题】是否有用于创建核心转储的 x86 指令？

【英文标题】：Is there an x86 instruction to create a core dump?

【发布时间】：2020-06-10 03:30:06

【问题描述】：

我想回答的一般问题

我正在尝试调试一些 x86 汇编代码。我想得到一个核心转储，这样我就可以检查发生了什么。是否有 x86 指令（或指令集）会在程序的给定点生成核心转储？如果出现错误，有没有办法组装程序集以使其核心转储？

具体问题（此处根据上下文进行解释）

我正在为An Incremental Approach to Compiler Construction 之后的小型 lambda 演算编写编译器。我现在正在实施闭包，我需要发出间接跳转。我正在尝试编译这段代码：

(labels ((f (code (n) () (+ n 1)))) (app (closure f) 3))

我的编译器生成以下内容：

     .text
     .p2align 4,,15
     .globl _scheme_entry
 _scheme_entry:
     movq %rdi, %r15
     jmp _definition_end38349
 _func_f38350:
     movq $4, %rax
     movq %rax, -16(%rsp)
     movq -8(%rsp), %rax
     addq -16(%rsp), %rax
     ret
 _definition_end38349:
     movq $12, %rax
     movq %rax, -24(%rsp)
     movq %rdi, -8(%rsp)
     leaq _func_f38350(%rip), %rax
     movq %rax, 0(%r15)
     movq %r15, %rax
     orq $6, %rax
     addq $8, %r15
     xorq $6, %rax
     movq %rax, %rdi
     addq $8, %rsp
     callq *%rdi
     subq $8, %rsp
     movq -8(%rsp), %rdi
     ret

我有一个用 C 语言编写的随附驱动程序文件，用于处理编译代码结果的格式化和显示。供参考，这里是：

#include <stdio.h>
 #include <stdlib.h>
 #include <unistd.h>

 #define fixnum_mask  3
 #define fixnum_tag   0
 #define fixnum_shift 2

 #define data_mask    7
 #define cons_tag     1
 #define vector_tag   2
 #define string_tag   3
 #define symb_tag     5
 #define closure_tag  6

 #define empty_list   47

 #define char_tag     15
 #define char_mask    255
 #define char_shift   8

 #define bool_tag     31
 #define bool_mask    127
 #define bool_shift   7

 #define heap_size    8192

 size_t scheme_entry(size_t *heap);
 void format_val(size_t val);

 int main(int argc, char** argv) 
   size_t *heap = malloc(heap_size);
   size_t val = scheme_entry(heap);

   format_val(val);
   return 0;
 

 void format_val(size_t val) 
   if ((val & bool_mask) == bool_tag) 
     printf((val >> bool_shift) ? "#t" : "#f");
   
   else if ((val & fixnum_mask) == fixnum_tag) 
     printf("%zu", val >> fixnum_shift);
   
   else if ((val & data_mask) == closure_tag) 
     printf("#<closure %zx>", val);
   
   else if ((val & fixnum_mask) == cons_tag) 
     val--;
     size_t car = *((size_t*)val);
     size_t cdr = *((size_t*)val + 1);
     printf("("); format_val(car); printf(" . "); format_val(cdr); printf(")");
   
   else if (val == empty_list) 
     printf("()");
   
   /* else if ((val & char_mask) == char_tag)  */
   /*   printf("%c", val >> char_shift); */
   /*  */
   else 
     printf("#<unknown value: %zx>", val);
   
 

当我运行 gcc assembly-file.s driver.c 时，它可以在 macOS 上毫无问题地编译。当我运行生成的 a.out 文件时，我收到以下错误：

[2]    84530 bus error  ./a.out

有没有办法获得核心转储，以便检查寄存器的值？

奖励：如果您能看出我的程序集有什么问题，我也不介意回答这个问题。 ;-) 我尝试在我的代码中使用 GDB，但每次我在 a.out 文件上尝试它时它都会冻结。

我在 macOS 上运行它； gcc --version 给：

Configured with: --prefix=/Applications/Xcode.app/Contents/Developer/usr --with-gxx-include-dir=/Applications/Xcode.app/Contents/Developer/Platforms/MacOSX.platform/Developer/SDKs/MacOSX.sdk/usr/include/c++/4.2.1
Apple clang version 11.0.3 (clang-1103.0.32.62)
Target: x86_64-apple-darwin19.4.0
Thread model: posix
InstalledDir: /Applications/Xcode.app/Contents/Developer/Toolchains/XcodeDefault.xctoolchain/usr/bin

非常感谢。

【问题讨论】：

为什么不使用lldb 单步执行，看看发生了什么？

SIGBUS（总线错误）默认生成核心转储。如果你没有得到一个，那么你应该看看为什么（也许他们通过ulimit被禁用）而不是寻找另一条指令来尝试制作一个，这几乎肯定会因为同样的原因而失败。

您可能会发现ud2 指令很有用。

在调试器下运行代码以捕捉故障并在原地检查所有内容。这是调试器真正擅长的一件事。您甚至可以在您的 asm 源代码中使用 int3 指令来设置软件断点。 （当您在调试器中设置断点时，调试器用来覆盖指令的第一个字节的指令与该指令相同。）

+1 为lldb@Gene。我尝试过使用 GDB，但是当我尝试运行我的程序集时，它一直在崩溃或挂起。 LLDB 就像一个魅力。感谢大家提供非常有用的 cmets。我仍然没有设法创建核心转储（请参阅@yugr 答案的评论）； @JosephSible 我需要用ulimit 做什么来确保获得核心转储？我注意到ulimit -c 返回了 0；我将它设置为 8192 只是为了看看会发生什么，但我仍然没有得到核心转储。我错过了什么？

【参考方案1】：

你可以问 GCC：

$ cat tmp.c
void foo()  __builtin_trap(); 
$ gcc -O2 tmp.c
$ ./a.out 
Illegal instruction (core dumped)
$ gcc -O2 tmp.c -S -o-
        ...
        ud2

【讨论】：

我在 Mac 上使用的调用是 gcc -fomit-frame-pointer -S tmp.c，然后查看 tmp.s。虽然这是一个很好的技术！谢谢！奇怪的是，我没有看到核心转储文件。有什么我需要确保设置为ulimit 或类似的东西吗？

@AshtonWiersdorf 是的，很可能你的系统上禁用了核心转储/启用它们取决于你的系统（在 Linux 上你需要 ulimit -c unlimited，对于 Mac，请参阅 here）。