C# 在调试器中与正常执行的奇怪行为导致了 Heisenbug

Posted 2023-03-05

【中文标题】C# 在调试器中与正常执行的奇怪行为导致了 Heisenbug

【英文标题】：Strange behaviour of C# in debugger vs normal execution caused a Heisenbug

【发布时间】：2012-10-03 10:34:54

【问题描述】：

我刚刚花了最后一个小时来解决 C# 中非托管内存的一个奇怪问题。

首先，一些上下文。我有一个 C# DLL，它导出一些本机方法（通过this awesome project template），然后由 Delphi 应用程序调用。这些 C# 方法之一必须将结构传回给 Delphi，然后将其转换为记录。我已经可以告诉你感到恶心，所以我不会详细说明。是的，它很丑陋，但另一种选择是 COM……不，谢谢。

这里是违规代码的简化：

IntPtr AllocBlock(int bufferSize)

    IntPtr ptrToMem = Marshal.AllocHGlobal(bufferSize);

    // zero memory
    for(int i = 0; i < bufferSize; i++)
       Marshal.WriteInt16(ptrToMem, i, 0);

    return ptrToMem;

实际上，这里还有一些其他的东西，与本地资源跟踪有关，但基本上就是这样。如果您已经发现了这个错误，那就太好了。

本质上，问题在于我使用 WriteInt16 而不是 WriteByte，这是由于 IntelliSense 辅助的错字，导致最终迭代在缓冲区末尾写入一个字节。我猜很容易犯错误。

然而，让调试变得如此痛苦的原因在于它在调试器中默默地失败，而应用程序的其余部分继续工作。内存已经分配，​​除了最后一个字节之外的所有字节都被归零，所以它工作正常。当在调试器之外启动时，它会导致应用程序因访问冲突而崩溃。一个典型的 Heisenbug 情况 - 当您尝试分析它时，该错误消失了。请注意，此崩溃不是托管异常，而是真正的 CPU 级访问冲突。

现在，这让我感到困惑有两个原因：

附加任何调试器时未引发异常 - 我尝试了 Visual Studio、CodeGear Delphi 2009 和 OllyDbg。附加后，该程序运行良好。未附加时，程序崩溃。我对所有尝试都使用了完全相同的可执行文件。我的理解是调试不应该改变应用程序的行为，但它显然改变了。

通常我希望此操作会在我的托管代码中导致 AccessViolationException，但它却因 ntdll.dll 中的内存访问冲突而死。

现在，很公平，我的案例可能是 C# 历史上最晦涩（并且可能被误导）的极端案例之一，但我不知道附加任何调试器如何防止崩溃。我对它在 OllyDbg 下工作感到特别惊讶，它不会像 Visual Studio 那样干扰进程。

那么，这里到底发生了什么？为什么在调试期间异常被吞没（或没有引发），但在调试器之外却没有？当我尝试在分配的内存块之外调用Marshal.WriteInt16 时，为什么没有抛出托管访问冲突异常，正如文档所说的那样？

【问题讨论】：

基地址 + 偏移字节不会产生 invalid 或 null 地址。它产生一个完全有效的地址。文档没有说写入的宽度也会被考虑到生成AccessViolationException。

@Damien_The_Unbeliever 也许是这样，虽然有点奇怪，但这不应该改变调试实例和非调试实例之间的行为。

还有什么时候/如何释放内存？

@Damien_The_Unbeliever 在出现错误时 - 从来没有。我还没来得及编写释放例程。我考虑的第一件事是由于 Delphi 方面的内存管理不匹配导致的双重释放或类似情况，但事实并非如此。即使我在使用后添加了有效的释放例程，问题仍然存在，直到我最终注意到缓冲区溢出并修复它。

不知道是否是这种情况，但在一些较旧的系统上，在调试下，内存分配器会添加前导和尾随填充或标记值，以便可以检测到过度/不足运行。但通常情况下，检测只会在您解除分配块时发生。

【参考方案1】：

您只需将一些堆内存设置为零。这不会失败，因为没有检查您从哪里获得此地址。这会在以后的堆管理（在 ntdll 中）中产生问题。这个page 说明了为什么稍后才会检测到溢出。

由于类似的原因，您没有使用附加的调试器失败。当 Windows 检测到附加了调试器时，将使用不同的堆管理器。调试堆管理器添加了一个用于检测溢出的后缀，它不会禁用堆管理器，但会在释放块时显示损坏。有关详细信息，请参阅上面的页面。

我不知道堆管理器是如何打开操作系统级别的，但我在 *** 上找到了相关答案： Visual C++: Difference between Start with/without debugging in Release mode

据我了解堆管理器切换，如果您从桌面/控制台以发布模式启动进程并稍后附加调试器，则调试器应在使用标准堆管理器时停止堆损坏。这可以用来检验我的假设。