动态调用dll遇到的问题

Posted 2020-09-18 默默地

问题：动态调用第三方提供的dll报错。

Run-Time Check Failure #0 - The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.

调用源码：

typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);
static int ConvertAsnToXml(unsigned char* asnBuffer, int bufferLen, char** xmlData)
{
	HINSTANCE hDllInst = LoadLibrary("DllSESealParse.dll");
	if(hDllInst == NULL){
		::MessageBox(NULL,"DllSESealParse.dll加载失败!","错误",IDOK);
		return -1;
	}else{
		SEALPARSE asnToXml = NULL; 
		asnToXml = (SEALPARSE)GetProcAddress(hDllInst, "SESealParse_SESealDataASNToXml");

		if(asnToXml)
		{
			*xmlData = (char*)malloc(40*1024);
			bool bRet = asnToXml(asnBuffer, bufferLen, *xmlData);
		}
		FreeLibrary(hDllInst);
	}
	return 0;
}

　　

错误原因：

定义函数指针原型时出错。

其实定义的没有错，但是编译器不认识而已，因为调用的dll函数是一个远函数，而且是一个C函数，必须告诉编译器它是个c函数才行。那么就可以在定义该函数的时候加上一句话，

FAR PASCAL 或者 __stdcall 这个就OK了。

具体做法：

比如说你要定义一个 返回类型为空，参数为空的函数指针：

typedef void （*LPFUN）（void）;

这样确实跟我们dll里的函数匹配了，上面也说了，我们应该添上几个字，告诉编译器这个是一个远的C函数。

typedef void （WINAPI *LPFUN）（void）;

typedef void （__stdcall *LPFUN）（void）;

typedef void    (FAR PASCAL *LPFUN)    (void);

像上面这样定义就OK了，如果用的是VC++，那么直接用第一种定义就ok了。

注意，上面是使用 MFC （DLL）的做法。

如果是WIN32 DLL，得相应的去掉WINAPI ，__stdcall ，FAR PASCAL 这几个参数。因为WIN32 DLL 默认的入栈方式为 __cedcall方式，不是__stdcall方式。

具体的组合方式太多了，反正知道错误的原因是声明相应的函数未匹配就行了。实在不行，一个一个的试吧

 

解决方法：

查看：Project->Properties->Configuration Properties->C/C++->advanced->calling Convention  为  __cdecl 

将代码中的

typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);

修改为typedef bool (__cdecl *SEALPARSE)(unsigned char*, int, char*);