动态调用dll遇到的问题

Posted 默默地

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了动态调用dll遇到的问题相关的知识,希望对你有一定的参考价值。

问题:动态调用第三方提供的dll报错。

Run-Time Check Failure #0 - The value of ESP was not properly saved across a function call. This is usually a result of calling a function declared with one calling convention with a function pointer declared with a different calling convention.

调用源码:

typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);
static int ConvertAsnToXml(unsigned char* asnBuffer, int bufferLen, char** xmlData)
{
	HINSTANCE hDllInst = LoadLibrary("DllSESealParse.dll");
	if(hDllInst == NULL){
		::MessageBox(NULL,"DllSESealParse.dll加载失败!","错误",IDOK);
		return -1;
	}else{
		SEALPARSE asnToXml = NULL; 
		asnToXml = (SEALPARSE)GetProcAddress(hDllInst, "SESealParse_SESealDataASNToXml");

		if(asnToXml)
		{
			*xmlData = (char*)malloc(40*1024);
			bool bRet = asnToXml(asnBuffer, bufferLen, *xmlData);
		}
		FreeLibrary(hDllInst);
	}
	return 0;
}

  


错误原因:

定义函数指针原型时出错。

其实定义的没有错,但是编译器不认识而已,因为调用的dll函数是一个远函数,而且是一个C函数,必须告诉编译器它是个c函数才行。那么就可以在定义该函数的时候加上一句话,

FAR PASCAL 或者 __stdcall 这个就OK了。

具体做法:

比如说你要定义一个 返回类型为空,参数为空的函数指针:

typedef void (*LPFUN)(void);

这样确实跟我们dll里的函数匹配了,上面也说了,我们应该添上几个字,告诉编译器这个是一个远的C函数。

typedef void (WINAPI *LPFUN)(void);

typedef void (__stdcall *LPFUN)(void);

typedef void    (FAR PASCAL *LPFUN)    (void);

像上面这样定义就OK了,如果用的是VC++,那么直接用第一种定义就ok了。

注意,上面是使用 MFC (DLL)的做法。

如果是WIN32 DLL,得相应的去掉WINAPI ,__stdcall ,FAR PASCAL 这几个参数。因为WIN32 DLL 默认的入栈方式为 __cedcall方式,不是__stdcall方式。


具体的组合方式太多了,反正知道错误的原因是声明相应的函数未匹配就行了。实在不行,一个一个的试吧

 

解决方法:

查看:Project->Properties->Configuration Properties->C/C++->advanced->calling Convention  为  __cdecl 

将代码中的

typedef bool (WINAPI *SEALPARSE)(unsigned char*, int, char*);

修改为typedef bool (__cdecl *SEALPARSE)(unsigned char*, int, char*);

以上是关于动态调用dll遇到的问题的主要内容,如果未能解决你的问题,请参考以下文章

VC++ 解决dll库动态库加载失败问题(调用LoadLibrary加载失败)(附源码)

请帮忙解答一下,在delphi下编写dll文件遇到的错误

关于delphi中动态调用dll时出现的问题

调用 DLL 函数时遇到问题

C#中如何调用动态链接库DLL

MFC调用libyara遇到的问题