python程序爬虫总是崩溃

Posted 痴心妄想

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python程序爬虫总是崩溃相关的知识,希望对你有一定的参考价值。

 写的一个爬虫程序,主要用到以下库。但是伴随着代码增多,功能增多。经常性的程序崩溃现象,逐渐显现。

pyqt5_5.8.2,requests.get,selenium+chorme,threading.Thread,queue.Queue

多次完善代码与程序,甚至已经尝试了各种python版本,与pyqt5版本。甚至pyqt5-tools的版本也换了,都无法处理程序崩溃。

关于访问系统的地方,都已经加了线程锁。

程序崩溃的情况,基本上都会在程序运行一段很短的时间后就出现。

根据程序多次崩溃的情况,无法总结出崩溃的特征。出现崩溃的情况毫无征兆,每一次都出现在程序流程的不同地方。

目前可见的怀疑点在于pyuic转换ui文为py文件,生成的py文件总有一行代码

1 QtCore.QMetaObject.connectSlotsByName(MainWindow)

无法解析导致出错,把这行代码注释也是可以运行,经查网上的信息,说法甚少。

只找到一处,说到这行代码是与程序ui界面刷新有关。

 

 

 

总是出现程序崩溃,难以排查原因。 

问题事件名称: APPCRASH
应用程序名:	python.exe
应用程序版本:	3.6.6150.1013
应用程序时间戳:	5b330722
故障模块名称:	Qt5Gui.dll
故障模块版本:	5.8.0.0
故障模块时间戳:	587fd80f
异常代码:	c0000005
异常偏移:	00000000000f3991
OS 版本:	6.1.7601.2.1.0.256.1
区域设置 ID:	2052
其他信息 1:	b872
其他信息 2:	b87237fef27100b1f99611e72e190746
其他信息 3:	cddc
其他信息 4:	cddc7f932bc69399719fb6c3bca599fa

这样的出错信息,经查网上信息,说法倒是挺多。具体原因是可能是内存泄露。

因为故障模块是Qt5Gui.dll,很有可能是pyqt5库方面的问题,联想到那一行无法解析的代码。有可能这个崩溃是因为那一行无法解析的代码造成的。

 

以上是关于python程序爬虫总是崩溃的主要内容,如果未能解决你的问题,请参考以下文章

scrapy主动退出爬虫的代码片段(python3)

Android - 应用程序启动时片段 onCreate 崩溃

重新打开片段时应用程序崩溃

Python练习册 第 0013 题: 用 Python 写一个爬图片的程序,爬 这个链接里的日本妹子图片 :-),(http://tieba.baidu.com/p/2166231880)(代码片段

使用选项卡式活动和片段时应用程序崩溃

Android 应用程序片段不断崩溃