Python爬虫程序卡死该怎么应对呢
Admin 2022-08-31 群英技术资讯 1121 次浏览
这篇文章将为大家详细讲解有关“Python爬虫程序卡死该怎么应对呢”的知识,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。导致该问题产生的原因是GUI程序在执行高IO操作的时候很容易出现假死和无响应的状态,通用解决办法就是多线程。
如果想扩展开本知识点的学习,可以在搜索引擎搜索 tkinter假死,未响应等关键字即可
找到上节课需要修改的代码部分 :

修改成如下代码,立马解决问题:
def thread_down(func, *args):
# 创建线程
t = threading.Thread(target=func, args=args)
t.setDaemon(True)
# 启动
t.start()
# 创建按钮
btn = tk.Button(win,text = '分析下载', command = lambda :thread_down(down_img))
当然记得在头部导入线程模块:
import threading
对于咱们常写爬虫的Coder来说,多线程就不用过多的解释了,非常容易理解,注意下t.setDaemon(True)
通过 t.setDaemon(True) 将子线程设置为守护进程(默认False),主线程结束后,守护子线程随之中止。
以上是最简单的解决办法了,顺着这个思路慢慢的修改你的程序即可
该方案假设你的爬虫比较复杂一些,用的是类去编写的,那么增加一个类文件即可,该类继承 threading.Thread 类
class MyThread(threading.Thread):
def __init__(self, func, *args):
super().__init__()
self.func = func
self.args = args
self.setDaemon(True)
self.start() # 构造方法中启动线程
def run(self):
self.func(*self.args)
# 创建按钮
btn = tk.Button(win,text = '分析下载', command = lambda :MyThread(down_img))
上述解决办法也比较简单,重点依旧是将I/O耗时操作放置到一个新的线程中去
我们重点注意在上述的代码中tk.Button(win,text = '分析下载', command = lambda :MyThread(down_img))中我们给command绑定值的时候用到的lambda函数
lambda这个大家都知道是匿名函数,在这里的用法注意是tk要求的。
他表示 传参数Button绑定事件,文档中大概意思如下:
我们使用Button传递数值时,需要用:
lambda: 功能函数(var1, var2, ……)
所以大家在使用的时候,注意该问题哦~~
上面已经解决了一个小问题,这些当然是不够的,我们的程序岂止于此,接下来,我们每次访问页面的时候,网页源码的图片规则肯定是不能确定的,所以用户可以自定义正则表达式去匹配数据,就是我们接下来改进的方向啦~
先把程序窗口扩大一些
# 窗体大小设置 width = 800 height = 600
增加一个文本框和一个多行输入框:
lbtip = tk.Label(win, text='请输入正则表达式:') # 添加到窗口中 lbtip.grid(row=1,column=3,pady=20) # 创建一个多行文本框 - 用于输入正则表达式 t1 = tk.Text(win, width=40,height=20) # 添加到窗口中 t1.grid(row=2,column=3,padx=20,columnspan=3)
看看布局,细节可以在调整一下:

获取正则表达式输入框数据:
这个地方一个小知识点需要补充下,在tkiner中有两种文本框,单行和多行,对于里面内容的获取方式也不同
#get()方法获取Entry 文本框的内容:
txt = entry.get()
#get()方法获取Text 文本框的内容:
txt = text.get("0.0", "end")
Text.get(start, end) 的用法:
Text.get("0.0", "end") 解析: 第一个参数‘0.0’是指从第0行第0列开始读取(‘0.3’表示从第0行第3列开始读取),第二个参数end表示最后一个字符
写完测试下:

测试完毕:

tkiner其实写起来慢慢调整还是蛮有意思的,可以用来开发一些不错的小工具
测试连接 http://baijiahao.baidu.com/s?id=1667856639211368322 测试正则 <img class="large" data-loadfunc=0 src="(.*?)"
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:mmqy2019@163.com进行举报,并提供相关证据,查实之后,将立刻删除涉嫌侵权内容。
猜你喜欢
前段时间翻文件发现了以前学习python和django时做的一个系统,当时的想法是将这玩意做出来应付web开发大作业、课程设计作业甚至是毕设用的,实际上也确实应付了课程设计,功能虽然不算多,但是应付课程设计或者大作业绰绰有余了
我们知道视图是 MTV 设计模式中的 V 层,它是实现业务逻辑的关键层,因此视图是需要掌握的。为了让大家更了解视图,这篇文章就给大家分享Django视图函数的使用,感兴趣的朋友就继续往下看吧。
这篇文章主要介绍了通过 for 循环比较 Python 与 Ruby 的编程区别,Ruby 与 Python 之间的差异在很大程度上可通过for循环看出本质,下文详细介绍需要的小伙伴可以参考一下
Python可视化技术中,经常会运用到3D曲面图,今天我们就来讲一下如何实现3D曲面图。Axes3D类的对象使用plot_surface()方法绘制3D曲面图,该方法的语法格式如下所示:
圆周率没有精确的计算公式,所以只能用近似的方式计算它的近似值。这篇文章主要介绍了利用Python计算圆周率π的相关资料,需要的朋友可以参考下
成为群英会员,开启智能安全云计算之旅
立即注册关注或联系群英网络
7x24小时售前:400-678-4567
7x24小时售后:0668-2555666
24小时QQ客服
群英微信公众号
CNNIC域名投诉举报处理平台
服务电话:010-58813000
服务邮箱:service@cnnic.cn
投诉与建议:0668-2555555
Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 ICP核准(ICP备案)粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008