【问题解决】Selenium——NoSuchWindowException: Browsing context has been discarded

博主在服务器上运行的小程序后端使用Selenium进行网页爬取时遭遇内存溢出问题,尝试多种方法包括清理缓存仍未能解决。最终通过重启服务器解决了问题,提示在遇到类似难题时,重启或许是最简单有效的解决方案。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

昨天上服务器检查了一下小程序后端运行是否良好,发现与selenium有关的模块的进程全挂了。惊慌失措之下重试了爬虫模块的代码,发现本机上正常运行的代码,在ubuntu上运行时出现报错:

NoSuchWindowException: Browsing context has been discarded

百度了很久也没有得到确切的解释,有说是Firefox浏览器版本与驱动不兼容之类的,但是之前一个多月都有正常运行。

后来我觉得putty很卡,感觉可能是内存炸了,运行爬虫监测了一下内存,发现在点击搜索引擎时内存占用激增,直至报错。

但是尝试了很多方法都没有能够解决selenium内存占用导致崩溃的方法;

其中一个有稍许效果的方法是每次操作一步后就清理缓存?

browser = selenium.webdriver.Firefox()
browser.get("...")
browser.delete_all_cookies()
browser.find_element_by_xpath("...").click()
browser.delete_all_cookies()
...
browser.quit()

但是还是无法阻止OOM的发生。

后来发现内存溢出后还会出现各种各样奇怪的报错,总之报错不止上面这一种情况,有的记不清楚了,我都快要抓狂了。

回寝跟队友讲了这件事情,严密地分析了一阵子觉得要么是服务器内存太小不够容量,要么是服务器带宽不够卡死在一个页面上,要么是服务器流量将竭,网速太慢。

然后我们开始考虑要不要升级换个好一点的服务器,于是先重启了一下服务器。

重启完毕,一切都正常了,爬虫不卡了,错也不报了。

这个故事告诉我们,无论发生什么事,先restart再说。

 

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值