爬虫剑谱第十页（关于拼多多商品信息的爬取＜修改版＞）

一线摸鱼人员

于 2021-12-03 16:35:49 发布

阅读量2.4k

点赞数

CC 4.0 BY-SA版权

分类专栏：爬虫编程问题 Python小项目文章标签：爬虫 python 前端

本文链接：https://blog.csdn.net/weixin_53328988/article/details/121701749

该博客针对之前爬取拼多多商品信息的代码进行了修正，但由于限制，只能获取到首页的商品图片等信息，无法进入详情页。使用了selenium库进行爬虫操作，期待能有解决方案。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

关于此前发布了一篇关于爬取拼多多商品信息的博客：爬虫剑谱第七页（输入关键词爬取拼多多商品信息并进行保存）_独一无二的李狗蛋儿的博客-CSDN博客出现了问题，运行结束后无法返回数据，up主在这里重新进行了修正，但让然无法进入商品详情页，只能爬取首页的商品图片等信息，如果有解决方法的朋友可以私信或进行评论。

修正后代码：

需要用到selenium库

from selenium import webdriver
from lxml import etree
import time
#实例化一个浏览器对象（传入浏览器的驱动程序）
bro = webdriver.Edge(executable_path='./msedgedriver.exe')
#浏览器发起一个指定url对应请求
bro.get("https://youhui.pinduoduo.com/")
time.sleep(2)
# bro.get("https://youhui.pinduoduo.com/search/landing?catId=1")
#获取浏览器当前页面的源码数据
page_text = bro.page_source
#解析具体数据
tree= etree.HTML(page_text)
a_list = tree.xpath('//*[@id="__next"]/div/div[2]/div/div[2]/div/div[2]/a')
for a_ in a_list:
    a = a_.xpath('./div/img/@src')
    print(a)
time.sleep(5)
#bro.quit()

运行效果：