文件名称:scrapyCustomDownloader:自定义scrapy框架中的下载器
文件大小:9KB
文件格式:ZIP
更新时间:2024-05-30 03:02:55
Python
#scrapyCustomDownloader 自定义scrapy架构中的downloader程序。scrapy默认爬取无法解决动态页面解析的问题,这里主要是想通过自定义downloader模块中的下载处理,使用spynner来处理页面下载。
【文件预览】:
scrapyCustomDownloader-master
----scrapy.cfg(288B)
----scrapyCustomDownloader()
--------maintest.py(869B)
--------handler()
--------pipelines.py(450B)
--------spiders()
--------items.py(552B)
--------__init__.py(0B)
--------settings.py(3KB)
----.gitignore(574B)
----README.md(241B)
----.gitattributes(378B)