xinmeispiders:用于抓取百度,谷歌,搜狗微信等网站的搜索结果

时间:2024-06-01 06:56:09
【文件属性】:

文件名称:xinmeispiders:用于抓取百度,谷歌,搜狗微信等网站的搜索结果

文件大小:16KB

文件格式:ZIP

更新时间:2024-06-01 06:56:09

Python

说明文档 使用python scrapy框架的自动爬虫 在服务器上布置 crontab -e */5 * * * * sh /home/data/www/xinmeispiders/scrapy.sh


【文件预览】:
xinmeispiders-master
----.gitignore(34B)
----crontabtest.py(385B)
----run.py(1KB)
----proxies.txt(397B)
----scrapy.sh.template(686B)
----runners.py(1KB)
----README.md(156B)
----test.py(944B)
----scrapy.cfg(268B)
----crawall.py(572B)
----schedulers.py(2KB)
----xinmeispiders()
--------spiders()
--------__init__.py(0B)
--------pipelines.py(4KB)
--------middleware.py(1KB)
--------db.py.template(195B)
--------settings.py.template(5KB)
--------items.py(685B)

网友评论