linux下执行scrapy的爬虫定时任务

时间:2023-01-27 08:02:31

刚开始执行scrapy crawl zentaos可以完成扫描

但是通过linux的crontab任务,只执行了连接mongodb的操作,并创建了索引

也就是说scrapy crawl zentaos部分的任务没有执行

什么原因呢?

加上

export PATH=$PATH:/usr/local/bin

就可以解决问题

linux下执行scrapy的爬虫定时任务

mongo会自动创建索引

linux下执行scrapy的爬虫定时任务