GuozhongCrawler1.21API文档

时间:2018-06-28 11:04:46
【文件属性】:

文件名称:GuozhongCrawler1.21API文档

文件大小:677KB

文件格式:RAR

更新时间:2018-06-28 11:04:46

Guozhong Crawler API文档

guozhongCrawler的是一个无须配置、便于二次开发的爬虫开源框架,它提供简单灵活的API,只需少量代码即可实现一个爬虫。模块化设计完全面向业务提供接口,功能覆盖整个爬虫的生命周期(链接提取、页面下载、内容抽取、持久化),支持多线程抓取,分布式抓取,并支持自动重试,定制执行js、自定义cookie等功能。在处理网站抓取多次后被封IP的问题上,guozhongCrawler采用动态轮换IP机制有效防止IP被封。另外,源码中的注释及Log输出全部采用通俗易懂的中文。让初学者能有更加深刻的理解


网友评论