文件名称:Pholcus(幽灵蛛)爬虫软件 v1.2
文件大小:8.18MB
文件格式:ZIP
更新时间:2022-11-29 01:54:53
其它源码
Pholcus(幽灵蛛)是一款纯Go语言编写的支持分布式的高并发、重量级爬虫软件,定位于互联网数据采集,为具备一定Go或JS编程基础的人提供一个只需关注规则定制的功能强大的爬虫工具。它支持单机、服务端、客户端三种运行模式,拥有Web、GUI、命令行三种操作界面;规则简单灵活、批量任务并发、输出方式丰富(mysql/mongodb/csv/excel等)、有大量Demo共享;另外它还支持横纵向两种抓取模式,支持模拟登录和任务暂停、取消等一系列高级功能。 框架特点:1、为具备一定Go或JS编程基础的用户提供只需关注规则定制、功能完备的重量级爬虫工具;2、支持单机、服务端、客户端三种运行模式;3、GUI(Windows)、Web、Cmd 三种操作界面,可通过参数控制打开方式;4、支持状态控制,如暂停、恢复、停止等;5、可控制采集量;6、可控制并发协程数;7、支持多采集任务并发执行;8、支持代理IP列表,可控制更换频率;9、支持采集过程随机停歇,模拟人工行为;10、根据规则需求,提供自定义配置输入接口11、有mysql、mongodb、csv、excel、原文件下载共五种输出方式;12、支持分