文件名称:ioweb:Web爬网框架
文件大小:38KB
文件格式:ZIP
更新时间:2024-03-09 20:41:20
crawler framework webscraping gevent webcrawling
IOWeb框架 构建网络爬虫的事情。 好东西: 它可能不会格式化您的磁盘 坏事: 缺乏测试 缺乏文件 回馈 关于网络抓取的英语聊天 关于网络抓取的俄语聊天
【文件预览】:
ioweb-master
----setup.py(2KB)
----.gitignore(151B)
----conftest.py(48B)
----Makefile(469B)
----MANIFEST.in(81B)
----requirements_dev.txt(51B)
----.bumpversion.cfg(99B)
----.github()
--------workflows()
----ioweb_gevent()
--------__init__.py(265B)
--------cli.py(24B)
----ioweb()
--------proxylist.py(4KB)
--------network_service.py(6KB)
--------__init__.py(512B)
--------crawler.py(20KB)
--------gevent_util.py(156B)
--------request.py(4KB)
--------stat.py(11KB)
--------session.py(703B)
--------cli.py(15KB)
--------error.py(3KB)
--------control.py(3KB)
--------transport.py(15KB)
--------task_generator.py(234B)
--------util.py(707B)
--------logging.py(436B)
--------response.py(3KB)
--------urllib3_custom.py(4KB)
--------error_logger.py(2KB)
--------mongodb.py(7KB)
--------data.py(486B)
----crawlers()
--------__init__.py(0B)
--------test.py(396B)
----README.md(482B)
----pytest.ini(82B)
----.hgignore(211B)
----test()
--------__init__.py(0B)
--------test_request.py(609B)
--------test_base_request.py(2KB)
--------test_realworld.py(669B)
--------test_resolve.py(696B)
--------test_callback_request.py(253B)
--------fixtures.py(657B)
----tox.ini(162B)