文件名称:simpyder:超高速异步协程Python爬虫
文件大小:16KB
文件格式:ZIP
更新时间:2024-05-25 09:38:23
python crawler spider Python
Simpyder - Simple Python Spider Simpyder - 轻量级协程Python爬虫 特点 轻量级:下载便利,依赖较少,使用简单。 协程:单线程,通过协程实现并发。 可定制:简单配置,适应各种爬取场合。 快速开始 下载 #使用pip3 pip3 install simpyder --user # 更新包 pip3 install simpyder --upgrade 编码 用户只需要定义三个函数,实现三个模块: 链接获取 我们需要一个定义一个,用于产生链接。 async def gen_url(): for each_id in range(100): yield "https://www.biliob.com/api/video/{}".format(each_id) 链接解析 我们需要定义一个解析链接的函数。其中第一个参数是Respo
【文件预览】:
simpyder-master
----.travis.yml(209B)
----.github()
--------FUNDING.yml(749B)
----simpyder()
--------spiders()
--------utils.py(2KB)
--------__init__.py(90B)
--------scheduler.py(227B)
--------config.py(198B)
--------__version__.py(23B)
----LICENSE(1KB)
----requirements.txt(44B)
----setup.py(1KB)
----.gitignore(2KB)
----demo()
--------zhihu.py(1KB)
--------demo.py(674B)
----README.md(4KB)