MXProxyPool:动态代理ip池(抓取、存储、测试)

时间:2024-05-28 03:57:21
【文件属性】:

文件名称:MXProxyPool:动态代理ip池(抓取、存储、测试)

文件大小:240KB

文件格式:ZIP

更新时间:2024-05-28 03:57:21

Python

MXProxyPool 动态代理ip池 架构图 说明:爬取模块将会爬取免费代理,免费代理的可用性低,如需获取高效的代理ip,请购买付费代理()。 安装Python 3.5+ 安装Redis,并启动服务 # mac os安装 pip install redis # 启动redis redis-server /usr/local/etc/redis.conf 安装依赖库 cd MXProxyPool pip install -r requirements.txt 修改配置 settings.py存放了配置信息 运行代理池 cd MXProxyPool python3 run.py api接口 # 随机获取一个代理 http://localhost:8000/fetch 使用代理池示例 import requests from proxypool.settings import API_HOST


【文件预览】:
MXProxyPool-master
----proxypool()
--------db.py(4KB)
--------settings.py(425B)
--------exceptions.py(483B)
--------manager.py(1KB)
--------crawl.py(4KB)
--------setuplogging.py(635B)
--------logging.yaml(958B)
--------api.py(627B)
--------tester.py(2KB)
----run.py(444B)
----requirements.txt(74B)
----examples()
--------proxypoolusage.py(1KB)
----LICENSE(11KB)
----README.md(2KB)
----screenshots()
--------api-fetch.png(44KB)
--------api-count.png(39KB)
--------架构图.png(138KB)
--------api.png(45KB)
----.gitignore(1KB)

网友评论