学习网络爬虫难免遇到使用代理的情况,下面介绍一下如何使用requests设置代理:
如果需要使用代理,你可以通过为任意请求方法提供 proxies 参数来配置单个请求:
import requests
proxies = { "http": "http://10.10.1.10:3128", "https": "http://10.10.1.10:1080", }
requests.get("http://example.org", proxies=proxies)
这里的可以通过ip测试网站进行验证是否成功使用了代理 http://ip.chinaz.com/(查看你访问后的网站的您的IP是多少来判断)
有关requests的出现乱码问题的解决可以查看博客内容。
有关requests的使用cookies问题的解决可以查看博客内容。