Python 最好用的第三方 http 库-Requests介绍

时间:2022-01-13 21:54:12

Requests 是用Python语言编写,基于 urllib,采用 Apache2 Licensed 开源协议的 HTTP 库。它比 urllib 更加方便,可以节约我们大量的工作,完全满足 HTTP 测试需求。Requests 的哲学是以 PEP 20 的习语为中心开发的,所以它比 urllib 更加 Pythoner。更重要的一点是它支持 Python3 哦!

  • Beautiful is better than ugly.(美丽优于丑陋)
  • Explicit is better than implicit.(清楚优于含糊)
  • Simple is better than complex.(简单优于复杂)
  • Complex is better than complicated.(复杂优于繁琐)
  • Readability counts.(重要的是可读性)

一、安装 Requests

通过pip安装

Code example:
1 $
pip
install
requests

或者,下载代码后安装:

Code example:
123 $
git clone git:
//github.com/kennethreitz/requests.git
$
cd
requests
$
python setup.py
install

再懒一点,通过IDE安装吧,如pycharm!

二、发送请求与传递参数

先来一个简单的例子吧!让你了解下其威力:

Code example:
1234567 import
requests
 r
=
requests.get(url
='http://www.itwhy.org')   # 最基本的GET请求
print(r.status_code)   # 获取返回状态r
=
requests.get(url
='http://dict.baidu.com/s', params={'wd':'python'})  #带参数的GET请求
print(r.url)print(r.text)  #打印解码后的返回数据

很简单吧!不但GET方法简单,其他方法都是统一的接口样式哦!

requests.get(‘https://github.com/timeline.json’) #GET请求
requests.post(“http://httpbin.org/post”) #POST请求
requests.put(“http://httpbin.org/put”) #PUT请求
requests.delete(“http://httpbin.org/delete”) #DELETE请求
requests.head(“http://httpbin.org/get”) #HEAD请求
requests.options(“http://httpbin.org/get”) #OPTIONS请求

PS:以上的HTTP方法,对于WEB系统一般只支持 GET 和 POST,有一些还支持 HEAD 方法。
带参数的请求实例:

Code example:
123 import
requests
requests.get('http://www.dict.baidu.com/s', params={'wd':'python'})   #GET参数实例requests.post('http://www.itwhy.org/wp-comments-post.php', data={'comment':'测试POST'})   #POST参数实例

POST发送JSON数据:

Code example:
12345 import
requests
import
json
 r
=
requests.post(
'https://api.github.com/some/endpoint', data=json.dumps({'some':'data'}))
print(r.json())

定制header:

Code example:
123456789 import
requests
import
json
 data
=
{
'some':'data'}
headers
=
{
'content-type':'application/json',
           'User-Agent':'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:22.0) Gecko/20100101 Firefox/22.0'} r
=
requests.post(
'https://api.github.com/some/endpoint', data=data, headers=headers)
print(r.text)

三、Response对象

使用requests方法后,会返回一个response对象,其存储了服务器响应的内容,如上实例中已经提到的 r.text、r.status_code……
获取文本方式的响应体实例:当你访问 r.text 之时,会使用其响应的文本编码进行解码,并且你可以修改其编码让 r.text 使用自定义的编码进行解码。

Code example:
1234 r
=
requests.get(
'http://www.itwhy.org')
print(r.text,'\n{}\n'.format('*'*79), r.encoding)r.encoding
=
'GBK'
print(r.text,'\n{}\n'.format('*'*79), r.encoding)

其他响应:

r.status_code #响应状态码
r.raw #返回原始响应体,也就是 urllib 的 response 对象,使用 r.raw.read() 读取
r.content #字节方式的响应体,会自动为你解码 gzip 和 deflate 压缩
r.text #字符串方式的响应体,会自动根据响应头部的字符编码进行解码
r.headers #以字典对象存储服务器响应头,但是这个字典比较特殊,字典键不区分大小写,若键不存在则返回None
#*特殊方法*#
r.json() #Requests中内置的JSON解码器
r.raise_for_status() #失败请求(非200响应)抛出异常

案例之一:

Code example:
1234567891011 import
requests
 URL
=
'http://ip.taobao.com/service/getIpInfo.php'
 
# 淘宝IP地址库API
try:    r=
requests.get(URL, params
={'ip':'8.8.8.8'}, timeout=1)
    r.raise_for_status()   # 如果响应状态码不是 200,就主动抛出异常except
requests.RequestException as e:
    print(e)else:    result=
r.json()
    print(type(result), result, sep='\n')

四、上传文件

使用 Requests 模块,上传文件也是如此简单的,文件的类型会自动进行处理:

Code example:
12345678 import
requests
 url
=
'http://127.0.0.1:5000/upload'
files
=
{
'file':open('/home/lyb/sjzl.mpg','rb')}
#files
= {'file': ('report.jpg', open('/home/lyb/sjzl.mpg', 'rb'))}     #显式的设置文件名
 r
=
requests.post(url, files
=files)
print(r.text)

更加方便的是,你可以把字符串当着文件进行上传:

Code example:
1234567 import
requests
 url
=
'http://127.0.0.1:5000/upload'
files
=
{
'file': ('test.txt', b'Hello Requests.')}    #必需显式的设置文件名
 r
=
requests.post(url, files
=files)
print(r.text)

五、身份验证

基本身份认证(HTTP Basic Auth):

Code example:
123456 import
requests
from
requests.auth
import
HTTPBasicAuth
 r
=
requests.get(
'https://httpbin.org/hidden-basic-auth/user/passwd', auth=HTTPBasicAuth('user','passwd'))
#
r = requests.get('https://httpbin.org/hidden-basic-auth/user/passwd',
auth=('user', 'passwd'))    # 简写
print(r.json())

另一种非常流行的HTTP身份认证形式是摘要式身份认证,Requests对它的支持也是开箱即可用的:

Code example:
1 requests.get(URL,
auth
=HTTPDigestAuth('user','pass'))

六、Cookies与会话对象

如果某个响应中包含一些Cookie,你可以快速访问它们:

Code example:
12345 import
requests
 r
=
requests.get(
'http://www.google.com.hk/')
print(r.cookies['NID'])print(tuple(r.cookies))

要想发送你的cookies到服务器,可以使用 cookies 参数:

Code example:
1234567 import
requests
 url
=
'http://httpbin.org/cookies'
cookies
=
{
'testCookies_1':'Hello_Python3','testCookies_2':'Hello_Requests'}
#
在Cookie Version 0中规定空格、方括号、圆括号、等于号、逗号、双引号、斜杠、问号、@,冒号,分号等特殊符号都不能作为Cookie的内容。
r
=
requests.get(url, cookies
=cookies)
print(r.json())

会话对象让你能够跨请求保持某些参数,最方便的是在同一个Session实例发出的所有请求之间保持cookies,且这些都是自动处理的,甚是方便。
下面就来一个真正的实例,如下是快盘签到脚本:

Code example:
1234567891011121314151617181920 import
requests
 headers
=
{
'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
           'Accept-Encoding':'gzip, deflate, compress',           'Accept-Language':'en-us;q=0.5,en;q=0.3',           'Cache-Control':'max-age=0',           'Connection':'keep-alive',           'User-Agent':'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:22.0) Gecko/20100101 Firefox/22.0'} s
=
requests.Session()
s.headers.update(headers)#
s.auth = ('superuser', '123')
s.get('https://www.kuaipan.cn/account_login.htm') _URL
=
'http://www.kuaipan.cn/index.php'
s.post(_URL,
params
={'ac':'account','op':'login'},
       data={'username':'****@foxmail.com','userpwd':'********','isajax':'yes'})r
=
s.get(_URL, params
={'ac':'zone','op':'taskdetail'})
print(r.json())s.get(_URL,
params
={'ac':'common','op':'usersign'})

七、超时与异常

timeout 仅对连接过程有效,与响应体的下载无关。

Code example:
1234 >>>
requests.get(
'http://github.com', timeout=0.001)
Traceback
(most recent call last):
  File
"<stdin>"
, line 1,in
<module>
requests.exceptions.Timeout:
HTTPConnectionPool(host
='github.com', port=80): Request timed out. (timeout=0.001)

所有Requests显式抛出的异常都继承自 requests.exceptions.RequestException:ConnectionError、HTTPError、Timeout、TooManyRedirects。

更多高级功能请访问官方网站手册:http://cn.python-requests.org/en/latest/