requests
requests是个HTTPClient库，相比于urllib，urllib2等模块比更加简洁易用
■ get请求
作为示例，讲一下关于requests如何发起并处理一个get请求
r = requests.get("http://www.baidu.com") #可以加入timeout参数来设置超时
r是一个Response对象，可以用r查看很多信息
如r.status_code 查看本次请求的http返回码
r.headers 头部信息（是个类字典对象）
r.url 本次请求用的url
r.encoding 编码方式
r.text 正文
r.content 正文
*text和content的区别是text是以unicode的形式存在内存中的，而content是把text用r.encoding编码进行encode之后的产物。所以当返回内容是html文本时，type(text)是unicode而type(content)是str。当返回的是类似于图片这样的东西时，编码可以是base64这种二进制编码，所以如果要下载一张图或一个文件时，应该写入本地文件的也是content而不是text。
再啰嗦一句。。下载的如果是文本文件的话写入方式似乎不带b也行得通，但是如果想下载图片等其他文件就必须是二进制写入了，要不然会打不开的。
r.cookies 获得返回内容中的cookie内容，若想在请求中加入cookie的话只要在参数中加上cookies={...}即可
r对象还有一些方法：
r.raise_for_status() #当返回码不是200的时候抛出一个HTTPError异常
另外，get方法还可以把一个字典整合到url中去形成一个带参数的GET请求。比如
par = {'wd':'word'}
r = requests.get("http://www.baidu.com/s",params=par)
>>>r.url
u'http://www.baidu.com/s?wd=word'
如果返回的是个json串，那么r还可以用json()方法构造出这个串对应的python字典
r = requests.get("url") #假设返回的json是 {"code":"200","msg":"OK"}
res = r.json()
print res.get("code"),res.get("msg")
#得到的就是200 OK
除了params参数之外，get方法还可以有proxies参数以设置代理；headers参数来伪造请求头部（现在很多网站因为防止爬虫等一些原因会检查请求头部，如果不伪造头部的话很可能会出现500状态的返回）
比如headers={'User-Agent':'test'};r = requests.get(url,headers=headers)
加入cookies={一个字典}来增加请求中的cookie信息
■ POST
POST请求用post方法，和get类似的设置。
在加上post的数据时注意参数是data不是params了！！ ==> r = requests.post(url,data=par)
■ 请求https地址
请求https地址时，由于涉及到SSL证书的验证等工作，和普通的HTTP请求还不太一样。比如get方法中默认会带上参数verify=True表示请求前要先验证对方的SSL公钥证书。如果确认不用验证可以将此参数置为False，这样就不用验证了。
有时候验证会报错hostname does not match xxxx，这可能是因为你请求的url的域名，其上面的SSL公钥证书还没有被导入当前主机，一个解决办法是将证书导出后存放在某个地方，然后verify参数写指向证书文件的路径。证书导出随各种浏览器、工具不同而不同。比如火狐的话右键页面--查看页面信息--安全--查看证书详细，中可以选择导出。
如果选择了正确的证书之后，请求仍然报错：SSL3_GET_SERVER_CERTIFICATE:certificate verify failed，这个错误可能是由于openssl版本过低。
■ 上传带中文名的文件
用requests的post方法可以方便地上传文件，一般的做法是这样的：
import requests
data = {
'other_data': 'value'
}
fi = open('test.jpg','rb')
files = {
'test.jpg': ('test.jpg',fi,'image/jpg')
}
url = 'http://127.0.0.1/uploadtest/'
res = requests.post(url, data=data, files=files)
fi.close()
print res.status_code,res.content
可以看到，除了data参数之外添加了files参数。files参数的内容是一个字典，字典中的key可以写file或者其他的什么内容。其对标的是网页表单提交时input标签中name属性的值。一般而言只要保证多个上传文件的键值对中，key没有重复的即可。value是一个tuple，其中各项元素的意义是(filename, file_object, content_type, ...)等，后面还有，不常用就没写。文件名是定义在这里的。如果要上传多个文件，那么就在这个字典中多加几个键值对。需要注意文件对象fi一直到post方法被调用后才能close，否则会报错。
这里面隐藏着一个问题，当上传的文件名是中文名的时候后端可能会获取不到文件的内容，比如用flask做后端时看一下request.files可以看到是个空字典。网上给出了一些解决方法（https://segmentfault.com/q/1010000002633223/a-1020000002657633），比如修改requests中packages/urllib3/fields.py中的一些源代码，尝试了一下确实可以解决。不过修改源码不是很好的解决方法，如果后端也是自己写的话那么可以参考这篇教程中的解决方法三（http://www.mamicode.com/info-detail-1499317.html）。
我的解决办法就是（由于服务器端也是我自己写的），在data中加上filename字段指出中文的，实际的文件名。然后在files中的value那个tuple中的第一项（注意，是{'test.jpg': ('test.jpg', fi)}这个文件名）那个文件名改成file_name或者其他不带中文的名字。在服务端的代码中，首先按照提供的非中文文件名保存下来，然后改名为中文文件名；或者直接按照提供的中文文件名保存，这个取决于后端的规则和写法。比如通过flask搭建的一个服务接受中文名文件上传：
#####服务端代码#####
@app.route('/uploadtest/',methods=['POST'])
def upload_file():
filenames = request.form.get('filename').split(',')
count = 0
for _,storage in request.files.iteritems():
storage.save(os.path.join(BASEDIR,'upload',filenames[count]))
count += 1
# ... #####客户端代码#####
from collections import OrderedDict data = {
'filename': 'a.txt,b.jpg,c.exe'
}
f1,f2,f3 = open('a.txt','rb'),open('b.jpg','rb'),open('c.exe','rb')
files['a.txt'] = ('f1',f1)
files['b.jpg'] = ('f2',f2)
files['c.exe'] = ('f3',f3)
res = requests.post('http://localhost/uploadtest/',data=data,files=files)
f1.close();f2.close();f3.close()
用了OrderedDict的原因是为了让filename参数得到的文件名列表和上传文件通过顺序一一对应，避免文件名和文件错位。
urllib2
urllib2是比requests更加贴近底层，可以实现更加个性化的HTTPClient？
■ 基本用法
req = urllib2.Request('...') #用一个url来建立一个Request对象，这个url可以是http协议的也可以是ftp协议的
response = urllib2.urlopen(req) #打开这一request对象
page = response.read() #response可以像一个文件一样read内容
如果是使用http协议进行通信的话，用户可以通过POST或GET方法来丰富自己的http请求方式，比如自己附上一些表单data，或者添加http的headers信息
① 增加表单data
首先需要一个python字典来抽象化要发送的数据，然后一定要用urllib.urlencode将这个字典处理成urlopen可以识别的东西（好像就是个key=value&key2=value2这样的，跟在get请求的url后面的那种形式）。然后在创建Request对象的时候就有两种方法，分别对应着POST请求和GET请求
par = {'wd':'word'}
processed_par = urllib.urlencode(par) #对字典进行处理，用到的是urllib中的urlencode方法
req = urllib2.Request('url',data=processed_par) #写个参数data=处理好的数据这种方式呢对应的是POST请求
req = urllib2.Request(''url'+'?'+processed_par) #直接加上处理好的数据是指GET请求的方式(不要忘了中间的问号！！！
urllib2.urlopen(req) #打开Request对象来进行访问
② 增加header信息
header即头部，http头部属于http讯息的一部分，其逻辑形式大致是一个字典，内容包括客户端可接受的内容类型，编码，语言，证书信息，用户所用代理（浏览器的牌子）是什么等等。从应用逻辑上分，header又被分成了general header，request header，response header和entity header四部分
因为urllib2主要是个http客户端库，所以主要关注request header的部分
如以下做法可以为header添加上User-Agent信息（用户的浏览器是什么）
url = 'http://www.xxxxxxxx...'
userAgent = 'Mozilla 4.0 xxxxx' #模拟火狐浏览器的信息
headers = {'User-Agent':userAgent} #设置header字典
data = urllib.urlencode(...) #POST请求的表单数据
req = urllib2.Request(url,data=data,headers=headers)
res = urllib2.urlopen(req) #这就是打开了带有自己定义的头部信息的请求了
■ 零碎的记录
*关于错误 URLError & HTTPerror
这两个错误是在应用http客户端库时常见的错误。首先，HTTPerror是URLError的一个子类，即发生HTTPError时必然发生URLError
另外，URLError通常是指没有网络连接（没有特定路由到指定服务器），或者服务器不存在的错误。对应的，HTTPError指的是那些服务器指向正确并且连接OK，但是无法完成请求的情况。
URLError对象通常都有reason属性，是个tuple，[0]是错误号，[1]是错误信息，所以在except URLError的时候可以print e.reason来查看具体信息。类似的HTTPError则有一个code属性，记录的是http返回码，如众所周知的404代表找不到文件，401代表需要验证，500代表服务器内部出错等等。
*关于url的解码和编码
有些符号如'{','\'是无法被识别的，需要对其进行编码成%7B,%5C之类的某种我也说不太清到底是什么码的码，可以用urllib.quote(url)对url进行一个编码，同样的urllib.unquote(url)是把编好码的url解码成人看得懂的形式。
IPy
一个小模块。。没地方放了，反正这篇好像都是跟网络沾边就放着把。
本来我想找个能验证ip地址合法性的模块，而找到的这个IPy似乎功能要更加强大一些。IPy下载地址https://github.com/haypo/python-ipy/
● 对ip的处理
首先用IPy.IP来建立一个IP对象
ip = IP('x.x.x.x') #在构造IP对象时就已经对ip合法性做出判断，如果不对就报错了。我最开始的需求就这么实现了。。
IP对象有__repr__方法，可以直接被print成字符串。
ip.make_net('子网掩码') 返回这个ip所在的网段地址，比如
ip = IP(127.0.0.1)
net = ip.make_net('255.0.0.0')
print net
##输出结果就是 IP('127.0.0.0/8') print ip in net
##还可以直接用 in 语句来判断某个ip在不在一个网段里
● 对网段地址的处理
在构造的时候，如果写的是一个网络，那么IP类会自动将其识别成一个网络
net = IP('127.0.0.0/24')
这个net对象时iterable的，可以迭代出这个网段里所有的ip地址，用len(net)自然就可以看到这个网段里一共能有多少ip了
在print net的是时候同样会打印出来这个网络，只是表示一个网络有多种方法，到底取哪一种呢？
可以用net.strNormal(n)这个方法来改变打印出来的格式，比如上面那个net，如果设置了n是0的话只打印出127.0.0.0（网络地址）
n为1的场合 打印出类似于127.0.0.0/24 这种表现形式
n为2的场合 打印出127.0.0.0/255.255.255.0 的形式
n为3的场合 打印出127.0.0.0 - 127.0.0.255 的形式