1.cookie的作用
cookie 是指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据,就像有些网站上的一些数据是需要登录后才能看得到,那么想抓取某个页面内容,就需要用到cookie来模拟登陆了。
在用cookie模拟登陆的时候,需要用到python中的CookieJar
,CookieJar中有一些子类,例如:
- FileCookieJar,LWPCookieJar,MoziliaCookieJar
- CookieJar 管理http生成的cookie,负责cookie的存储工作,向http当中添加指定的cookie
MozillaCookieJar
和LWPCookieJar
类都是FileCookieJar
的子类。实现了具体的把cookie内容保存为文件的方法。只是这两个类对应的标准不同而已。
2 获取cookie
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
from http.cookiejar import CookieJar,LWPCookieJar
from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener
from urllib.parse import urlencode
import ssl
# ----------------------------------------获取cookie---------------------------
# 生成一个管理cookie的对象
cookie_obj = CookieJar()
# 创建一个支持cookie的对象,对象属于HTTPCookieProcessor
cookie_handler = HTTPCookieProcessor(cookie_obj)
#创建一个opener
opener = build_opener(cookie_handler)
response = opener. open ( 'http://www.baidu.com' )
print (response)
#打印cookie
for cookie in cookie_obj:
print ( 'key:' ,cookie.name)
print ( 'value:' ,cookie.value)
|
3 保存cookie的文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
from http.cookiejar import CookieJar,LWPCookieJar
from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener
filename = 'neihan.txt'
# 设置cookie保存的文件
cookie_obj = LWPCookieJar(filename = filename)
# 创建一个支持cookie的对象,对象属于HTTPCookieProcessor
cookie_handler = HTTPCookieProcessor(cookie_obj)
#创建一个opener
opener = build_opener(cookie_handler)
#请求网页
response = opener. open ( 'http://www.neihanshequ.com' )
# 保存cookie到指定的文件当中去
# ignore_expires=True 即便目标cookie已经在文件中存在,仍然对其写入
# ignore_discard=True 即便cookie将要/已经过期,仍然写入
cookie_obj.save(ignore_expires = True ,ignore_discard = True )
|
4 使用本地的cookie进行请求
1
2
3
4
5
6
7
8
9
10
11
12
13
|
from http.cookiejar import CookieJar,LWPCookieJar
from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener
cookie = LWPCookieJar()
#从文件中读取cookie到变量
cookie.load( 'neihan.txt' )
request = Request( 'http://www.neihanshequ.com' )
# 创建一个支持cookie的对象,对象属于HTTPCookieProcessor
cookie_handler = HTTPCookieProcessor(cookie)
#创建一个opener
opener = build_opener(cookie_handler)
#请求网页
response = opener. open (request)
# print(response.read().decode())
|
5 使用cookie进行模拟登陆
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
from http.cookiejar import CookieJar,LWPCookieJar
from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener
from urllib.parse import urlencode
import ssl
cookie = LWPCookieJar(filename = 'meishi.txt' )
cookie_handler = HTTPCookieProcessor(cookie)
opener = build_opener(cookie_handler)
headers = {
'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:61.0) Gecko/20100101 Firefox/61.0'
}
post_url = 'https://i.meishi.cc/login.php?redirect=https%3A%2F%2Fi.meishi.cc%2Flogin.php%3Fac%3Dzhuce'
# urlencode对url当中的参数进行编码
# urlencode()编码的对象为字典类型
post_data = urlencode({
'username' : '***********' , #自己的登陆账号
'password' : '************' #自己的登陆密码
})
# 请求url 并传参,设置编码方式
request = Request(post_url,bytes(post_data,encoding = 'utf-8' ))
# 解决证书问题
ssl._create_default_https_context = ssl._create_unverified_context
response = opener. open (request)
print (response.read().decode())
cookie.save(ignore_discard = True ,ignore_expires = True )
|
这里的post_url
是抓包获取来的
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对服务器之家的支持。如果你想了解更多相关内容请查看下面相关链接
原文链接:https://blog.csdn.net/qq_39138295/article/details/81406991