爬虫基础入门（二）

时间：2021-04-22 20:41:37
  • 1 爬虫之Cookie的使用
  1. 1 Opener

  2. 2 Cookielib
    cookielib模块的主要作用是提供可存储cookie的对象，以便于与urllib2模块配合使用来访问Internet资源。Cookielib模块非常强大，我们可以利用本模块的CookieJar类的对象来捕获cookie并在后续连接请求时重新发送，比如可以实现模拟登录功能。该模块主要的对象有CookieJar、FileCookieJar、MozillaCookieJar、LWPCookieJar。
    它们的关系：CookieJar —-派生—->FileCookieJar —-派生—–>MozillaCookieJar和LWPCookieJar
    1）获取Cookie保存到变量
    2）保存Cookie到文件
    3）从文件中获取Cookie并访问
    4）利用cookie模拟网站登录
    以学校的教育系统为例，利用cookie实现模拟登录，并将cookie信息保存到文本文件中
    创建一个带有cookie的opener，在访问登录的URL时，将登录后的cookie保存下来，然后利用这个cookie来访问其他网址。
    1.3设置Headers
    agent就是请求的身份，如果没有写入请求身份，那么服务器不一定会响应，所以可以在headers中设置agent,

    user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'  
values = {'username' : 'cqc',  'password' : 'XXXX' }  
headers = { 'User-Agent' : user_agent }

    这样，我们设置了一个headers，在构建request时传入，在请求时，就加入了headers传送，服务器若识别了是浏览器发来的请求，就会得到响应。另外，我们还有对付”反盗链”的方式，对付防盗链，服务器会识别headers中的referer是不是它自己，如果不是，有的服务器不会响应，所以我们 还可以在headers中加入自己的referer,如下所示：

    headers = { 'User-Agent' : 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'  ,
                    'Referer':'http://www.zhihu.com/articles' }

    同上面的方法，在传送请求时把headers传入Request参数里，这样就能应付防盗链了。
    另外headers的一些属性，下面的需要特别注意一下：

    User-Agent : 有些服务器或 Proxy 会通过该值来判断是否是浏览器发出的请求
Content-Type : 在使用 REST 接口时，服务器会检查该值，用来确定 HTTP Body 中的内容该怎样解析。
application/xml ： 在 XML RPC，如 RESTful/SOAP 调用时使用
application/json ： 在 JSON RPC 调用时使用
application/x-www-form-urlencoded ： 浏览器提交 Web 表单时使用
在使用服务器提供的 RESTful 或 SOAP 服务时， Content-Type 设置错误会导致服务器拒绝服务
  • 2 爬虫正则表达式
    正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。
    正则表达式的大致匹配过程是：
    1.依次拿出表达式和文本中的字符比较，
    2.如果每一个字符都能匹配，则匹配成功；一旦有匹配不成功的字符则匹配失败。
    3.如果表达式中有量词或边界，这个过程会稍微有一些不同。
    下面是Python中正则表达式的一些匹配规则，图片资料来自CSDN
    爬虫基础入门（二）
标签：

相关文章