Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

时间：2022-09-07 13:56:05

我们在编写Python爬虫时，有时会遇到网站拒绝访问等反爬手段，比如这么我们想爬取蚂蚁短租数据，它则会提示“当前访问疑似黑客攻击，已被网站管理员设置为拦截”提示，如下图所示。此时我们需要采用设置Cookie来进行爬取，下面我们进行详细介绍。非常感谢我的学生承峰提供的思想，后浪推前浪啊！

一. 网站分析与爬虫拦截

当我们打开蚂蚁短租搜索贵阳市，反馈如下图所示结果。

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

我们可以看到短租房信息呈现一定规律分布，如下图所示，这也是我们要爬取的信息。

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

通过浏览器审查元素，我们可以看到需要爬取每条租房信息都位于<dd></dd>节点下。

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

很多人学习python，不知道从何学起。
很多人学习python，掌握了基本语法过后，不知道在哪里寻找案例上手。
很多已经做案例的人，却不知道如何去学习更加高深的知识。
那么针对这三类人，我给大家提供一个好的学习平台，免费领取视频教程，电子书籍，以及课程的源代码！
QQ群：810735403

在定位房屋名称，如下图所示，位于<div class="room-detail clearfloat"></div>节点下。

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

接下来我们写个简单的BeautifulSoup进行爬取。

  1. # -*- coding: utf-8 -*-
  2. import urllib
  3. import re
  4. from bs4 import BeautifulSoup
  5. import codecs
  6.  
  7. url = 'http://www.mayi.com/guiyang/?map=no'
  8. response=urllib.urlopen(url)
  9. contents = response.read()
  10. soup = BeautifulSoup(contents, "html.parser")
  11. print soup.title
  12. print soup
  13. #短租房名称
  14. for tag in soup.find_all('dd'):
  15. for name in tag.find_all(attrs={"class":"room-detail clearfloat"}):
  16. fname = name.find('p').get_text()
  17. print u'[短租房名称]', fname.replace('\n','').strip()

但很遗憾，报错了，说明蚂蚁金服防范措施还是挺到位的。

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

二. 设置Cookie的BeautifulSoup爬虫

添加消息头的代码如下所示，这里先给出代码和结果，再教大家如何获取Cookie。

  1. # -*- coding: utf-8 -*-
  2. import urllib2
  3. import re
  4. from bs4 import BeautifulSoup
  5.  
  6. #爬虫函数
  7. def gydzf(url):
  8. user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"
  9. headers={"User-Agent":user_agent}
  10. request=urllib2.Request(url,headers=headers)
  11. response=urllib2.urlopen(request)
  12. contents = response.read()
  13. soup = BeautifulSoup(contents, "html.parser")
  14. for tag in soup.find_all('dd'):
  15. #短租房名称
  16. for name in tag.find_all(attrs={"class":"room-detail clearfloat"}):
  17. fname = name.find('p').get_text()
  18. print u'[短租房名称]', fname.replace('\n','').strip()
  19. #短租房价格
  20. for price in tag.find_all(attrs={"class":"moy-b"}):
  21. string = price.find('p').get_text()
  22. fprice = re.sub("[￥]+".decode("utf8"), "".decode("utf8"),string)
  23. fprice = fprice[0:5]
  24. print u'[短租房价格]', fprice.replace('\n','').strip()
  25. #评分及评论人数
  26. for score in name.find('ul'):
  27. fscore = name.find('ul').get_text()
  28. print u'[短租房评分/评论/居住人数]', fscore.replace('\n','').strip()
  29. #网页链接url
  30. url_dzf = tag.find(attrs={"target":"_blank"})
  31. urls = url_dzf.attrs['href']
  32. print u'[网页链接]', urls.replace('\n','').strip()
  33. urlss = 'http://www.mayi.com' + urls + ''
  34. print urlss
  35.  
  36. #主函数
  37. if __name__ == '__main__':
  38. i = 1
  39. while i<10:
  40. print u'页码', i
  41. url = 'http://www.mayi.com/guiyang/' + str(i) + '/?map=no'
  42. gydzf(url)
  43. i = i+1
  44. else:
  45. print u"结束"

输出结果如下图所示：

页码 1
[短租房名称] 大唐东原财富广场--城市简约复式民宿
[短租房价格] 298
[短租房评分/评论/居住人数] 5.0分·5条评论·二居·可住3人
[网页链接] /room/851634765
http://www.mayi.com/room/851634765
[短租房名称] 大唐东原财富广场--清新柠檬复式民宿
[短租房价格] 568
[短租房评分/评论/居住人数] 2条评论·三居·可住6人
[网页链接] /room/851634467
http://www.mayi.com/room/851634467
 
...
 
页码 9
[短租房名称] 【高铁北站公园旁】美式风情+超大舒适安逸
[短租房价格] 366
[短租房评分/评论/居住人数] 3条评论·二居·可住5人
[网页链接] /room/851018852
http://www.mayi.com/room/851018852
[短租房名称] 大营坡（中大国际购物中心附近）北欧小清新三室
[短租房价格] 298
[短租房评分/评论/居住人数] 三居·可住6人
[网页链接] /room/851647045
http://www.mayi.com/room/851647045

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

接下来我们想获取详细信息

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

这里作者主要是提供分析Cookie的方法，使用浏览器打开网页，右键“检查”，然后再刷新网页。在“NetWork”中找到网页并点击，在弹出来的Headers中就隐藏这这些信息。

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

最常见的两个参数是Cookie和User-Agent，如下图所示：

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

然后在Python代码中设置这些参数，再调用Urllib2.Request()提交请求即可，核心代码如下：

  1. user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) ... Chrome/61.0.3163.100 Safari/537.36"
  2. cookie="mediav=%7B%22eid%22%3A%22387123...b3574ef2-21b9-11e8-b39c-1bc4029c43b8"
  3. headers={"User-Agent":user_agent,"Cookie":cookie}
  4. request=urllib2.Request(url,headers=headers)
  5. response=urllib2.urlopen(request)
  6. contents = response.read()
  7. soup = BeautifulSoup(contents, "html.parser")
  8. for tag1 in soup.find_all(attrs={"class":"main"}):

注意，每小时Cookie会更新一次，我们需要手动修改Cookie值即可，就是上面代码的cookie变量和user_agent变量。完整代码如下所示：

  1. import urllib2
  2. import re
  3. from bs4 import BeautifulSoup
  4. import codecs
  5. import csv
  6.  
  7. c = open("ycf.csv","wb") #write 写
  8. c.write(codecs.BOM_UTF8)
  9. writer = csv.writer(c)
  10. writer.writerow(["短租房名称","地址","价格","评分","可住人数","人均价格"])
  11.  
  12. #爬取详细信息
  13. def getInfo(url,fname,fprice,fscore,users):
  14. #通过浏览器开发者模式查看访问使用的user_agent及cookie设置访问头（headers）避免反爬虫,且每隔一段时间运行要根据开发者中的cookie更改代码中的cookie
  15. user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36"
  16. cookie="mediav=%7B%22eid%22%3A%22387123%22eb7; mayi_uuid=1582009990674274976491; sid=42200298656434922.85.130.130"
  17. headers={"User-Agent":user_agent,"Cookie":cookie}
  18. request=urllib2.Request(url,headers=headers)
  19. response=urllib2.urlopen(request)
  20. contents = response.read()
  21. soup = BeautifulSoup(contents, "html.parser")
  22. #短租房地址
  23. for tag1 in soup.find_all(attrs={"class":"main"}):
  24. print u'短租房地址:'
  25. for tag2 in tag1.find_all(attrs={"class":"desWord"}):
  26. address = tag2.find('p').get_text()
  27. print address
  28. #可住人数
  29. print u'可住人数:'
  30. for tag4 in tag1.find_all(attrs={"class":"w258"}):
  31. yy = tag4.find('span').get_text()
  32. print yy
  33. fname = fname.encode("utf-8")
  34. address = address.encode("utf-8")
  35. fprice = fprice.encode("utf-8")
  36. fscore = fscore.encode("utf-8")
  37. fpeople = yy[2:3].encode("utf-8")
  38. ones = int(float(fprice))/int(float(fpeople))
  39. #存储至本地
  40. writer.writerow([fname,address,fprice,fscore,fpeople,ones])
  41.  
  42. #爬虫函数
  43. def gydzf(url):
  44. user_agent="Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"
  45. headers={"User-Agent":user_agent}
  46. request=urllib2.Request(url,headers=headers)
  47. response=urllib2.urlopen(request)
  48. contents = response.read()
  49. soup = BeautifulSoup(contents, "html.parser")
  50. for tag in soup.find_all('dd'):
  51. #短租房名称
  52. for name in tag.find_all(attrs={"class":"room-detail clearfloat"}):
  53. fname = name.find('p').get_text()
  54. print u'[短租房名称]', fname.replace('\n','').strip()
  55. #短租房价格
  56. for price in tag.find_all(attrs={"class":"moy-b"}):
  57. string = price.find('p').get_text()
  58. fprice = re.sub("[￥]+".decode("utf8"), "".decode("utf8"),string)
  59. fprice = fprice[0:5]
  60. print u'[短租房价格]', fprice.replace('\n','').strip()
  61. #评分及评论人数
  62. for score in name.find('ul'):
  63. fscore = name.find('ul').get_text()
  64. print u'[短租房评分/评论/居住人数]', fscore.replace('\n','').strip()
  65. #网页链接url
  66. url_dzf = tag.find(attrs={"target":"_blank"})
  67. urls = url_dzf.attrs['href']
  68. print u'[网页链接]', urls.replace('\n','').strip()
  69. urlss = 'http://www.mayi.com' + urls + ''
  70. print urlss
  71. getInfo(urlss,fname,fprice,fscore,user_agent)
  72.  
  73. #主函数
  74. if __name__ == '__main__':
  75. i = 0
  76. while i<33:
  77. print u'页码', (i+1)
  78. if(i==0):
  79. url = 'http://www.mayi.com/guiyang/?map=no'
  80. if(i>0):
  81. num = i+2 #除了第一页是空的，第二页开始按2顺序递增
  82. url = 'http://www.mayi.com/guiyang/' + str(num) + '/?map=no'
  83. gydzf(url)
  84. i=i+1
  85.  
  86. c.close()

输出结果如下，存储本地CSV文件：

Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的问题

同时，大家可以尝试Selenium爬取蚂蚁短租，应该也是可行的方法。

到此这篇关于Python爬虫设置Cookie解决网站拦截并爬取蚂蚁短租的文章就介绍到这了,更多相关Python爬虫爬取蚂蚁短租内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家！

原文链接：https://blog.csdn.net/weixin_46737755/article/details/113859080

标签：

相关文章