Python爬虫爬取微博热搜保存为 Markdown 文件的源码

时间：2022-10-09 19:27:04

什么是爬虫？

网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

其实通俗的讲就是通过程序去获取web页面上自己想要的数据，也就是自动抓取数据

爬虫可以做什么？

你可以爬取小姐姐的图片，爬取自己有兴趣的岛国视频，或者其他任何你想要的东西，前提是，你想要的资源必须可以通过浏览器访问的到。

爬虫的本质是什么？

上面关于爬虫可以做什么，定义了一个前提，是浏览器可以访问到的任何资源，特别是对于知晓web请求生命周期的学者来说，爬虫的本质就更简单了。爬虫的本质就是模拟浏览器打开网页，获取网页中我们想要的那部分数据。

微博热搜榜python爬虫，仅供学习交流


Python爬虫爬取微博热搜保存为 Markdown 文件的源码

 

源码及注释：

  1. # -*- coding=UTF-8 -*-
  2. #!usr/bin/env python
  3.  
  4. import os
  5. import time
  6. import requests
  7. from lxml import etree
  8.  
  9. url = "https://s.weibo.com/top/summary?cate=realtimehot"
  10. headers={
  11. 'Host': 's.weibo.com',
  12. 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3',
  13. 'Accept-Encoding': 'gzip, deflate, br',
  14. 'Accept-Language': 'zh-CN,zh;q=0.9',
  15. 'Connection': 'keep-alive',
  16. 'Referer': 'https://weibo.com/',
  17. 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.97 Safari/537.36'
  18. }
  19. r = requests.get(url,headers=headers)
  20. print(r.status_code)
  21.  
  22. html_xpath = etree.HTML(r.text)
  23. data = html_xpath.xpath('//*[@id="pl_top_realtimehot"]/table/tbody/tr/td[2]')
  24. num = -1
  25.  
  26. # # 解决存储路径
  27. # time_path = time.strftime('%Y{y}%m{m}%d{d}',time.localtime()).format(y='年', m='月', d='日')
  28. # time_name = time.strftime('%Y{y}%m{m}%d{d}%H{h}',time.localtime()).format(y='年', m='月', d='日',h='点')
  29. # root = "./" + time_path + "/"
  30. # path = root + time_name + '.md'
  31. # if not os.path.exists(root):
  32. # os.mkdir(root)
  33.  
  34. # 解决存储路径
  35. time_path = time.strftime('%Y{y}%m{m}%d{d}',time.localtime()).format(y='年', m='月', d='日')
  36. time_name = time.strftime('%Y{y}%m{m}%d{d}%H{h}',time.localtime()).format(y='年', m='月', d='日',h='点')
  37. year_path = time.strftime('%Y{y}',time.localtime()).format(y='年')
  38. month_path = time.strftime('%m{m}',time.localtime()).format(m='月')
  39. day_month = time.strftime('%d{d}',time.localtime()).format(d='日')
  40. all_path = "./" + year_path + '/'+ month_path + '/' + day_month
  41. if not os.path.exists(all_path):
  42. # 创建多层路径
  43. os.makedirs(all_path)
  44.  
  45. # 最终文件存储位置
  46. root = all_path + "/"
  47. path = root + time_name + '.md'
  48. print(path)
  49. # 文件头部信息
  50. with open(path,'a') as f:
  51. f.write('{} {}\n\n'.format('# ',time_name+'数据'))
  52. f.close()
  53.  
  54. for tr in (data):
  55. title = tr.xpath('./a/text()')
  56. hot_score = tr.xpath('./span/text()')
  57.  
  58. num += 1
  59.  
  60. # 过滤第 0 条
  61. if num == 0:
  62. pass
  63. else:
  64. with open(path,'a') as f:
  65.  
  66. f.write('{} {}、{}\n\n'.format('###',num,title[0]))
  67. f.write('{} {}\n\n'.format('微博当时热度为：',hot_score[0]))
  68.  
  69. f.close()
  70.  
  71. print(num,title[0],'微博此时的热度为：',hot_score[0])

运行：

运行结束后会在当前文件夹下生成以时间命名的文件夹，并且会生成以具体小时为单位的具体时间命名的 Markdown 文件，如下：

Python爬虫爬取微博热搜保存为 Markdown 文件的源码

查看：

Python爬虫爬取微博热搜保存为 Markdown 文件的源码

到此这篇关于Python爬虫爬取微博热搜保存为 Markdown 文件的文章就介绍到这了,更多相关Python爬虫爬取微博热搜保存内容请搜索服务器之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持服务器之家！

原文链接：https://blog.csdn.net/m0_46278037/article/details/113921769

标签：

相关文章