爬虫小工具合集|不会编程也能爬数据

时间:2021-01-03 05:39:46

爬虫小工具合集|不会编程也能爬数据


当前的主流爬虫手段是用Python编程,Python的强大毋庸置疑,但初学者学习Python还是需要一两个月时间的。有没有一些更简单的爬取数据方法呢?答案是有的,DataCastle为你准备了如下小工具,对于每个小工具你只需要花十几分钟时间,跟着我的步骤走一遍就可以掌握它啦~



一、Microsoft Excel   


首先教大家一个用Excel爬取数据的方法,这里用的Microsoft Excel 2013版本,下面手把手开始教学~


(1)新建Excel,打开它,如下图所示


爬虫小工具合集|不会编程也能爬数据


(2)点击“数据”——“自网站”


爬虫小工具合集|不会编程也能爬数据


(3)在弹出的对话框中输入目标网址,这里以全国实时空气质量网站(http://www.pm25.in/rank)为例,点击转到,再导入


爬虫小工具合集|不会编程也能爬数据


选择导入位置,确定


爬虫小工具合集|不会编程也能爬数据


(4)结果如下图所示,怎么样,是不是很赞?


爬虫小工具合集|不会编程也能爬数据


(5)如果要实时更新数据,可以在“数据”——“全部更新”——“连接属性”中进行设置,输入更新频率即可


爬虫小工具合集|不会编程也能爬数据

爬虫小工具合集|不会编程也能爬数据



二、Google Sheet


使用Google Sheet爬取数据前,要保证三点:使用Chrome浏览器、拥有Google账号、电脑已*。如果这三个条件具备了的话,下面我们就开始吧~


(1)打开Google Sheet网站:http://www.google.cn/sheets/about/


爬虫小工具合集|不会编程也能爬数据


(2)在首页上点击“转到Google表格”,然后登录自己的账号,可以看到如下界面,再点击“+”创建新的表格


爬虫小工具合集|不会编程也能爬数据


新建的表格如下:


爬虫小工具合集|不会编程也能爬数据


(3)打开要爬取的目标网站,一个全国实时空气质量网站http://www.pm25.in/rank,目标网站上的表格结构如下图所示


爬虫小工具合集|不会编程也能爬数据


(4)回到Google sheet页面,使用函数=IMPORTHTML(网址, 查询, 索引),“网址”就是要爬取数据的目标网站,“查询”中输入“list”或“table”,这个取决于数据的具体结构类型,“索引”填阿拉伯数字,从1开始,对应着网站中定义的哪一份表格或列表


对于我们要爬取的网站,我们在Google sheet的A1单元格中输入函数=IMPORTHTML("http://www.pm25.in/rank","table",1),回车后就爬得数据啦


爬虫小工具合集|不会编程也能爬数据


爬虫小工具合集|不会编程也能爬数据


(5)将爬取好的表格存到本地


爬虫小工具合集|不会编程也能爬数据


是不是感觉超级简单?爬虫小工具合集|不会编程也能爬数据



三、you-get


这是一个程序员基于python 3开发的项目,已经在github上面开源,支持64个网站,包括优酷、土豆、爱奇艺、b站、酷狗音乐、虾米……总之你能想到的网站都有! 还有一个黑科技的地方,即使是名单上没有的网站,当你输入链接,程序也会猜测你想要下载什么,然后帮你下载。当然you-get要在python3环境下进行安装,用pip安装好后,在终端输入“youget+你想下载资源的链接”就可以等着收藏资源了。

这里给一个you-get的中文使用说明(http://dwz.cn/4rb53l),按照说明上写的按步骤操作就可以啦。


如果你想学更高端的Python爬虫,DataCastle为你准备了一套高效的学习路径。


爬虫小工具合集|不会编程也能爬数据


如何在短时间内入门爬虫,并获得爬取大量数据的能力?


DataCastle学院课程《Python爬虫(入门+进阶)》从具体的案例着手,通过实际操作,学习具体的知识点。


爬虫小工具合集|不会编程也能爬数据


课程中工程化爬虫及分布式爬虫技术,让你有获取大规模数据的可能。此外,你还将了解数据库(Mongodb)、pandas的基本知识,帮你储存爬取的数据,同时可以对数据进行管理和清洗,便于后续分析处理。


来源:DataCastle数据城堡


近期精彩活动(直接点击查看):

福利 · 阅读 | 免费申请读大数据新书 第21期


END


投稿和反馈请发邮件至hzzy@hzbook.com。转载大数据公众号文章,请向原文作者申请授权,否则产生的任何版权纠纷与大数据无关。

大数据


为大家提供与大数据相关的最新技术和资讯。


爬虫小工具合集|不会编程也能爬数据 爬虫小工具合集|不会编程也能爬数据长按指纹 > 识别图中二维码 > 添加关注


近期精彩文章(直接点击查看):

华为内部狂转好文,大数据,看这一篇就够了!

读完这100篇论文,你也是大数据高手!

如何建立数据分析的思维框架

百度内部培训资料PPT:数据分析的道与术

论大数据的十大局限

打包带走!史上最全的大数据分析和制作工具

数据揭秘:中国姓氏排行榜

程序猿分析了42万字歌词后,终于搞清楚民谣歌手唱什么了

计算机告诉你,唐朝诗人之间的关系到底是什么样的?

数据分析:微信红包金额分配的秘密

2000万人口的大北京,上下班原来是这样的(附超炫蝌蚪图)

大数据等IT职业技能图谱【全套17张,第2版】

不要跟赌场说谎,它真的比你老婆还了解你

如果看了这篇文章你还不懂傅里叶变换,那就过来掐死我吧

不做无效的营销,从不做无效的用户画像开始


更多精彩文章,请在公众号后台点击“历史文章”查看,谢谢。