前面的几篇文章讲解了爬虫的基本原理,并使用了一些代码来做演示。这是爬虫系列的最后一篇,这篇文章会对前面的内容总结一下,没有新的内容。
Python基本环境的搭建,爬虫的基本原理以及爬虫的原型
如何使用BeautifulSoup对网页内容进行提取
爬虫运行时数据的存储数据,以SQLite和MySQL作为示例
使用selenium webdriver对动态网页进行抓取
讨论了如何处理网站的反爬虫策略
对Python的Scrapy爬虫框架做了介绍,并简单的演示了如何在Scrapy下进行开发
限于篇幅的长度和作为爬虫入门文章,前面每一篇文章都只是对相关的内容作了一个简单的介绍。如果深入下去,每一部分都会有很多的内容,后面有机会在单独讨论。当然,如果对爬虫感兴趣和有工作的需要,可以用这些文章作为入门教程。