文件名称：主题网络爬虫
文件大小：35KB
文件格式：ZIP
更新时间：2021-09-06 17:59:11
主题爬虫 毕业设计
网络爬虫是一种能够自动采集互联网信息的程序。网络爬虫不但能够作为搜索引擎的采集器，而且可以用于特定信息的采集，根据某些特定的要求采集网站中的信息，如就业，租房信息等。本文设计并实现了一种基于主题的网络爬虫程序。网络爬虫采用何种搜索策略和如何评价当前页面的主题相关度是基于主题的网络爬虫需要解决的关键问题。本文设计的网络爬虫采用广度优先搜索，对url进行解析、去重等。并应用Java多线程，使爬虫在抓取网页的过程中更有效率。通常评价页面相关度是采用基于内容评价的搜索策略，本文实现了三个常用的相关度评价算法分别是基于网页内容的相关度算法、基于网页内容和标题的相关度算法、基于网页内容和链接结构的相关度算法。
【文件预览】：
theme
----.project(381B)
----src()
--------theme()
----.settings()
--------org.eclipse.jdt.core.prefs(598B)
----.classpath(858B)
----bin()
--------theme()
----result(0B)