文件名称：基于动态隧道技术的主题爬行策略
文件大小：1.36MB
文件格式：PDF
更新时间：2024-05-26 06:04:24
网络爬虫 主题孤岛 动态隧道 爬行策略
互联网网页所形成的主题孤岛严重影响了搜索引擎系统的主题爬虫性能，通过人工增加大量的初始种子链接来发现新主题的方法无法保证主题网页的全面性.在分析传统基于内容分析、基于链接分析和基于语境图的主题爬行策略的基础上，提出了一种基于动态隧道技术的主题爬虫爬行策略.该策略结合页面主题相关度计算和URL链接相关度预测的方法确定主题孤岛之间的网页页面主题相关性，并构建层次化的主题判断模型来解决主题孤岛之间的弱链接问题.同时，该策略能有效防止主题爬虫因采集过多的主题无关页面而导致的主题漂移现象，从而可以实现在保持主题语义信息的爬行方向上的动态隧道控制.实验过程利用主题网页层次结构检测页面主题相关性并抽取“体育”主题关键词，然后以此对采集的主题网页进行索引查询测试.结果表明，基于动态隧道技术的爬行策略能够较好的解决主题孤岛问题，明显提升了“体育”主题搜索引擎的准确率和召回率.