Redis 中的布隆过滤器的实现

【文件属性】：
文件名称：Redis 中的布隆过滤器的实现
文件大小：101KB
文件格式：PDF
更新时间：2020-12-16 15:04:59
ed edi IS 什么是『布隆过滤器』 布隆过滤器是一个神奇的数据结构，可以用来判断一个元素是否在一个集合中。很常用的一个功能是用来去重。在爬虫中常见的一个需求：目标网站 URL 千千万，怎么判断某个 URL 爬虫是否宠幸过？简单点可以爬虫每采集过一个 URL，就把这个 URL 存入数据库中，每次一个新的 URL 过来就到数据库查询下是否访问过。 select id from table where url = 'https://jaychen.cc' 但是随着爬虫爬过的 URL 越来越多，每次请求前都要访问数据库一次，并且对于这种字符串的 SQL 查询效率并不高。除了数据库之外，使用 Redis 的 set