近期在整理相册的时候,发现相册中有许多重复图片,人工一张张筛查删除太枯燥,便写下这个脚本,用于删除文件夹下重复的图片。
第一部分:判断两张图片是否相同
要查找重复的图片,必然绕不开判断两张图片是否相同。判断两张图片简单呀!图片可以看成数组,比较两个数组是否相等不就行了。但是这样做太过简单粗暴,因为两个数组的每个元素都要一一比较,效率很低。为了尽量避免两个庞大的数组比较:
- 先进行两张图片的大小(byte)比较,若大小不相同,则两张图片不相同;
- 在两张图片的大小相同的前提下,进行两张图片的尺寸(长和宽)比较,若尺寸不相同,则两张不相同;
- 在两张图片的尺寸相同的前提下,进行两张图片的内容(即数组元素)比较,若内容不相同,则图片不相同;
这样,当图片大小或图片尺寸不相同的时候,便认为两张图片不同,可以省去比较数组元素的部分,效率up~
1 import shutil
2 import numpy as np
3 from PIL import Image
4 import os
5
6
7 def 比较图片大小(dir_image1, dir_image2):
8 with open(dir_image1, "rb") as f1:
9 size1 = len(f1.read())
10 with open(dir_image2, "rb") as f2:
11 size2 = len(f2.read())
12 if(size1 == size2):
13 result = "大小相同"
14 else:
15 result = "大小不同"
16 return result
17
18
19 def 比较图片尺寸(dir_image1, dir_image2):
20 image1 = Image.open(dir_image1)
21 image2 = Image.open(dir_image2)
22 if(image1.size == image2.size):
23 result = "尺寸相同"
24 else:
25 result = "尺寸不同"
26 return result
27
28
29 def 比较图片内容(dir_image1, dir_image2):
30 image1 = np.array(Image.open(dir_image1))
31 image2 = np.array(Image.open(dir_image2))
32 if(np.array_equal(image1, image2)):
33 result = "内容相同"
34 else:
35 result = "内容不同"
36 return result
37
38
39 def 比较两张图片是否相同(dir_image1, dir_image2):
40 # 比较两张图片是否相同
41 # 第一步:比较大小是否相同
42 # 第二步:比较长和宽是否相同
43 # 第三步:比较每个像素是否相同
44 # 如果前一步不相同,则两张图片必不相同
45 result = "两张图不同"
46 大小 = 比较图片大小(dir_image1, dir_image2)
47 if(大小 == "大小相同"):
48 尺寸 = 比较图片尺寸(dir_image1, dir_image2)
49 if(尺寸 == "尺寸相同"):
50 内容 = 比较图片内容(dir_image1, dir_image2)
51 if(内容 == "内容相同"):
52 result = "两张图相同"
53 return result
第二部分:判断文件夹内是否有重复图片
若要判断文件夹内是否有和图片A相同的图片,则需要遍历文件夹内所有图片,挨个判断两个图片是否相同。若文件夹有1000张图片,那么第1张图片需要与剩下的999张图片作比较,第2张图片需要与剩下的998张图片作比较,第3张需要与剩下的997张图片作比较,以此类推。在此程序中的做法是,先对所有图片按图片大小(byte)排序,然后再执行遍历比较。这样做的结果是:重复图片很大概率会连着出现(因为重复图片大小相同)
if __name__ == '__main__': load_path = 'E:\\测试图片集(未去重)' # 要去重的文件夹
save_path = 'E:\\测试图片集(重复照片)' # 空文件夹,用于存储检测到的重复的照片
os.makedirs(save_path, exist_ok=True) # 获取图片列表 file_map,字典{文件路径filename : 文件大小image_size}
file_map = {}
image_size = 0
# 遍历filePath下的文件、文件夹(包括子目录)
for parent, dirnames, filenames in os.walk(load_path):
# for dirname in dirnames:
# print('parent is %s, dirname is %s' % (parent, dirname))
for filename in filenames:
# print('parent is %s, filename is %s' % (parent, filename))
# print('the full name of the file is %s' % os.path.join(parent, filename))
image_size = os.path.getsize(os.path.join(parent, filename))
file_map.setdefault(os.path.join(parent, filename), image_size) # 获取的图片列表按 文件大小image_size 排序
file_map = sorted(file_map.items(), key=lambda d: d[1], reverse=False)
file_list = []
for filename, image_size in file_map:
file_list.append(filename) # 取出重复的图片
file_repeat = []
for currIndex, filename in enumerate(file_list):
dir_image1 = file_list[currIndex]
dir_image2 = file_list[currIndex + 1]
result = 比较两张图片是否相同(dir_image1, dir_image2)
if(result == "两张图相同"):
file_repeat.append(file_list[currIndex + 1])
print("\n相同的图片:", file_list[currIndex], file_list[currIndex + 1])
else:
print('\n不同的图片:', file_list[currIndex], file_list[currIndex + 1])
currIndex += 1
if currIndex >= len(file_list)-1:
break # 将重复的图片移动到新的文件夹,实现对原文件夹降重
for image in file_repeat:
shutil.move(image, save_path)
print("正在移除重复照片:", image)
第三部分:程序运行结果
若文件夹下有10张图片A、5张图片B、1张图片C,程序运行结束后,该文件夹下剩余1张图片A、1张图片B、1张图片C;其他的图片移动到 save_path 指定的文件夹下。
第四部分:注意
程序代码可以直接复制使用,需要修改 load_path 和 save_path 参数;
保证 load_path 文件夹都为图片格式(.jpg .png .jpeg)的文件类型,不可以有其他格式的文件(例如.mp4);请先用资源管理器处理文件夹,大佬直接修改代码读取文件夹下指定类型的文件;