在处理数据的时候,因为没有及时的去重,所以需要重新对生成txt进行去重。
可是一个文件夹下有很多txt,总不可能一个一个去操作,这样效率太低了。这里我们需要用到 os 这个包
关键的代码
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
|
<span style = "font-size:14px;" > # coding=utf-8
#出现了中文乱码的问题,于是我无脑utf-8 。希望后期的学习可以能理解
import os
import os.path
import re
import sys
import codecs
reload (sys)
sys.setdefaultencoding( 'utf-8' )
#这里放着你要操作的文件夹名称
path = 'E:\\get_key\\'
#把e:\get_key\目录下的文件名全部获取保存在files中
files = os.listdir(path.decode( 'utf-8' ))
#用set可以很好的去重,在数据处理的时候经常会被使用到。这里做初始化
datas = set ()
for file in files :
#准确获取一个txt的位置,利用字符串的拼接
txt_path = 'E:\\get_key\\'+file.decode(' utf - 8 ')
#把结果保存了在contents中
contents = codecs. open (txt_path.decode( 'utf-8' ), 'r' ,encoding = 'utf-8' )
#datas的数据清空
datas.clear()
#把数据add到datas中,可以去重
for content in contents:
print (content.decode( 'utf-8' ))
datas.add(content.decode( 'utf-8' ))
#去重后新的文件保存的路径
new_txt_path = 'E:\\get_key3\\' + file.decode(' utf - 8 ')
unique_keywords = codecs. open (new_txt_path.decode( 'utf-8' ), 'w' , encoding = 'utf-8' )
#把datas里的数据输出到新生成的txt中
for data in datas:
unique_keywords.write(data + "\n" )
#释放资源
unique_keywords.close()< / span>
|
以上这篇Python 读取某个目录下所有的文件实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持服务器之家。
原文链接:https://blog.csdn.net/MakeContral/article/details/71544107