python实现文本去重的方法(不打乱原本顺序)

这篇文章主要介绍了python实现文本去重且不打乱原本顺序方法,需要的朋友可以参考下

代码也是在网上找的,效率挺不错的,特别适合字典文件的去重

#coding=utf-8
import sys
def open_txt(): #打开txt文本写入数组
try:
xxx = file(sys.argv[1], ‘r’)
for xxx_line in xxx.readlines():
passlist.append(xxx_line)
xxx.close()
except:
return 0
def write_txt(): #打开txt文本写入数组
try:
yyy = file(sys.argv[2], ‘w’)
for i in list_passwed:
yyy.write(i)
yyy.close()
except:
return 0
global passlist #声明全局变量
passlist = [] #用户名:anonymous 密码为空
open_txt() #txt导入数组
#passlist = list(set(passlist)) #python 列表去重
global list_passwed #列表去重,不打乱原来的顺序
list_passwed=[]
for i in passlist:
if i not in list_passwed:
list_passwed.append(i)
write_txt()

python 读取txt到数组 列表去重,不打乱原来的顺序

####################################################################
#qq:316118740
#blog:#
# python 读取txt到数组 列表去重,不打乱原来的顺序
# 刚学写的不好请大家见谅
####################################################################
def open_txt(): #打开txt文本写入数组
try:
infile = file(‘admin.txt’, ‘r’)
xxx = file(‘admin.txt’, ‘r’)
for xxx_line in xxx.readlines():
passlist.append(xxx_line)
xxx.close()
except:
return 0
def list_del(): #清空list列表
try:
i = 0 #得到list的第一个元素
while i < len(passlist): del passlist[i] del list_passwed[i] except: return 0 ###################################### global passlist #声明全局变量 passlist = [] #用户名:anonymous 密码为空 www_cj(www) #域名拆解 open_txt() #txt导入数组 #passlist = list(set(passlist)) #python 列表去重 global list_passwed #列表去重,不打乱原来的顺序 list_passwed=[] for i in passlist: if i not in list_passwed: list_passwed.append(i) ###################################### 遍历数组组合出 密码 i1 = 0 #得到list的第一个元素 while i1 < len(list_passwed): print "wwwwwwwwwww",i1 if i1==len(list_passwed): break #退出循环 i2 = 0 #得到list的第一个元素 while i2 < len(list_passwed): print "1111:",list_passwed[i1],"2222:",list_passwed[i2] i2 = i2 + 1 #二层 i1 = i1 + 1 #一层 ######################################

本文实例讲述了python读取txt到数组及列表去重后按原来顺序排序的方法。分享给大家供大家参考。

以上就是python实现文本去重的方法(不打乱原本顺序)的详细内容,更多请关注 第一php社区 其它相关文章!

Posted in 未分类

发表评论