如何利用python实现词频统计功能如何利用python实现词频统计功

功能要求
方法如下
运行结果
总结

功能要求这是我们老师的作业代码中都有注释要求词频统计软件：
1）从文本中读入数据：（文件的输入输出）
2）不区分大小写,去除特殊字符。
3）统计单词例如：about ：10 并统计总共多少单词
4）对单词排序。出现次数
5）输出词频最高的10个单词和次数
6）把统计结果存入文本

方法如下 1.文件的读取，区分大小写，去除特殊字符

import re def getword():# 读取文件f=open('read.txt','r',encoding='utf-8')# 将大写转化成小写word=f.read().lower()# 关闭文件f.close()#利用正则除去特殊字符|\符+list=re.split('\s+|\,+|\.+|\!+|\:+|\?+|\; +|\(+|\)+|\-+|\_+|\=+|\++|\“+|\、+|\/+|\{+|\}+|\”+|\：+|\。+|\“+|\[+|\]+|\【+|\】+|\—+|\%+|\"+',word)# 遍历列表去除列表中的空格i = 0while i < len(list):if list[i] == '':list.remove(list[i])i -= 1i += 1 # for a in list:#if a == "":#list.remove(a)#用for循环的话如果存在多个空字符串其列表会随时发生变化，导致无法正常删除空字符串所以在使用for…in循环遍历列表时，最好不要对元素进行增删操作 #对于others'优化如果最后一个字符是‘就将'其去掉for i in range(len(list)):l=list[i]if list[i][-1] == "'":list[i] = list[i][:-1]return list

2. 统计，排序

from getfilewords import getword def statistics():dict={}#定义一个空的字典，在后面的运算中逐步添加数据words=getword()for word in words: #遍历整个列表if word in dict.keys():#判断当前单词是否已经存在 dict.keys()是已存进字典中的单词# 补充：keys() 方法用于返回字典中的所有键；# values() 方法用于返回字典中所有键对应的值；#详情见Test1dict[word]=dict[word]+1#在当前单词的个数上加 1else:dict[word]=1#当前单词第一次出现时会把单词写入dict字典里格式为 ‘单词'=1#排序w_order=sorted(dict.items(),key=lambda x:x[1],reverse=True)# print(dict.items())# dict.items()返回的是列表# 按字典集合中，每一个元组的第二个元素排列。# sorted会对dict.items()这个list进行遍历，把list中的每一个元素，也就是每一个tuple()当做x传入匿名函数lambda x：x[1],函数返回值为x[1]# reverse属性True为降序 False为升序return w_order #返回排序后的列表

3.结果写入文本

from WordStatistics import statisticsdef writefile():w_order=statistics()f = open('result.txt', 'w',encoding='utf-8')print("文章单词总个数:",+len(getword()),file=f)print("文章单词总个数:", +len(getword())) # 写入文件print("词频最高的10个单词和次数",file=f)print("词频最高的10个单词和次数") w_order10=w_order[:10]#将列表的前十位提取并且遍历输出key(单词)和values(次数)for key,values in w_order10:print(key,':',values,file=f)print(key, ':', values) #遍历列表中的所有数据print("统计结果",file=f)for key,values in w_order:print(key,':',values,file=f)f.close()#关闭文件

4.程序入口