首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >对大文件字符进行计数

对大文件字符进行计数

作者头像
生信编程日常
发布于 2020-10-10 10:23:28
发布于 2020-10-10 10:23:28
1.2K0
举报

有一列数据的文件,想计算每行数据的重复次数时可以用sort和uniq进行计数:

代码语言:javascript
复制
#cat file
hello
world
friend
hello
world
hello
代码语言:javascript
复制
sort file |uniq -c 

但是当文件过大时,会报错,显示空间不足: sort: write failed: /tmp/sortbDyE0W: No space left on device

这个时候可以通过awk来进行计数:

代码语言:javascript
复制
cat file | awk '{count[$1]++;} END {for(i in count) {print i count[i]}}' 

参考:https://www.cnblogs.com/hider/p/11834706.html

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档