首页 > Linux教程 > 正文

uniq命令除去重复行注意点详解

一. uniq干什么用的

文本中的重复行,基本上不是我们所要的,所以就要去除掉。linux下有其他命令可以去除重复行,但是我觉得uniq还是比较方便的一个。使用uniq的时候要注意以下二点

1,对文本操作时,它一般会和sort命令进行组合使用,因为uniq 不会检查重复的行,除非它们是相邻的行。如果您想先对输入排序,使用sort -u。

2,对文本操作时,若域中为先空字符(通常包括空格以及制表符),然后非空字符,域中字符前的空字符将被跳过

二. uniq参数说明

用法:uniq [选项]... [文件]  

从输入文件或者标准输入中筛选相邻的匹配行并写入到输出文件或标准输出。  

  

不附加任何选项时匹配行将在首次出现处被合并。  

  

长选项必须使用的参数对于短选项时也是必需使用的。  

 -c, --count              //在每行前加上表示相应行目出现次数的前缀编号  
 -d, --repeated          //只输出重复的行  
 -D, --all-repeated      //只输出重复的行,不过有几行输出几行  
 -f, --skip-fields=N     //-f 忽略的段数,-f 1 忽略第一段  
 -i, --ignore-case       //不区分大小写  
 -s, --skip-chars=N      //根-f有点像,不过-s是忽略,后面多少个字符 -s 5就忽略后面5个字符  
 -u, --unique            //去除重复的后,全部显示出来,根mysql的distinct功能上有点像  
 -z, --zero-terminated   end lines with 0 byte, not newline  
 -w, --check-chars=N      //对每行第N 个字符以后的内容不作对照  
 --help              //显示此帮助信息并退出  
 --version              //显示版本信息并退出

 

三. 测试文本文件unique.txt

python
python
pythontab
bbs.pythontab.com
python
pythontab.com
pythontab
www.pythontab.com
pythontab
pythontab


四. 实例详解

$ uniq unique.txt
python
pythontab
bbs.pythontab.com
python   //和第一行重复
pythontab.com
pythontab //和第二行重复
www.pythontab.com
pythontab
$ uniq -c unique.txt
2 python
1 pythontab
1 bbs.pythontab.com
1 python
1 pythontab.com
1 pythontab
1 www.pythontab.com
2 pythontab

从上面的结果来看,貌似uniq命令有bug,很多重复的行没有去掉,这是怎么回事呢?其实这个不是它的bug,而是它的一个特性:uniq的一个特性,检查重复行的时候,只会检查相邻的行。

那怎么来解决上面的问题呢?很简单,看下面的实例

$ sort unique.txt | uniq -c
1 bbs.pythontab.com
3 python
4 pythontab
1 pythontab.com
1 www.pythontab.com

这样就可以很好地解决上面的问题啦。


相关词搜索:命令 uniq

上一篇:利用shell脚本统计代码行数
下一篇:如何在Linux上从命令行嗅探HTTP流量

版权声明:本站文章除非注明,均为原创内容,如需转载请务必注明出处,违者本站保留追究其法律责任之权利。