首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏GitHub专栏

    利用 Linux 查找重复文件

    在find的基础上,我们可与(如xargs命令)等其它基本Linux命令相结合,即能创造出无限的命令行功能,比如:可以快速查找出Linux某个文件夹及其子文件夹中的重复文件列表。 要实现这个功能在流程上是比较简单的,只要查找遍历出所有文件,再通过命令去比较每个文件的MD5就OK啦。 add-apt-repository ppa:hsoft/ppa sudo apt-get update sudo apt-get install dupeguru* 方法三:使用Find命令解析 在工作生活当中,我们很可能会遇到查找重复文件的问题 size {}c -print0 | xargs -0 md5sum | sort | uniq -w32 --all-repeated=separate | cut -b 36- 大家先cd到自己想要查找重复文件文件夹 首先看第一句: find -not -empty -type f -printf "%sn" find是查找命令;-not -empty是要寻找非空文件;-type f是指寻找常规文件;-printf

    6.7K50发布于 2021-09-27
  • 来自专栏IT运维技术圈

    利用 Linux 查找重复文件

    在find的基础上,我们可与(如xargs命令)等其它基本Linux命令相结合,即能创造出无限的命令行功能,比如:可以快速查找出Linux某个文件夹及其子文件夹中的重复文件列表。 要实现这个功能在流程上是比较简单的,只要查找遍历出所有文件,再通过命令去比较每个文件的MD5就OK啦。 add-apt-repository ppa:hsoft/ppa sudo apt-get update sudo apt-get install dupeguru* 方法三:使用Find命令解析 在工作生活当中,我们很可能会遇到查找重复文件的问题 size {}c -print0 | xargs -0 md5sum | sort | uniq -w32 --all-repeated=separate | cut -b 36- 大家先cd到自己想要查找重复文件文件夹 首先看第一句: find -not -empty -type f -printf "%sn" find是查找命令;-not -empty是要寻找非空文件;-type f是指寻找常规文件;-printf

    5K30编辑于 2022-06-27
  • 来自专栏IT运维技术圈

    Linux 查找重复文件方法汇总

    在find的基础上,我们可与(如xargs命令)等其它基本Linux命令相结合,即能创造出无限的命令行功能,比如:可以快速查找出Linux某个文件夹及其子文件夹中的重复文件列表。 要实现这个功能在流程上是比较简单的,只要查找遍历出所有文件,再通过命令去比较每个文件的MD5就OK啦。 add-apt-repository ppa:hsoft/ppa sudo apt-get update sudo apt-get install dupeguru* 方法三:使用Find命令解析 在工作生活当中,我们很可能会遇到查找重复文件的问题 size {}c -print0 | xargs -0 md5sum | sort | uniq -w32 --all-repeated=separate | cut -b 36- 大家先cd到自己想要查找重复文件文件夹 首先看第一句: find -not -empty -type f -printf "%sn" find是查找命令;-not -empty是要寻找非空文件;-type f是指寻找常规文件;-printf

    2.9K30编辑于 2022-06-27
  • 来自专栏入门小站

    inux查找系统中重复文件

    查找和替换重复文件是大多数计算机用户的普遍要求。查找和删除重复文件是一项繁重的工作,需要时间和耐心。 如果您的机器由 GNU/Linux 驱动,那么查找重复文件会非常容易,这要归功于 “fdupes” 实用程序。 Fdupes - 在 Linux 中查找和删除重复文件 Fdupes是由Adrian Lopez用C编程语言编写的 Linux 实用程序,在 MIT 许可下发布。 该应用程序能够在给定的一组目录和子目录中找到重复文件。Fdupes 通过比较文件的 MD5 签名然后进行字节到字节的比较来识别重复项。 它会递归搜索所有文件文件夹,具体取决于文件文件夹的数量,扫描重复项需要一些时间。与此同时,你会看到终端的总进度,就像这样。

    2.4K10编辑于 2022-06-02
  • 来自专栏小轻论坛

    重复文件查找清理 dupeguru 4.3.1

    dupeguru 是一个开源项目,功能很简单,就是查找重复文件。 解压后,双击 dupeguru-win64.exe 即可打开,软件支持中文,在 View-Options-Display中即可设置语言, 点击左下角的加号+添加目录,然后扫描即可,扫描完后,会自动选择重复文件 ,在操作按钮那里可以选择接下来的操作, 如果不喜欢软件自动选择的重复文件,可以点击反选。 软件操作很简单,自行摸索即可,这里就不赘述了。 下载地址:https://lightweb.lanzout.com/iEIHK0z6cdda

    1K10编辑于 2024-09-30
  • 来自专栏数据科学(冷冻工厂)

    Linux|如何查找和删除重复文件

    Rdfind rdfind,即“重复数据查找”,是一个免费的命令行程序,它能够跨目录或在单一目录内搜索重复文件。 该文件包含 rdfind 找到的所有重复文件。如果需要,您可以查看该文件并手动删除重复文件。 Rmlint Rmlint 是一个命令行工具,用于在 Linux 系统中查找和删除重复的和类似 lint 的文件。 FSlint FSlint 是一个免费实用程序,用于查找和清理文件系统上各种形式的 lint。它还报告重复文件、空目录、临时文件重复/冲突(二进制)名称、错误的符号链接等等。 fslint [On Arch Linux] $ sudo zypper install fslint [On OpenSUSE] 总结 这些是在 Linux 系统上查找重复文件的非常有用的工具

    1.8K10编辑于 2024-07-05
  • 来自专栏kubernetes中文社区

    Rdfind - 在Linux中查找重复文件

    在本文中将介绍rdfind命令工具在linux中查找和删除重复文件,使用之前请先在测试环境跑通并对测试环境进行严格的测试,测试通过之后再在生产环境进行操作,以免造成重要文件的丢失,数据是无价的。 Rdfind来自冗余数据查找,用于在多个目录或者多个文件查找重复文件,它使用校对和并根据文件查找重复项不仅包含名称。 Rdfind使用算法对文件进行分类,并检测那些是重复文件,那些是文件副本。 你可以在 results.txt 文件中看到可能是重复文件的名字。 通过检查 results.txt 文件,你可以很容易的找到那些重复文件。如果愿意你可以手动的删除它们。 使用硬链接代替所有重复文件,运行: [root@ds Image]# rdfind -makehardlinks true /Image [root@ds Image]# 使用符号链接/软链接代替所有重复文件 删除重复文件,就运行: [root@ds Image]# rdfind -deleteduplicates true /Image [root@ds Image]# 如果你不想忽略空文件,并且和所哟重复文件一起删除

    7.3K60发布于 2019-06-24
  • 来自专栏数据科学(冷冻工厂)

    实践|Linux 中查找和删除重复文件

    在本教程中,您将学习如何使用 rdfind、fdupes 和 rmlint 命令行工具以及使用名为 DupeGuru 和 FSlint 的 GUI 工具在 Linux 中查找和删除重复文件。 Rdfind – 在 Linux 中查找重复文件 Rdfind 来自冗余数据查找,它是一个免费的命令行工具,用于跨多个目录或多个目录内查找重复文件。 $ fdupes -help Rmlint – 删除重复文件 Rmlint 是一个命令行工具,用于在 Linux 系统中查找和删除重复的和类似 lint 的文件。 [On Arch Linux] $ sudo zypper install rmlint [On OpenSUSE] dupeGuru – 在 Linux 中查找重复文件 dupeGuru 是一个开源、跨平台的工具,可用于查找 Linux 系统中的重复文件

    2K20编辑于 2023-09-06
  • 来自专栏mac软件推荐

    Duplicate File Finder pro for mac(重复文件查找)

    使用Duplicate File Finder Mac,一分钟内,该应用程序会给你所有的重复文件按类别报告:图像,视频,音乐,文件,文档和所有其他特定扩展。这是很容易地看到每个文件占用多少空间。 Duplicate File Finder pro for mac(重复文件查找)

    66640编辑于 2022-12-25
  • 来自专栏Mac资源随时更新

    Cisdem Duplicate Finder重复文件查找删除工具

    Cisdem Duplicate Finder是一款强大好用的重复文件查找删除工具,有了这个工具,你可以同时扫描计算机驱动器和位于外部设备的文件夹,以及像的iPhoto,iTunes和邮件Apple应用程序 Cisdem Duplicate Finder重复文件查找删除工具图片功能删除应用中的重复文件Duplicate Finder 4附带增强的扫描算法,可以快速查找照片,iPhoto,Aperture,iTunes 巧妙地搜索精确和类似的图像就像重复一样,类似的也占用了Mac的很多空间。重复查找器也可以找到图像,这些图像不是精确的副本,但是通过许多参数几乎相同。 轻松找到大型和旧的重复文件轻松查找并将重复文件分组到类别中,显示重复项占用的空间最多,并自动标记最旧的文件重复文件分组为类别,如图片,视频,音乐,存档,文档和所有其他特定扩展。 重复文件可以移动到回收站,自定义文件夹或永久删除。

    1.8K30编辑于 2022-09-01
  • 来自专栏Mac软件的分享

    Mac电脑重复文件查找识别Advanced Duplicate Cleaner

    一款适合Mac的重复文件查找软件推荐给大家,使用Advanced Duplicate Cleaner可以检测这些外观相似的文件并删除不需要的文件。 它知道哪些文件重复且相似。但是最好的是,当您使用自动标记功能时,它会选择旧文件并保持新文件不变。无论您需要执行什么操作-查找重复项,相似项或将其删除-只需点击几下即可。 不同于其他重复文件查找和删除工具,顾名思义,Advanced Duplicate Cleaner是一种先进的工具,可扫描您的Mac以查找和删除所有类型的重复文件,无论是文档,图像,视频,档案,类似应用程序还是其他任何东西 保留Mac上的存档文件重复副本免费Advanced Duplicate Cleaner会查看存档文件内部以检测重复项。不仅如此,它还会查找保存在提取的文件夹中的重复项。 该工具使用高级算法来识别存储在存档文件夹中的重复项。这意味着它非常适合您的所有个人需求。您可以选择要保留和删除的内容。高效查找和删除浪费空间的相似和重复文件不用担心无用的文件占用了不必要的存储空间。

    1.4K20编辑于 2022-09-23
  • 来自专栏网站源码分享

    AllDup_v4.5.31便携版 重复文件查找

    AllDup 是一款免费软件,它可以检测和移除你计算机上重复了的文件; 快速查询算法让它能够快速搜索出重复了的所有文件,包括文字、图片、音乐或者是视频。 搜索并删除计算机上重复文件的免费工具;通过快速搜索算法找到任何文件类型的副本, 例如文本,图片,音乐或电影;功能强大的搜索引擎使您能够通过以下标准的组合来查找重复项: 文件名,文件扩展名,文件大小, 文件内容,文件日期,文件属性,硬链接和类似图片等。

    40410编辑于 2023-05-11
  • 来自专栏Michael阿明学习之路

    在系统中查找重复文件(哈希)

    题目 给定一个目录信息列表,包括目录路径,以及该目录中的所有包含内容的文件,您需要找到文件系统中的所有重复文件组的路径。 一组重复文件至少包括二个具有完全相同内容的文件。 该输出是重复文件路径组的列表。 对于每个组,它包含具有相同内容的文件的所有文件路径。 您可以假设目录名、文件名和文件内容只有字母和数字,并且文件内容的长度在 [1,50] 的范围内。 给定的文件数量在 [1,20000] 个范围内。 超越竞赛的后续行动: 假设您有一个真正的文件系统,您将如何搜索文件?广度搜索还是宽度搜索? 如果文件内容非常大(GB级别),您将如何修改您的解决方案? 如果每次只能读取 1 kb 的文件,您将如何修改解决方案? 修改后的解决方案的时间复杂度是多少? 其中最耗时的部分和消耗内存的部分是什么?如何优化? 如何确保您发现的重复文件不是误报?

    2.1K10发布于 2020-07-13
  • 来自专栏kali blog

    MySQL | 查找删除重复

    image.png 本文讲述如何查找数据库里重复的行。这是初学者十分普遍遇到的问题。方法也很简单。 这个问题还可以有其他演变,例如,如何查找“两字段重复的行”(#mysql IRC 频道问到的问题) 如何查找重复行 第一步是定义什么样的行才是重复行。多数情况下很简单:它们某一列具有相同的值。 ,这里有一查询语句可以查找。 如上所述,查找在某一字段上具有重复值的行很简单,只要用group分组,然后计算组的大小。并且查找全部字段重复的行也很简单,只要把所有字段放到group子句。 几种正确的方法 也许最简单的方法是分别对某个字段查找重复行,然后用UNION拼在一起,像这样: select b as value, count(*) as cnt, 'b' as what_col

    7.7K30编辑于 2021-12-17
  • 来自专栏码农沉思录

    MySQL 如何查找删除重复行?

    如何查找重复行 第一步是定义什么样的行才是重复行。多数情况下很简单:它们某一列具有相同的值。本文采用这一定义,或许你对“重复”的定义比这复杂,你需要对sql做些修改。 ,这里有一查询语句可以查找。 select * from to_delete where to_delete.day = test.day and to_delete.min_id <> test.id ) 如何查找多列上的重复行 如上所述,查找在某一字段上具有重复值的行很简单,只要用group分组,然后计算组的大小。并且查找全部字段重复的行也很简单,只要把所有字段放到group子句。 几种正确的方法 也许最简单的方法是分别对某个字段查找重复行,然后用UNION拼在一起,像这样: select b as value, count(*) as cnt, 'b' as what_col

    8.7K10发布于 2020-03-12
  • 来自专栏从零开始的linux

    文件查找

    文件查找:locate, find 实时查找:遍历所有文件进行条件匹配 非实时查找:根据索引查找 locate: 非实时查找 依赖于索引 [查找路径] [查找条件] [处理动作] 查找路径:默认为当前目录 查找条件:默认为指定路径下的所有文件 处理动作:默认为显示至屏幕 查找条件 : -name "文件名称":支持使用globbing字符 -iname "文件名称":查找时忽略字符大小写 -user USERNAME: 根据文件的属主查找 -group GRPNAME: 根据文件的属组查找 -uid UID -gid GID -nouser: 查找没有属主的文件 ,条件取反 -type TYPE: 根据文件类型查找 f: 普通文件 d: 目录文件 l: 符号链接

    1K80发布于 2018-04-25
  • 来自专栏芋道源码1024

    MySQL 如何查找删除重复行?

    如何查找重复行 第一步是定义什么样的行才是重复行。多数情况下很简单:它们某一列具有相同的值。本文采用这一定义,或许你对“重复”的定义比这复杂,你需要对sql做些修改。 ,这里有一查询语句可以查找。 select * from to_delete where to_delete.day = test.day and to_delete.min_id <> test.id ) 如何查找多列上的重复行 如上所述,查找在某一字段上具有重复值的行很简单,只要用group分组,然后计算组的大小。并且查找全部字段重复的行也很简单,只要把所有字段放到group子句。 几种正确的方法 也许最简单的方法是分别对某个字段查找重复行,然后用UNION拼在一起,像这样: select b as value, count(*) as cnt, 'b' as what_col from

    7.7K10发布于 2019-10-22
  • 来自专栏陶士涵的菜地

    Go语言圣经-查找重复

    第一个值是被打开的文件(*os.File) 2.os.Open返回的第二个值是内置error类型的值,如果不等于内置值nil(NULL)说明出错了 3.使用fmt.Fprintf表示打印任意类型默认格式值的动词 //如果有多个文件 for _, path := range files { f, err := os.Open(path) //读取文件 //读取出错 if err ! //从文件中读取数据 //如果有多个文件 for _, path := range files { data, err := ioutil.ReadFile(path) //读取文件 //读取出错 if err !

    1.5K20发布于 2019-09-10
  • 来自专栏站长的编程笔记

    MySQL 中查找重复数据,删除重复数据

    MySQL查找重复数据,删除重复数据 数据库版本 Server version: 5.1.41-community-log MySQL Community Server (GPL) 例1,表中有主键( id最小的重复数据(只查找id字段) /* 查找id最小的重复数据(只查找id字段) */SELECT DISTINCT MIN(`id`) AS `id`FROM `t1`GROUP BY `name --+| id   |+------+|    1 ||   12 ||   19 ||   21 ||    6 ||    9 |+------+6 rows in set (0.00 sec) 查找所有重复数据源码 /* 查找所有重复数据 */SELECT `t1`. id最小的数据外的重复数据 /* 查找除id最小的数据外的重复数据 */SELECT `t1`.

    9.3K30编辑于 2022-11-27
  • 来自专栏DHUtoBUAA

    查找数组中重复的数字

    数组中某些数字是重复的,但不知道有几个数字重复了,   // 也不知道每个数字重复了几次。请找出数组中任意一个重复的数字。 例如,如果输入长度为7的数组{2, 3, 1, 0, 2, 5, 3},   // 那么对应的输出是重复的数字2或者3。         此处介绍自己的一个做法,以空间换时间,通过新建数组来实现快速查找,具体做法是新建长度为length的数组newArray,初始化值为-1;将numbers数组的值依次作为newArray的下标和对应的值为 // 返回值: // true - 输入有效,并且数组中存在重复的数字 // false - 输入无效,或者数组中没有重复的数字 //bool // expectedExpected; 重复数量 int duplication; //自定义函数重复数 bool validInput = duplicate(numbers

    6.5K60发布于 2018-03-08
领券