• 돌아가기
  • 아래로
  • 위로
  • 목록
  • 댓글
정보

중복파일 삭제하는 정보에 대한 상호공유

robot.re.kr 564

1

8

일단 저부터 올릴게요

다른분들도 중복파일 관리 노하우좀 댓글로 부탁드려요.

 

저는 보통 rss를 통해 자동 다운로드 세팅을 하고 잘 건드리지 않는데요.

이러다보면 다수의 동일 파일이 받아지곤 합니다.

파일명이 달라도 사실 시드가 다를 뿐 동일 파일인 경우도 많이 있죠.

특정 볼륨에는 중복파일이 5~10개씩 받아지기도 해요.

 

그래서 중복파일을 선택적 삭제 가능한 툴이 있으면 좋겠다고 생각했고

최근 사용중인 방법은 이러합니다.

 

패키지센터 서드파티로 synocommunity.com/ 추가하고

SynoCli File Tools 패키지를 설치합니다.

 

이후 jdupes 나 fdupes 를 이용하여 파일 중복을 삭제합니다.

 

예를들면 이런거죠.

 

root@NAS:/# jdupes -rd volume3/
Scanning: 5892 files, 2636 items (in 1 specified)
[1] volume3/video/2.2022.KOREAN.1080p.WEBRip.x265-VXT/RARBG_DO_NOT_MIRROR.exe
[2] volume3/video/A.2004.DC.KOREAN.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[3] volume3/video/A.2022.KOREAN.1080p.WEBRip.x265-VXT/RARBG_DO_NOT_MIRROR.exe
[4] volume3/video/A.2019.1080p.WEB.X264-MEGABOX[rarbg]/RARBG_DO_NOT_MIRROR.exe
[5] volume3/video/B.1986.JAPANESE.720p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[6] volume3/video/BaJAPANESE.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[7] volume3/video/B.2020.KOREAN.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[8] volume3/video/F.1080p.WEBRip.x265-RARBG/RARBG_DO_NOT_MIRROR.exe
[9] volume3/video/O.2017.1080p.WEBRip.x264-RARBG/RARBG_DO_NOT_MIRROR.exe
[10] volume3/video/P2020.1080p.BluRay.x265-RARBG/RARBG_DO_NOT_MIRROR.exe
[11] volume3/video/S.KOREAN.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[12] volume3/video/Sa.KOREAN.1080p.WEBRip.x264-RARBG/RARBG_DO_NOT_MIRROR.exe
[13] volume3/video/S.2019.1080p.BluRay.x265-RARBG/RARBG_DO_NOT_MIRROR.exe
[14] volume3/video/T.KOREAN.1080p.WEBRip.x264-VXT/RARBG_DO_NOT_MIRROR.exe
[15] volume3/video/T.KOREAN.PROPER.1080p.WEBRip.x265-VXT/RARBG_DO_NOT_MIRROR.exe
[16] volume3/video/T.KOREAN.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[17] volume3/video/T.KOREAN.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe
[18] volume3/video/T.2018.1080p.WEBRip.x265-RARBG/RARBG_DO_NOT_MIRROR.exe
[19] volume3/video/T.2021.KOREAN.1080p.WEBRip.x264-VXT/RARBG_DO_NOT_MIRROR.exe
[20] volume3/video/U.CHINESE.1080p.BluRay.H264.AAC-VXT/RARBG_DO_NOT_MIRROR.exe

 

이런 중복을 찾아줍니다. 이 때 선택을 할 수 있는데요

모두삭제(D), 모두남김(A), 심볼릭링크로 대체(S), 선택한 파일만 남기고 모두삭제(1-20)

 

위 파일은 필요 없는 파일이기 때문에 D를 누르면 됩니다.

그러나 중복으로 받아진 같은 내용의 다른 파일명을 가진 자료들은 하나하나 선택을 해주던가

장르별로 분류를 해둔것의 경우 심볼릭 링크로 대체하기도 합니다.

 

 

 

... 제가 말주변이 없어서 jdupes 사용법은 chatGPT가 대신 설명 드리도록 하겠습니다.

 

jdupes는 Linux와 유닉스 시스템에서 중복 파일을 찾는 데 사용되는 명령 줄 도구입니다. jdupes를 사용하여 중복 파일을 찾고 삭제하는 방법을 설명하겠습니다.

jdupes 설치하기
jdupes는 대부분의 Linux 배포판에서 기본적으로 설치되어 있습니다. 하지만 설치되어 있지 않은 경우, 패키지 관리자를 사용하여 설치할 수 있습니다. 예를 들어, Ubuntu나 Debian 계열의 배포판에서는 다음과 같은 명령어로 설치할 수 있습니다:

csharp
Copy code
sudo apt-get install jdupes

(시놀로지의 경우 상술한대로 서드파티 패키지센터를 추가하시고 패키지센터 커뮤니티에서 SynoCli File Tools를 설치합니다)


중복 파일 찾기
jdupes를 사용하여 중복 파일을 찾으려면, 명령줄에서 다음과 같이 입력합니다:

bash

(시놀로지의 경우 ssh이죠)
jdupes -r /path/to/directory

(시놀로지의 경우 수도권한이 필요하니 sudo -i 하시고 cd /로 이동하세요)

이 명령어는 /path/to/directory 경로의 모든 하위 디렉토리에서 중복 파일을 찾습니다.

(전 볼륨별로 카테고리가 달라서 영상이 있는 볼륨3만 대상으로 진행했습니다 jdupes -rd volume3/ )

 

중복 파일 삭제
중복 파일을 삭제하려면, 다음과 같은 명령어를 사용합니다:

bash (시놀로지에서는 ssh의 sudo -i 상태에서...)
jdupes -rd /path/to/directory
이 명령어는 /path/to/directory 경로의 모든 하위 디렉토리에서 중복 파일을 찾아서, 사용자에게 확인을 받은 후 중복 파일을 삭제합니다.

 

중복 파일을 자동으로 삭제하려면, -d 대신 -D 옵션을 사용할 수 있습니다:

bash (ssh 에서 sudo -i에서...)
jdupes -rD /path/to/directory (전 이거 비추합니다. 중복파일을 일괄삭제하고 하나만 남기는건 ㅠㅠ)
이 명령어는 /path/to/directory 경로의 모든 하위 디렉토리에서 중복 파일을 찾아서, 자동으로 중복 파일을 삭제합니다. 주의할 점은, 이 명령어를 실행하기 전에 중복 파일을 복사하여 백업하는 것이 좋습니다.

 

위와 같이 jdupes를 사용하여 중복 파일을 찾고 삭제할 수 있습니다.

신고공유스크랩
8
profile image 1등
달소 2023.02.22. 11:32
와... 중복파일 제거하는노하우를 전수받다니...
사실 저는 깊게고민해본적이없는데 한번 돌려봐야겠습니다.
파일 해시값으로 중복값을 찾아서 제거하는거겠죠?? 신기하네요 👍
robot.re.kr 글쓴이 2023.02.22. 12:33
달소
jdupes는 파일 헤시기반 fdupes는 생성일자와 크기 기반입니다 ^^ jdupes가 좋죠
robot.re.kr 글쓴이 2023.02.22. 12:41
달소
[1] volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V1_2.srt
[2] volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V1_3.srt
[3] volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V2_auto_krn_2.srt
[4] volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V2_auto_krn_3.srt

이런 경우는 파일 4개가 모두 동일하다는건데...
자막과 연결된 영상이 어떤 이름인지 모르니 S를 눌러 심볼릭 링크로 대체해주는게 속편합니다.

Set 204 of 321: keep which files? (1 - 4, [a]ll, [n]one, [l]ink all, [s]ymlink all): s
이렇게 s를 선택해주면

[SRC] volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V1_2.srt
-@@-> volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V1_3.srt
-@@-> volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V2_auto_krn_2.srt
-@@-> volume3/video/R.2021.KOREAN.1080p.AMZN.WEBRip.DDP5.1.x264-Imagine/@eaDir/R.2021.1080p.AMZN.WEB-DL.DDP5.1.H.264-Imagine.mkv/SYNOVIDEO_2_0_SUBTITLE_V2_auto_krn_3.srt

한 개 뺴고 나머진 심볼릭 링크로 대체됩니다.
robot.re.kr 글쓴이 2023.02.22. 12:46
달소
[1] volume3/video/영어로된파일이름.2020.WEBRip.1080p.x264.AAC.mp4
[2] volume3/video/영어로된파일이름.1080p.mp4
[3] volume3/video/영어로된파일이름.2020.1080p.x264.5.1ch.mp4
[4] volume3/video/한글로된파일이름.mp4

이런 경우는 파일명은 다르나 실제 같은 영상이 여러번 받아진 경우인데요

Set 19 of 321: keep which files? (1 - 2, [a]ll, [n]one, [l]ink all, [s]ymlink all): 1
가장 만족스러운 파일명인 녀석을 골라줍니다. 전 1번요

[+] volume3/video/영어로된파일이름.2020.WEBRip.1080p.x264.AAC.mp4
[-] volume3/video/영어로된파일이름.1080p.mp4
[-] volume3/video/영어로된파일이름.2020.1080p.x264.5.1ch.mp4
[-] volume3/video/한글로된파일이름.mp4

이럴 때 가장 뿌듯해요. 숫자 하나 입력하고 7gb의 저장공간을 확보했습니다 ^^
2등
aaasfe 2023.02.22. 13:23
Windows server에 dedup기능이 있어서.. 윈도우서버 쓸때는 걍 막써도 청크단위로 중복제거를 해주니 대충썼는데.. 시놀로지도 이것좀 지원해줬음 좋겠네요 btrfs에 dedup기능 있다고 들었던거같은데 ㅋㅋ
robot.re.kr 글쓴이 2023.03.14. 11:09
14테라 하드에 데이터 스토리지 가득참 오류(10TB사용 / 12.2TB)나서...
이쪽 하드가 보통 TV 모아두는곳이라 jdupes -rd volume4/tv/ 한 다음
모두 심볼릭 대체
s
s
s
s
s
s
s
때려넣으니 9TB로 줄어들었네요

댓글 쓰기 권한이 없습니다. 로그인

취소 댓글 등록

cmt alert

신고

"님의 댓글"

이 댓글을 신고하시겠습니까?

댓글 삭제

"님의 댓글"

삭제하시겠습니까?


목록

공유

facebooktwitterpinterestbandkakao story
번호 분류 제목 글쓴이 날짜 조회 추천
가이드 Ubuntu 24.04 LTS Desktop 원격 접속 설정하기(SSH,RDP) 3 달소 1일 전18:33 93 +1
가이드 Ubuntu 24.04 LTS Server 설치해보기 달소 1일 전17:40 175 +2
잡담 Ubuntu 24 가 정식출시되었습니다~~ 8 달소 1일 전10:37 282 +2
3872 잡담
file
몰래컴퓨터 6시간 전00:30 41 0
3871 질문
image
무백 9시간 전21:45 63 0
3870 잡담
normal
kmw_ 1일 전21:52 359 0
3869 후기
normal
ljr10 1일 전21:18 104 0
3868 가이드
image
달소 1일 전19:06 62 0
3867 가이드
image
달소 1일 전18:33 93 +1
3866 가이드
image
달소 1일 전18:09 98 0
3865 가이드
image
달소 1일 전17:40 175 +2
3864 질문
normal
까칠한나그네 1일 전15:44 84 0
3863 잡담
image
달소 1일 전10:37 282 +2
3862 가이드
image
달소 2일 전23:10 87 +1
3861 가이드
image
달소 2일 전22:54 92 0
3860 질문
normal
감자칩 2일 전18:56 206 0
3859 질문
image
게르노 2일 전16:08 76 0
3858 질문
image
동도리군 2일 전12:14 94 0
3857 정보
image
달소 2일 전08:21 175 +1
3856 잡담
image
달소 2일 전07:46 304 +1
3855 가이드
image
달소 2일 전07:24 288 0
3854 질문
normal
서버구축하자 3일 전13:09 429 0
3853 질문
image
미스터빈 4일 전20:09 234 0