• 돌아가기
  • 아래로
  • 위로
  • 목록
  • 댓글
질문

Proxmox의 스토리지에 관해 질문 드립니다.

greymin greymin 1114

1

17

먼저 Proxmox같은 가상화 OS에 대해서 아는것이 없어 질문이 허접해서 죄송합니다.

 

시놀리지->헤놀리지->우분투 22.04 LTS Server로 옮겨왔습니다. 헤놀로지의 커널 버전이 낮음으로 인해 제가 필요한 부분들에 아쉬움이 있어 넘어오게 됐습니다.

 

FreeBSD, Linux에는 어느정도 익숙하다 생각했지만 옛날옛적이라 설치하면서 꽤나 진땀흘렸습니다. 수많은 삽질끝에 부족함없이 세팅 다 되었고 스크립트 짜서 불편함도 꽤 줄였습니다... 근데 이 모든게 다 끝나고나서 헤놀리지의 편의성과 GUI의 직관적이고 편안함이 더더욱 떠오르네요...

 

시놀리지 드라이브는 Syncthing으로 대체, 클라우드 싱크&하이퍼 백업은 duplicati로 대체, 미디어 백업은 rclone으로.

근데 뭔가 그래도... 불편하다는 생각이... 

 

어쨌든 그래서 Esxi로 넘어갈까말까 했었는데 최근 서버포럼에 분 Proxmox가 더 끌렸어요. G4560, 16G 시스템이 나스로는 부족함이 없지만 VM들을 꽤 돌리게 될 가상화 OS에선.... 다행히 내무장관님 허락하에 i5-12400, 32~64G 정도의 시스템으로 업그레이드를 할수 있게 됐습니다.

 

달소님과 다른분들의 글을 몇번씩 읽고 구글링으로 레딧과 많은곳에서 선행학습을 했지만 잘모르겠는 부분이 있네요.

 

Proxmox+헤놀+우분투 VM+우분투 lxc로 plex. 기본구축을 하려고 합니다. NVME SSD엔 Proxmox와 VM들을 설치하고 14t 3개, 8t 1개, 4t 1개를 헤놀에 할당한뒤 VM이나 lxc에서 NFS 마운트로 사용하는것, 가상화로 붙이는것보다 Esxi의 RDM과 비슷하게 하드를 패스쓰루해서 붙인다 정도는 알겠는데.. 기존 자료가 없는 상황에서도 이 방법이 가장 나은건가 싶어서요.

기존 자료를 살리기엔 최선이지만 그게 아니면 다른 방법이 뭐가 있나해서요.

 

그리고 Proxmox의 핵심장점 중 하나가 ZFS로 알고 있는데요. Proxmox에서 raidz1로 14테라하드들을 묶은뒤 헤놀로 넘겨줄수 도 있는건가요? 헤놀은 ZFS를 지원안하는데... 가능하다면 어떤식으로 가능한지 간단하게라도 알려주실수 있을까요.. 

14테라엔 plex 라이브러리인 미디어용으로 하려구요.

 

기존자료 살릴 필요없는 상황에서 가상화이미지 vmdk였나? 이렇게 만들어 헤놀에 붙이는 것 vs RDM과 비슷한 패스쓰루 vs ZFS로 만들어 헤놀에 붙이는것 중 어떤 선택이 맞을까요?
 

불과 얼마전 우분투 서버 만드는라 진을 빼서인지 새 시스템에 새로운 아이템을 얻게 될 기쁨도 있지만 생각만으로도 피곤하기도 하네요.

 

잘모르다보니 질문이 주절주절 길어만 졌는데 이해해주세요

 

신고공유스크랩
17
1명이 추천
profile image 1등
달소 2022.05.27. 23:22

흠,,, 저같은경우 zfs 위에 헤놀용 데이터를 따로사용하고있습니다.

Esxi에서의 마이그레이션이라면 hdd 패스스루가 가장 나은선택같네요.

2,3번중에선택하시면될듯합니다!

 

시스템 업글 축하드립니다ㅎ

profile image
greymin 글쓴이 2022.05.27. 23:45
달소

zfs위에 헤놀 데이터를 따로 사용한다는게 어떤 뜻일까요?

Esxi는 사용해본적이 없고 새 시스템이라 마이그레이션은 필요가 없어요.

 

확장카드없이 패스스루하는게 문제가 있다는 글을 본적이 있어서 자꾸 zfs에 끌리네요.

물론 달소님 글을 보면서 더.. 나도 하고프다~~ 가상화도 zfs도~~ 

 

zfs raidz로 하드를 묶고 헤놀 VM 설정에 추가만 해주면 되는건가요?

 

^^ 아닙니다. 뭔가 Proxmox에 대한 감이 오면 하려구요. 사실 지금 우분투 서버로도 불편함은 있지만 필요한 부분 대부분 채워주고 있어서.. 새 시스템은 신중하려구요.

하고는 싶고.. 또 할 생각하면 피곤하고 그러네요

profile image
달소 2022.05.27. 23:50
greymin

네 proxmox 상에서 zfs 를 구성한뒤에 가상머신의 데이터디스크만 해당 zfs 스토리지에 사용하는것입니다.

 

헤놀에서는 그냥 디스크 1로인식되겠지만 실제로는 레이드가 적용된 디스크인거죠

profile image
greymin 글쓴이 2022.05.27. 23:56
달소

아~~~ 그런거군요. 전 proxmox은 zfs , 헤놀은 btrfs 니까 헤놀에 못쓰는거 아닐까 했거든요.

zfs위에 헤놀의 btrfs가 구축되는건가 보네요.

Plex 미디어 라이브러리 구축에 zfs가 꽤 괜찮다고 해서 미련을 계속 가졌네요.

감사합니다. 잘모르지만 뭔가 안개가 걷힌 느낌이네요.

profile image
달소 2022.05.27. 23:59
greymin

디스크를 패스스루로 헤놀에 붙인다면 나중에 문제가생겼을때 복구하기는 쉽겠지만(디스크를 다른 헤놀이 물린다거나.. native/esxi 등) ZFS는 실질적으로 사용이 어렵고

저같은경우 백업헤놀에 주기적으로 헤놀데이터를 백업하고있어서 이방법으로 쓰고있습니다.

 

이렇게 사용해도 Raidz1이라서 디스크하나가 뻑나도 데이터는 유지되는건 동일합니다.

profile image
greymin 글쓴이 2022.05.28. 00:30
달소

그러네요... 마이그레이션 필요없다는 생각만하고 문제나 복구는 깜빡했네요.

좀전에 찾아보니까 ZFS는 추후에 하드를 추가하지 못하는것도 같구요... 수시로 하드는 추가할텐데..

개인서버의 미디어 용도로 쓰기엔 페널티가 좀 있는것도 같네요.

 

감사합니다. 달소님 아니였으면 나중에 진짜 고생할뻔 했습니다.

profile image
달소 2022.05.28. 00:42
greymin

ZFS가 하드추가에 대해서 비교적 자유롭다고 알고있는데 국내자료에서는 찾기가 쉽지않네요.

나중에 직접.. 시뮬레이션한번해봐야겠습니다 ㅎㅎ

profile image
greymin 글쓴이 2022.05.28. 00:47
달소

저도 그렇게 알았는데.. 제가 본 글이 잘못된 것일수도 있겠죠. zpool add로 되는걸로 알긴했는데..

zfs나 proxmox 관련된 국내자료는 진짜 없더라구요.

읽다보면 어.. 익숙한데... 달소님 블로그 아니면 이곳 ㅎ

profile image
달소 2022.05.28. 00:57
greymin

핳... 저도 초보자입장이라.. 이런거런 하는건 다 올려보고있습니다 ㅎㅎ

ZFS 자체가 스토리지 OS인 TRUE NAS에서도 메인으로 쓰이는지라.. 아마 되지않을까(?) 싶긴합니다.

stone92 2022.05.29. 18:08
greymin

지금 zfs관련된 feature 가 얼마나 추가되었는지는 모르겠지만 일단 zpool에 vdev(디스크)를 추가하는것은 자유롭습니다만 zpool안에 생성한 raidZ 는 확장이 안됩니다. 앞으로는 추가할 예정인듯 한데 현재 시점으로 되는지는 모르겠습니다.

개인적으로 TrueNAS 와 proxmox에 zfs를 사용하고 있는데 zfs의 가장 좋은 점을 꼽으라면 snapshot기능과 zfs send/receive기능인듯 싶습니다.

 

proxmox에 헤놀을 올리신다면 굳이 패스쓰루 방식으로 디스크 할당하지 마시고 그냥 vdisk(qemu-disk)로 할당하시는것이 관리 측면에서는 편하실 겁니다. 시놀로지가 qemu disk를 잘 인식합니다.

 

 

 

 

profile image
greymin 글쓴이 2022.05.29. 18:23
stone92

허.. 정말 raidz 확장이 안되는군요. 그럼 백업하고 raid풀고 새로 만들어야하는데..

 

vdisk도 괜찮은가보군요. 패스쓰루에 비해 관리면에서 낫다는게 어떤걸까요?

 

알려주셔서 감사합니다

stone92 2022.05.29. 21:28
greymin

일단 Proxmox를 2대로 운영하는 경우에 패스쓰루로 된 경우에는

live migration이 불가능합니다. 그리고 백업의 경우 proxmox는 자체적으로 좋은 VM백업기능이 있습니다. 그래서 쉽게 백업과 복원이 가능하고 또한 vdisk로 해두시면 다른 hypervisor 로 이전이 편합니다.

물론 물리적으로 새로 자주 구성한다면 패스스루로 하는것도 나쁘지 않은 선택입니다.

그리고 제가 앞서서 말씀드린 대로 zfs의 스넵샷은 정말로 막강합니다.

zfs snapshot을 주기적으로 찍어둔다면 cifs공유를 걸어서 시놀로지 공유 볼륨이 혹시 랜섬웨어에 당하더라도

바로 복구가 가능합니다. 스넵샵을 만들어둔 vdisk를 원복하면 끝인것이죠..

또한 별도의 전체백업 솔루션이 없는 경우 zfs send 기능으로 특정 zfs 볼륨을 주기적으로

다른 zfs 시스템으로 복제가 가능합니다. 시스템 레벨에서요..

 

시스템 구성에는 정답이 없다는 생각입니다. 패스스루로 구성하던지 vdisk 방식으로 구성하던지 다 괜찮습니다. :-)

제 경우도 proxmox 에서 vdisk 와 패스쓰루 다 사용 중 입니다.

proxmox서버 두대와 TrueNAS로 구성이 되어있는데요..VM 백업은 TrueNAS의 NFS볼륨에 하면서

promox서버 한대에 proxmox backup server(PBS)를 별도의 하드를 패스쓰루 방식으로 연결에서

그곳에 VM을 한 번 더 백업합니다. 그래서 정말 최악의 경우 서버 3대가 모두 죽는다면 패스스루로 연결된

디스크 2개만 빼서 다른 시스템에 붙여서 복원할 요량입니다.

 

 

 

profile image
greymin 글쓴이 2022.05.29. 23:30
stone92

제가 개념이 부족했었던것 같네요. 저는 패스쓰루, vdisk, zfs 로 나눠서 생각했는데. zfs raid 한후 vdisk로 VM에 할당시키는건가 보네요. 아닌가^^~ 시놀로지를 꽤 썼었는데 스냅샷의 필요성이 정말 크더라구요.

 

가상화에 대해 알지 못하다보니 Proxmox에 헤놀설치.. 그럼 헤놀볼륨은 헤놀의 스냅샷을 이용하는건가.. 아니면 Proxmox가 메인 OS니까 거기서 해주는건가.. 파일시스템도 그렇구요..

 

stone92님 글을 보니 제대로 이해했는지 모르겠지만 조금은 이해가 된것 같습니다.

ZFS raidz로 묶어준뒤 헤놀에 vdisk로 할당시키는걸 고려해봐야겠네요. 스냅샷과 백업, 복원, 복제까지... 이 정도면 개인서버에선 부족함없는게 아니라 넘칠정도로 마음에 드니까요.

 

지금은 Trunas Scale 을 한번 살펴보고 있습니다. Core가 더 단단하지만 docker, 향상된 vm지원때문에^^

 

감사합니다. 알것 같으면서 여전히 혼란스럽지만 덕분에 어떤것에 대해 좀 더 구글링을 해봐야 할지 잡히네요.

profile image 2등
펜타네스트 2022.05.31. 11:26

불과 한 달 전의 저와 같은 고민을 하고 계셔서 위에 좋은 답변이 많은데도 그냥 지나치질 못하겠네요 ㅋㅋ

 

I5-12500 시스템으로 Proxmox를 구축하여 사용중이고

Rocky(CentOS)VM + Ubuntu LXC를 메인 으로 사용하고 있고

LXC안에 Native Plex + Docker Plex를 구성해놨습니다.

헤놀은 구성해놨는데 안쓰게 되네요.

 

 

1.

Proxmox+헤놀+우분투 VM+우분투 lxc로 plex. 기본구축을 하려고 합니다. NVME SSD엔 Proxmox와 VM들을 설치하고 14t 3개, 8t 1개, 4t 1개를 헤놀에 할당한뒤 VM이나 lxc에서 NFS 마운트로 사용하는것, 가상화로 붙이는것보다 Esxi의 RDM과 비슷하게 하드를 패스쓰루해서 붙인다 정도는 알겠는데.. 기존 자료가 없는 상황에서도 이 방법이 가장 나은건가 싶어서요.

 

=> 기본적으로 수없이 읽기/쓰기가 발생하는 proxmox는 SSD보다 HDD설치가 권장됩니다. NVME는 Proxmox자체보다 VM용으로 사용하시는게 좋을 것 같고

이건 제가 느낀 점을 얘기하는 건데, 향후 어떤 형태의 서버를 구축하셔도 파일서버의 역할을 헤놀로지에 맡길 것이다!!!!!!!가 아니라면 파일서버 용도의 VM을 헤놀말고

리눅스 계열로 가는 것이 좋아보입니다.

일단 시놀로지 자체가 하드디스크에 복잡한 파티션 구성을 때려버리는데다가 SHR로 묶기라도 하면 향후 리눅스에 붙여서 복구할 일이 생겼을 때 머리아픈 일이 많이 발생합니다(경험상).

제 경험상으론 리눅스 계열에 하드디스크를 패스스루로 붙이거나 풀을 구성해서 qcow2로 붙이고 NFS 혹은 SMB로 필요한 LXC들에 붙여주는 게 좋아보입니다.

 

 

2. 그리고 Proxmox의 핵심장점 중 하나가 ZFS로 알고 있는데요. Proxmox에서 raidz1로 14테라하드들을 묶은뒤 헤놀로 넘겨줄수 도 있는건가요? 헤놀은 ZFS를 지원안하는데... 가능하다면 어떤식으로 가능한지 간단하게라도 알려주실수 있을까요..

 

=> 헤놀이 Btrfs기반으로 SHR레이드를 구성한 뒤 그 위에 볼륨을 구성하는 것과 비슷합니다. Raidz로 하드를 묶어 그 안에 디스크 이미지를 생성한 뒤 디스크 이미지를 헤놀에 붙이면 됩니다.

 

 

 

3. 기존자료 살릴 필요없는 상황에서 가상화이미지 vmdk였나? 이렇게 만들어 헤놀에 붙이는 것 vs RDM과 비슷한 패스쓰루 vs ZFS로 만들어 헤놀에 붙이는것 중 어떤 선택이 맞을까요?

 

=> proxmox는 raw파일인 .img나 리눅스 가상화이미지인 qcow2를 사용하고 램을 방대하게 구성할 것이 아니라면 plex라이브러리 같은 아카이브 용도의 저장소는 ZFS를 피하는 게 좋다고 생각합니다. ZFS특성상 파일을 읽고 쓸 때 막대한 램을 사용하게 되는데 Plex라이브러리에 시스템이 접근할때마다 램 사용량이 치솟게 되니까요. 라이브러리를 이미지 파일로 만들지 하드디스크 패스스루로 보관할지는 개인 마음이긴 한데.. 이미지 파일화는 이동/복구/복원이 쉽고 네이티브는 관리가 쉽지만 특정OS에선 접근이 어려울 수 있으니(Windows->Btrfs) 접근성이 쉬운 파일시스템을 사용하는게 좋지 않을까 생각해봅니다 (ext4라던가)

 

 

profile image
greymin 글쓴이 2022.05.31. 12:21
펜타네스트

선택지가 많은것은 좋은일이긴 한데. 잘 모르는 부분에선 어떤 선택을 해야할지 어렵네요.

 

몇일 고민하다가 그냥 헤놀쓰고 vmm으로 우분투 서버 하나 쓸까싶기도 하구요.

 

새시스템 사고 조립하고 모든 세팅까지ㅜㅜ

 

접근성이 좋은 ext4사용에 대한 말씀도 공감 되는 부분이 있고 덕분에 또 배우게 되네요.

 

 

감사합니다.

profile image
펜타네스트 2022.05.31. 13:11
greymin

SMB NFS 공유같은거야 파일시스템에 구애 받진 않지만

시스템을 뒤엎고 하드만 빼와서 자료를 복원해야 하는 상황이 올 경우

Btrfs 파일시스템이 특히 난감합니다. 윈도우에선 어지간해선 접근하기 힘들어요..

근데 시놀이 Btrfs를 사용하면서 파티션까지 복잡하게 짜버리니까 정말 복원이 힘듭니다.

 

이거 두 번 해봤더니 이젠 좀 질리더군요

확실히 시놀로지를 파일 서버로 쓰면 공유하기 편하고 클릭 몇 번으로 파일서버가 세팅이 되어서 좋긴 한데

그냥 1~2주 머리 아프고 시행착오 좀 겪더라도 리눅스로 세팅을 구축해 놓고 나니 이것도 괜찮네 싶긴 하네요

profile image
greymin 글쓴이 2022.05.31. 13:25
펜타네스트

우분투로 옮긴 이유중에 하나이고 지금 우분투 서버도 ext4로 사용중입니다. 헤놀 자료 옮기면서 쌩고생을 해서. 참 편한데 트윅OS 의 단점은 있는것 같아요

댓글 쓰기 권한이 없습니다. 로그인

취소 댓글 등록

cmt alert

신고

"님의 댓글"

이 댓글을 신고하시겠습니까?

댓글 삭제

"님의 댓글"

삭제하시겠습니까?


목록

공유

facebooktwitterpinterestbandkakao story

본 게시판은 서버구축 게시판과 통합되었습니다.

서버구축 게시판 이동하기
분류 제목 글쓴이 날짜 조회 추천
공지 서버OS(ESXi/Linux/Router 등) 게시판 이용안내. 달소 21.11.16.17:43 585 +1
ESXi 공지 ESXi 관련 추천글 모음 5 달소 21.04.23.12:19 3749 +6
ESXi USB LAN으로 ESXi8 설치하기.(Feat. Realtek LAN) 15 달소 23.01.01.18:51 2174 +2
Assistant OS 당신이 알아야할 새로운 스탠다드 Matter란 무엇인가 5 DarkAcid 22.12.30.02:38 736 +1
Proxmox 인텔 igpu는 gvt-g를 이용해 두개 이상의 가상머신에 패스스루 해줄 수 있네요. 13 니즛 22.12.23.02:19 1366 +1
질문
normal
초코코알라 23.05.06.18:14 663 0
Proxmox
image
굿럭 23.01.05.12:59 1426 0
Linux
image
달소 23.01.05.10:23 362 0
질문
image
swift89 23.01.04.14:05 378 0
질문
image
DarkAcid 23.01.04.12:34 440 0
Linux
image
콜라 23.01.03.23:07 616 0
질문
normal
ENTJ도플랜 23.01.03.13:15 305 0
Proxmox
image
eyeball 23.01.02.14:42 1223 0
ESXi
image
달소 23.01.01.18:51 2174 +2
질문
normal
누구냐 23.01.01.00:06 461 0