Tvrdi i optički diskovi

Tražim savjet - backup 3TB - prijenosni, nas ili?

Quantum pet 7.1.2022 16:40

Traka obicno dolazi u razmatranje kada online backup ili replikacija na separirani stroj ili je preskupa ili prenespretna.

 

Primjerice, imas veliko polje diskova (recimo, >= 50 TB) koje kontinuirano raste, a koje ne mozes selektivno backupirati.

Za tako mali volumen podataka (<= 10 TB), meni se cini da tu traka nema previse smisla - to je premalo podataka i previse gnjavaze.

 

Zapitaj se - u slucaju da podatke nepovratno izgubim:

A) sto ce mi doci u pitanje - egzistencija ili uspomene?

B) mogu li te podatke nekako restorati, re-downloadati ili drugacije rekonstruirati?

 

Attachana tablica sadrzi odgovore.

 

Valentin17 pet 7.1.2022 16:54

Meni jako dobra opcija je provjereno računalo sa npr. nekim novim Pentium procesorom i 2X 4 GB RAMa, Ubuntu Server v20.04.3 sa dva diska tipa Seagate Exos u RAIDu 1 te Urbackup, automatski backup bilo kojega računala u mreži, backup server kojemu se jedino može pristupiti preko web preglednika, nije vezan ni za jedno računalo, spojiš na neki UPS i tako može raditi godinama bez ikakvih problema. Ne treba monitor, miš, tipkovnica, samo struja i mreža. S vremena na vrijeme čak se može skinuti kopija kompletnoga backupa u RAR arhivi.

Valentin17 pet 7.1.2022 19:50
Quantum kaže...

Moze, uz ogradu da je bilo koji storage server koji se vrti 24/7 bez ECC-a prilicno hazarderska opcija.

Kaj uopće ima kod nas od ploča koje podržavaju ECC memoriju?

Iako nije loše uzeti sa Njuškala baš neku server mašinu pa samo nadodati diskove po želji, ali ti stari Xeoni troše kao ludi, ne znam kako AMD stoji na tom polju sa svojim Ryzenima.

Quantum pet 7.1.2022 22:22

Moralo bi biti - recimo, X99 chipseti podrzavaju ECC uz Xeon E5-16xx ili E5-26xx (v3). Dobar primjer consumer ploce za takve namjene je Asus Sabertooth X99.

Siguran sam da se na eBayu moze naci starih Supermicro ploca iz tog vremena za sitne novce, koje ce sluziti jos barem 5-10 godina kao storage foundation.

 

Definiraj "stari Xeon" - Westmere (32 nm) je rastrosan prilicno, ali iduci tick, dakle sve od Haswella naovamo (22 nm, cca 2013) u idleu trosi prilicno malo energije.

Kao primjer, moj kucni storage sa E3-1220 v3, 24 GB RAM-a, 8 HDD-a i 4 SSD-a trosi ~70 W u idleu, i to mjereno na zidu i sa napajanjem 80 Gold kategorije (dakle, ne bas pretjerano efikasno).

Unutra je jos LSI 8-channel HBA kartica i 2x 10G SolarFlare SFP+ koji sigurno dodaju jos najmanje 10-15 W.

 

Vecina navedenog je vintage 2013 ili starije - mislim da 70 W za to iznad nije puno.

 

Valentin17 pet 7.1.2022 22:30
Quantum kaže...

Za te stare Xeone je teško nabaviti ploču, ljudi traže puuno previše za tako nešto.

Cilj bi mi bio uzeti nešto novije, a da ne bankrotiram sada, vidim da Asrock ploče za Ryzena podržavaju ECC memoriju.

 

Ne bi loše možda bilo uzeti npr. Asrock B450 Steel Legend ploču, Ryzena 1600/2600 što već iskoči na oglasu te ovu memoriju.

Pa dva Iron Wolfa ili Exosa od po 2 TB u RAIDu 1 bi mi bila dovoljna za backup svega bitnog.

Veliki Brat sub 8.1.2022 12:15

Amd-ovi procesori imaju podršku za ECC RAM.

Ne mogu tvrditi za Ryzene, ali još prastari Athlon X2 (otključane sve četiri jezgre) imam doma sa 8 GB unbuffered ECC RAM-a.

Ili bolje reći "imao sam", jer je ženi bio preglasan pa sam ugasio cijelu stvar. Pravi server ne bi nikad imao šanse (ovaj moj je imao samo jedan ventilator na upuhu, čak je i napajanje fanless).

Uglavnom, nikad mi nije manjkalo snage, više nego dovoljno za storage server.

Poanta je da se razmisli dobro gdje bi to stajalo jer u direktno uz ruter ili TV može eventualno NAS, sve drugo traži neku zasebnu sobu. 

picajzla0707 sub 8.1.2022 12:19
Veliki Brat kaže...

Amd-ovi procesori imaju podršku za ECC RAM.

Ne mogu tvrditi za Ryzene, ali još prastari Athlon X2 (otključane sve četiri jezgre) imam doma sa 8 GB unbuffered ECC RAM-a.

Ili bolje reći "imao sam", jer je ženi bio preglasan pa sam ugasio cijelu stvar. Pravi server ne bi nikad imao šanse (ovaj moj je imao samo jedan ventilator na upuhu, čak je i napajanje fanless).

Uglavnom, nikad mi nije manjkalo snage, više nego dovoljno za storage server.

Poanta je da se razmisli dobro gdje bi to stajalo jer u direktno uz ruter ili TV može eventualno NAS, sve drugo traži neku zasebnu sobu. 

 zar se nemere složit tiha konfa?

moj komp je jedva čujan i pod opterećenjem dok gejmam, a kamo li u idle ili light korštenju kad se automatski pogase svi ventovi osim proc hladnjaka koji se vrti na cca 280rpm

Veliki Brat sub 8.1.2022 12:29

Ma naravno da može, samo teško ako imaš mali stan i šišmiša za ženu.

Jedan jedini ventilator u čitavom stroju, Noctua od 120 ili 140 mm (ne sjećam se sada točno) upuhuje zrak na ~1000 o/min. i ona to čuje zabijeno iza presvlačilice. Ogroman Scythe hladnjak (Ninja, mislim) na procu, naponi sniženi,...

Možda bi se dalo još spustiti, ali komp je star, ploča ima mislim samo 3-pin konektor za vent, nisam istraživao mogu li premostiti žice da do venta dovučem niži napon, ovako s odmakom ne znam niti radi li na 12, 5 ili 3.3 V. Pretpostavljam 12 ali nemam pojma realno. 

Valentin17 sub 8.1.2022 13:30
picajzla0707 kaže.... 

 zar se nemere složit tiha konfa?

Teško, za kvalitetan storage server trebaš barem četiri diska tipa Seagate Exos ili IronWolf, ako se to stavi (a trebalo bi) u RAID 5 tako da imaš i performanse i mogućnost da ako jedan disk da svoje ne ostaneš bez svega, pa ako ti je stalo do toga i želiš to postaviti kako treba, instalirat ćeš gore TrueNAS core, a s njime dolazi i ZFS fail sistem koji 24/7 ruje po diskovima i preslaguje podatke, nema gašenja diskova, pa to treba hladiti nečime što može progurati zrak kroz kavez i ohladiti to sve, RAMa mu nikada nije dosta, 8 GB za početak + 1 GB za 1 TB je pravilo. Na kraju imaš ono što kolege kažu da ti treba posebna soba za ovako nešto, po mogućnosti da ima i klimu.

Jeftinija opcija je Ubuntu Server i dva diska u RAID 1, gubiš na performansama, ali i košta bitno manje te može raditi i na slabijoj mašini. Za po doma ako istovremeno podatke čitaju do dva ili tri korisnika i nije loše, za backup idealno čak.

Ovo na slici je kod mene sada, dva SSDa od po 250 GB u RAID 1, ovo mi je cloud virtualka na kojoj čuvam muziku kojoj mogu pristupiti s mobitela od bilo kuda van svoje mreže, Proxmox hypervizer.

Veliki Brat sub 8.1.2022 17:18
PValentin17 kaže...

ZFS fail sistem koji 24/7 ruje po diskovima i preslaguje podatke, 

Makakvi, to je za ljude koji se inače storagem bave za život (ili to žele naučiti).

 

Tko ima vremena učiti kako se održavaju diskovi u ZFS polju? Prije ili kasnije jedan će otkazati, a onda to treba zamijeniti i onda kreću one priče iz pakla koje čitaš na netu kad ti cijelo polje propadne (ili u najboljem slučaju sve traje nekoliko dana). Pa zahtjevi za istom veličinom diskova i sl.

 

Za obične smrtnike je tu mergerfs+unionfs, diskovi su najobičniji desktop (ljudi su zaboravili što znači RAID), mogu biti bilo koje veličine i ako stroj ode kvragu lako se ubace u bilo koji komp i podaci čitaju s bilo kojeg računala (uključivo i win s driverom za ext).

Jedini ustupak koji tu radim je ECC RAM, a i to samo zato što cijena nije visoka. Ništa od podataka za kućne korisnike nije kritično, ako i ode jedna fotografija, bitno je da ne odu sve.

 

Ljuid briju, pogotovo mi koji smo neznalice a imamo doticaja s informatikom. Vid'la žaba konja...

Ne trebaju ljudima doma nikakve 24/7 điđe, niti mission critical pizdarije.

NAS je više nego dovoljan za valjda 99% kućnih korisnika, pretvarati se da je drugačije nema smisla. Onih 1% preostalih (kućnih korisnika) također nemaju potrebu za time, nego žele imati homelab s takvim setupom za trening.

Quantum sub 8.1.2022 17:57
Valentin17 kaže...
Quantum kaže...

Koji ti je budzet?

A uložio bih nekih 3000 kn recimo, tu ne računam diskove, napajanje, kućište, hlađenje, RAM.

 

Za kucni storage, to je i vise nego pristojan budzet - a kamoli ako u to ne uracunas ovo sto si naveo. Saljem na PM par linkova.

Supermicro ploca - cca 600 kn (shipping unutar EU).

CPU te generacije - cca 300 kn (Intel 22 nm ili bolji - manje jezgri, visa frekvencija je bolje. HT ne skodi, ali nije kljucan.)

ECC RAM ce biti mozda malo tricky jer Supermicro moze biti izbirljiv, ali ako se odlucis na ovaj pristup, mozemo sigurno naci odgovarajuce stickove - cak i nove, ako treba, jer imas prostora u budzetu.

 

Potrosnja te dvije komponente u idleu ne vidim kako bi mogla prelaziti 30-ak W (a kucni storage server ce biti u idle-u 99% vremena). Uz to, slobodno oduzmi 5-10% od potrosnje na zidu koje navodim, jer si na 230 V AC naponu (ja sam, nazalost, na 120 V). Ako imas Platinum ili bolje napajanje, slobodno oduzmi jos koji postotak.

 

Caveati:

- ovo ce biti smoking konfiguracija za kucni storage, ali ne i za video transkodiranje. Za to ce trebati neki GPU (sto bih preporucio, jer moze i stariji), ili puno noviji CPU (nesto tipa Gemini Lake), sto potpuno mijenja racunicu iznad

- za TrueNAS/ZFS rjesenja, snazna preporuka je dedicirani HBA (Host Bust Adapter) kontroler koji ce prezentirati sirove diskove ZFS-u. U principu, za minimalnu glavobolju, preporucaju se iskljucivo LSI kontroleri flashani u IT modu (za rotirajuce diskove HBA-ovi bazirani na LSI 2008 su i vise nego dovoljni). U nuzdi, moze posluziti i on-board HBA (dakle, kontroleri integrirani u chipset od ploce), ali niposto u RAID modu. RAID + ZFS = siguran put u gubitak podataka.

 

Za sve ostale kucne potrebe, ovo ce biti i vise nego zadovoljavajuce - pa cak i za ogranicenu virtualizaciju/containerizaciju, ako se koristi TrueNAS Core/Scale (Bhyve container).

 

Valentin17 kaže...
picajzla0707 kaže.... 

 zar se nemere složit tiha konfa?

Teško, za kvalitetan storage server trebaš barem četiri diska tipa Seagate Exos ili IronWolf, ako se to stavi (a trebalo bi) u RAID 5 tako da imaš i performanse i mogućnost da ako jedan disk da svoje ne ostaneš bez svega, pa ako ti je stalo do toga i želiš to postaviti kako treba, instalirat ćeš gore TrueNAS core, a s njime dolazi i ZFS fail sistem koji 24/7 ruje po diskovima i preslaguje podatke, nema gašenja diskova, pa to treba hladiti nečime što može progurati zrak kroz kavez i ohladiti to sve, RAMa mu nikada nije dosta, 8 GB za početak + 1 GB za 1 TB je pravilo. Na kraju imaš ono što kolege kažu da ti treba posebna soba za ovako nešto, po mogućnosti da ima i klimu.

Jeftinija opcija je Ubuntu Server i dva diska u RAID 1, gubiš na performansama, ali i košta bitno manje te može raditi i na slabijoj mašini. Za po doma ako istovremeno podatke čitaju do dva ili tri korisnika i nije loše, za backup idealno čak.

 

Dobro, nije bas to toliko strasno :)

 

To sto si napisao je vecinom tocno, medjutim samo ako covjek ide na mocnu i gustu rack konfiguraciju (npr. 1U ili 2U format), koju mislim da vecina nas ovdje nece razmatrati.

 

Za kucne potrebe, Fractal Design ima odlicna tower kucista koja se mogu dobro nakrcati HDD-ovima. Sa tri 120/140 mm FDB ventilatora (Noctua, Scythe, Phanteks su dobri izbori), cak i relativno topli ambijenti (25+ C) nece biti problem za dugovjecnost diskova. Vazno je da diskovi dugorocno ne rade na 45+ C , a povremeni spikeovi u taj teritorij u pravilu nece znacajnije utjecati na pouzdanost diskova. Uz malo truda, siguran sam da nije tesko pronaci povoljno i relativno dobro ventilirano tower kuciste za do 8 diskova.

Dobro pravilo palca za drzati se - airflow daje tisinu. Dobro ventilirano kuciste sa minimumom opstrukcija i sa donekle pazljivo slozenim airflowom u pravilu ce biti i tiho kuciste, pa cak i uz velik broj ventilatora. Kao primjer, workstation na kojem ovo pisem je racunalo koje mi stoji na 35 cm udaljenosti, ima 8 case fanova i 2 fana na heatsinku te je cak i na kucnoj tisini neupadljivo za rad. Tijekom dana je necujno, jer tih 10 ventilatora vecinu vremena radi na 10-20% od maksimuma (300-500 RPM).

 

Ako se komponente dobro odaberu (ECC + low-power, server-grade ako se moze), tihi storage ce biti izazov ne toliko zbog buke ventilatora, vec zbog buke diskova - i na to se s novijim diskovima moze utjecati (AAM - auto acoustic management), ali uz odredjeno zrtvovanje performansi (za NAS scenarije vjerojatno neprimjetno).

 

Najzad, sto se tice redundancije i ZFS-a, par natuknica:

- RAID nije backup

- RAID-Z1 (tj. RAID-5 ekvivalent) se u pravilu vise ne preporuca. Stovise, RAID-Z1 je daleko pouzdaniji od klasicnog RAID-5, pa ipak se ne preporuca. Moja preporuka - za disk >= 4 TB, RAID-Z2 (RAID-6 ekvivalent) je minumum. Ne skrtarite na diskovima koji hostaju podatke koji su vam bitni ili koji su tesko dobavljivi - zazalit ce te u trenucima kada to bude bilo najmanje potrebno

- paritetna polja na ZFS-u (RAID-Zx) su dobar izbor samo za media/archival storage (dakle, dominira sekvencijalno citanje i pisanje). Za bilo sto drugo - mirror varijante

- paritetna polja na ZFS-u (znaci, sve sto nije mirror) mogu u rubnim slucajevima imati manji (!) kapacitet od ekvivalentnih mirrora, uz uvijek losije IOPS-e. Resilver na mirroru traje u pravilu daleko krace nego na paritetnim poljima i manji je stres za diskove. Mirror (2-way, 3-way) se smatra danas optimalnom konfiguracijom

- za media/kucne potrebe, ZFS nece trebati neke velike kolicine RAM-a. Istina je da performanse ZFS-a rastu prilicno proporcionalno sa vise RAM-a (do nekih 96/128 GB), ali i 8 do 16 GB ce biti sasvim dovoljno za nekakav manji NAS koji opsluzuje, recimo <= 3 korisnika. Primjerice, gledanje nekoliko 4k streamova simultano nece biti nikakav problem za RAID-Zx polje i relativno moderne diskove

- zadnje, ali ne i najmanje vazno: koristite tehnologiju koju poznajete ili ste ju voljni nauciti onoliko koliko vam je potrebno da budete komotni s istom. Sto znaci pouzdanost file systema, ako u trenutku problema ne znam sto trebam ciniti za recovery? QNAP/Synology/Asustor su na trzistu s razlogom, ali to i kosta i donosi znacajno vecu vjerojatnost problema s ransomwareom. Caveat emptor.

Quantum sub 8.1.2022 18:41
Veliki Brat kaže...

Makakvi, to je za ljude koji se inače storagem bave za život (ili to žele naučiti).

 

Tko ima vremena učiti kako se održavaju diskovi u ZFS polju? Prije ili kasnije jedan će otkazati, a onda to treba zamijeniti i onda kreću one priče iz pakla koje čitaš na netu kad ti cijelo polje propadne (ili u najboljem slučaju sve traje nekoliko dana). Pa zahtjevi za istom veličinom diskova i sl.

 

Za obične smrtnike je tu mergerfs+unionfs, diskovi su najobičniji desktop (ljudi su zaboravili što znači RAID), mogu biti bilo koje veličine i ako stroj ode kvragu lako se ubace u bilo koji komp i podaci čitaju s bilo kojeg računala (uključivo i win s driverom za ext).

Jedini ustupak koji tu radim je ECC RAM, a i to samo zato što cijena nije visoka.

 

Dobro, ne treba niti podlijegati FUD-u - za izgubiti cijeli pool, treba se danas posteno potruditi.

 

 

Nema tu nikakvog "odrzavanja" diskova. Uz instaliran TrueNAS, diskovi rade, polje se kreira, podesi se CRON schedule za scrubbing i SMART short/long testove, kreiraju datasetovi (tj. "direktoriji"), podesi kompresija, permissions i na kraju kreiraju SMB shareovi. To se mora napraviti na bilo kojem off-the-shelf NAS-u za koji ja znam, pa tako i na TrueNAS-u.

Kada disk otkaze, stavi se disk u offline, izvadi iz ladice (ako je hot-swappable), stavi novi i napravi resilver. To je to. Sve se radi kroz GUI - stovise, rad na komandnoj liniji uopce nije sluzbeno podrzan, jer je dobar nacin za napraviti rusvaj (ako se tocno ne zna sto se radi). GUI nije savrsen, ali ima prilicno rukohvata na koje se covjek moze osloniti.

Ako bilo sto podje po zlu tijekom resilvera i ne znas se iscupati - zato postoji backup.

Sve to su osnovna pravila koja vrijede za bilo koji drugi QNAP/Synology/Netgear.

 

Problemi nastaju kada ljudi pokusavaju koristiti nesto sto ne razumiju, ne zele uloziti trud, ne slusaju savjete, tvrdoglave i/ili zele da radi "iz kutije" - QNAP/Synology rade "iz kutije", ali to se i placa, isto kao i za TrueNAS. Ako se, s druge strane, zeli ustedjeti (meni prilicno znacajne) novce, onda se mora malo i potruditi. Nema besplatnog rucka, ali zauzvrat se dobija fleksibilno i pouzdano rjesenje koje ce cuvati integritet podataka bolje nego bilo sto drugo na trzistu za djelic novaca koje traze NAS igraci.

 

Dobar primjer je kada ekipa pocne kupovati NVMe ADATA diskove za L2ARC i SLOG (ekvivalenti read/write cachea, premda to uopce nisu), pa se onda cude sto sve radi slabo i pljuju po ZFS-u.

Drugi primjer su genijalci koji sloze RAID-Z1 od 3 x 16 TB el cheapo ili shuckanih shingled diskova, pa se cude kad su performanse uzasne ili im jedan ode kvragu, resilver traje danima/tjednima i, naravno, zavrsi s greskama, strpljenje popusti i polje se zgazi, pa se pljuje po ZFSu.

Treci primjer je skvadra koja misli da je RAID == backup (nije).

 

Veliki Brat kaže...

 

Ništa od podataka za kućne korisnike nije kritično, ako i ode jedna fotografija, bitno je da ne odu sve.

 

Ovisi koja je to fotografija i ima li se backup iste ;)