Wie das Storage organisieren? Raid, Plattenanzahl, Kapazität?

[tic44]

Hallo,

ich plane aktuell einen kleinen Homeserver. Hauptverwendungszweck ist Storage dazu macht das Teil auf interne und an nen externen Standort Backups, Videotranscoding und 2 VMs.

Aktuell weiß ich noch nicht wie ich das mit den Platten (wahrscheinlich WD Red) organisatorisch machen soll. Also Kapazität, Anzahl, Raid
Datenvolumen am Start muss ich ca 3 TB unterbringen. Ich habe ein Wachstum pro Jahr um ca. 0,7TB


Genutzt werden die Platten am Tag zwischen 0,5 und 2 Std. Den Rest des Tages sollen sie per hdparm im spindown sein.

Anfangs dachte ich mir, ich mach ein Raid 5 mit 3 x 4 TB. Damit hab ich 8 TB netto, kostet 300 Euro und reicht die nächsten Jahre und könnte ich leicht um ne Platte erweitern. Aber gestern kam mir der Gedanke warum 3 Platten laufen lassen, wenn 2 weniger Strom brauchen und erstemal das Selbe bieten. Also ein Raid 1 mit 2 x 6 TB Platten. Kostet 320. Braucht weniger Strom, wobei man das bei meiner Laufzeit vernachlässigen kann.

So, was tun?
Sprach Zeus.

Danke & Grüße

 

[Ja_Ge]

Hast du einen Raid Controller oder soll das Ganze auf Budget Hardware laufen?

 

[Groug]

Raid 5 ist schneller als Raid 1, Raid 5 ist (gehe mal von linux softwareraid aus) online erweiterbar. Ich plane immer für ca. 5 Jahre also in deinem Fall 3 + 5*0,7 =6,5 GB + xGB weil Zuwachs selten linear ist. Spricht für Raid 5.

 

[Bagbag]

Wenn du Linux nutzt, dann schau dir unbedingt mal ZFS an.

 

[Ja_Ge]

Raid 5 ist schneller als Raid 1,...

Setzt aber einen performanten Raid Controller voraus, im Software Raid ist‘s umgekehrt.

 

[Groug]

Definitiv nicht, 12 TB MD-Device aus 4 * 4 TB Raid 5 rw so um die 500 MB/s.

 

[Ja_Ge]

Während der Prozessor mit Videotranscoding ausgelastet ist?

Ich verstehe den TE so, dass der Server nicht nur reines Storage ist, sondern auch 2 VMs und Videotranscoding darauf läuft. WD Red Platten deuten auf Budged Hardware hin, daher die Frage nach dem Bord bzw. dem Raid Controller. Wenn da eine kleine Intel CPU drauf werkelt würde ich mir überlegen, ob die für mich noch Paritätsinformationen berechnen soll.

 

[rocketworm]

Definitiv nicht, 12 TB MD-Device aus 4 * 4 TB Raid 5 rw so um die 500 MB/s.

Er will das ding als NAS Nutzen, da ist bei 1 GBIT LAN ehh bei 125MB/s schluss.
Ich kann mir auch nicht vorstellen dass er da bei einem Homeserver solch extremen Workload drauf bekommt, dass es sinn machen würde.
Des weiteren wäre das RAID 5 nur bei sequentiellen lesen und schreiben schneller und das auch nur Minimal.
Raid 1 Kann bei 2 Platten auch doppel so schnell sequentiell lesen. Es kann aber auch bei parallelen Leseanforderungen von beiden Platten getrennt lesen. Was dann gegenüber einem RAID5 wesentlich schneller wäre. Einzig beim schreiben liegt beim RAID die Performance auf dem Level der langsamsten Platte im Array.

Ich würde da auch eher Richtung RAID1 gehen. Wenn kein Hardware RAID Controller vorhanden ist, müsste bei RAID 5 die CPU ansonsten auch noch die Parity Berechnung übernehmen. 5 oder 6 würde ich nur nehmen wenn man mit 1 nicht mehr auf die benötigte Kapazität kommt. RAID 1 reicht für zu hause dicke.

@TE bei einem RAID mit großen Platten (4/6TB), darauf achten das diese nur 1 Sektor Lesefehler pro 10E15 Sektoren haben. Ansonsten kann es bei großen Platten sein, dass dir das Array auseinander fliegt und ggf kein Rebuild wegen erneuter Fehler auftritt. Achte auch darauf keine Platten mit SMR(Shingled Magnetic Recording) zu nehmen. Die werden mitunter Grotten Lahm beim Schreiben.

 

[Groug]

XOR ist jetzt nicht so die Herausforderung bei der "Berechnung". Und es soll nicht nur als Nas genutzt werden. Beim Preis sind die 4TB Platte am günstigsten was €/TB angeht. Und wie gesagt Raid5 läßt sich online um weitere Platten erweitern.

 

[Ja_Ge]

Er will das ding als NAS Nutzen, da ist bei 1 GBIT LAN ehh bei 125MB/s schluss.

Seid Windows 8 nicht mehr, nennt sich SMB Multichanel. Da die meisten eh Win10 nutzen ist es kostenlos dabei und bündelt Gigabit LAN Strecken. Anders als Round Robin auch für 2 Rechner interessant.

Ansonsten volle Zustimmung.

Ergänzung (23. August 2019)

Jedes RAID lässt sich online um Platten erweitern.

 

[King_Rollo]

Raid 5 ist vor allem SCHREIBEND deutlich langsamer als Raid 1 oder 10, weil eben die Paritäten berechnet werden müssen. Wenn du also hohe Performance bei schreibenden IOPS brauchst, ist Raid 5 nicht die beste Variante.

Du willst das Raid 5 ja machen, um deine Verfügbarkeit zu erhöhen; sprich einen Festplattenausfall kompensieren zu können. Je nach eigenem Sicherheitsbedürfnis sollte man nicht unerwähnt lassen, dass der Rebuild von einem Raid 5 mit großen Platten ala 4 oder 6 TB gerne mal mehrere Tage (bzw. über eine Woche) dauern kann! In dieser Zeit wäre man mit Raid 5 während dieser Zeit nicht mehr abgesichert! Abhilfe würde Raid 6 schaffen (da können zwei Platten gleichzeitig ausfallen).

 

[Groug]

Raid 5 ist vor allem SCHREIBEND deutlich langsamer als Raid 1

Bei Raid1 kommst du beim schreiben maximal auf die Geschwindigkeit einer einzelnen Platte, bei Raid5 bist du durch das verteilte schreiben schneller als eine einzelne. Die XOR Operation ist im Prozessor deutlich schneller als das schreiben der Daten auf die Platten.

 

[Ja_Ge]

RAID 5 schreibt die Informationen auf die Platte, liest sie wieder, bildet die Parität und schreibt wieder. Daher gibt es immer eine Verzögerung und erhöhten Rechenaufwand.
RAID 1 kann auch parallel auf mehrere Platten schreiben. In beiden fällen ist die Frage, ob und wie der Controller es durch Arbeiten im Cache unterstützt. Wobei jeder Cache Zugriff die Datensicherheit vermindert. Was im Home-Bereich keine wikliche Rolle spielt, für betriebskrittische Daten sieht das anders aus.
In der Praxis ist RAID 5 auf identischen Systemen langsamer und / oder erhöht die CPU Last.

Das alles hilft aber bei dem TE nicht weiter, der auf seiner Home-Server Hardware mit Raid1 vermutlich besser fährt. Vermutlich, weil wir noch keine nähere Angaben zur Hardware haben.

 

[rocketworm]

Raid 5 ist vor allem SCHREIBEND deutlich langsamer als Raid 1 oder 10, weil eben die Paritäten berechnet werden müssen. Wenn du also hohe Performance bei schreibenden IOPS brauchst, ist Raid 5 nicht die beste Variante.

Das ist Blödsinn, ja es verursacht CPU last. Aber schreibend wird es nicht langsamer. Bei Sequentiellen Schreibvorgängen, ist ein RAID 5 mit 3 Platten in etwa doppelt so schnell Wie ein RAID 1 mit zwei Platten. Lesend dürfte es sequentiell keinen großen Unterschied machen. Bei parallen Lesezugriffen wäre 1 flotter.

dass der Rebuild von einem Raid 5 mit großen Platten ala 4 oder 6 TB gerne mal mehrere Tage (bzw. über eine Woche) dauern kann! In dieser Zeit wäre man mit Raid 5 während dieser Zeit nicht mehr abgesichert!

RAID 5 Rebuild mit einer 8TB 5900RPM Platte, dauert ca 16h. Wenn es eine Platte mit SMR ist, kann es allerdings in mehere Tage ausarten. Ich würde aber immer vermeiden SMR Platten für ein RAID zu verwenden. RAID 6 macht bei so wenig Laufwerken keinen Sinn. Das Risiko eines weiteren gleichzeitigen Ausfalls ist bei 3 Platten zu gering. Des weiteren RAID hin oder her, ist trotzdem immer ein externes Backup erforderlich.
Ein RAID schützt nicht vor Viren, Verschlüsselungstrojanern, Stromschwankungen/Blitzen oder Korrupten Daten/korrupten RAID Arrays durch z.B. Stromausfall/Systemabsturz.

Ergänzung (23. August 2019)

Das alles hilft aber bei dem TE nicht weiter, der auf seiner Home-Server Hardware mit Raid1 vermutlich besser fährt. Vermutlich, weil wir noch keine nähere Angaben zur Hardware haben.

Wenn es von der Kapazität, ausreicht, und von dem was der TE geschrieben hat wofür er den Speicher nutzen möchte sollte RAID 1 dicke für Ihn ausreichen.
Weiterer vorteil RAID 1, sollte das Array mal auseinander fliegen, lassen sich mit einfachen Datenwiederherstellungprogrammen sehr simpel die Daten wiederherstellen. Kann nützlich sein, wenn das Backup mal zu alt ist. Bei einem RAID 0, 5, 6 oder einer Mischform mit diesen wäre immer eine sehr teure Software oder ein Datenrettungsunternehmen notwendig.

 

[King_Rollo]

Naja, ich gebe zu, ich habe keine eigenen Erfahrungen mit kleinen Heim-Speichersystemen und Software-Raids. Aber im professionellen Server- und Storage-Umfeld wird für alle HDDs ab 2 TB aufwärts immer Raid 6 empfohlen, um während des lange andauernden Rebuilds weiterhin abgesichert zu sein.

Leseempfehlung: https://www.speicherguide.de/wissen/doc-storage/high-capacity-hdds-und-raid-rebuild-23513.aspx

Zitat: "Als Daumenwert in durchschnittlichen Umgebungen kann für jedes TByte [das wiederhergestellt werden muss] ungefähr ein Tag in RAID 1, 30 Stunden in RAID 5 und 32 Stunden in RAID 6 angenommen werden."

Und auch was die Performance (und da spreche ich ausschließlich von IOPS) angeht, rechnet man (im professionellen Umfeld) als Daumenwert schreibend ca. ein Viertel der Performance gegenüber einem Raid 10.

 

[Groug]

Zitat: "Als Daumenwert in durchschnittlichen Umgebungen kann für jedes TByte [das wiederhergestellt werden muss] ungefähr ein Tag in RAID 1

Also wenn eins meiner Raids mit ca. 12 MB/s rebuildet, würde ich mir ernsthafte Gedanken machen. Diese Daumenwerte sind doch ein wenig Praxisfremd.

 

[Ja_Ge]

Also wenn eins meiner Raids mit ca. 12 MB/s rebuildet, würde ich mir ernsthafte Gedanken machen. Diese Daumenwerte sind doch ein wenig Praxisfremd.

Nein, Praxisfremd wäre es, wenn das Storage den Usern IOPS klaut um ein schnelles Rebuild machen zu wollen.
Die auf der defekten Festplatte verlorenen Datenblöcke, sog. Chunklet's, sind in der Praxis im gleichen RAID noch einmal, im gleichem Rechenzentrum noch einmal, und im zweitem, räumlich getrenten Rechenzentrum entsprechend mehrfach vorhanden. Da ist mir die Dauer des Rebuids völlig egal, zumal neu geschriebene Datenblöcke zunächst auf anderen Platten landen und das Storrage das "Delta" auf die neue Platte immer weiter verringert. Aber da begeben wir uns in eine ganz andere Welt als die Home-Server Welt des TEs, Block statt Objekt Storage.
Bleibt immer noch nur spekulativ solange der TE nicht noch ein paar Infos gibt. Wenn er lediglich 2-3 Festplatten an den internen Intel ICH S-ATA anschließenden möchte, Betriebssystem noch Windows 7, wer weiß?

 

[King_Rollo]

Also wenn eins meiner Raids mit ca. 12 MB/s rebuildet, würde ich mir ernsthafte Gedanken machen. Diese Daumenwerte sind doch ein wenig Praxisfremd.

Grundsätzlich nachvollziehbare Annahme, aber leider falsch! Das Rebuild ist immer ein Prozess mit wahlfreien Zugriffen auf die Festplatte(n). Sequentielles Lesen/Schreiben mit über 100 MB/s kommt also nicht in Frage.
Eine normale HDD mit 7.200 U/min schafft mit Glück ca. 80 IOPS (Schreib- oder Lesezugriffe pro Sekunde); mehr ist physikalisch nicht möglich. Und jetzt kommt noch die verwendete Blockgröße ins Spiel (4k, 8k, 16k usw.), und dann kannst du ganz leicht selbst ausrechnen, wie viele MB/s du theoretsich überhaupt erstmal schaffen kannst, ohne dass man nebenbei noch irgendwas berechnen muss oder nebenher weiter arbeiten will.

 

[Bagbag]

Das Rebuild ist immer ein Prozess mit wahlfreien Zugriffen auf die Festplatte(n).

Rein aus Interesse und weil mir gerade kein Grund dafür einfällt: warum ist das so?

 

[martinallnet]

Mein FreeNAS mit 6 TB RAID-Z1 (3x 3 TB) hat die ausgefallene Festplatte innerhalb von 6 - 8 Stunden wiederhergestellt, ca. 4 TB waren belegt.
Selbst wenn man beachtet, das bei ZFS nur genutzter Speicher wiederhergestellt wird, dann ist das wesentlich schneller als deine Annahme.
Und gerade weil dort nur genutzter Speicher wiederhergestellt werden muss, dürfte im Vergleich zum nomalen RAID 5 deutlich mehr wahlfrei gelesen werden, wo hinhgegen das Standard-RAID5 eher problemlos einfach die ganze Festplatte von Anfang bis Ende lesen kann.