Grosse RAID Verbunde fuer wenig Geld?
- Ersteller Knogle
- Erstellt am
8
[82nd]Hawk
Gast
@Knogle
Du solltest mal dein System, wie du die Daten sicherst völlig überdenken. So wie jetzt, machst dir zu viel Arbeit und zudem sind die Daten nicht sicher.
Ich habe mich mehrere Wochen, mache sowas einmal im Jahr, damit verbracht, Array Konfigurationen aus Controller und Festplatten zu recherchieren: Welche Konfig bietet mir was und zu welchem Preis. SCSI Platten, früher bei mir auch sehr beliebt, sind heute für daheim nicht mehr zeiggemäß, da viel zu teuer und zu wenig Speicherplatz. Durch erstellen eines gescheiten Raids kann mir hier alle "Nachteil" der normalen SATA Platten kompensieren. Das BESTE was machbar sind, meiner Meinung nach und nach meinen Bedürfnissen, stellt ein Raid System mit Maximal 8 Platten dar - im Raid5. Als Platten kamen damals NUR WD Reds in Frage. Mein Plan ist es, dieses System, kommt natürlich auf die Entwicklung an und auf den Kosten/Nutzen-Faktor, alle 2-3 Jahre KOMPLETT zu ersetzen und mit einem System was mindestens den doppelten Netto-Speicher hergibt, zu ersetzen. Die alten Platten kann man noch zu einem guten Preis verkaufen. Bekommt also noch einen guten Wert zurück um sich dann was neues zu holen. Mehr als 8 Platten kommen für mich nicht in Frage, da es dann zu aufwendig wird und viel zu teuer wird.
Du solltest mal dein System, wie du die Daten sicherst völlig überdenken. So wie jetzt, machst dir zu viel Arbeit und zudem sind die Daten nicht sicher.
Ich habe mich mehrere Wochen, mache sowas einmal im Jahr, damit verbracht, Array Konfigurationen aus Controller und Festplatten zu recherchieren: Welche Konfig bietet mir was und zu welchem Preis. SCSI Platten, früher bei mir auch sehr beliebt, sind heute für daheim nicht mehr zeiggemäß, da viel zu teuer und zu wenig Speicherplatz. Durch erstellen eines gescheiten Raids kann mir hier alle "Nachteil" der normalen SATA Platten kompensieren. Das BESTE was machbar sind, meiner Meinung nach und nach meinen Bedürfnissen, stellt ein Raid System mit Maximal 8 Platten dar - im Raid5. Als Platten kamen damals NUR WD Reds in Frage. Mein Plan ist es, dieses System, kommt natürlich auf die Entwicklung an und auf den Kosten/Nutzen-Faktor, alle 2-3 Jahre KOMPLETT zu ersetzen und mit einem System was mindestens den doppelten Netto-Speicher hergibt, zu ersetzen. Die alten Platten kann man noch zu einem guten Preis verkaufen. Bekommt also noch einen guten Wert zurück um sich dann was neues zu holen. Mehr als 8 Platten kommen für mich nicht in Frage, da es dann zu aufwendig wird und viel zu teuer wird.
Zuletzt bearbeitet:
D
DunklerRabe
Gast
Das was du machen willst erfordert, über den Daumen, ein Array mit 8-10 3.5" Platten mit 7200 U/Min auf beiden Seiten der 10G Verbindung und einen entsprechenden, performanten Controller. Dann kriegst du auch reichlich Durchsatz hin. Alternativ gingen auch ~3-4 SSDs, allerdings reicht es dann vielleicht bei der Gesamtkapazität nicht mehr.
8
[82nd]Hawk
Gast
Knogle schrieb:
Das spielt doch keine Rolle!
Was du vergleichen musst ist der Controller Durchsatz am PCIe bzw. am Interface zum Netzwerkdurchsatz. Das Raid-Array fungiert wie ein großer Datenträger. D.h. wenn 8 Platten je mit 100Mb/s übertragen, dann kommen 800MB/s am Controller an, die weg müssen!
@Dunkler Rabe:
Er hat Infiniband, ist schneller als 10GB Netzwerk.
D
DunklerRabe
Gast
[82nd]Hawk schrieb:
Nicht unbedingt, es würde aber auch keine Rolle spielen. Das skaliert alles entsprechend.
8
[82nd]Hawk
Gast
Ich rede ja auch nur von der Theorie. Musst jetzt nur wissen, was du machen willst bzw. wie dein neues System aussehen soll 
Um 1GB/s auf einen Raid5 zu schreiben, reichen theoretisch 6-8 Platten (je nach Position der Schreib/Lese-Köpfe) einer WD Red 4TB aus - am Ende schaffen Sie aber "nur" noch ca. 560MB/s. Aber selbst das ist mehr als ausreichend. Bitte Overhead nicht vergessen. Bei kleinen Dateien kommst du auf ein Bruchteil der theoretischen Rate.
Um 1GB/s auf einen Raid5 zu schreiben, reichen theoretisch 6-8 Platten (je nach Position der Schreib/Lese-Köpfe) einer WD Red 4TB aus - am Ende schaffen Sie aber "nur" noch ca. 560MB/s. Aber selbst das ist mehr als ausreichend. Bitte Overhead nicht vergessen. Bei kleinen Dateien kommst du auf ein Bruchteil der theoretischen Rate.
Zuletzt bearbeitet:
- Registriert
- Mai 2014
- Beiträge
- 693
Ja ich schreibe meistens ganz fette Dateien, halt wie erwaehnt die images
Koennteste mir da ne Konfiguration zusammenstellen? Also nen RAID5 aus wie du erwaehnt hast 6-8 Platten
Oder kann ich meine nutzen? Die haben maximal 40000 Stunden aufn Buckel
Koennteste mir da ne Konfiguration zusammenstellen? Also nen RAID5 aus wie du erwaehnt hast 6-8 Platten
Oder kann ich meine nutzen? Die haben maximal 40000 Stunden aufn Buckel
8
[82nd]Hawk
Gast
Schick mir bitte mal ne PN mit allen Daten wie dein System jetzt aussieht.
Bissel detailierter =)
Für das neue System bitte folgende Infos zukommen lassen:
Benötigter Speicherplatz
Was darf es maximal Kosten
Hauptverwendungszweck des Arrays - WAS TUT ES, WAS SOLL ES KÖNNEN
Bitte auch angeben, wie das Arrays ausgelastet wird. Es ist dauerhaft mit dem Transfer von Daten beschäftigt, oder wird 1-2 die Woche Datenmenge X übertragen. Die Menge ca. angeben.
Ich gehe davon aus, dass du weiterhin mit Infiniband die Übertragung vornimmst. Wenn du mir das schickst, stelle ich dir gerne was zusammen.
Ich klinke mich jetzt und hier aus. Denke ich habe alles gesagt. Rest halt über PN, wenn gewünscht =)
Bissel detailierter =)
Für das neue System bitte folgende Infos zukommen lassen:
Benötigter Speicherplatz
Was darf es maximal Kosten
Hauptverwendungszweck des Arrays - WAS TUT ES, WAS SOLL ES KÖNNEN
Bitte auch angeben, wie das Arrays ausgelastet wird. Es ist dauerhaft mit dem Transfer von Daten beschäftigt, oder wird 1-2 die Woche Datenmenge X übertragen. Die Menge ca. angeben.
Ich gehe davon aus, dass du weiterhin mit Infiniband die Übertragung vornimmst. Wenn du mir das schickst, stelle ich dir gerne was zusammen.
Ich klinke mich jetzt und hier aus. Denke ich habe alles gesagt. Rest halt über PN, wenn gewünscht =)
Zuletzt bearbeitet:
Das ist ein Witz, oder? Wenn Du so oft so viele Daten auf das NAS kopierst, dass Du viel Geld für schnelles Storage und ein schnellen Netzwerk ausgibst, dann werden Dich die Daten von vor einem Jahr wohl kaum noch interessieren.Knogle schrieb:
Erstens ersetzt ein RAID kein Backup und zweitens würde ich bei 4TB Platten mit einer UBER von 1:10^14 nicht erst ab 8 Platten ein RAID 6 empfehlen, sondern schon früher. Die Chancen ein erfolgreiches Rebuild des RAIDs zu schaffen sind bei Dir schon minimal.[82nd]Hawk schrieb:
Welches sind das denn? Hast Du mal die S.M.A.R.T. Werte ausgelesen? Gewöhnlich Consumer-HDDs mit 40.000 Stunden sind meist kurz vor Feierabend.Knogle schrieb:
R
Rumo
Gast
Holt schrieb:
Ob der Rebuild klappt, hat sehr wenig mit dem UBER zu tun und sehr viel damit, ob man die Festplatten regelmäßig testet und somit Fehler findet, bevor das Nichtvorhandensein selbiger eine Rolle spielt... solange der Rebuild nicht der erste Festplattentest seit langem ist, hat man gute Chancen, sonst nicht so gute...
Und wer seine Festplatten nicht testet schaut auch bei RAID6 in die Röhre
O
Onkelhitman
Gast
Eine ganz kurze Frage. Wenn du sehr oft Festplattenimages mit 1TB hin- und herschiebst ist für mich die eigentliche Frage: Warum?
Es ist ja kein Backup, da du dieses ja nur einmal im Jahr machst. Was genau schiebst du denn dann, und warum? (wenn es keiner wissen soll, weil es geheim ist, ist das auch ok, dann vielleicht nur grob das Anwendungsgebiet) Sind das elendig viele kleine Dateien im Image oder warum ein dicker Block mit 1TB?
Es ist ja kein Backup, da du dieses ja nur einmal im Jahr machst. Was genau schiebst du denn dann, und warum? (wenn es keiner wissen soll, weil es geheim ist, ist das auch ok, dann vielleicht nur grob das Anwendungsgebiet) Sind das elendig viele kleine Dateien im Image oder warum ein dicker Block mit 1TB?
O
Onkelhitman
Gast
Meine Frage bleibt. Warum musst du immer wieder Terabyte Weise Images kopieren, anstatt z.B. ein inkrementelles oder differenziertes Backup zu machen und dann einzuspielen? So würden nur die Änderungen übertragen werden müssen. Oder müssen es die gesamten Daten sein?
- Registriert
- Mai 2014
- Beiträge
- 693
Da es sich dabei um ganz winzige Dateien handelt (zumindestes meistens) Und ich diese Images viel hin und her kopiere zum bearbeiten mit Diskeditoren etc.
Rainbow Tabellen, Filme und andere Dinge kommen auch noch hinzu, und oft sehr grosse ungerenderte Dateien von Fraps
Noch ne Sache
Kann man eigentlich einen SSD RAID als Cache nutzen oder so?
Die sollten ja schon 50-60TB im Monat aushalten
Rainbow Tabellen, Filme und andere Dinge kommen auch noch hinzu, und oft sehr grosse ungerenderte Dateien von Fraps
Ergänzung ()
Noch ne Sache
Kann man eigentlich einen SSD RAID als Cache nutzen oder so?
Die sollten ja schon 50-60TB im Monat aushalten
Zuletzt bearbeitet:
Was soll denn der Cache bringen, wenn immer wieder andere Images übertragen werden? Cache bringt immer nur etwas, wenn auf das Gleiche wiederholt zugegriffen wird. 50 bis 60TB im Monat wären auch schon extrem viel und sind selbst für HDDs kein Pappenstiel, die normalen Consumer HDDs haben meist nur ein Workload Rating von 55TB im Jahr, bei hochwertigen Enterprise HDDs sind es dann 550TB pro Jahr, das wäre das Du da brauchst.
- Registriert
- Mai 2014
- Beiträge
- 693
:ugly: wird ja immer besser
Wie skalieren denn HDDs in nem RAID 0 z.B.?
Also kann ich da die Uebertragungsraten einfach addieren? Bei den SSDs skaliert das ja prima
Habs aber noch nie so ausgerechnet, bzw. getestet mit Benchmarks
Btw.: Grad scheint wohl eine HDD in meinem RAID 0 ausgefallen zu sein >.< Freenas zeigt bei der Status Unknown an, und die HDD Busy LED Leuchte leuchtet bei der Platte permanent
Wie skalieren denn HDDs in nem RAID 0 z.B.?
Also kann ich da die Uebertragungsraten einfach addieren? Bei den SSDs skaliert das ja prima
Habs aber noch nie so ausgerechnet, bzw. getestet mit Benchmarks
Btw.: Grad scheint wohl eine HDD in meinem RAID 0 ausgefallen zu sein >.< Freenas zeigt bei der Status Unknown an, und die HDD Busy LED Leuchte leuchtet bei der Platte permanent
S
Switcher94
Gast
Ich glaube der ganze Fred ist ein Fake
60TB im Monat, das wären 2TB am Tag
Milliarden kleiner Dateien in einem Image packen
2TB Image kopieren
Image verarbeiten
Da reichen 24h ja kaum aus, ausser du hast Hardware für 10tausende Euro und wenn das so wäre würdest nicht mit so einem bescheuerten Titel kommen.
60TB im Monat, das wären 2TB am Tag
Milliarden kleiner Dateien in einem Image packen
2TB Image kopieren
Image verarbeiten
Da reichen 24h ja kaum aus, ausser du hast Hardware für 10tausende Euro und wenn das so wäre würdest nicht mit so einem bescheuerten Titel kommen.
