NAS Konfiguration mit 10G

[kest]

Hallo Leute,

folgende Aufgabenstellung:
Für ein Videoediting-System werden mind. 16TB mit Leserate von ab 600 MByte/s gebraucht. Ich dachte an ein NAS mit 10G-Option (vorzugsweise Synology DiskStation DS1821+ )

Jetzt stelle ich mir die Frage, ob ich z.B. mit RAID 5 und 3x16TB Leserate 600 MByte/s (ohne Cache) erreichen kann oder nicht?
Würden 4 x 4TB SATA-SSDs mit ca. 500MByte/s im RAID 0 reichen?

Hat vielleicht jemand ein Paar Zahlenwerde für 10Gbit/s und RAID5 mit HDDs parat?

Aus dem Bauch heraus, würde ich 3x16TB preferieren. Mache mir aber sorgen, dass bei 80% Fühlgrad der HDDs die Performance einbricht. Bei den HDDs wird eine Leserate (Sequenziell) von 250MByte/s definiert. Bei RAID5 sollte also ca. 750 MByte/s drin sein (im Bestfall). Oder soll ich gleich 4x oder gleich 6x16TB HDDs nehmen?

Vielen Dank im Voraus
ich bin für jeden Tipp sehr dankbar
Kest

 

[madmax2010]

Du solltest nach Zahlenwerten fuer genau dieses NAS Fragen.

Wenn du diese Datenraten brauchst, verbau doch 2 500gb SSDs im raid0 als cache und 3-4 16TB HDDs als 'slower' storage dahinter

 

[Tobi-S.]

Hi,
zu dem Synology NAS kann ich leider keine Daten beisteuern.

Ich habe ein QNap TS-831x
mit 6x8TB Seagate Ironwolf Raid5 hatte ich ca. 450mb/sec.
mit 8x8TB Seagate Ironwolf Raid6
und 8x16TB Seagate Ironwolf Raid6 komme ich auf ca. 700-780mb/sec. lesen / ca. 400-500mb schreiben

Das alles aber nur bei Files >100mb. Sobald die Daten kleiner werden brechen die Geschwindigkeiten stark ein.

Hab schon einen SSD Cache in Form von PCI-E M2 Karten versucht, das bringt nur ca. 10% Geschwindigkeit bei kleineren Dateien. Bei Großen nichts.

 

[conf_t]

Ich komme per SCP auf 5-6 Gbit/s Peak, meist dümpelt es bei 1,8 Gbit/s herum. Dabei sind die Dateien natürlich zwischen 1 kB und 90 GB groß.... entsprechend die Schankungen.....
Dabei lese ich von von System mit 3x 16 TB mit 1 TB R/W-Cache (2x Seagate Ironwolf 510) und schreibe auf ein System mit 4x 12 TB ohne Cache.

Auf das System mit cache schaffe ich beim kopieren auch konstant 2,5 Gbps, weshalb hier die EInbrüche auf 1-2 Gbps auf die HDDs zu schieben sind.

Je kleiner die Dateien werden und desto stärker die Zugriffe randomisiert werden desto schnarchiger wird das ganze.

1. So ganz nebenbei. Man kann bei Synology die Cache Laufwerke nicht als RAID 0 laufen lassen. Laufwerke mit einem Volume lassen sich nicht als Cache verwenden und ein konfiguriertes RAID 0 wäre bereits ein Volume.
2. Bei Synology hat man mit 1er SSD als Cache nur einen Lesecache erst mit einer 2. SSD macht DSM daraus einen RW-Cache. Ich glaube die laufen dann als Raid 0. Aber man kann das selbst nicht beeinflussen.

 

[kest]

Du solltest nach Zahlenwerten fuer genau dieses NAS Fragen.

Wenn du diese Datenraten brauchst, verbau doch 2 500gb SSDs im raid0 als cache und 3-4 16TB HDDs als 'slower' storage dahinter

16TB müssen am Stück mit 600 MByte/s gelesen werden. Cache wird dabei wohl nicht wirklich helfen :-(

 

[conf_t]

Ohne SSD egal ob als Volume oder Cache ist das schwer was zu machen. Vor allem konstant........ und dann ackert DSM ja auch noch auf der gleichen Physik, wenn auch auf einer eigenen Partition.
Da brauchst du schon eine satte Anzahl an HDDs für......

 

[kest]

und 8x16TB Seagate Ironwolf Raid6 komme ich auf ca. 700-780mb/sec. lesen / ca. 400-500mb schreiben

Das alles aber nur bei Files >100mb. Sobald die Daten kleiner werden brechen die Geschwindigkeiten stark ein.

Hab schon einen SSD Cache in Form von PCI-E M2 Karten versucht, das bringt nur ca. 10% Geschwindigkeit bei kleineren Dateien. Bei Großen nichts.

Hey, danke! Das ist schon mal nicht schlecht. Vielleicht baue ich erst 3x16 TB und wenn es nicht reicht, versuche ich mit SSD... hmm... ist schwierig

 

[madmax2010]

Ups. Leserate.
Joa, 2 getrennte pools? 1x fast, 1x slow? aktive projekte kommen auf die SSDs, weniger genutztes auf die HDDs

 

[conf_t]

3x16 TB und wenn es nicht reicht

Wird es nicht. Sei dir da gewiss, oder deine Anforderung an 600 MB/s ist nicht wirklich eine Anforderung. Die Anzahl ist hier entscheidend. Da pack mal lieber gleich mindestens 6 HDDs rein. Nur viele HDDs -> laut und warm.

 

[kest]

Ohne SSD egal ob als Volume oder Cache ist das schwer was zu machen. Vor allem konstant........

Das ist leider auch meine Befürchtung. Wenn es mit 4x4TB SSD 100% konstant geht, würde ich das sofort nehmen. Aber ich weiß es leider nicht mit Sicherheit.

Ergänzung (23. August 2021)

Ups. Leserate.
Joa, 2 getrennte pools? 1x fast, 1x slow? aktive projekte kommen auf die SSDs, weniger genutztes auf die HDDs

Es soll nur 1 lese pool geben -- nur ein einziges Projekt. Geschrieben wird auf eine andere SSD (lokal).

 

[Tobi-S.]

Hey, danke! Das ist schon mal nicht schlecht. Vielleicht baue ich erst 3x16 TB und wenn es nicht reicht, versuche ich mit SSD... hmm... ist schwierig

SSD wird dir ja nicht helfen wenn du 16tb durchgehend lesen musst.
Außer du nimmst 3x 8tb SSD 2,5" RAID5, dann könnte es gehen.

Gefühlt (ohne es getestet zu haben) würde ich sagen du musst auf 5 Platten Raid5 gehen um die 600mb konstant zu schaffen. (Bei großen Daten)

Wie groß sind deine Files?

 

[conf_t]

Aber dann bitte SSDs mit ordentlicher TBW, bei 4 TB sollten es mal gut jenseits der 4 PW liegen. Sonst nudelst du dir die SSDs ruckzuck runter. Haber bei meinen 1 TB MX500 (0,3 PBW) im RAID 1 nur 18 Monate dazu gebraucht umd sie auf 20% zu bringen. Dann habe ich sie mal lieber ausgetauscht, bevor mir eine Hops geht.

 

[Tobi-S.]

Das ist leider auch meine Befürchtung. Wenn es mit 4x4TB SSD 100% konstant geht, würde ich das sofort nehmen. Aber ich weiß es leider nicht mit Sicherheit.

Wie soll das gehen? 4x 4TB im Raid0 damit du auf 16tb gesamt kommst?
Dann schaffst du sicher 600mb/sec. Aber eben nicht sicher, in Form von Ausfallsicherheit.

 

[kest]

Wie soll das gehen? 4x 4TB im Raid0 damit du auf 16tb gesamt kommst?
Dann schaffst du sicher 600mb/sec. Aber eben nicht sicher, in Form von Ausfallsicherheit.

Ja, als RAID 0. Ausfallsicherheit muss hier nicht sein. Die Daten kommen von Extern dadrauf -- ein Projekt (8K oder 12K, wenige große Dateien), dann über Nach wird alles umgerechnet. Wenn Ausfall, dann sind eben nur diese Daten weg. Schön ist es nicht, aber andererseits sind 16TB bei 600MByte/s nicht zu erreichen (zum vernünftigen Preis)

Das Budget liegt bei ca. 3000 Euro, können auch 4000 werden, wenn es sinnvoll wäre. Ab besten wäre ein System, welches ich dann erweitern kann. Bei 8 Einschüben sollte noch was gehen.

 

[Tobi-S.]

Ja, als RAID 0. Ausfallsicherheit muss hier nicht sein. Die Daten kommen von Extern dadrauf -- ein Projekt (8K oder 12K, wenige große Dateien), dann über Nach wird alles umgerechnet. Wenn Ausfall, dann sind eben nur diese Daten weg. Schön ist es nicht, aber andererseits sind 16TB bei 600MByte/s nicht zu erreichen (zum vernünftigen Preis)

Ok, das muss man immer mit den Produktionskosten im Vergleich sehen. Erfahrungsgemäß sind bei Produktionen in 8 oder 12K die Kosten für ein paar 4TB SSDs in den Verpflegungskosten mit drin.

Generelle Frage, was mich interessiert: Was machst du mit den Daten das du 600mb/sec konstante Leseleistung benötigst?

 

[kest]

Aber dann bitte SSDs mit ordentlicher TBW, bei 4 TB sollten es mal gut jenseits der 4 PW liegen. Sonst nudelst du dir die SSDs ruckzuck runter. Haber bei meinen 1 TB MX500 (0,3 PBW) im RAID 1 nur 18 Monate dazu gebraucht umd sie auf 20% zu bringen. Dann habe ich sie mal lieber ausgetauscht, bevor mir eine Hops geht.

Da mache ich mir (noch) wenig Sorgen. Es wird nur ein Mal geschrieben und dann ausgelesen. Auf der SSD wird nicht wirklich viel gearbeitet. WEnn die Geschwindigkeit erstmal passt, kümmere ich mich um den Rest

 

[conf_t]

Es wird nur ein Mal geschrieben und dann ausgelesen.

Und am nächsten Tag wieder das gleiche und dann wieder, oder wie haben wir uns das vorzustellen? Es ist ja egal wie oft eine Datei geschrieben wird, es kommt darauf an wie viel insgesamt geschrieben wird.
Wenn du durchschnittlich auf 4 TB / pro Tag kommst, bist du nach 1000 Tagen (3 Jahre) bei 4 PBW).....

Für solche SSDs zahlst du dann aber auch über 500 € / Stk.

 

[kest]

Ok, das muss man immer mit den Produktionskosten im Vergleich sehen. Erfahrungsgemäß sind bei Produktionen in 8 oder 12K die Kosten für ein paar 4TB SSDs in den Verpflegungskosten mit drin.

Generelle Frage, was mich interessiert: Was machst du mit den Daten das du 600mb/sec konstante Leseleistung benötigst?

Bei großen Produktionen mag das mit Verflegungskosten drin sein, hier ist alles noch relativ am Anfang. Die Initialkosten für Kamera und den Rest sind schon nicht zu verachten gewesen. Deshalb wollte ich ja erst jemanden hören, der vielleicht sowas ähnliches schon gemacht hat. Wenn alles angeschafft wurde und die Performance nicht reicht, dann ist es blöd... gut 4TB SSDs und HDDs kann man immer gebrauchen :-)

Das ganze ist ein 3D-Produktionssystem. Die RAW 3D Streams werden dann in Echtzeit umgerechnet (bzw. direkt beim Schneiden). 600 MByte/s ist das, was die GPU on the fly maximal schafft (hier können Fehler enthalten sein, weil ich nur für Technik zuständig bin und so habe ich zumindest den Workflow verstanden)

Und am nächsten Tag wieder das gleiche und dann wieder, oder wie haben wir uns das vorzustellen? Es ist ja egal wie oft eine Datei geschrieben wird, es kommt darauf an wie viel insgesamt geschrieben wird.

Eine/n Woche/Monat später (ist noch nicht ganz klar) kommen dann vielleicht weitere 16TB an Daten, die alten können weg (oder gebackupt werden).

 

[Tobi-S.]

Bei großen Produktionen mag das mit Verflegungskosten drin sein, hier ist alles noch relativ am Anfang. Die Initialkosten für Kamera und den Rest sind schon nicht zu verachten gewesen. Deshalb wollte ich ja erst jemanden hören, der vielleicht sowas ähnliches schon gemacht hat. Wenn alles angeschafft wurde und die Performance nicht reicht, dann ist es blöd... gut 4TB SSDs und HDDs kann man immer gebrauchen :-)

Das ganze ist ein 3D-Produktionssystem. Die RAW 3D Streams werden dann in Echtzeit umgerechnet (bzw. direkt beim Schneiden). 600 MByte/s ist das, was die GPU on the fly maximal schafft (hier können Fehler enthalten sein, weil ich nur für Technik zuständig bin und so habe ich zumindest den Workflow verstanden)


Eine/n Woche/Monat später (ist noch nicht ganz klar) kommen dann vielleicht weitere 16TB an Daten, die alten können weg (oder gebackupt werden).

Ok, verstanden.
Hast du schon mal drüber nachgedacht einen 8 Platten Raid 0+1 zu machen?
Also 4 Platten Raid 0 und diesen gespiegelt auf einen weiteren Raid 0?

Ist was Ausfallsicherheit angeht nicht ganz so sicher, aber damit solltest du die 600mb locker schaffen kommst aber auf wesentlich mehr Speicherplatz als mit der SSD Lösung.

 

[conf_t]

Wäre auch deutlich günstiger.