Erfahrung mit ReFS

Hallo zusammen

Ist es klug dieses Dateisystem bereits einzusetzten mit einem RAID 5 via Controller: RocketRAID 2720 SAS Controller

Hat jemand von euch bereits Erfahrung mit ReFS die Wikipedia Seite ist ziemlich dürftig:https://de.wikipedia.org/wiki/ReFS

besten dank für Infos

Da das Dateisystem demnächst nur noch in Windows 10 Workstation richtig einsetzbar ist, sollte man vielleicht erst einmal abwarten.

@Zerstoerer

Gut bleibt die Frage exFAT oder NTFS auf dem Server läuft ein windows Server 2016( der ja auf windows 10 basiert) Das RAID läuft über einen zusätzliche Controller: RocketRAID 2720 SAS Controller macht es das sinn auf exFat zu setzten, damit im falle eines zerstörten windows noch ein Datenzugriff über ein Live Linux möglich wäre..?

NTFS ist ja nicht wirklich linux freundlich..

Was erhoffst du dir durch die Nutzung von ReFS? Oder willst du es einfach nutzen "weil man es kann"? Hast du einen konkreten Anwendungsfall dafür?

NTFS lässt sich auch unter Linux nutzen. Was soll daran nicht freundlich sein? Da fällt mir nur ein, dass es je nach Distribution nicht nativ nutzbar ist und man ntfs-3g nachinstallieren muss aber das ist ja nun keine große Hürde.

Das man heutzutage kein Raid 5 mehr nutzen sollte ist dir bewusst, zumindest ab einer gewissen Plattengröße?

@snaxilian

Das man heutzutage kein Raid 5 mehr nutzen sollte ist dir bewusst, zumindest ab einer gewissen Plattengröße?

Zum Vergrößern anklicken....

Hm nein das ist mir neu ? aber was spricht jetzt gegen ein Raid 5 a 4x4TB und 4x3 TB? In meinen Synology boxen nutze ich auch ein SHR ähnlich einem RAID 5, ich verstehe nicht ganz was jetzt daran nicht gut sein sollte?

Klar muss man einfach damit rechnen das ein erstellen des Volumen sehr lange dauert: ca. 110 - 85H aber das jukt mich nicht. In meine fall könnte ich jetzt auch hin gehen und 2x8 TB HDDs und 2x 10 TB HDDS kaufen und ich hätte den selben Effekt.
Die platten habe ich aber noch rumliegen also warum geld ausgeben..

Was erhoffst du dir durch die Nutzung von ReFS?

Zum Vergrößern anklicken....

Nichts rein Interesse halber einmal nachgefragt worin der unterschied liegt.

NTFS lässt sich auch unter Linux nutzen. Was soll daran nicht freundlich sein? Da fällt mir nur ein, dass es je nach Distribution nicht nativ nutzbar ist und man ntfs-3g nachinstallieren muss aber das ist ja nun keine große Hürde.

Zum Vergrößern anklicken....

Würde dies mit centOS 7.4 oder Ubuntu 17.4 /17.10 gehen wen? muss da etwas nach installiert werden über die Paket Quelle?

Kurzfassung: BIT ROT.

Zitat: "es it is a problem, mainly as the drive sizes go up. Most SATA drives have a URE (uncorrectable read error) rate of 10^14. Or for every 12TB of data read statistically the drive vendor says the drive will return a read fail (you normally can look them up on the drive spec sheets). The drive will continue to work just fine for all other parts of the drive."
Quelle: https://serverfault.com/questions/77710/is-bit-rot-on-hard-drives-a-real-problem-what-can-be-done-about-it

Oder hier: http://www.speicherguide.de/wissen/doc-storage/was-bedeutet-silent-data-corruption-bit-rot-17219.aspx

Oder hier: https://www.heise.de/ct/hotline/Welches-RAID-Level-fuer-viele-Terabytes-2056731.html

Oder einfach mal Bit Rot und/oder Raid 5 bei Google eingeben. Im besten Fall lebt dein Raid 5 für 2-3 Jahre, dann verreckt eine Platte und beim Rebuild verreckt die nächste und dann kannst "auf Wiedersehen Daten" sagen.

Das sagt einem halt nur keiner oder alle denken: Ach, das trifft mich schon nicht oder es ist den Leuten zu teuer es vernünftig zu machen.
Fun Fact: Manche Synology Systeme unterstützen zwar BTRFS aber nicht den Fehlerkorrektur-Teil. Kopf > Tisch.

Das Erstellen eines Volumes dauert nicht lange, der Rebuild frisst viel Zeit und wie schon gesagt stirbt beim Rebuild gern die nächste. Aber mach ruhig. Beim Crash und der Bitte um Hilfe zur Datenrettung in einiger Zeit werde ich dir dann aber auf diesen Thread verlinken. Eventuell noch mit nem schönen told you so


NTFS unter Linux: Ich habe dir sogar das Paket genannt. ntfs-3g Cent-OS:
ntfs-3g Ubuntu: ntfs-3g Ubuntu ntfs-3g (de).

Es gibt aber auch HDDs mit einer UBER von 1:10^15 und da ist nur alle 120TB gelesener Daten mit einem Lesefehler zu rechnen, ohne dass die HDD ihre Spezifikationen verlässt. Diese Fehler müssen nicht passieren, können es aber. Damit sieht die Rechnung dann ganz anderes aus, denn bei einem RAID 5 mit 4x4TB und HDDs mit einer UBER von 1:10^15 liegt die theoretische Wahrscheinlichkeit für ein erfolgreiches Rebuild bei über 90%, während sie bei HDDs mit einer UBER von 1:10^14 keine 30% beträgt. Die UBER macht hier also viel aus und man muss zur Berechnung der Wahrscheinlichkeiten die Wahrscheinlichkeit für jede HDD berechnen und darf nicht einfach die Gesamtkapazität der Platten nehmen.

Ja, die Platten mit einer UBER von 1:10^15 gibt es. Sind aber teurer. Das meinte ich ja mit "ist den Leuten zu teuer es vernünftig zu machen".
Beispiel WD: Da muss es schon die Red Pro sein, die kostet in der 4 TB Variante 50€ mehr das Stück. Dieser Aufpreis ist es vielen nicht Wert.

Oder einfach mal Bit Rot und/oder Raid 5 bei Google eingeben. Im besten Fall lebt dein Raid 5 für 2-3 Jahre, dann verreckt eine Platte und beim Rebuild verreckt die nächste und dann kannst "auf Wiedersehen Daten" sagen.

Das sagt einem halt nur keiner oder alle denken: Ach, das trifft mich schon nicht oder es ist den Leuten zu teuer es vernünftig zu machen.
Fun Fact: Manche Synology Systeme unterstützen zwar BTRFS aber nicht den Fehlerkorrektur-Teil. Kopf > Tisch.

Zum Vergrößern anklicken....

Könnte das ganze nicht nur schwarz Malerrei sein ?
Dann müssten ja Qnap und synology Foren voll von gecrashten RAIDs sein?...
Das beim Rebuidl die nächste Crashs ist mir bewusst, ich warte sicherlich nicht bis sich die erste HDD verabschiedet um eine zu ersetzt. Nach ca. 20K - 30K Betriebsstunden wird die erste WD REd ersetzt evtl, auch durch eine Red pro.

Das Erstellen eines Volumes dauert nicht lange, der Rebuild frisst viel Zeit und wie schon gesagt stirbt beim Rebuild gern die nächste. Aber mach ruhig. Beim Crash und der Bitte um Hilfe zur Datenrettung in einiger Zeit werde ich dir dann aber auf diesen Thread verlinken. Eventuell noch mit nem schönen told you so

Zum Vergrößern anklicken....

Hm da muss ich dich vermutlich ( Klopf auf Holz ) enttäuschen: ich habe ein ziemlich Krankes Backup Konzept
Ds 1815+ Haupt Server ( SHR Btfs) --> BackUp mit hypberbackup auf eine DS1515 ( SHR)
DS 1815+ zusätzliches backup auf eine DX513 SHR EXT4 mit ultimate Backup
DS1815 + Sync aller Daten zu einem Mac mini mit einzel Platten NO RAID
DS1515+ Backup zu einer Xpenology Box jedoch nur die Daten die auf der abgespeichert werden ohne Backup der DS1815+
Weitere Backups Folgen auf einer RS814 und diesem Server jedoch mehr Archiv

iMac Haupt PC mach ein CCC Backup auf die DS1815+ ( Boot bar)
Der iMac verfügt noch über eigen Backups auf der DS 1815 lagern teilweise nur Kopien

DS1815+ Backup alle 24H auf eine Externe( ausser Haus) DS 215J mit den allerwichtigsten Daten falls die Bude abtakelt oä
Sprich die wichtigsten Daten selber erstellte Bilder un Text Dokumente lagern auf mindestens 3 unterschiedlichen Systemen. Da müsste verdammt viel schief gehen.. Ich weis jetzt nich ob dies etwas bringt aber jede DS und RS macht jeden Monat eine RAID Bereinigung. Es heist doch RAID ist kein Backup

snaxilian schrieb:

Beispiel WD: Da muss es schon die Red Pro sein

Zum Vergrößern anklicken....

Nein, auch die WD Red PRO haben nur eine UBER von 1:10^14, auch wenn WD diese in der Form von 10:10^15 angibt (was Toshiba auch gerne macht) und viele ihnen dabei auf den Leim gehen. Bei WD haben meine ich nur die Re und Gold wirklich eine UBER von 1:10^15. Bei Seagate haben es auch die einfachen Ironwolf ab der 6TB und alle Ironwolf Pro.

Bei Seagate haben es auch die einfachen Ironwolf aber der 6TB und alle Ironwolf Pro.

Zum Vergrößern anklicken....

Das ist aber gut meine DS1515+ is mit 4x ST10000VN0004-1ZD101 aufgefüllt in einem SHR Verbund, die waren einfach billiger als die WD RED 10 TB und auch verfügbar..

Toby-ch schrieb:

Das beim Rebuild die nächste Crashs ist mir bewusst, ich warte sicherlich nicht bis sich die erste HDD verabschiedet um eine zu ersetzt. Nach ca. 20K - 30K Betriebsstunden wird die erste WD REd ersetzt evtl, auch durch eine Red pro.

Zum Vergrößern anklicken....

Ob eine Platte ausfällt und du einen Rebuild machen musst oder du planmäßig eine austauschst und einen Rebuild startest ist doch völlig egal. So oder so machst einen Rebuild und der belastet die Platten. Wenn du regelmäßige und aktuelle Backups machst ist das Risiko minimiert für einen Datenverlust.
Auch ist es kein es-muss-ein-Lesefehler-auftreten Zahl sondern eben nur eine Wahrscheinlichkeit. Da diese eben bei 1x pro 12 TB liegt, ist jedes Datengrab in dieser Größe potentiell gefährdet.

Toby-ch schrieb:

Hm da muss ich dich vermutlich ( Klopf auf Holz ) enttäuschen: ich habe ein ziemlich Krankes Backup Konzept
Ds 1815+ Haupt Server ( SHR Btfs) --> BackUp mit hypberbackup auf eine DS1515 ( SHR)
DS 1815+ zusätzliches backup auf eine DX513 SHR EXT4 mit ultimate Backup
DS1815 + Sync aller Daten zu einem Mac mini mit einzel Platten NO RAID
DS1515+ Backup zu einer Xpenology Box jedoch nur die Daten die auf der abgespeichert werden ohne Backup der DS1815+
Weitere Backups Folgen auf einer RS814 und diesem Server jedoch mehr Archiv

iMac Haupt PC mach ein CCC Backup auf die DS1815+ ( Boot bar)
Der iMac verfügt noch über eigen Backups auf der DS 1815 lagern teilweise nur Kopien

DS1815+ Backup alle 24H auf eine Externe( ausser Haus) DS 215J mit den allerwichtigsten Daten falls die Bude abtakelt oä
Sprich die wichtigsten Daten selber erstellte Bilder un Text Dokumente lagern auf mindestens 3 unterschiedlichen Systemen. Da müsste verdammt viel schief gehen.. Ich weis jetzt nich ob dies etwas bringt aber jede DS und RS macht jeden Monat eine RAID Bereinigung. Es heist doch RAID ist kein Backup

Zum Vergrößern anklicken....

Ja du hast Recht, denn das versteht keiner so wie es da steht. Daraus interpretiere ich, dass du mehrere DS1815+ und andere besitzt und alle sich irgendwie irgendwohin kopieren... Noch dazu unterschiedliche Backupziele und Methoden. Das würde ich persönlich entschlanken und vereinheitlichen. Aber bei diesen Mengen an Daten würde ich auch zu keinen Fertig-NAS-Systemen greifen aber das steht auf einem anderen Blatt.

Holt schrieb:

Nein, auch die WD Red PRO haben nur eine UBER von 1:10^14, auch wenn WD diese in der Form von 10:10^15 angibt (was Toshiba auch gerne macht) und viele ihnen dabei auf den Leim gehen. Bei WD haben meine ich nur die Re und Gold wirklich eine UBER von 1:10^15. Bei Seagate haben es auch die einfachen Ironwolf ab der 6TB und alle Ironwolf Pro.

Zum Vergrößern anklicken....

Danke für die Korrektur, bin ich doch glatt in die Marketinglüge getappt.

@Aber bei diesen Mengen an Daten würde ich auch zu keinen Fertig-NAS-Systemen greifen aber das steht auf einem anderen Blatt.

Hm nja synology finde ich jetzt nicht schlec, und die Freeware Nas software wie FreeNas usw. finde ich nicht wirklich top, bzw. liegt mir nicht so. Wenn mann das Potenzial ausnutzt sind die jedoch wahrscheinlich besser oder eine Linux Distribution. Jedoch habe ich sehr wenig Ahnung von Linux.. da kaufe ich mir lieber ein Out of the box Nas mit schlauer software....

Ob eine Platte ausfällt und du einen Rebuild machen musst oder du planmäßig eine austauschst und einen Rebuild startest ist doch völlig egal

Zum Vergrößern anklicken....

Naja da mache ich die Überlegung, wenn ich eine HDD ersetzt bei 20K oder 25K Betriebsrunden ist die Wahrscheinlichkeiten doch kleiner das eine zusätzliche ausfällt, als wen ich abwarte bis die HDDs und somit das ganze RAID 40K oder 50K betriebsstunden hat.
Da alle platten zu selben Zeit gekauft wurden und eingesetzt wurden haben alle die selbe Anzahl stunden auf der Uhr.
Dann wäre deiner Meinung ein RAID 6 BZw. SHR2 besser?? ( zwei platten Ausfall schutz) oder läuft diese ins gleiche.

Wenn alle Platten zur selben Zeit gekauft und damit vmtl. auch produziert wurden haben auch alle die Möglichkeit des gleichen theoretischen Produktionsfehlers
In deinem Fall müsstest du dann ja bei z.B. 6 Platten insgesamt 6 Rebuilds hintereinander durchführen um alle Platten regelmäßig durchzutauschen.

Ja, ein ZFS ist definitiv einer Synology überlegen, keine Frage. Schnellerer Restore, Integrität der Daten gewährleistet, SSDs als Cache für Lese- und/oder Schreiboperationen, etc.
Was an der Software einer Synology oder QNAP oder sonst wem schlau sein soll musst du mir erklären... Schlau ist da nix, genauso wenig wie irgendein "Smart Home Device" wirklich smart ist. Smart und/oder intelligent ist etwas, das aus Fehlern und/oder neuen Daten selbstständig lernt und sich anpasst.

Ja, natürlich ist ein Raid 6 sinnvoller was die Parität angeht. Empfehlen würde ich es trotzdem nicht bzw nur für Datengräber bei denen Performance keinerlei Rolle spielt.

Ob es generell Sinn macht eine Platte schon nach 20-30k Stunden wegzuschmeißen? Darüber mag man sich bestimmt vortrefflich stundenlang streiten bzw diskutieren. Ich persönlich tausche erst wenn die Platte per bestimmten SMART-Werten Warnungen ausgibt oder die Platten von der Kapazität her nicht mehr ausreichen.

Wenn du meine Meinung hören willst, gerade bei so großen Datenmengen:
ZFS. Dazu dann immer 2 gleich große Platten als ein mirrored vdev zusammen fassen. Diese vdev dann zu einem Pool und da drin entsprechend die benötigten Datasets (Dateisysteme) oder Volumes (Block Devices). Ggf. mehrere Pools bei unterschiedlichen Anforderungen. Ergebnis: Skalierbares und erweiterbares System. Schnelles Resilvering (Rebuild), ordentliche Performance da "Raid 10". Optional SSDs als Cache nutzbar falls IOPS benötigt werden.

Ja, ein ZFS ist definitiv einer Synology überlegen, keine Frage.

Zum Vergrößern anklicken....

Verweis evtl bringt dies Syology einmal in seinen Boxen...

Ob es generell Sinn macht eine Platte schon nach 20-30k Stunden wegzuschmeißen? Darüber mag man sich bestimmt vortrefflich stundenlang streiten bzw diskutieren. Ich persönlich tausche erst wenn die Platte per bestimmten SMART-Werten Warnungen ausgibt oder die Platten von der Kapazität her nicht mehr ausreichen.

Zum Vergrößern anklicken....

Also machen wir es kurz auf welchen wert achtest du ?
Ist es nicht so wen eine Platte die ersten 24H überlebt hat hält sie "ewig" war bei mir auch so die platten die bei mir kaputt gingen, gegen in den ersten 12 bzw. 24 h kaput. Ich hb WD greens rum liegen mit 35K betriebsrunden..

Wenn du meine Meinung hören willst, gerade bei so großen Datenmengen:....

Zum Vergrößern anklicken....

ganz schön kompliziert aber danke für deine Info..

Toby-ch schrieb:

Also machen wir es kurz auf welchen wert achtest du ?

Zum Vergrößern anklicken....

Man sollte auf alle Werte achten, denn schwebende Sektoren wie bei Deiner Seagate gibt es bei HDDs die im RAID arbeiten eigentlich nicht, dafür macht man ja normalerweise das regelmäßige (z.B. monatliche, da sonst sehr viel Workload entsteht und auch NAS Platten nur ein Workload Rating von 180TB/Jahr haben) Scrubbing des RAIDs und bei ZFS wird auch noch viel mehr gelesen als bei normalen md SW RAIDs. Wenn nur eine kleine Datei gelesen wird wie vielleicht nur auf einer oder zwei Platten steht, lesen normale RAIDs nur diese Daten ein, ZFS liest aber immer alle Daten aller Platten an der Stelle ein die Parity immer zu prüfen und hat daher gerade bei kleinen Dateien so eine miese Performance.

Toby-ch schrieb:

Ist es nicht so wen eine Platte die ersten 24H überlebt hat hält sie "ewig"

Zum Vergrößern anklicken....

Wenn sie die ersten 24h überlebt hat, dann hatte sie wenigstens keinen schweren Transportschaden oder Herstellungsfehler. Ausfallen kann sie aber trotzdem auch später noch jederzeit. Ausgelegt sind HDDs üblicherweise auf eine Nutzungsdauer von 5 Jahren, was bei den einfache Desktopplatten ohne Zulassung für den Dauerbetrieb die für 2400 Power On Hours pro Jahr ausgelegt sind, dann 12000 Betriebsstunden sind, meist halte sie mindestens so 20.000 aus, was zeigt das immer noch einiges an Reserve drin ist. Bei HDD mit Zulassung für den Dauerbetrieb sind 5 Jahre 43800 Betriebsstunden, die auszutauschen weil sie 20k oder 30k runter haben, ist also verfrüht.

Klar können die auch viel länger halten, gerade ältere Desktopplatten waren noch deutlich weniger kostenoptimiert als heutige, wie man bei einem Blick in die Entwicklungsgeschichte der Barracuda Reihe sieht.

Toby-ch schrieb:

Ich hb WD greens rum liegen mit 35K betriebsrunden..

Zum Vergrößern anklicken....

Nur würde ich dies von den heutigen Blue (da wurden die Green eingereiht) nicht mehr selbstverständlich erwarten, da es inzwischen die Aufteilung in Green und Red gab, womit der Weg frei war bei den Green Einsparungen zu machen, da die Red die Rolle der HDD für solche Anwendungen übernommen hat bei denen die Kosteneinsparungen zu Lasten der Haltbarkeit gehen würden.

Nur würde ich dies von den heutigen Blue (da wurden die Green eingereiht) nicht mehr selbstverständlich erwarten,

Zum Vergrößern anklicken....

Nein Heute habe ich das Geld um mir WDRED oder Senate IronWolf zu kaufen

Scrubbing des RAIDs und bei ZFS wird auch noch viel mehr gelesen als bei normalen md SW RAIDs.

Zum Vergrößern anklicken....

Mein RAID läuft über einen Controller einen Billigcontroller: RocketRAID 2720 SAS Controller wo kann ich da eine Raid Scrubbing einplanen? oder gibt es dies nur bei Software RAID?

Kurzfassung: BIT ROT.

Zum Vergrößern anklicken....

Gibt es so was auch bei SSD's den eigentlich möchte ich wen dann endlich einmal die Preis der SSDs purzelten einen SSD Server zusammen stellen.

Toby-ch schrieb:

Mein RAID läuft über einen Controller einen Billigcontroller: RocketRAID 2720 SAS Controller wo kann ich da eine Raid Scrubbing einplanen? oder gibt es dies nur bei Software RAID?

Zum Vergrößern anklicken....

Ich weiß nicht. Gibt es sowas? Was sagt das Handbuch/Datenblatt/Herstellersupport dazu? Ich weiß von mindestens einem Unternehmen dessen Raid-Controller bietet ein vergleichbares Feature. Ansonsten wirst du mir nicht erzählen können, dass man dazu keinerlei Infos im Netz findet oder zumindest dass diese Infos so gut versteckt seien dass selbst ein Laie diese nicht findet...

Toby-ch schrieb:

Gibt es so was auch bei SSD's den eigentlich möchte ich wen dann endlich einmal die Preis der SSDs purzelten einen SSD Server zusammen stellen.

Zum Vergrößern anklicken....

Ich weiß nicht. Gibt es sowas? Was sagen Handbuch/Datenblatt/Herstellersupport der SSDs dazu?

Was glaubst du was wir hier machen? Für dich deine Fragen bei Google eingeben?

Hm bezüglich Raid Scrubbing habe nur dies gefunden :
Check Disk Task mit eine checkbox: Auto fix the bad sector: mehr kann das teil nicht... jedoch wen ich mir den Wiki Artikel durchlesen sollte es etwas ähnliches sein..

Was glaubst du was wir hier machen? Für dich deine Fragen bei Google eingeben?

Zum Vergrößern anklicken....

Nein ich dachte du bist ein RAID und disk Experte ind weist es gerade

Experte nicht, mit noch ein paar Jahren Berufserfahrung vielleicht. Ich kenne zumindest die Grundlagen und dann halt wieder das "bessere" Zeug. Das große weite eklige Feld der Consumergeräte dazwischen versuche ich zu meiden da es entweder mehr Bugs als Features bietet oder nicht vernünftig erweiterbar oder wartbar ist oder sonstwie mehr Nach- als Vorteile bietet.
Wie du aber schon sagst: Ja, ich habe in gewissen Bereichen Fachwissen. Dieses erlangt man idR indem man sich Wissen aneignet und mal selbst recherchiert und nicht wegen jeder Pupsfrage die einen interessiert direkt andere fragt anstatt Selbstinitiative zu zeigen. Gerade wenn man die gewünschten Informationen mit wenigen Minuten hätte selber finden können. Aber gut, es soll auch Foren geben wo Leute fragen wie man ein Spiegelei kocht^^