Budget Server Projekt R940

[Mac_Leod]

Hi,
ich möchte unser „low Budget Server Projekt“ vorstellen.
Nachdem bei einem Kunden diverse GEN14 Dell Server gegen neue getauscht wurden, war einer der Dell Poweredge R940 übrig.
Leider schon ziemlich ausgeschlachtet, aber einem geschenkten Gaul und so…
Normal werden Dinge wie Nexcloud und co bei Hetzner gehostet, aber die Chance auf on Prem, wollten wir uns nicht entgehen lassen.
In meinen Träumen wäre eine ollama Umgebung toll, aber für GPUs ist es der falsche Unterbau.
Maximal 17cm lange Netzwerkkarten mit viel Grafikspeicher sind mir nicht bekannt.

Also mit Freude auf den ersten eigenen Firmenserver, direkt mal im Lager geschaut was alles noch da ist.

2x Xeon 6244 8/16, 96 GB RAM, und diverse SSDs, inkl. 2 Optanes, HBA330 mit leider zu kurzer Slotblende. Caddys für 2,5 Zoll, waren noch da.
Nun gilt es noch diverse Teile bei Kleinanzeigen und co zu beschaffen:

24er Mixed NVMe/SAS/SATA Backplane mit den passenden Kabeln.
2 CPUs
Mehr RAM
1 x PCIe Extender
Diverse Slotblenden um die leeren Einschübe zu schließen.
Mal sehen was noch dazu kommt.

Ergänzung (Samstag um 20:59)

Ok RAM fällt aus, 24GB Pro CPU muss erstmal reichen 🤨

 

[Khorneflakes]

Betreibt der Kunde einen Steinbruch? Der Server sieht auf jeden Fall so aus, als ob er in einem betrieben wurde.

Ich will dich in deiner Euphorie nicht bremsen, du wirst bald selbst die ganzen Fallstricke finden. Bis dahin: Viel Spaß!

 

[Mac_Leod]

Ja so ähnlich hab ich auch gedacht, so viel Staub und Dreck hab ich selten in einem Server gesehen.
Aber mittlerweile blitzt alles wieder.

 

[e_Lap]

Ok, und was ist jetzt der Plan fuer dieses Projekt? Jetzt haste da erstmal einen uralten, ineffizienten Klotz am Bein 😅

Was soll da drauf laufen?

 

[Mac_Leod]

Da gibt’s gerade 1000 Ideen, auf jeden Fall erstmal eine Ablage für alle Daten die aktuell lokal auf den Rechnern liegen und weg von dem OneDrive Ansatz.

Boss Karte ist angekommen, wenn die CPUs da sind, PVE drauf und direkt mal testen, was das IDRAC so zu sagen hat.

 

[StevoZsch]

Ich bin Grundsätzlich ein Fan von Homelabs und Servern. Jeder sollte sich mal an so einem spaßigen Projekt versuchen. Daher gehend gibt es von mir den Daumen Hoch

Ich persönlich würde erstmal durchrechnen, was er theoretisch unter last und optimiert im Idle an Strom zieht. Dann muss man selber abschätzen, ob einem so ein "Projekt" das Geld wert ist.

Quasi Kosten Nutzen Faktor.

Aber wie sagt man so schön: Spaß kostet. Ich selber betreibe mein eigenes Homelab mit einer ehemaligen Workstation

2x E5 2697v2 24/48 Kerne/Threads
128GB DDR3 ECC Ram
Quadro P2000
Intel X710 DA2

Als Hypervisor läuft Proxmox und alle VM´s Ubuntu. Spaß macht mir das Basteln und Verbessern bis heute!

LLM´s werden aber noch nicht gehostet, da mir aktuell die Leistung der Modelle noch nicht ausreicht.

Ich wünsche dir gutes Gelingen bei deinem Server und halte uns gerne auf dem Laufenden

 

[e_Lap]

LLM´s werden aber noch nicht gehostet, da mir aktuell die Leistung der Modelle noch nicht ausreicht.

mit qwen38 kommste da lokal schon ganz ok weit. Nur mit cpu+ram wird das bei dir nicht vernuenftig laufen.

 

[Mac_Leod]

Wollte schon immer mal diese Adapter testen — damit lässt sich PCIe ohne nennenswerte Signalverluste nach außen führen. Zum Beispiel in ein gedrucktes Gehäuse, das oben auf dem Rack sitzt. Dazu ein externes Netzteil, sauber mit den beiden verbauten Netzteilen auf gemeinsames Massepotential gelegt — und schon lässt sich eine 3090 anflanschen.
Ja, mir ist bewusst, dass das vorerst ein Luftschloss ist

Aktuell muss ich mich erstmal um die verbogenen Pins in den Sockeln kümmern. Zum Glück nichts Neues.
Ich frag mich nur immer wieder, wie das passieren kann.

 

[Khorneflakes]

Da gibt’s gerade 1000 Ideen, auf jeden Fall erstmal eine Ablage für alle Daten die aktuell lokal auf den Rechnern liegen und weg von dem OneDrive Ansatz.

Die Idee ist gut. Der R940 ist dafür nur bedingt die richtige Wahl. Extrem bedingt.

 

[StevoZsch]

Der R940 ist dafür nur bedingt die richtige Wahl.

Bitte um Begründung o.o

 

[Khorneflakes]

Ein 4-Sockel-Rackserver, der je nach Ausstattung im Leerlauf schon ein hohe dreistellige Leistungsaufnahme hat, ist nicht wirklich geeignet um Datenablage zu spielen. Auch dann nicht, wenn einem noch diverse weitere Workloads einfallen, die man da draufpacken will.

Das System kriegst du alleine ja nie ausgelastet und die potenzielle Leistung lässt du ungenutzt liegen, zahlst dafür aber die Zeche in Form der hohen Leerlaufleistungsaufnahme.

So ein Server ist nett um mal rumzuspielen und so steigen viele Leute erstmals in das Thema ein. Merken dann aber schnell, dass das nur bedingt der richtige Weg für Zuhause ist. So ein System ist geeignet um ein ESX-, Datenbank- oder Webserver zu sein, der viel parallelen Workload an zentraler Stelle abarbeitet.

 

[Mac_Leod]

Es stand leider kein anderer geschenkter Server rum, die Server die ich normalerweise bei den Kunden ersetze, sind so extrem teuer, selbst die Refurbished Geräte, dass ein anderes Blech finanziell einfach nicht drin ist.
Großteil der Teile hatte ich noch da, also rein der Aufwand passt das aus meiner Sicht.
4 Sockel finde ich persönlich Klasse, weil hier extrem viel Spielraum für x Projekte gegeben ist.
Sollte ich nochmal irgendwo bezahlbaren RAM auftreiben können wird das schon.
Den Stromverbrauch sehe ich nicht so kritisch an.
Zu Hause würde ich sowas natürlich nicht betreiben, wobei die Sonne da genug rein holen würde

Heuts soll die Backplane kommen, man bin ich gespannt.

 

[Skysnake]

Man muss sich aber schon im klaren sein, das auch die Firma den Strom bezahlen muss. Da ist man schnell dabei das ein neues System auf X Jahre gesehen trotzdem günstiger ist. Selbst wenn man für sie HW nichts bezahlt.

An nem.4 Sockel system ist nur gut NUMA Verhalten leicht zu erlernen.