4x RTX 4090 / 5090 KI-Server im Keller an 25 kWp Solar (DIY) + Heizungs-Puffer. Sinnvoll?

  • Ersteller Ersteller CN_2026
  • Erstellt am Erstellt am
CN_2026 schrieb:
Ich plane aktuell, die Karten nicht zu kaufen, sondern über ein B2B-Mietmodell (Grover Business) zu leasen. Damit liegt das Ausfall- und Defektrisiko nicht bei mir.
Bei denen ist KI-Dauerbetrieb erlaubt?
CN_2026 schrieb:
Für den Winter ist eine automatisierte Software-Bremse geplant: Über den dynamischen Tibber-Tarif laufen die Karten nur bei günstigen Netzpreisen. Wenn der Strom zu teuer wird, geht das System kontrolliert in den Standby.
Was ist mit den Kunden, die gerade auf deinem Node rechnen? Werden rausgeworfen? Das finden die Plattformen, wo du anbietest, sicher nicht so gut, weil sich die Leute beschweren werden.

Ich will dir das nicht schlecht reden, du hast dir da ein cooles Konzept ausgedacht und versuchst, so autark wie möglich zu sein und die Energie bestmöglich zu nutzen.

Den Server in den Standby zu schicken sehe ich aber kritisch, auch, ob sich das überhaupt lohnt, da musst du deine Kosten mal mit den möglichen Erlösen gegenrechnen, dabei würde ich vorsichtig kalkulieren und von hohen Stromkosten in der Nacht und/oder im Winter ausgehen. Wenn man sich die Plattformen so ansieht, dann gibt es im Moment ca. $0,3x pro Stunde für eine 5090, mit 4x 5090 errechnet das Rechnertool von vast.ai $1,245.00 Einnahmen bei 80% Auslastung. Die Frage ist halt auch, wie stabil die Einnahmen sind oder schwanken die stark? Reichen die Einnahmen auch bei $0,15, um keine Verluste zu machen, auch im Winter, wenn du Strom aus dem Netz holen musst?
 
HerrRossi schrieb:
Bei denen ist KI-Dauerbetrieb erlaubt?
Laut Vertragsbedingungen nein ;)

Dazu kommt, dass die 4090 vermutlich in 2, maximal 3 Jahren für den Marktbereich komplett uninteressant sein werden. Man müsste also nach Steuer in 2 Jahren 25k Hardwarekosten + Betriebskosten wie Starlink etc verdienen
 
CN_2026 schrieb:
Wäre extrem cool, wenn ihr dazu noch ein paar handfeste Einwände, Zahlen oder Ideen habt, wie das wirtschaftlich zu realisieren ist.
Wir können das nicht für dich rechnen, da wir deine Kosten nicht kennen.
 
  • Gefällt mir
Reaktionen: Fujiyama
Wirtschaftlichkeit... Die Konkurrenz, z.B. Runpod:

1783412273528.png


Wenn du mit 4x RTX 5090 60% Auslastung erreichst und 50€/Tag an Verdienst bekommt (nach Steuern), hast du deinen vielleicht 25k€ Invest nach zwei Jahren wieder drin, ja...

Es ist offenbar nicht unmöglich, dass es funktioniert und du Profit machst. Angenommen es finden sich genügend Leute, die GPUs bei dir mieten wollen und durch die langsame Starlink Anbindung nicht abgeschreckt werden.

Bei hohen Strompreisen einfach abschalten wird auf jeden Fall nicht möglich sein wenn jemand die GPUs grade gemietet hat.
 
HerrRossi schrieb:
Ich will dir das nicht schlecht reden, du hast dir da ein cooles Konzept ausgedacht und versuchst, so autark wie möglich zu sein und die Energie bestmöglich zu nutzen.
Also "ausgedacht" hat er sich das ziemlich sicher nicht.

So oder so ähnlich wird das in Rechenzentren schon seit Ewigkeiten gemacht - mit dem Unterschied, dass hier nicht versucht wird mit KI Rechenleistung Geld zu verdienen.

Außerdem haben die RTX 4090/5090 "nur" 32GB VRAM - für ernsthafte KI Modelle und für Leute die dazu bereit sind Geld dafür auszugeben, reicht das doch gar nicht mehr wirklich aus.

Wenn es so rentabel wäre, dann würde das jeder machen. Die Theorie ist ja auch die eine Sache, die Praxis - und entsprechend viele Mieter zu finden, eine ganz andere. Eine langfristig rentable Einkommensmöglichkeit ist das meiner Meinung nach nicht - zumal die RTX 4090/5090 auch nicht neuer werden. Wer will das in ein paar Jahren noch mieten? Ich denke keiner.

Mir wäre das alles viel zu riskant.
 
Ich habe jetzt nicht alles durchgelesen, deswegen kann es sein das einiges schon gesagt wurde!

Insgesamt scheint deine Idee ganz gut, ABER
4090 und 5090 unterstützten kein NV Link da wird es richtig langsam wenn über den RAM getauscht werden muss!

Außerdem kommt mir hier das nutzungsszenario zu kurz! Welche Modelle willst du da laufen lassen? Für Gemma4 oder Qwen3.6 reichen schon 2 GPUs, aber für richtig gute Sachen Minimax M3 oder GLM5.2 hast du bei weitem nicht genug Speicher!

Die Idee hier ist kein Stück zu Ende gedacht und basiert wohl eher auf halbwissen!
 
  • Gefällt mir
Reaktionen: derMutant und snakesh1t
BDR529 schrieb:
Außerdem haben die RTX 4090/5090 "nur" 32GB VRAM - für ernsthafte KI Modelle und für Leute die dazu bereit sind Geld dafür auszugeben, reicht das doch gar nicht mehr wirklich aus.
Wenn er 4 Stück einbaut und das richtig konfiguriert, kann er 96 bzw. 128GB VRAM anbieten, hat aber den Bottleneck PCIe-Slot.
 
@CN_2026 Finde das Thema durchaus interessant.
Aber wie rechnet man das überhaupt?
Hat der Rechner dann eine gewisse TFLOP Zahl nach der vermietet wird, oder wie funktioniert das?
Wieviel TFLOP hätte das RIG mit den 4 Grafikkarten denn und wieviel bekommt man dafür pro Stunde/Tag/Woche?
Mit wieviel Anschaffungskosten bzw Mietgebühren für die Hardware musst du rechnen und wann wäre die Amortisation erreicht?

Wie rechnest du mit dem Strombedarf? 7ct/kWh?

Und viel interessanter, wie soll die Wasserkühlung mit dem Wasserspeicher gekoppelt werden? Da kommen vielleicht 40° aus der Wasserkühlung raus und das kann ja nur an den Speicher abgegeben werden, wenn der noch kühler ist. Ist der Speicher wärmer, wo geht dann welche Wärme hin? Da muß ja irgendwie eine Kopplung stattfinden.

Ich kenne das Problem, dass man mit 25kWp auf dem Dach im Sommer gar nicht weiß wohin mit dem Strom, aber so eine Idee hatte ich noch nicht.

Grundsätzlich würde ich bei so einem Heizungsspeicher erstmal an Solarthermie denken, falls noch Platz auf dem Dach ist und dazu eine Wärmepumpe. Holz ist in meinen Augen immer Hobby. Wem es Spaß macht und ggfls selbst genug Holz hat kann damit gut um die Runden kommen, wer das mit Lebenszeit und ggfls zusätzlichen Kosten rechnet wird Holz selten als Alternative betrachten.

PV Überschuß wird in den nächsten Jahren ein größeres Thema und es wird wohl dahingehen, dass man große Speicher anschaffen wird und mit dynamischen Tarifen zu guten Zeiten einspeist und andersherum sogar günstig einkauft. Das muß so kommen, wenn die PV Anlagen das Netz nicht kaputt machen sollen.
Leider bei mir noch kein Thema, weil der Energieversorger noch nicht so weit ist.

Rickmer schrieb:
Wenn du mit 4x RTX 5090 60% Auslastung erreichst und 50€/Tag an Verdienst bekommt (nach Steuern), hast du deinen vielleicht 25k€ Invest nach zwei Jahren wieder drin, ja...
Lohnt es sich denn überhaupt Grafikkarten für 2 Jahre zu mieten?
 
Zuletzt bearbeitet:
HerrRossi schrieb:
Wenn er 4 Stück einbaut und das richtig konfiguriert, kann er 96 bzw. 128GB VRAM anbieten, hat aber den Bottleneck PCIe-Slot.
Wenn auf allen 4 GPUs das gleiche vollständige Modell parallel läuft (Data Parallelism), dann gilt:
  • Jede GPU benötigt eine komplette Kopie des Modells.
  • Jede GPU hat weiterhin nur 32 GB VRAM für diese Modellinstanz zur Verfügung.
  • Die 128 GB VRAM werden nicht zu einem gemeinsamen Speicherpool zusammengefasst.
Beispiel:
  • Modellgröße: 28 GB → läuft problemlos auf jeder der vier 32-GB-GPUs.
  • Modellgröße: 50 GB → läuft nicht, obwohl insgesamt 128 GB VRAM vorhanden sind, weil keine einzelne GPU genügend Speicher hat.
Darauf wollte ich hinaus. Bei Model Parallelism ist es anders, jedoch ändert es nichts daran, dass unter Umständen 32GB VRAM einfach nicht ausreichen.
 
BDR529 schrieb:
Darauf wollte ich hinaus.
Du kennst dich vermutlich besser damit aus, aber man kann doch GPUs zu einem "Cluster" zusammenschließen und das gesamte RAM für ein großes Modell nutzen!?
 
Da sprichst du genau die richtigen Punkte an! Erst mal zu deinen Fragen:Grover & Dauerbetrieb: Bei Grover Business (B2B) ist die gewerbliche Nutzung der Hardware abgedeckt, das ist vertraglich geregelt [3.1].Kunden-Rauswurf beim Standby: Nein, die werden natürlich nicht eiskalt gekillt. Das System soll mit „Draining“ laufen. Sobald die Tibber-Vorschau am Vortag um 13 Uhr hohe Preise anzeigt, wird der Node für Neukunden gesperrt. Die aktiven Kunden rechnen sauber zu Ende und danach fährt das System kontrolliert in den Standby. Die 100 % positive Bewertung auf der Plattform bleibt also unberührt.Ich muss dazu sagen: Ich bin ein absoluter Laie und totaler Nicht-Fachmann, was diese tiefe IT-Welt angeht. Aber ich finde die ganze Sache mit der KI-Rechenleistung einfach sensationell interessant, weil ich für meinen Hof etwas Dauerhaftes schaffen möchte! Ich will den hart erzeugten Solarstrom nicht einfach für magere 7 Cent an den Staat abgeben, sondern suche eine echte Veredelung für meinen produzierten Strom hier vor Ort.

Zu deiner Frage mit dem absoluten Preis-Crash auf 0,15 $ (ca. 0,13 €) im Winter:Selbst bei diesem "Worst-Case"-Mietpreis entstehen im Keller keine Verluste, weil das Gesamtsystem den Hof absichert. Schau mal auf diese konservative Winter-Kalkulation (6 Monate):Verbrauch unter Volllast: ca. 1,5 kW Dauerlast für das 4er-Rig = 36 kWh am Tag.Stromkosten im Winter: Bei trübem Wetter rechnen wir mit reiner Tibber-Nutzung. Durch die Software-Bremse in den teuren Stunden halten wir einen defensiven Einkaufspreis von 24 Cent / kWh.Winter-Stromkosten pro Tag: 36 kWh × 0,24 € = - 8,64 €.KI-Einnahmen bei totalem Preis-Crash (0,13 €/Std. bei 65% Auslastung): 15,6 Stunden bezahlte Laufzeit × 4 Karten × 0,13 € = + 8,11 € am Tag.Die nackte Server-Bilanz an einem solchen Crash-Wintertag: - 0,53 € im Minus.

ABER jetzt greifen meine beiden Hof-Schutzschilde:Die Volleinspeisung: Die andere Dachhälfte (10 kWp Volleinspeisung) liefert mir felsenfest garantiert ca. 2,87 € am Tag vom Staat ab (1.050 € im Jahr sicheres Staatsgeld) [30 kVA]. Das fängt das kleine Server-Minus von 53 Cent nicht nur locker ab, sondern lässt jeden Tag über 2,30 € Puffer auf dem Konto übrig [30 kVA]!Die Holz-Ersparnis: Die 1,5 kW Abwärme schiebe ich über einen Plattenwärmetauscher in meinen 4.000-Liter-Puffer. Das stützt die Grundlast des alten Bauernhauses und spart mir jeden Tag Holz im Wert von ca. 3,00 bis 5,00 €, weil ich den Holzvergaser viel seltener füttern muss.Das unterm Strich Fazit:Selbst wenn die Mietpreise im Internet im Winter komplett einbrechen, zahle ich dank der Volleinspeisung keinen Cent aus eigener Tasche drauf [30 kVA]. Dafür wird im Sommerhalbjahr bei 0-Cent-PV-Strom und einem reinen Sommer-Gewinn von ca. + 15,48 € am Tag (ca. 464 € im Monat) das fette Plus eingefahren [30 kVA].Was sagt ihr zu dem Zusammenspiel aus Solar, Tibber und Pufferspeicher unter diesen Bedingungen?
 
CN_2026 schrieb:
Da sprichst du genau die richtigen Punkte an! Erst mal zu deinen Fragen:
Sag mal, tippst du die Antworten der Leute in ChatGPT und lasst dann ChaptGPT die Antworten formulieren?
 
  • Gefällt mir
Reaktionen: derMutant, trommelmaschine, -MK und 16 andere
Musst halt noch Steuern und Abgaben abziehen, Schwankende Auslastung und damit schwankende Einnahmen berücksichtigen, Defekte und Ausfälle, und die Arbeitszeit ist auch nicht umsonst.
 
  • Gefällt mir
Reaktionen: Phil_81
Die Anschaffungs- und Erneuerungskosten seh ich da auch noch nicht mit drin?
 
Hoffentlich schreibt bald jemand eine Erweiterung der Foren-Software, die datenschutzkonform überprüft, ob die Posts tatsächlich eingetippt wurden oder von Agenten stammen bzw. eingefügt wurden. Sehr nervig, dass man jetzt auch hier mit solchen generierten Posts zu tun bekommt.
 
  • Gefällt mir
Reaktionen: -MK, cubisticanus, msv und 2 andere
Ja, sorry, du hast mich absolut entlarvt! 😉Wie gesagt, ich bin ein totaler Laie, was diese ganze KI-Geschichte oder auch die Sache mit den Servern und CPUs angeht. Da mir die Idee aber keine Ruhe gelassen hat, habe ich mir für die Texte und die ganzen Rechnungen einfach Hilfe geholt, um euch ordentliche Zahlen zum Diskutieren zu liefern, ohne euch zu nerven.Ich möchte halt einfach für meinen Hof hier vor Ort was Nachhaltiges schaffen und eine sinnvolle Einnahmequelle aufbauen. Deswegen kam mir der Gedanke mit dem Bereitstellen der KI-Rechenleistung, weil KI ja momentan überall gesucht wird
 
CN_2026 schrieb:
Bei Grover Business (B2B) ist die gewerbliche Nutzung der Hardware abgedeckt, das ist vertraglich geregelt
Gewerbliche Nutzung ist was anderes als in 9.1:
1783416169695.png

eine Spielegrafikkarte hat definitiv nicht den intended use einer "KI"-Rechenfarm.
 
Vielleicht wären spezialisierte Bitcoin Miner eine Alternative? Gerade zu Zeiten des Kryptobooms haben das viele mit PV in DE gemacht und die Abwärme zum Heizen benutzt.
Die "veralten" evtl. auch nicht so schnell wie KI-GPUs. Ist für einen Laien auch sehr viel einfacher umzusetzen.
 
  • Gefällt mir
Reaktionen: OliverL87 und Das MatZe
Zurück
Oben