tomgit
Rear Admiral
- Registriert
- Nov. 2015
- Beiträge
- 5.523
Was darf Satire.CN_2026 schrieb:was Nachhaltiges schaffen[...] KI-Rechenleistung, weil KI ja momentan überall gesucht wird
Folge dem Video um zu sehen, wie unsere Website als Web-App auf dem Startbildschirm installiert werden kann.
Anmerkung: Diese Funktion ist in einigen Browsern möglicherweise nicht verfügbar.
Was darf Satire.CN_2026 schrieb:was Nachhaltiges schaffen[...] KI-Rechenleistung, weil KI ja momentan überall gesucht wird
An dem Punkt kann man eigentlich nur raten: Lass es.CN_2026 schrieb:Wie gesagt, ich bin ein totaler Laie, was diese ganze KI-Geschichte oder auch die Sache mit den Servern und CPUs angeht.
Ist das überhaupt noch zulässig nach dem Urteil zum Thema PV und Montage durch zugelassene Handwerker?CN_2026 schrieb:Ich baue parallel eine 25 kWp PV-Anlage im reinen Eigenbau (DIY) auf das Scheunendach. Geplant ist eine Überschusseinspeisung.
Das gilt nur solange bis Grover entdeckt was du mit den GPUs gemacht hast. Sowohl der Umbau auf Wasserkühlung als auch die Nutzung für Mining/Hosting (sofern von Nvidia ausgeschlossen wie @steirerblut erwähnte) dürften als unsachgemäße Nutzung gelten. Damit trägst du das finanzielle Risiko bei Ausfall oder Reparatur zu 100 Prozent selbst.CN_2026 schrieb:Wegen dem Dauerbetrieb und dem Garantierisiko: Ich plane aktuell, die Karten nicht zu kaufen, sondern über ein B2B-Mietmodell (Grover Business) zu leasen. Damit liegt das Ausfall- und Defektrisiko nicht bei mir.
Die Grundidee ist ja gut, aber die Realisierbarkeit schwierig bis extrem schwierig.CN_2026 schrieb:Ja, sorry, du hast mich absolut entlarvt! 😉Wie gesagt, ich bin ein totaler Laie, was diese ganze KI-Geschichte oder auch die Sache mit den Servern und CPUs angeht. Da mir die Idee aber keine Ruhe gelassen hat, habe ich mir für die Texte und die ganzen Rechnungen einfach Hilfe geholt, um euch ordentliche Zahlen zum Diskutieren zu liefern, ohne euch zu nerven.Ich möchte halt einfach für meinen Hof hier vor Ort was Nachhaltiges schaffen und eine sinnvolle Einnahmequelle aufbauen. Deswegen kam mir der Gedanke mit dem Bereitstellen der KI-Rechenleistung, weil KI ja momentan überall gesucht wird
This!Serana schrieb:Das gilt nur solange bis Grover entdeckt was du mit den GPUs gemacht hast. Sowohl der Umbau auf Wasserkühlung als auch die Nutzung für Mining/Hosting (sofern von Nvidia ausgeschlossen wie @steirerblut erwähnte) dürften als unsachgemäße Nutzung gelten. Damit trägst du das finanzielle Risiko bei Ausfall oder Reparatur zu 100 Prozent selbst.
Im Extremfall könntest du sogar gegenüber Grover schadensersatzpflichtig werden. Wenn die Hardware im Zuge deines vertragswidrigen Gebrauchs beschädigt wird kann sie schließlich nicht an andere Kunden zum vertragsgemäßen Gebrauch vermietet werden.
Effizient ist die ganze Geschichte auch nicht.Phil_81 schrieb:Mach dich doch bitte erstmal schlau, was "Nachhaltigkeit" genau bedeutet.
Du musst die Leasinggebühren noch mit einrechnen, auch die Anschaffung der restlichen Hardware musst du monatlich einpreisen, wobei sich das in Grenzen halten dürfte.CN_2026 schrieb:Die nackte Server-Bilanz an einem solchen Crash-Wintertag: - 0,53 € im Minus.
Was meinst du mit dauerhaft? Ob sich das Geschäftsmodell auf Jahre hinweg rechnet? Da gibt es viele Variablen, die reinspielen. Das GPU-Mining ist geplatzt, als die Asic-Miner aufkamen. Kann man ausschließen, dass so etwas bei AI nicht auch passieren wird? Ich bin da nicht tief genug im Thema drin.CN_2026 schrieb:Aber ich finde die ganze Sache mit der KI-Rechenleistung einfach sensationell interessant, weil ich für meinen Hof etwas Dauerhaftes schaffen möchte!
Das geht tatsächlich nur wenn die GPUs das auch unterstützen zum Beispiel mit NVLink aber der wurde nach der 30XX Reihe gestrichen. deswegen nutzen die meisten ja auch die 3090 für KI-WorkstationsHerrRossi schrieb:aber man kann doch GPUs zu einem "Cluster" zusammenschließen und das gesamte RAM für ein großes Modell nutzen!?
Jo das sind ältere GPUs und zusätzlich halt keine ConsumerGPUs, dort ist NVLink zum zusammenschließen als Cluster weiterhin vorhandenFreshLemon schrieb:a, mach ich auch so mit 2 Quadro P5000. Modell Gemma4:31b oder Qwen3:30b.
Wenn man keine Ahnung hat vor allem! Hinter der Verteilung von Rechenleistung steckt ordentlich Software, aber hier sieht man ja schon ander Hardware zusammenstellung das man keine Ahnung hat!calippo schrieb:Ich denke, dass kein Geschäftsmodell mit teurer Hardware und günstigem eigenem PV Strom lohnt
Nee, die Quadro P5000 haben kein NVLink. Nur SLI. Aber das verwende ich nicht, weil es nichts bringt für LLM. NVLink bringt auch nur bedingt was, bei 2 GPUs ist der Nutzen eher minimal. Bei Qwen3:30b komme ich mit meinem Setup auf ca. 40 Response Tokens/s, habe grad mal nachgeschaut.Der_Dicke82 schrieb:Jo das sind ältere GPUs und zusätzlich halt keine ConsumerGPUs, dort ist NVLink zum zusammenschließen als Cluster weiterhin vorhanden
Ich glaube das hängt auch sehr von der Software ab, Ollama ist ja zum Beispiel nicht sehr optimiert was MultiGPU angeht.FreshLemon schrieb:NVLink bringt auch nur bedingt was,