Mehrere CPUs verbinden

[YannisFarin]

Hallo,
Ich habe ein Projekt, wo ich wahrscheinlich vorraussichtlich sehr sehr viel Rechenleistung benötigen werde. Also dachte ich mir... machs dir einfach und verbinde doch einfach 4 CPUs.🤔 Doch die Realität sieht ja bekanntlicherweise ein bisschen anders aus🙁 Dann dachte ich ja wieder: Google doch EINFACH.😁 Aber nööö google ist mal wieder auch nicht der beste Freund und wirft mir stattdessen Ergebnisse von wegen Gaming Pc für nur so und so viel an den Kopf.😒 Wer kennts nicht. Ich habe dann aber mit viel Geduld und gefühlt durch 1000 Versuchen mit einer anderen Formulierung zumindest herrausfinden können, dass es Mainboards für 2 CPUs gibt. Dachte ich geilllll.🤩 Und mal wieder nööö. Nicht jede CPU ist dafür geeignet.🙄 Eigentlich wollte ich halt 4 AMD Ryzen 9 miteinander verbinden. Da frage ich mich aber nun. wie geht das den nun und sind die überhaupt geeignet und welche Alternativen hätte ich, falls nein, was mich ehrlichgesagt nicht wundern würde.😑 Kostentechnisch wäre mir vollkommen egal, umsetzungsweg auch, hauptsache ich hab viel Leistung und ich kann darauf Windows 10 Pro normal nutzen. Und wenn es nicht auf diesem Weg geht, wie kann ich dann verdammt viel Leistung erzeugen?

 

[Deathangel008]

wenn 64 Zen2-kerne reichen -> Threadripper 3990X mit passendem sTRX4-MB.

 

[Tamron]

Wenn du kurzfristig die Leistung brauchst geh halt nach Azure oder AWS. Zumindest in Azure kannst du dir für eine VM über 400Cores mit 8TB RAM buchen - natürlich auch kleiner.

 

[Aslo]

Nur mal interessehalber: für was brauchst du die Leistung?

 

[YannisFarin]

@Tamron Nein, ich brauche die Leistung für immer. Sonst hätte ich mir tatsächlich schon einen fetten Server gemietet. Aber die einzigen Kosten die ich auf ewig monat für monat zahlen möchte, ist die fette Stromrechnung😅🤷‍♂️
@Aslo Kurzgesagt, ich baue eine fette KI. Sie muss halt sau viele Daten die ganze Zeit verarbeiten und das möglichst schnell. Wenn du etwas sagst, muss überprüft werden, wer du bist, welche uhrzeit und welches datum wir haben, wo sich die KI gerade befindet, wie oft du das schon gefragt hast, welche Laune die KI gerade hat und die gesamten Antwortmöglichkeiten für das Thema durchgehen und die passende auswählen. Zudem muss die Mimik und die Körperbewgung berechnet und ausgeführt werden. Auch muss sie deine Mimick und Körperbewegung auffassen, verarbeiten und abspeichern. Das alles natürlich gleichzeitig und es darf keine 5 minuten dauern bis du eine Antwort bekommst, sondern nur maximal 1 sekunde😁 Da brauch ich halt fett Leistung und eine CPU wird da wohl schnell überfordert sein. Egal ob 9er und 5er oder mit 4 Kernen oder sogar 16 Kernen. Eine einzige wird da wohl eher abloosen😅

 

[ZuseZ3]

Ah klar, ist ja wieder Dienstag Abend.
Erstmal wieder eine bessere Alexa programmieren, gar kein Bock mit meinem PC.

Falls du deine Idee tatsächlich ernst meinst und nicht trollst möchte ich dir nur mal kurz den Hinweis geben, dass bei Apple / Google / Amazon / X sehr viele sehr erfahrene Leute an künstlichen Assistenten forschen.
Die kleben aber auch keine 4 CPU's zusammen sondern nutzen Grafikkarten oder speziellere Beschleuniger für sehr viel mehr Geld.
Wenn du dich dafür interessierst gibt es z.B. hier einige nette Beispiele zum Einstieg.

 

[catch 22]

Ah klar, ist ja wieder Dienstag Abend.

es ist Dienstag Morgen

@YannisFarin
für jegliches Hobbyprojekt im Bereich KI, auch langfristig laufend, empfiehlt sich zwingend ein Dienst wie AWS, einfach weil du jetzt noch nicht mal ansatzweise absehen kannst, welche Rechenleistung du in nur einem Jahr benötigen wirst und du mit am Anfang gekaufter Hardware nicht ausreichend skalieren kannst. Dies gilt erst recht für kommerzielle Projekte.

letztendlich kann ich mich nur @Dama anschließen

 

[YannisFarin]

@ZuseZ3 Nein, das ist kein Troll. Der Link zu Pytorch ist wirklich nett, aber ich arbeite schon mit PyCharm (JetBrains) und der erweiterung Anaconda. Alexa schön und gut, aber die kann bei weitem nicht das, was meine kann. Programmiert ist die hälfte auch schon längst😉 Ich arbeite mittlerweile nur noch am Dictionary und beschäftige mich mit den Problemen, wie z.B. wie Kühle ich den Akku, die CPUs, Die Grafikkarten ohne Lüfter oder woraus mache ich welche Teile und wie setze ich es um. Und darunter halt auch, wie bekomme ich verdammt viel Rechenleistung. Und was das Experten und teuer angeht check ich irgendwie nur sehr schlecht. Anfangs dachte ich es auch und wollte nur meine eigene Alexa coden, weil mir meine richtige auf die Nerven ging. Dann kam eins zum anderen und hab dann mit der Planung begonnen. Ergebnis: Körper kostet mich keine 5000 (ohne Technik) und Technik 10 - 15 tausend euro. zusammen wenns hochkommt maximal 20k. wo das ganze geld bei diesen unternehem bleibt frage ich mich auch🤣 abgesehen von der Technik ist der Körper nur ein Haufen Plastik, Gummi und ein bisschen Metall. Nichts was man mit Rohmetall und einer Säge und Feile nicht anfertigen könnte und beim Plastik tuts auch ein einfacher 3D Drucker. Was das Gummi angeht... kriegste zu Halloween in fast jeden Laden. Und beim Programmieren muss man sich einfach nur extrem in Geduld und Mühe zeigen. Ansonsten EasyPeasy. Und 20 tausend sollte man, wenn man einfach sparsam lebt in spätesten 2 jahren haben. ein jahr coden und sparen und im 2. weitersparen und bauen. am ende hat man dann etwa 30 tausend verdient und 20 ausgegeben für die Technik und dem drum und dran. 10k die dann für miete, strom, etc, essen und ein bisschen belustigung draufgehen.

Noch bin ich aber im 1. jahr und gucke erstmal nach wegen und lösungen, so dass beim bau keine fragen mehr geklärt werden müssen. den kauf und bau, etc. mache ich erst nächstes jahr. Aber dieses muss schon die Planung und das Programm möglichst fertig werden. So habe ich es zumindest geplant.

 

[ZuseZ3]

es ist Dienstag Morgen

Huch, ist doch gerade erst Abend geworden, wie die Zeit immer rennt.

 

[Tepesch]

Wenn du wirklich mehrere CPUs zusammen haben willst, dann kommst du um ein Serverboard mit Server-CPUs nicht drum rum, die kleinen Ryzen haben keinen Multi-CPU-Support, ebenso die normalen Intel Core i. Bei beiden Herstellern gibt es das nur für die Epyc bei AMD oder halt XEON bei Intel. Die Anschaffungskosten für nur eine der großen CPUs ist am oberen Ende von vierstellig das Stück, dazu noch der Rest der Hardware. So ein Server willst du garantiert nicht kaufen, da kommen locker 25k aufwärts zusammen.
Dann hast du aber immerhin schon mal einen, da kommt dann als nächstes die Redundanz, falls mal was ausfällt. Backup sollte man ebenfalls nicht vergessen. Defekte kommen auch mal vor, wenn die Garantie weg is, wirds wieder teuer wie sau.
Und erst dann kommen deine gewollten Stromkosten, die aber auch mal richtig arg nach oben gehen können und werden. Als Beispiel dürfen z.B. die großen AMD 64-Kerner 280W verballern, davon kann man 2 Stück auf ein Board packen, dann das Board selbst und sonstiges an Peripherie, macht in Summe im Worst Case 700W+, ohne GPUs! Das ganze mal Zwei, Redundanz und so dazu die Backuphardware, auch noch mal ins blaue geraten um die 100W dauerhaft.
Nun willst du das ganze ja auch sicher performant verbinden, also mind. 10GBit Netzwerk, nette Anschaffungskosten, da das Zeug leider nicht so schnell billiger wird, wie wir uns das alle wünschen, ebenso dann auch weiterer Stromverbrauch dafür.

Und von Win10 solltest du in dem Falle dann auch Abstand nehmen und zu einem Serversystem greifen, Win10 kann viel zu wenig RAM verwalten, und auch bei den CPU-Kernen is das deutlich eher Ende als bei nem Server.

Ich wünsche dennoch viel Erfolg dabei, das Richtige zu finden.

 

[mkossmann]

hauptsache ich hab viel Leistung und ich kann darauf Windows 10 Pro normal nutzen

Ein "normales" Windows 10 Pro unterstützt aber nur maximal 2 physikalische CPUs, erst die "for Workstations" Variante darf/kann mehr.

 

[Axxid]

...wie Kühle ich den Akku, die CPUs, Die Grafikkarten ohne Lüfter oder woraus mache ich welche Teile und wie setze ich es um. Und darunter halt auch, wie bekomme ich verdammt viel Rechenleistung.

Bevor ich das ganze mobil machen wuerde, wuerde ich mich ja schon mit einem Prototyp am Stromkabel begnuegen... oder die andere Haelfte programmieren.

 

[hans_meiser]

Threadripper, Threadripper PRO oder EPYC ist die Antwort. Alles andere ist Kinderkram der nicht klappt. Viel Glück.

 

[abcddcba]

Nein, das ist kein Troll. Der Link zu Pytorch ist wirklich nett, aber ich arbeite schon mit PyCharm (JetBrains) und der erweiterung Anaconda. Alexa schön und gut, aber die kann bei weitem nicht das, was meine kann. Programmiert ist die hälfte auch schon längst😉 Ich arbeite mittlerweile nur noch am Dictionary

Klar, dein Sprachassistent kann dann bestimmt mehr. Bei den großen Anbietern macht das auch einer allein. Die ganzen Modelle nimmst du dann bestimmt von hugging face und die Dialoge machst du wie genau? Du brauchst mindestens sowas wie RASA, selbst da brauchst du Trainingsdaten.
Wer finanziert dir das ganze? Warum genau brauchst du überhaupt deine doch so exorbitante CPU Leistung? Weder Video noch Audio sind für GPUs ein Problem

 

[H3llF15H]

Ich tue mich echt schwer zu glauben, dass das hier ernst gemeint ist. Wenn ich mir die Wortwahl ansehe, kann dieser Thread nur mit 2,73 Promille entstanden sein.

 

[drunk_chipmunk]

Jep. Wer "viel Geduld und gefühlt 1000 Versuche" braucht, um herauszufinden, dass es Dual-Socket-Mainboards gibt, der programmiert keine KI, die es mit Alexa aufnimmt.

Maik Mixdorf, bist du es?

 

[coasterblog]

Don´t feed the Troll

 

[wern001]

es gibt auch Mainboards für 4 CPUs
eine suche z.B auf Geizhals.de hätte das ganze in wenigen Minuten gelöst.
Die andere Möglichkeit für noch meeeeeeehhhhhr Leistung nennt sich Cluster. Da kanst Du auch deine Ryzen nehmen.

 

[DarkInterceptor]

ist das vorgehen mit einer KI die CPU braucht nicht eher falsch? wäre eine GPU nicht geeigneter?

 

[coasterblog]

Vielleicht muss die Info auch erst noch mit "Geduld und Gefühl" bei 1000 Google Treffern geholt werden.