AffenJack schrieb:
Desto früher du ins Netzwerk musst, desto länger warten die Grafikkarten auf Daten aus dem Netzwerk.
Wobei es da je nach Software-Problem verschiedene Ansätze gibt und die "Langsamkeit" des Netzwerkes auch nicht immer eine Rolle spielt, sofern die Probleme sich entsprechend in Teilprobleme zerlegen lasen und diese dann unabhängig sind.
Die Entwicklung mit NVLink, ebenso aber auf bei AMD und Intel, zielen ja stark auf den AI-Markt, weil hier eben nicht die Probleme so einfach gesplittet und verteilt werden können.
Rickmer schrieb:
Was mich an der Sache irritiert ist, dass CPUs üblicherweise in Zweierpotenzen arbeiten.
Ja und Nein. Hier musst du einen Blick auf die Entwicklung der Formate werfen und wann diese Umgesetzt wurden. In den Anfängen des Computerzeitalters gab es bei den Formaten regelrechten Wildwuchs. Unter Zuse hat sich anfänglich ein 24 Bit-Format entwickelt, spätere Formate hatten dann 36 und 72 Bit. X87 hatte sogar 80 Bit. Erst 1985 ist mit dem IEEE 754 wurden die verschiedenen Floating-Point-Formate vereinheitlicht mit 32 und 64 Bit und mit der Zeit um 16, sowie 128 und 256 Bit erweitert.
Die jetzt kommenden Formate FP8, FP6, FP4 sind Formate, die erst in jüngerer Zeit entstanden sind auch das primär wegen Deepl-Learning/AI.
Und was für FP gilt, gilt auch für Word: In den Anfangstagen waren Computer mit unterschiedlicher Wortbreite durchaus normal, weil "Transistoren" teuer waren. Es gab von IBM und anderen Anbietern schon Computer mit verschiedenen Wortbreiten, die nicht 4, 8, 16, 32 und 64 Bit waren. Für "Supercomputer" der 60er und 70er findest du auch "ungewöhnliche" Wordbreiten ab seits der 4, 8, 16 sowie 32 Bit aus dem "Consumer"-Bereich. In den 60er und 70er bieten IBM aber auch andere Firmen Computer mit 12 und 18 sowie 20 und 24 Bit. Selbst 26 Bit und 30 sowie 31 Bit sind da zu finden. Wenn die "Genauigkeit" es erforderte, sind auch 48 und 60 Bit Systeme zu finden.
In den 60er bis Anfang der 90er wurden gerade Großrechner/Supercomputer teilweise sogar noch "maßgeschneidert" an die Anforderungen. Das sich final die 32 Bit sowie 64 Bit durchgesetzt haben, liegt auch zum Teil eher daran, dass die Interpolarität zwischen "PC" und "Großrechner" gefragt war und es die Kosten für Softwareentwicklung massiv reduzierte, da nun Entwickler auf günstigen PCs die Software programmieren und testen konnten und erst dann auf die Großrechner aufgespielt wurden.
ETI1120 schrieb:
AMD ist hier auf Partner angewiesen und ist deshalb auch bei UALink und Ultra Ethernet dabei.
Hat AMD da nicht letzten auch einen Spezialisten übernommen?
