News Tensordyne: KI-Start-up will mit TDN Math Nvidias Dominanz brechen

[Syntax_41]

Muss ja nicht zwangsläufig schneller sein als Nvidia. Mehr Anbieter auf dem Markt sind immer gut.

 

[AwesomSTUFF]

Ich denke auch, dass es eine Frage der Zeit ist bis solche Unternehmen einfach geschluckt werden. Gerade im Amiland. Da würde ich mir wünschen dass Europa solchen Firmen eine klare Perspektive bietet wenn sie ihre Entwicklung nach hier verlagern würden - also auch mit exklusiven Regierungsverträgen usw. um souveräner zu werden.

 

[T3Kila]

Cyberdyne
Tensordyne

Die Umbenennung ist kein Zufall. Cyberdyne Systems hat ihren Hauptsitz in 18144 El Camino Real, Sunnyvale, California

 

[sikarr]

Es wäre toll, wenn dieser Chip effizienter wäre. Nicht nur aus Konkurrenzgründen, sondern auch Rohstoffe und Energie.

Ändert auch nix, Effizenz ist am Ende doch eigentlich auch nur ein Vorwand um noch mehr bei selben Platzbedarf und Energieaufwand zusammen zupacken. Deswegen werden es weder weniger KI Systeme noch wird weniger Energie oder Platz benötigt, man packt einfach nur mehr rein bis man auf dem selben Level wie vorher ist. Deswegen werden nicht weniger Chips gebaut sondern eher sogar mehr.

 

[Sahneknuffi]

Die spekulieren doch eh nur darauf, von einem der Branchenriesen für ein paar Milliarden aufgekauft zu werden.

 

[CCIBS]

@sikarr
Hast recht. Streich den Punkt mit dem Rohstoffen. Effizienz und Energie ist da eigentlich der wesentliche Punkt gewesen.

 

[ETI1120]

Die müssen sich aber beeilen.
Der Tachyum Prodigy kommt ja auch bald und dann wird es echt eng.

Da ist glaube ich die Luft raus.

Aber das was NextSilicon erzählt ist auch nicht ohne.

Es gibt einige neue Konzepte und das ist gut so.

 

[1lluminate23]

Oh Gott, mein Hirn ist so brainfucked durch Werbung, dass ich dachte, GlaxoSmithKline hätte Sensodyne Zahncreme umbenannt. 🙈

 

[basix]

Finde den Chip interessant. Ob es sich durchsetzen wird? Schwierig. Rein schon von der Anzahl Chips und Speichermenge her, die Tensordyne einkaufen kann, wird die Produktionsmenge limitiert sein.

Nvidia ist auch schon lange an diesem Thema dran. Der Herr Dally hat das schon vor Jahren mal präsentiert (Log Datenformate) und dass Nvidia da auch am forschen ist.

Die beste Effizienz erreicht langfristig sowieso Bitnet mit 1.58bit (Ternary) Mathematik:
- 2bit Additionen, keine Multiplikationen -> https://arxiv.org/abs/2402.17764
Das wird vermutlich nicht für alle DNN Varianten ausreichen aber zumindest für LLMs schon.

 

[Raul99]

Oh Gott, mein Hirn ist so brainfucked durch Werbung, dass ich dachte, GlaxoSmithKline hätte Sensodyne Zahncreme umbenannt. 🙈

:d ging mir genauso, vielleicht brauchen die ja sensodyne als Wärmeleitpaste um den chip gekühlt zu bekommen

 

[Nerdpatrol]

Trotzdem bin ich aber immer etwas vorsichtiger, wenn mir jemand verspricht, quasi aus dem Stand, besser zu sein, als der Platzhirsch. Und es reicht auch oft nicht nur die Hardware aus, sondern auch das Ökosystem, welches sich Nvidia aufgebraut hat, muss man da brechen.

Ja, aber man muss auch bedenken, dass es sich hier nicht mehr um GPGPUs, sondern um komplett anwendungsoptimierte KI-Chips handelt. Bei Bitcoin wurden GPGPUs auch irgendwann von ASICs abgelöst. Dort, wo in großem Maßstab eben nur dieser spezielle Anwendungsfall gefordert wird, ist es nicht unrealistisch, solch einen Sprung zu sehen.

Mit anderrn Worten: "Can it run Crysis?" - "Vermutlich nicht.".

Das Argument mit dem Software-Ökosystem dürfte das alles entscheidende sein. Der Aufwand, statt nVidia das hier zu nutzen, darf nicht zu groß sein.

 

[input_iterator]

Es wäre toll, wenn dieser Chip effizienter wäre. Nicht nur aus Konkurrenzgründen, sondern auch Rohstoffe und Energie.

Wenn sie das halten können was die versprechen, dann liegt ihre Energieeffizienz um eine ganze Größenordnung über Nvidia , also nicht +20 % oder +50 %, sondern 10× bis 17× effizienter pro Token. Das wäre also nicht etwas bisschen besser, sondern ein fundamentaler Architekturvorteil, der direkt aus der Log Math Rechenweise entsteht.

 

[Ltcrusher]

@Floxxwhite das wird eh so laufen wie immer:

Wenn die eigene Idee was taugt und gute Leistung bringt, wedeln die großen bekannten Firmen mit den Geldbündeln - und wie von Geisterhand wird jedes Ideal dahin sein.

 

[anexX]

Wären Sie eine Gefahr, hätte NVIDIA die Leute einfach raus gekauft oder den Laden geschluckt

Aber ich lass mich gern eines Besseren belehren - so ist es ja nicht 😜

Du meinst wie damals im Jahre 2000, als Nvidia einfach mal 3DFX gekauft hat ?

 

[Ezeqiel]

Es wäre toll, wenn dieser Chip effizienter wäre. Nicht nur aus Konkurrenzgründen, sondern auch Rohstoffe und Energie.

Die Gier nach KI-Rechenleisung wird, wenn das Erfolg hat, wohl dazu führen, dass man einfach mehr davon einsetzen wird, natürlich sofern die Produktionskapazitäten das hergeben.

 

[gollum_krumen]

Naja, Hardware ist ja das eine aber man braucht auch entsprechende Software. Nvidia hat mit cuda eine verbreitete und beliebte Schnittstelle die neben der Hardware der eigentliche Vorteil ist.

Also wenn die wirklich mit Faktor 17 effizienter und mit Faktor 13 schneller inferieren, dann wirst du kaum "Vulkan" sagen können, bis eine offene Schnittstelle dafür explodiert.

 

[Haldi]

Sehr interessant. Ich wünsche ihnen ganz viel Erfolg.
NVidia braucht dringend noch mehr Konkurrenz.

Da ist glaube ich die Luft raus.

Ich denke unser Blitzchen hat das im Jux gemeint.^^

Mit anderrn Worten: "Can it run Crysis?" - "Vermutlich nicht.".

Naja....
"Erstell mir ein Bild des Computerspiels Crysis"

Soweit davon weg sind wir nicht mehr...

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[eastcoast_pete]

Oh Gott, mein Hirn ist so brainfucked durch Werbung, dass ich dachte, GlaxoSmithKline hätte Sensodyne Zahncreme umbenannt. 🙈

Du meinst sowas wie "Kau Dich schlau😜?". Einfach Zahnpasta mit KI ankündigen, und schon geht der Aktienkurs steil nach oben!