News OpenAIs erster eigener Chip: Jalapeño soll KI-Abfragen effizienter beschleunigen

Chismon schrieb:
Hm, ich bin also Teil des Problems,
Ja

Chismon schrieb:
weil ich zu kritisch bin

Nein unwissend und einfach Behauptungen und Vermutungen aufstellst.

Chismon schrieb:
und nicht die KI Konzerne in Ihrem aktuellen Größenwahn auf Basis einer ponzi-schamhaften Kreislaufwirtschaft, die nichts als blendet und wenig nachhaltig ist
Das weißt du woher? Glaskugel?

Chismon schrieb:
bzw. andere Wirtschaftsbranchen massiv belastet und das Leben rigoros verteuert und Existenzen zunehmend ruinieren verteuert, feiere.
Das nennt sich Fortschritt.

Grüße an den Hufschmied bei dir im Ort, den Kutscher, den Schuhmacher und den Petroliumverkäufer in der Apotheke.

Da fällt mir ein, ich muss noch zum Vulkanisieren meiner Reifen. Bis denne...
 
  • Gefällt mir
Reaktionen: LamaMitHut
Pyroplan schrieb:
Mehr Effizienz kann für uns alle nur gut sein. Genauso dedizierte Chips, damit ggf mal wieder ein paar GPUs für uns abfallen.
Nicht in dem Fall, ein Bankrott dieser LLM-KI-Konzerne wäre m.E. das beste (zumal der angerichtete Schaden jeden Tag weiter wächst) und ein Fokus auf KI auf Basis von wissenschaftrlichen/echten Daten und nicht ungefilterten Daternsätzen im Internet (mittlerweile fangen auch schon einige gezioelt damit an Fake-Daten ins Internet zu stellen/leaken, die von den LLMs dann weiter verbreitet wird).

Dass was da momentan abgeht als KI zu vermarkten ist m.E. auch ein schlechter Witz, da es primär um das durchforsten, sortieren, und auswerten (ohne Gewähr hinsichtlich der Authentizität) von großen Datensätzen/-quellen dreht ... bisher leider nichts wirklich revolutionäres und bahnbrechendes (und das erwarte ich davon auch nicht, sondern weiterhin maximal einen Tool-Charakter, aber nichtr vergleichbar mit Robotik-KI auf Basis von Machine Learning und Neural Networks etwa, was deutlich sinnvoller ist als der Kram von OpenAI und Anthropic).
Ergänzung ()

Spriti schrieb:
Das weißt du woher? Glaskugel?
Informiere Dich einfach 'mal, es gibt genügend Informationen und Hintergründe zu den Sprachmodell-Unternehmen im Internet (Geschäftszahlen und -modelle, Aussagen von Führungskräften beteiligter oder ausgestiegener Konzerne, politische Interessen, usw.), nicht nur in dem vorher vorn mir verlinkten/geposteten Video.
 
Zuletzt bearbeitet:
Cabranium schrieb:
Kann mir jemand erklären was mit Inferenz gemeint ist? Ich verstehe das diese Chips mehr effizienz im laufenden Betrieb bieten. Also sie sind für fertige Modelle optimiert.

 
  • Gefällt mir
Reaktionen: Cabranium
Spriti schrieb:
Das nennt sich Fortschritt.
Wie naiv muss man sein, um das (jetzt noch) Fortschritt zu nennen, wenn es schon seit Jahre stagniert und lange nicht mehr finanziell nachhaltig ist.

Es ist eher ein Fass ohne Boden (siehe Speicherkrise sowie Energie- und Lebensmittelpreise, die von dem Mist immer mehr belastet werden, während das IT-Oligarchen Pack den großen Coup wittert, von dem nur dieses profitiert ... m.E. gehören die alle für deren rücksichtlos gesellschaftsschädigendes und damit unverantwortliches Handeln vor den Kadi wie damals der betrügerische Bernie Madoff).

 
Chismon schrieb:
Wie naiv muss man sein, um das (jetzt noch) Fortschritt zu nennen, wenn es schon seit Jahre stagniert und lange nicht mehr finanziell nachhaltig ist.
Die Aussage macht doch gar keinen Sinn. Es gab Ende 2025 große Fortschritte u.a. durch Claude Opus und nun steht der nächste größere Schritt mit Claude Fable an. Selbst getestet (Softwareentwicklung, Forschung, 3D Modellierung), die Modelle wurden hier jeweils spürbar leistungsfähiger. Abseits davon entstehen die Fortschritte vor allem auch in der angewandten Forschung. Ich nehme selber an wissenschaftlichen NLP Konferenzen teil, wo, hauptsächlich im medizinischen Bereich, aber auch in anderen Bereichen so viele gute Lösungen von diversen Problemen präsentiert werden. Übrigens alles nahezu mit Open Source LLMs.
 
  • Gefällt mir
Reaktionen: sioh
Chismon schrieb:
Wie naiv muss man sein, um das (jetzt noch) Fortschritt zu nennen, wenn es schon seit Jahre stagniert und lange nicht mehr finanziell nachhaltig ist.
Können wir bitte aufhören eine Philosopie Diskussion zu führen? Wer Stand heute den Sinn & Nutzen von KI nicht verstanden hat und das Thema lediglich auf den Einsatzzweck in seiner kleinen Bubble reduziert soll bitte ins Politik & Gesellschaft Forum wechseln. Das Thema stagniert inhaltlich mitnichten, sondern nimmt jedes Quartal mehr Fahrt auf. Wenn ich mir anschaue was meine Kollegen mit Opus 4.8 an Code raushauen, die Güte & Geschwindigkeit gab es vor 1y noch nicht. Sehr beeindruckend! Und da rede ich nicht mal von der Squad Demo die wir hatten, da wird eher die Frage sein ob Dutzende von Agenten bezahlbar sind.

Dedizierter Intereferenz Chip ist doch eine gute Nachricht, die Modelle werden halt auch deutlich seltener nachtrainiert, als das es Abfragen gibt. Und ich finde es tatsächlich besser wenn für dasselbe Watt Budget halt dann nicht 1*H200 ein paar User bedient, sondern x Jalapenos eine deutlich größere Anzahl von Usern.
 
[F]L4SH schrieb:
Das ist ja eine niedliche Sichtweise 😅
Wenn der Chip 100x effizienter ist, werden einfach nochmal 99 mehr dazu gestellt um mit dem gleichen Powerbudget mehr "KI" zu kriegen.
Da wird nichts effizienter oder weniger sondern nur immer mehr und mehr.

Das ist Effizienz! Wenn du statt 100 nur 1 Chip für die gleiche Leistung brauchst. Stell dir vor die Welt bräuchte 10000 Rechenzentren um den KI bedarf zu decken. Dann wären das mit einem 100 Fach besseren Chip nur noch 100 Rechenzentren. Gebsut müssten die trotzdem erst werden. Aber es macht schon Sinn. Man sollte eher Hinterfragen für was die Allgemeinheit Ki nutzen kann. Dort ist nämlich viel Potenzial verschwendet. Würde man einfach Bild und Video Generierung für Sexuelle Inhalte sperren, zusätzlich alles streichen was nur noch mehr datennssmmeln soll (Copilot) würde vermutlich schon 50% Weniger bedarf bestehen. Würden 100% der Kapazitäten nur für Forschung und Entwicklung zur verfügung stehen, dann wäre der Welt sicherlich mit diesen Investitionen geholfen.

SKu schrieb:
Modellausführung. KI-Inference ist nichts anderes als der reine Ausführungsprozess nach dem Training, bei dem das Modell auf den Input bezogen einen Output auf Basis des erlernten "Wissens" generiert. Es geht hier also um Effizienzsteigerung nach dem Training, quasi das Beschleunigung von Aufgaben/Prozessen in der Inference-Pipeline (Tools, Skills, etc.).

Ich danke dir für die Erklärung.
 
  • Gefällt mir
Reaktionen: Bonsaicracker und sioh
Chismon schrieb:
Ich bestreite ja auch nicht, daß es der neue Chip es jetzt nicht schneller/effizienter schafft, aber im Hinblick auf die Anwendungen/Mehrwert für die Gesellschaft scheint es nichts neues zu bringen, sondern eben vordergründig LLM-bezogen/-limitiert und da fragt sich dann, wie weit man das zu welchen Kosten eigentlich noch treiben möchte (wenn es nicht ohnehin mangels Mehrwert komplett ausgeartet ist).
Der Mehrwert ist Kostenersparnis und damit mehr Leistung fürs Geld oder gleiche Leistung günstiger. Das ist ja schon immer bei jeder Technologie so. Früher 10L/100km im Golf, heute im großen SUV.

Der Markt ist riesig weil Inference in Zeiten von Agenten so wichtig ist. Gibt schon Statistiken dass annähernd die Hälfte der Online-Abfragen von KI-Agenten kommt.
 
  • Gefällt mir
Reaktionen: 12nebur27
DeusExMachina schrieb:
Ich nehme mal an du meinst nicht Neuro-Linguistic Programming
Nein, Natural Language Processing. Ist dummerweise die selbe Abkürzung.
 
Chismon schrieb:
bekomme ich die KI-Chatbot Antworten dann etwas schneller,
Oder aber dafür wird weniger Strom verbraucht oder beides. KI-Greenwashing 🤡
Ergänzung ()

Spriti schrieb:
Das nennt sich Fortschritt.
Nur das hier einem gigantischen Ausmaß, ohne Rücksicht auf Verluste von Big-Tech gehandelt wird.
Keine Frage das ist die nächste industrielle Revolution, aber ziemlich menschenverachtend. Hier lapidar mit „nennt sich Fortschritt“ reinzuwerfen ist nicht richtig. Fortschritt ist dann gegeben, wenn für die Gesellschaft etwas dabei rumkommt. Bessere Google-Abfragen und KI generierte Filmchen lasse ich nicht gelten.
Ergänzung ()

Cabranium schrieb:
Man sollte eher Hinterfragen für was die Allgemeinheit Ki nutzen kann.
Ganz genau so sehe ich das auch. Bisher springt hier noch nicht groß was für die Gesellschaft bei raus.
Ergänzung ()

Mextli schrieb:
Wenn ich mir anschaue was meine Kollegen mit Opus 4.8 an Code raushauen, die Güte & Geschwindigkeit gab es vor 1y noch nicht
Wenn das nicht auch mal eine Bubble ist. Das ist ja alles schön und gut aber, wenn du dich nicht gerade mit KI täglich beschäftigts hast du keinen Blick dafür. Es interessiert dich auch nicht, dich interessiert nur dass alles teurer wird und seit ~Herbst letzten Jahres dein Hobby zum totalen Luxus geworden ist.

Wenn jetzt die ganzen KI Ressourcen für Code-Optimierung, für Forschung etc. genutzt würden alles gut. Aber da geht nun mal der kleinste Teil der Ressourcen hin.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Cabranium
Chismon schrieb:
ein Fokus auf KI auf Basis von wissenschaftrlichen/echten Daten und nicht ungefilterten Daternsätzen im Internet

Es macht auf mich den Eindruck, als hättest du die Funktionsweise von LLM's nicht so richtig verstanden. Es geht nicht darum, welche akademische Qualität die zu lernenden Inhalte haben (weil das Sprachmodell das Wissen daraus ohnehin nicht verstehen kann), sondern statistische Wahrscheinlichkeit der einzelnen Wörter zueinander zu erfassen. Darum nennt man LLM's polemisch auch stochastische Papageien. Ob LLM in Zukunft Bestand haben wird, bleibt abzuwarten. Aber Stand Heute sind sie der erste große Schritt im KI-Zeitalter.

Chismon schrieb:
Nicht in dem Fall, ein Bankrott dieser LLM-KI-Konzerne wäre m.E. das beste

Ich gebe dir eine Garantie darauf, dass das nicht passieren wird. Vorher wird die US-Regierung den Steuerzahler zur Kasse bitten. Oder glaubst du, die hätten das Manhattan-Projekt wieder in der Wüste vergraben, nur weil es nie einen Dollar Gewinn gemacht hat?

Bonsaicracker schrieb:
Es interessiert dich auch nicht, dich interessiert nur dass alles teurer wird und seit ~Herbst letzten Jahres dein Hobby zum totalen Luxus geworden ist.

Um das mal festzuhalten: Eine Technologie, die die industrielle Revolution um Faktor X überflügeln wird, soll sich gefälligst hinten anstellen, nur damit du weiterhin günstig gamen kannst? :lol:
Mein Tipp: Such dir ein neues Hobby (oder geh mehr arbeiten)

Bonsaicracker schrieb:
Aber da geht nun mal der kleinste Teil der Ressourcen hin.

Lässt sich das eigentlich irgendwie, auch nur ansatzweise mit Zahlen untermauern? Ich meine, wenn die Hälfte der Kapazität bereits auf Agenten entfällt, wird damit schonmal kein Quatsch gemacht, denn diese Technologie ist in der breiten Masse noch gar nicht angekommen. Oder hast du ein eigenes OpenClaw, Hermes etc. am laufen?
 
Beelzebot schrieb:
Mein Tipp: Such dir ein neues Hobby (oder geh mehr arbeiten)
Erzähl es der Hand…
Offensichtlich hast du den Rest nicht gelesen, den ich geschrieben habe.
 
Zuletzt bearbeitet:
Zurück
Oben