News „Wert pro Watt pro Nutzer“: Perplexity-CEO sieht einzige Kennzahl für Sieg im KI-Rennen

[mischaef]

Perplexity-CEO Aravind Srinivas sieht die Zukunft des KI-Wettbewerbs nicht allein in immer leistungsfähigeren Modellen, sondern vor allem in effizienterer Orchestrierung. Entscheidend sei aus seiner Sicht, welche Unternehmen den größten wirtschaftlichen Nutzen pro Energieverbrauch und Nutzer liefern können.

Zur News: „Wert pro Watt pro Nutzer“: Perplexity-CEO sieht einzige Kennzahl für Sieg im KI-Rennen

 

[ManInNight]

Auslagern von Leistungen auf den Kunden und ausweichen auf Fremdanbieter, weil die Modelle austauschbar sind. Läuft wohl nicht so rund das Geschäft.

 

[Hypothek]

Wenn man eine Kennzahl für einen Benchmark definiert und jeder nur nach dem höchsten Wert dieser Kennzahl strebt, hat man dann wirklich das beste Produkt? (= korrekte, wahre, quellennahe, schlüssige, etc. Ergebnisse)

Ich muss dabei direkt an Abgaswerte auf Teststationen, GHz Zahl von CPUs, GtG Reaktionszeit bei Monitoren, Schrittzähler, PS bei Autos, BIP für Lebensqualität der Bürger, etc.

 

[Kaufmannsladen]

Wow, langsam, gaaanz langsam zieht die Realität bei den KI-Unternehmen ein.

 

[Axxid]

Man schießt erst einmal nach den Sternen und optimiert im Nachlauf, ist ja nichts neues.

Das man allerdings erst einmal Trillionen Dollar verbrennt, ganze Meere verdampft, mehrere Märkte, Millionen von Arbeitsplätzen und eigentlich alles digitale ruiniert um dann am Kraterrand zu sagen “vielleicht sollten wir doch ein wenig optimieren” ist der Wahnsinn des Ganzen.

 

[end0fseven]

Und wie sieht die Umweltbelastung aus? Dieses übertriebene Aufbauen in Rechenzentren obwohl vielleicht doch nicht ganz der Markt und die Nutzerzahlen da ist? Keine Frage, KI wird bleiben, aber für 90% der Leute tun es auch Lokale KIs.im Form von Bildbearbeitung und Co. oder einfache LLMs?

Aber wie bereits @Axxid geschrieben hat, das Beispiel mit dem Krater finde ich sehr passend!

 

[lazsniper]

Auslagern von Leistungen auf den Kunden und ausweichen auf Fremdanbieter, weil die Modelle austauschbar sind. Läuft wohl nicht so rund das Geschäft.

500 millionen ARR, ne so gut läuft das net 😅

zum thema: finde den gedanken super, weil er zeigt, dass ki nicht nur leistungsfähiger, sondern auch smarter eingesetzt werden kann. wenn damit schnellere ergebnisse, geringere kosten und besserer datenschutz möglich werden profitieren am ende alle nutzer davon...

 

[Tzk]

Scheint so, dass die KI Firmen langsam merken, dass man mit purem verbrennen von Geld nicht weiter kommt, weil alle ordentlich Held nachschießem… ursprünglich hatte man wohl geglaubt, dass irgendwem zuerst das Geld ausgeht.

Jetzt muss man die Leistungen begrenzen um nicht komplett zu versinken und pleite zu gehen. Was wir sehen ist Enshitification und gesundschrumpfen des marktes.

 

[ragnarok666]

Bin gespannt wie lange es noch dauert, bis klar wird für welche Aufgaben Tokens von Hochleistungsmodellen aus Rechenzentren + Mindestlohn "Promptingenieur" teurer sind, als erfahrene menschliche Mitarbeiter + lokale, leistungsbeschränkte KI - bei vergleichbaren Wert des Endergebnisses.

 

[SHEG]

Großes Problem sehe ich such bei den Nutzern. Selbst optimierte Modelle sind bei einer Vielzahl von Alltagsaufgaben ineffizienter als "oldschool" Algorithmen.

KI wird aktuell als das Allheilmittel für alles am Computer verkauft - und langsam glauben die Leute das auch. Dabei wird verkannt, dass viele Nutzer gar keinen Überblick haben, welche Möglichkeiten ein Computer bietet, um dieselbe Aufgabe auf verschiedenste Weise zu erledigen. Das birgt die Gefahr, dass zukünftig KI bemüht wird, um 2+2 auszurechnen. Das ist unnötig ineffizient. Man könnte auch Excel nehmen... oder den Taschenrechner... oder selber kurz nachdenken und merken, dass das Problem doch gar nicht so schwer ist.

 

[Majestro1337]

Hmm... Also aktuell ist ja vor allem der ki boom dafür verantwortlich, dass sich schnellere, lokale Hardware nicht mehr so schnell verbreitet