News „Chat is dead“: OpenAI plant größte Umgestal­tung von ChatGPT seit 2022

[pseudopseudonym]

Mir ist schon klar, warum man als Dev die neuen Tools spannend findet, aber man sägt doch am eigenen Stuhl.

So funktioniert der Job doch schon immer. Sämtliche Frameworks, Bibliotheken und Programmiersprachen zielen darauf ab, bestimmtes Können weniger zu benötigen bzw weniger Zeit in Details investieren zu müssen.

Und es war schon immer so, dass Leute, die sich Fortschritten und anderen Technologien verweigern (z. B. das Heise-Forum ist voll von solchen Leuten - "alles außer C ist unnötig"), vielleicht gute Handwerker in ihrer Nische sind, aber mieserable Softwareentwickler.

 

[Beelzebot]

Anhang anzeigen 1735837

Den Gag mit der B50 gucke ich mir definitiv ab

 

[mfgPC]

„Tokens killed the AI-Star“

Neulich mal für ne Gartenbauauschreibung Perplexity nach Recherche der Kontaktdaten von 6 Anbietern angefragt, dann um das Einfügen von den Daten der 6 Anbieter in jeweils ein Dokument gefragt (Anschrift im Briefkopf).

Dritte Anfrage dann: Ach bitte als PDF ausgeben. Die Tokens waren nach dem ersten PDF alle, die restlichen 5 habe ich händisch erstellt.

Wie nervig… und das für 22 EUR/Monat!

 

[RAMSoße]

oh man, was für eine Entwicklung. Bin wirklich gespannt wie es die nächsten Jahre weitergehen soll. Ich denke nicht sehr positiv obwohl ich keine Miesmuschel bin.

Hier wird kund getan, dass Jun. Devs reduziert werden. Die Frage kam zu Recht auf, was sind dann die Sen. Devs von morgen? Die LLM´s werden immer besser. Wenn die Hardware nicht so teuer wäre, würden doch jedes Unternehmen mit einem halbwegs guten ITler ihre eigene "KI" trainieren und betreiben.

Dann beißt sich die Katze wieder in den Schwanz. Der Kapitalismus. Meine Glasgugel sagt, hardware wird so teuer bleiben, damit man Abhängig bleibt von einem KI-Abo beim Anbieter seiner Wahl.

Auf der anderen Seite ließt man immer konträrere Berichte. Die einen sagen, KI bringt keinen Mehrwert im Unternehmen. Naja ber im Programmieren anscheinend schon. Aber bei normalen Usecases anscheinend nicht. Ich kenne keine Firma bisher (also in der Freunde/Bekannte arbeiten) die mit KI so viel Zeit/Geld eingespart hat, dass diese Leute entlassen. Sie entlassen weil Wirtschaftskrise und mangelde Auftragslage....

Spannend spannend....

 

[Fraggil]

Unser Anspruch ist die notwendige Manpower zu reduzieren. Wir haben aktuell einen Schnitt von einem Lead Dev, der bis zu 10 Senior Devs steuert, die jeweils 3-6 Junior Devs steuern.

Die Junior Devs fallen komplett weg - hier übernehmen die entsprechenden Agenten. Die Produkqualität soll dabei genau gleich bleiben. D.h. das Geschäftsmodell sieht vor mit weniger Entwicklern die gleichen Ergebnisse in der gleichen Zeit - oder schneller zu liefern.

Verstehe ich total den Gedanken. Aber wenn alle die Junior Devs raushauen gibt es nicht genügend Nachwuchs in Zukunft. Die Die übrig bleiben werden dann von großen Unternehmen mit Kohle zugeschossen und kleine Buden bleiben auf der Strecke. Wirtschftschatsgeschichte wiederholt sich hier mit den Fehlern.

 

[AAS]

Den Gag mit der B50 gucke ich mir definitiv ab

Spart Tokens für wichtigeres.
Die zweite B50 (Das Ding ist echt ein P/L-Kracher) kommt Morgen und die Mi50 mit 32GB HBM2 (400€) kommt auch diese Woche.

 

[Aladan]

Aktuell muss ich in der Arbeit viel Lachen. Wir nutzen Github Copilot und die Preissteigerung ist absurd. Mit dem, was wir beim wirklich meist sinnlosen Testen an Code in ner Woche rausbügeln, kannst nen Senior Dev Vollzeit bezahlen. Und wir sind gerade mal 7 aktive Leute (in einem ziemlich großen Konzern).

LLMs bleiben nette Tools um paar Tasks abzunehmen, aber mehr auch nicht. Kenne wenige Devs, die den Rotz, der da raus kommt, noch reviewen möchte. Von daher wird nur noch zugearbeitet und Tokens gespart.

 

[Fraggil]

Auf der anderen Seite ließt man immer konträrere Berichte. Die einen sagen, KI bringt keinen Mehrwert im Unternehmen. Naja ber im Programmieren anscheinend schon. Aber bei normalen Usecases anscheinend nicht. Ich kenne keine Firma bisher (also in der Freunde/Bekannte arbeiten) die mit KI so viel Zeit/Geld eingespart hat, dass diese Leute entlassen. Sie entlassen weil Wirtschaftskrise und mangelde Auftragslage....

Spannend spannend....

KI bringt dir viel wenn du wirklich alle Dokumente Digital hast. Wenn du noch Fax oder Ordner hast bringt dir KI wenig. Darum tun sich Unternehmen die klein sind viel leichter beim Umbauen. Wenn du eine gute Ordnerstruktur hast ist das easy. Einmal den ganzen Ablauf mit den Agenten / skills / evtl. MCP so aufbauen wie man es haben will . Lese und schreibrechte einrichten etc. dann Automatisieren. Mail Zugriff geben. WAs da geht kapieren Leider die meisten noch gar nicht. Wenn alle Daten von Firma digital vorhanden sind und die KI die kennst kannst du zu jeder alles über deine Firma abfragen.

 

[Bright0001]

Mehr Interaktion, direktes handeln, Mehrschrittige Aufgaben eigenständig ausführen, .. alles sehr gute Änderungen.

Mehr Zugang zu all deinen Dokumenten und Daten kombiniert mit dem Potenzial damit so ziemlich alles machen zu können - ja, klingt großartig. /s

Im Moment halte ich es eh für einen Mythos, dass KI sooooo viel Entwicklungsarbeit spart.

Ist halt hart Use-Case abhängig. Letztens erst von ner Studie gehört, bei der man Entwickler mit und ohne KI hat Aufgaben erledigen lassen, und jene mit KI teils langsamer waren - und gleichzeitig in der Selbsteinschätzung überzeugt davon, dass die KI ihre Arbeit beschleunigt hat.

Ist aber auch wenig verwunderlich: Die magischen Zahlen kommen ja dann, wenn man die KI auf grüner Wiese 0815-Lösungen bauen lässt, nur fällt halt ein Groß der Arbeit in der Wartung und Weiterentwicklung an, und da macht die produktivitätssteigernde Wirkung von KI nen Nosedive, zumindest noch.

Wir haben knapp 400 Entwickler im Unternehmen - es wurde im März die Umstrukturierung des gesamten Entwicklungsgeschäfts beschlossen. Basierend auf Codex und Claude.

Erinnert mich an die Zeit, wo alle plötzlich outsourcen wollten und jeder ein Team in Indien brauchte, weil Haben ist ja besser als Brauchen.

Wird hier sicher nicht 1:1 verlaufen, aber die Euphorie bekommt noch einen Realitätscheck, bevor man tatsächlich nüchtern und rational an die Sache geht.

Ich bin ja ganz fest der Meinung, dass Informatiker kein 9-5 Job ist, man muss sich mindestens noch 6-7h pro Woche in der Freizeit selbst mit neuen Trends, Techniken und Home Lab auseinander setzen. Diese Leute werden auch immer einen Job finden.

Gerade in der IT finde ich die Ausrede „Die Firma bildet mich nicht aus“ eher schwach. Natürlich sollten Firmen Weiterbildung ermöglichen. Aber das Wissen ist heute in riesigem Umfang frei oder günstig verfügbar. Wer in der IT bleiben will, muss selbst Zeit investieren, lernen, testen und sich weiterentwickeln.

Was ist das denn für ein arbeitnehmerfeindlicher Quatsch?

Sagt der Bäckermeister zum Azubi: "Steht doch alles kostenlos im Internet, und du hast ja ne funktionierende Küche+Backofen daheim, also bilde dich mal schön selbst aus und forder erst Gehalt wenn du fertig bist. Ach ja, und ich erwarte dass du noch nen unbezahlten Arbeitstag pro Woche investierst um dich mit den Back-Trends vertraut zu machen, also Instagram, TikTok und co."

Zumal Trends hinterherlaufen die Antithese zur Weiterbildung ist. Erinnert mich an den Witz über Fussball, wo 20 Männer nem Ball hinterherlaufen und am Ende immer Deutschland gewinnt: "10 Entwickler werfen 4 neue Sprachen und 12 gehypte Frameworks in den Raum, und am Ende nimmt man dann doch Spring Boot".

Den Prompt richtig gestellt mit genügend Kontext, weil man selbst schon weiß, dass das wichtig ist, um eine Menge Unsinn auszusortieren, hilft ungemein eine bessere Antwort zu bekommen.

Mit genügend Kontext macht man sich dann auch direkt nach §23 GeschGehG strafbar - praktisch, wie viele Dinge man mit KI heute gleichzeitig erledigen kann.

nstatt durch News alles zu pushen, sollte

Nur als Feedback: Wenn du so viel schreibst, dann würde ich den Text in Absätze unterteilen, denn zumindest ich überspringe solche Beiträge einfach, obwohl du dir sichtlich Mühe beim Verfassen gegeben hast.

Dann solltest du dich um einen neuen Job bemühen.

Jetzt nicht zwangsweise auf dich persönlich bezogen (außer du fühlst dich angesprochen ): Ich finde es eigentlich recht lustig, dass das Management häufig recht hochnäsig an die Sache herangeht, wenn es darum geht Devs zu entlassen, während sie selbst Microsoft Word und Microsoft Excel als zwei gesonderte Skills im Lebenslauf stehen haben.

Ich mein, was ist die Vorstellung, was das mittlere Management dann eigentlich managed? Für Personalverantwortung braucht es Personal; Excel, PowerPoint und Meetings aufsetzen kann die KI auch, und selbst das nette Gesicht mit der freundlichen Stimme wird zunehmend praktikabel, also KI-Tools zunehmend gut genug um in Echtzeit Antworten, Video und Tonspur von einer Person zu generieren.

Zumal man auch fragen kann, wofür es eigentlich überhaupt noch externe Dienstleister i.S.v. Entwicklern braucht, denn wenn eh nur gepromptet wird, dann kann das ein Geschäftskunde ja auch potenziell selbst. Und günstige Devs mit Know-How, die gerade auf Jobsuche sind, gibt es bei der Entwicklung ja auch genug-

Also mal schauen, was das alles wird.

 

[Flutefox]

Techcrunch hat gestern noch berichtet, dass die explodierenden Kosten für Tokens ein echtes Problem sind: Is this the dawn of the Tokenpocalypse?

Aus der entsprechenden Diskussion von Hacker News:

I think this is bigger news than many here care to admit. Most companies' AI "strategy" is very naive and depending on subscription based cost calculations. Token-based billing will force those companies to actually think deeper about costs versus benefits. And that's going to be a rude awakening. Other AI providers will follow suit sooner or later. Most probably did by means of intransparent compute cuts and Token throttling.

With no details, a bird told me of a project which estimated using several millions of tokens per day to automate a team work which got laid off. The operation is now a mess, there is no one willing to be considered liable and since the cheap model they used is about to be retired the company is going to see a 4x increase in price at least.
I have the feeling that the age of 'i can't be blamed by AI stuff' will be a "this was the computer guy mistake" for a moment.

PS. I've been using Claude opus 4.8 and it is worse than 4.6 and I will say that even sonnet 4.6 is better. PhD. Level of software and engineering I believe! I know many PhD who never coded or worked anyway

Langfristig werden wir vermutlich sehen, wie immer mehr Unternehmen Ihre LLMs selber hosten werden und ein dediziertes Team dafür bereitstellen. Das wird vmtl. auf Dauer günstiger sein, wenn die $ pro Token immer mehr werden.

 

[=dantE=]

Die Junior Devs fallen komplett weg - hier übernehmen die entsprechenden Agenten.

… und die werden dann irgendwann die Senior-Devs?
Wie wird man denn Senior-Dev?
Fallen die dann einfach so aus der Uni, oder wachsen die dann auf Bäumen?

Ich habe so viel Fragen…

 

[Fraggil]

Vielleicht sieht das als Developer anders aus, aber allgemeine KI-Anfragen werden immer noch sehr häufig falsch beantwortet und ich wüsste nicht, warum ein Agent solche Fehler plötzlich nicht mehr machen sollte.

Ne, da bleibe ich lieber noch eine Weile selbständig. Irgendwann werden die Modelle besser werden und lokal verfügbar sein.

Ist dein prompt schlecht bekommst du auch eine schlechtere Antwort. Darum lerne präzises prompten. Da wird die Ausgabe auch viel besser und genauer und nebenbei spart das auch massig Token.
Ist auch ein großer Unterschied im Moment noch ob die Standard Modell , Flash Modell oder ein Flagship Modell verwenden tust.
Ein Agent kann sich Sachen merken (hat ein Gedächtnis) wenn du das willst, dadurch lernt er dich besser kenne. Mit der zeit wird der immer besser wenn das richtig benutz wird. Muss man sich intensiv damit beschäftigen. Geht nicht von heute auf morgen.
Ist wie beim Date, man kennt sich gar nicht und je mehr man Macht desto besser kennt man sich, bis man den anderen blind versteht

 

[aur0n]

Ein Wünsch-Dir-Was-Business-Case sollte aber auch irgendwann Gewinne abwerfen. Auch ein Business-Case bei dir im Unternehmen muss die Kosten für AI abdecken können. Bei gleicher Anzahl an Leuten plus neuer AI-Infrastruktur muss der Umsatz enorm steigen.

Bei Uber scheint man nicht von AI überzeugt zu sein:

https://www.heise.de/news/Uber-find...er-schwieriger-zu-rechtfertigen-11307715.html

Andere Firmen stellen aus Qualitätsgründen wieder mehr Leute ein und AI Nutzung wird begrenzt.

Kann ich bestätigen. Ich arbeite in einem großen Softwarekonzern und wir hatten bis jetzt unbegrenzt KI Agent Nutzung. Nun sind die Bezahlmodelle von Flatrate in Usage Based geändert worden und zack brennste in Rekordzeit durch Tokens. Wir kriegen zwar immernoch genug Tokens aber wir sind nun angehalten wieder mehr selber zu machen und nurnoch die wirklich aufwendigen Sachen, wo KI durch das Reasoning die Fehlerbehebung etc. enorm beschleunigt, auch KI zu verwenden.

 

[LikeHike]

@Bright0001
Das mittlere Management steuert jetzt keine Junior Devs mehr sondern Agenten. Und zumindest in unserem Unternehmen hat auch das mittlere Management sehr viel fachliches Know-How. Das wirst du bei uns als reiner BWLer nicht.

Und klar, prompten kann theoretisch auch der Kunde selbst. Aber es ist dann doch ein gewaltiger Unterschied als fachlicher Laie Codex mit prompt zuzuballern oder sehr spezifisch und konkret die Agenten anweisen zu können in unserem Sinne zu agieren.

Deswegen wird ja so extrem geschult und weitergebildet. KI bedienen kann jeder. KI sinnvoll, produktiv und effektiv bedienen nicht.

Wir haben nebenbei nie Offshoring betrieben. Wir haben zwei Entiwcklerzentren in Polen gekauft, aber nie nach Indien oder sonstwohin verlagert. Dieser Schritt wäre jetzt aber aufgrund des Preiskampfs im Wettbewerb notwendig gewesen - die Theorie hinter unserem Schwenk auf KI ist, genau das damit zu vermeiden.

@=dantE=
Es werden keine Junior Devs mehr im klassischen Sinne angestellt und an den Kunden verkauft. Junior Devs holen wir natürlich immernoch, wenn auch im reduzierten Umfang. Allerdings sollen diese dann weniger beim Kunden im Code ausgebildet werden als eine gute Fachspezifische Ausbildung erhalten, welche sie dann mit Codex umsetzen lernen.

Und dann verkaufen wir die natürlich als Seniors.

 

[calluna]

"alles außer C ist unnötig"

Ich wollte immer mal Casey Muratori‘s „Handmade Hero“ in C-Style C++ anschauen und durcharbeiten… daran hab ich gerade gedacht. 😅 Aber ich bin realistisch, so viel Zeit hab ich dafür nicht.

 

[Ned Flanders]

Für alle die sich aktiv damit beschäftigen - der ist schon längst da.

Gibt auch Leute die halten das Internet noch für eine vorübergehende Erscheinung.

 

[=dantE=]

Und dann verkaufen wir die natürlich als Seniors.

... ich verstehe!
Wir machen das allerdings schon noch ... oder wieder, je nachdem wie man den kurzen Zeitraum der Euphorie auch beschreiben und abgrenzen mag.

Aus meiner Perpektive als Gesellschafter und Verantwortlicher der gesamten Delivery ist die Ausbildung und das Durchschreiten der jeweiligen Senioritätsgrade je nach Befähigung eine unersetzliche Strategie in der Mitarbeiterentwicklung.
Nur hierdurch konnten, und können wir sicherstellen, dass die Produkte in einem ordentlichen Qualitätsgrad an den Kunden übergeben werden können und das Ergebnis in allen Facetten durchstiegen wurde und verständlich dokumentiert den Anwender erreicht.

Nenn mich altmodisch, aber wir haben in den letzten 3 Jahren durch die Verwendung von K.I. mitunter mehr Schaden als Nutzen hinnehmen müssen. Denn die Regulierung die hier durchaus zur Anwendung kommen muss, erfordert spezielle Konzepte. Diese Auszuarbeiten und zu Testen erfordert einen hohen (Kosten)Aufwand.

Wir sind uns dessen bewusst, dass wir dringend handeln müssen (und wir sind auch schon seit gut einem Jahr dabei). Aber so "schnell" wie die Agenten hier auf den Markt geschmissen werden, sehe ich den fixen Austausch niedrigerer Senioritätsgrade und somit den Invest in unsere Mitarbeiterstruktur nicht.
Ganz zu schweigen davon, wenn mal ein Agent-Service oder eine -Ressource ausfällt.

Klar, der Mensch wird auch krank oder hat mal ungeplant freie Zeit nötig. Aber bisher sehe ich das Shadowing in personeller Hinsicht immer noch redundanter als den Ausfall einer Technologie.
Die hole ich nicht eben mal aus der Versenkung, gerade wenn die nicht bei uns im Haus läuft.

Übrigens:
Wir entwickeln keine Applikationen, "nur Schnittstellen".

 

[steirerblut]

Mehr Zugang zu all deinen Dokumenten und Daten kombiniert mit dem Potenzial damit so ziemlich alles machen zu können - ja, klingt großartig. /s

Ich seh das Problem hier aber nicht bei den Betreibern sondern würd die Verantwortung eher beim User sehen; OpenAI und Anthropic garantieren zum Beispiel für bestimmte Business Tarife keine Nutzung der Kundendaten fürs Modelltraining by default. Klar wirklich anonym ist das auch nicht, das wirst halt bei keinem Clouddienst zu 100% haben.
Ich seh das zwar auch kritisch, kanns mir aber im Arbeitsalltag den Verzicht auf bestimmte Clouddienste nicht leisten, 60-70% des LLM Outputs kommt aus lokalen LLMs, primär nicht wegen Datenschutz sondern wegen zu kleinen 5h Usagefenstern, aber für gewisse Sachen ist man doch noch auf Top Tier LLMs angewiesen.
Die LLMs arbeiten aber pro Session immer in Sliced Aufgaben, haben niemals den gesamten Projektkontext, weil der Output dann ungleich schlechter wird. Ob das LLM dabei Zugriff auf ein paar Src Files oder Tables hat ist eigentlich relativ egal.

Generell wird ja sowieso immer auf Projekten mit Demo/anonymisierten Daten entwickelt. Personenbezogene Daten dürfen nur mit passender Rechtsgrundlage, für einen klaren Zweck, verwendet werden. Da sprichst aber immer von Datenminimierung, Anonymisierung, Pseudonymisierung etc. Selbst wenn aus dem Cloudprojekt das Githubissue mit dem Kompletten Datensnapshot und Zustand übermittelt wird, wird vorher alles mit direkten Personenbezug anonymisiert.

Aber klar, wir reden hier von 2 Unterschiedlichen Dingen, die einen schieben Claude & Co die kompletten Daten mit der Bitte "mach was" zu, die andern Nutzens halt zum programmieren von trivialen Programmieraufgaben.