News Amazon: KI-Coding-Bots verursachten AWS-Ausfälle

[Syrato]

Die Wortwahl im Statement ist halt wischi waschi.

Es zeigt sich, KI einfach machen lassen bringt unterm Strich deutliche Mehrarbeit!
Gezielte Einsetzung in Verbindung mit einem Menschen ist effektiver.

Ergänzung (Freitag um 15:59)

Meine frage: Was ist in 20-30 jahren? Wie soll jemand den Know how stand (z.b. meines Bruders) erreichen wenn er das nie mehr selber macht?

Frag die KI nach einem Basic Tutorial und bete, dass es korrekt ist... 😋, dann kann man es ja von da lernen 🙃.

 

[Shio]

Das liest sich für mich nach dem durschnittlichen 60+ Jahre Rentner der noch analoges TV guckt und das Internet verflucht. Erweitere mal deinen Horizont - ich hoffe du wirst alt genug um zu sehen wie extrem du mit dieser Aussage falsch liegst.

Glaub das mal schön weiter, ist ja nicht so das man tagtäglich von schlechter Software hört die von Firmen erzeugt wird die ihren Entwicklern "AI-Coding" aufzwingt. hust Microsoft hust Cloudflare hust Github hust
Aber wir haben ja auch schon mindestens eine Studie die aufzeigt wie schlecht AI-Coding, welches über Assistenz hinausgeht, ist:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[Spriti]

So kommt dann Skynet an die Atomraketen? (scnr)

Noch viel einfacher, Skynet errechnet die Abschusscodes und übermittelt diese.
Notfalls erstellt es noch Fakevideos der Präsidenten, hackt sich in die Fernsehanstallten und kündigt den Atomschlag an. Alle denke das ist echt und auch die Soldaten in den Abschussbunkern.

Da braucht Skynet noch nicht mal direkten physischen Zugriff.

 

[Creeping.Death]

ist ja nicht so das man tagtäglich von schlechter Software hört die von Firmen erzeugt wird die ihren Entwicklern "AI-Coding" aufzwingt. hust Microsoft hust Cloudflare hust Github hust

Ist ja nicht so, dass nicht schon seit es Software gibt schlechte Software von hust echten Menschen hust geschrieben wird.

Die KI hat mir sogar auch ein Liste mit Links zu Studien geliefert, die belegt, wie nützlich KI sein kann:

https://www.pwc.com/gx/en/news-room...fourfold-increase-in-productivity-growth.html
https://www.nber.org/system/files/working_papers/w31161/w31161.pdf
https://www.bcg.com/press/27june202...tunden-pro-woche-durch-kunstliche-intelligenz
https://www.adeccogroup.de/blog/new...utsche-mitarbeitende-rund-eine-stunde-am-tag/
https://www.stlouisfed.org/on-the-economy/2025/feb/impact-generative-ai-work-productivity

Aber was beweisen Links irgendwohin, außer dass es Beispiele gibt, die alles "beweisen", was man sich gerade wünscht.

 

[Der Nachbar]

Ich finde die Begründung fadenscheinig, hat doch das Management dem Entwicklerteam die KI Wünsche auferlegt, wieviel Zugriffsrechte die KI haben darf. Es ist immer ein vorausgehend menschliche Entscheidung mit Fehlerpotenzial.

Und Amazon will 600.000 Lagerarbeiter mit Robotern austauschen. Das wird das neue Portal.

 

[Shio]

Ist ja nicht so, dass nicht schon seit es Software gibt schlechte Software von hust echten Menschen hust geschrieben wird

So und nun überlegen wir nochmal was das im Bezug darauf bedeutet, dass AI-Coding noch lange nicht so weit ist Menschen zu ersetzen.

Die KI hat mir sogar auch ein Liste mit Links zu Studien geliefert, die belegt, wie nützlich KI sein kann:

Entweder kein Paper vorhanden, oder bezieht sich nur auf AI Assistenz, was nicht das Thema war.

https://www.bcg.com/press/27june202...tunden-pro-woche-durch-kunstliche-intelligenzhttps://www.bcg.com/press/27june202...tunden-pro-woche-durch-kunstliche-intelligenz

Hmmm... https://www.bcg.com/capabilities/artificial-intelligence/openai-collaboration
Jemand der eine Kollaboration mit dem größten AI Konzern betreibt ist jetzt in meinen Augen nicht vertrauenswürdig für eine Studie über wie gut AI im Job ist.

 

[pseudopseudonym]

die ihren Entwicklern "AI-Coding" aufzwingt

Das musst du den meisten von uns nicht aufzwingen.

 

[Shio]

@pseudopseudonym Da ist ein Unterschied zwischen Assistenz und Forderung von mehr Produktivität durch nicht korrekt "review"-ten Code.
Kann man sich ja mal die ganzen AI-Slop PRs auf aktuellen OSS Github Seiten anschauen.

 

[SheepShaver]

Unser Ops-Team hat es auch ohne KI geschafft, aus Versehen die Prod Datenbank zu loeschen.
Sowas passiert, wenn man parallel mehrere Shells offen hat und nicht merkt, dass man gerade auf Prod und nicht Staging ist. 😀
Jetzt lach ich darüber. War aber ziemlich ungemütlich, da Backup Einspielen in annehmbarer Zeit nicht möglich war.

Vermutlich war es auch hier so, dass jemand geschlampt hat.

 

[Apocalypse]

Es gehört aber schon auch ein special kind of stupid dazu, KI direkt auf Prod deployen zu lassen...

Eben, eindeutig ein menschlicher Fehler

 

[pseudopseudonym]

Kann man sich ja mal die ganzen AI-Slop PRs auf aktuellen OSS Github Seiten anschauen.

Der kommt von Leuten, die sich einfach nur schnell mit Contributions schmuecken wollen. Wenn du an nem Projekt arbeitest, das du auch maintainen musst, sieht es anders aus.

 

[Creeping.Death]

@Shio es geht doch einfach nur darum, dass man das was die KI macht prüfen muss und nicht alleine auf produktive Systeme oder sonstwas loslässt.
Das Gelaber, dass alles nur Slop ist, was KI erschafft oder mit Hilfe von KI erschaffen wird, ist einfach nur ermüdend.

Wenn man bedenkt, wie jung das Thema (in der jetzigen Form) noch ist, kann man sich ausrechnen, wo wir in 5-10 Jahren stehen werden.
Jeder der sich verweigert (nicht zu verwechseln mit kritisch hinterfragen), wird - je nach Aufgabengebiet natürlich - überrollt.

 

[Apocalypse]

Wenn der Lenkassistent im Auto das Lenkrad verreißt und einen Unfall baut, war das also auch kein technisches Versagen, weil der Fahrer hätte das ja auch machen können, oder?

Nein, es war klares menschliches Versagen, deswegen ist Tesla ja auch immer noch nicht Level 5, auch wenn sie behaupten das sie könnten.

Der Fahrer ist verantwortlich und der ist halt in bei den meisten nicht der Lenkassistent. Mal von Mercdes bei Autobahnfahren bis ... was war es noch mal, 100km/h?
Da übernimmt aber auch Mercedes die Versicherung und Haftung, ansonsten ist es immer menschliches Versagen wenn die KI mist baut.

 

[Kuomo]

Wenn man bedenkt, wie jung das Thema (in der jetzigen Form) noch ist, kann man sich ausrechnen, wo wir in 5-10 Jahren stehen werden.

Echt, wie lautet dafür die Formel?

 

[LamaMitHut]

Ach herrjeh, hat man der KI-Skeptiker-Bubble wieder Futter gegeben...

Wen überrascht es, wenn die KI Mist baut? Oft genug gibt mir ein KI-Chatbot völlig falsche Ergebnisse. Deshalb hinterfrage ich das, was mir da ausgespuckt wird und nehme es nicht als die endgültige Wahrheit hin.
Wegen solcher Fehler KI aber als völlig unnütz zu verteufeln ist halt auch dämlich. Nach diesem Maßstab müsste man mal die realen Menschen in diesem Forum beurteilen. Wenn man sich die Teils unfassbar unnützen Lösungsansätze auf Anfragen zur Soft- und Hardwareproblemen durchliest, verstehe ich, warum immer mehr Leute lieber mit einer KI chatten.

Du verschwendest hier deine Zeit, die werden ihre Meinung nicht mehr ändern. Bei denen werden nur Infos im Gedächtnis gespeichert die die Haltung das KI nutzlos ist und bis auf weiteres bleibt festigen.

 

[ThirdLife]

So einen Dreck zu erzwingen weil man sein schlechtes Investment nicht in Frage stellen will ist halt mal wieder typisch für blinde Manager.

Das ist halt der Kernpunk. Man hat Milliarden reingepumpt und groß getönt wie das alles ablösen wird und die Profiiiiiite steigen werden. Jetzt zugeben zu müssen: jo waren Mrd ins Klo wäre für die Aktie eher schädlich, ergo "weiter aufs Ziel zu, weiter aufs Ziel zu!" 🤣

Wir sind jetzt an dem Punkt an dem es witzig wird. Einfach zusehen wie alles implodiert und die ganzen KI-Techbros verzweifelt um ihr Leben lügen.😂

 

[Krazee]

Also der letzte Absatz des Artikels hat es für mich in sich:

Amazon hat laut dem Bericht das interne Ziel ausgegeben, dass 80 Prozent der Entwickler mindestens einmal pro Woche die Coding-Assistenten nutzen sollen.

Also das klingt wirklich danach, dass es durchaus Leute ablehnen. So sehr, dass sie hier 20% offenlassen, die nicht mit dem Assistenten arbeiten müssen. Also wird die Zahl der Leute, die hier nicht ihren KI-Nachfolger-in the making trainieren wollen, schon durchaus beachtlich sein.

Das Gelaber, dass alles nur Slop ist, was KI erschafft oder mit Hilfe von KI erschaffen wird, ist einfach nur ermüdend.

Das Problem ist, dass KI (Sammelbegriff) hergenommen wird, um billigen, schnellen, reproduzierbaren Inhalt zu generieren. Jeder DAU kann auf einmal exponentiell mehr Texte, Code oder was auch immer generieren. Ich finde Slop da schon passend. Auch, wenn es sicher nicht überall zutrifft. Doch ist das so eine Sache heutzutage mit den Nuancen ^^

Jeder der sich verweigert (nicht zu verwechseln mit kritisch hinterfragen), wird - je nach Aufgabengebiet natürlich - überrollt.

Ja - die, welche sich aktiv mit dem Thema auseinandersetzen, haben in gewissen Bereichen definitiv Vorteile. Gerade so lange es noch den menschlichen Faktor braucht.

Ich sehe es durchaus so, dass sich auch wieder Türen öffnen, wenn sich andere schließen. Es werden sicher auch gänzlich neue Bereiche entstehen.

Doch selbst Nicht-Verweigerer laufen Gefahr, irgendwann unter die Räder zu kommen.

Auch ist das Thema Automatisierung jetzt nicht neu. Manche Bereiche sind da sensibler und informierter als Andere. Doch selbst ohne KI war hier und da abzusehen, dass das nicht ewig weitergeht. Erinner mich gut an Jobs vor 10 Jahren, die schon zu 70+% von irgendeiner Software übernommen werden konnten.

Und am Ende geht es ja auch darum, nervige, wiederholende Arbeiten autonomen Systemen zu überlassen.

 

[SKu]

Es gehört aber schon auch ein special kind of stupid dazu, KI direkt auf Prod deployen zu lassen...

No Risk, no fun.

 

[pseudopseudonym]

Jeder DAU kann auf einmal exponentiell mehr Texte, Code oder was auch immer generieren.

Bei den unterschiedlichen Erfahrungen zum Coden mit KI kann es offensichtlich nicht jeder. Schon gar nicht in brauchbarer Qualitaet. Glaube aber auch, dass die Masse hier gar nicht weiß, wie Coden mit KI aussehen kann. Die Masse denkt immer noch an so ein ChatGPT-Fenster.

 

[Shio]

Der kommt von Leuten, die sich einfach nur schnell mit Contributions schmuecken wollen. Wenn du an nem Projekt arbeitest, das du auch maintainen musst, sieht es anders aus.

Auch, aber mittlerweile auch viel von AI-Agents. Github hatte ja letztlich auch eingeführt das man im Projekt einstellen kann, dass nur PRs von trusted Usern möglich sind.
Zeigt mMn einfach wies aktuell aussieht. Auch der aktuelle Hype um OpenClaw wo angeblich über 800 Commits pro Tag gemacht werden ist einfach absurd. Da kann imho einfach nichts ordentliches bei rumkommen.

@Shio es geht doch einfach nur darum, dass man das was die KI macht prüfen muss und nicht alleine auf produktive Systeme oder sonstwas loslässt.

Ja klar, aber wenn erwartet wird das 20-30% des Codes von AI erstellt werden soll (siehe Microsoft) dann muss aber auch mindestens 20-30% mehr Code reviewed werden.
Was halt den Headcount mMn nicht reduziert sondern einfach weiter erhöht. Was Microsoft nach den ganzen Updateproblemen nun auch macht...
AI-Assistenz ist gut, gerade für dummes Zeugs was man in MS Office oder Teams macht. Oder als interaktive Hilfe beim Coden aber GenAI beim Coden auf sich allein lassen ist halt noch lange nicht machbar.

Das Gelaber, dass alles nur Slop ist, was KI erschafft oder mit Hilfe von KI erschaffen wird, ist einfach nur ermüdend.

Wenn wir von GenAI reden sinds sicherlich 95%+.

Wenn man bedenkt, wie jung das Thema (in der jetzigen Form) noch ist, kann man sich ausrechnen, wo wir in 5-10 Jahren stehen werden.

Wenn ich mir anschaue wie Resourcenfressend das aktuell alles schon ist, nur damit ich mir 5-10min bei einer Googlesuche oder irgendeiner anderen Nichtigkeit spare, will ich mir nicht ausmalen wie schlecht die Welt aussieht wenn das weiter so geht.
Gerade wenn man sich anschaut was aktuell im Hardware Markt passiert.