Programmieren mit der KI von Usern, die nichts davon verstehen

[br3adwhale]

wetter.com --> Abo

Hab grad mal geschaut, Abo ja, zum Werbung entfernen. Mir ist da noch nie Werbung über den Weg gelaufen, wo haben die Werbung? Oder seh ich die nicht, weil die vom personalDNSfilter geblockt wird?

 

[KitKat::new()]

WarnWetter (vom DWD) gibt's als Kaufversion

 

[thrawnx]

Sollen die Leute spielen und basteln. Wenn sie dann was richtiges wollen, kommen sie wieder zu uns ITlern.

Die "Schau mal was ich mit Claude gebaut" habe Heinis. Agenten die ich niemals Produktiv einsetzen würde, Software die als aber toll ausgewiesen wird, ich in 2 Minuten aber schon genuked habe, weil sie offen stehen wie Scheunentore (Ich weis, nicht so Legal, macht aber Spass)

Und jede Github Repo für Gewerbliche Zwecke einzusetzen, gerade im DE/EU Raum, sehr gefährlich. Das kann man als Ami oder Asiate machen, hier kann das ne teure Nummer werden.

Die KI coden schon seit einer Weile wesentlich besser als der durchschnittliche Anwendungsentwickler. Wenn man ihnen passende Architektur mit gibt, den Code von anderen Agents peer-reviewen lässt und durch die passenden Frameworks schickt, kommt da enorm stabiles Zeug raus.

Eine Maschine macht grundsätzlich weniger Fehler als Menschen, wenn sie erstmal ein gewisses Entwicklungsstadium erreicht hat.

 

[chr1zZo]

@thrawnx durchaus. Dennoch ne Menge Müll unterwegs, gerade auf Social Media ^^ Die drücken halt nur das rein was sie im 29€ Kurs von Handyklapphüllen Dörte und MLM Heiko hören xD

 

[Xes]

KI ist ein starkes Werkzeug und verschiebt die Rolle eines Entwickler immer mehr vom Coder zum guten Fragensteller, Auftraggeber, Prüfer und "Nachbesserer." (Das trifft übrigens auch auf viele weiteren Berufe zu.)
Im privaten (und lokalen) Umfeld kann man als Laie mit KI schnell und ohne viel Aufwand und Wissen viele nützliche Tools bauen. Sobald es aber ins kommerzielle geht, oder man Dienste im Web verfügbar macht (die ggf. noch mit persönlichen Daten von sich selbst oder anderen interagieren) sollte man schon wissen was man tut, denn haftbar ist am Ende der, welcher den Dienst bereit stellt und nicht die KI die den Code generiert hat.

Diese Erfahrung um der KI die richtigen Fragen, Aufgaben, Vorgaben, Tools usw. zu stellen, den generierten Code verstehen, bewerten und bei Bedarf selbst verbessern zu können, unterscheidet einen Laien vom Profi und spätestens beim Thema Haftung nimmt das einem auch keine zweite (oder dritte, vierte, usw.) noch so tolle KI als zusätzliche Kontrollinstanz ab.

Die neuen großen KI-Modelle schreiben schneller und oft auch besseren Code als ich, das gebe ich gerne zu. Dennoch schleichen sich selbst bei den besten Modellen immer mal wieder Fehler ein, über die ein Mensch beim durchlesen nur den Kopf schütteln kann.
Ein Beispiel wovon ich kürzlich mal gelesen hatte, sinngemäß wiedergegeben:
Der Anfragensteller legt hohen Wert auf eine möglichst stabile Anwendung. Die beauftragte KI generiert deshalb (sinnvollerweise) viele automatische Tests für den Code um potentielle Fehler zu finden. Im reasoning kam die KI allerdings zum Schluss, dass der User am meisten zufrieden ist, wenn möglichst viele Tests "erfolgreich" zurück geben. Deshalb wurden nur Tests geschrieben, die möglichst sicher "erfolgreich" zurück geben, statt die tatsächlich relevanten kritischen Stellen zu testen. Dem Anfragesteller wurde dann selbstbewusst mitgeteilt: "Alles super, schau mal es sind auch alle 30 Tests erfolgreich durchgelaufen."
Der Laie schaut da drüber und denkt alles prima, hat die KI ja super gemacht. Der Profi schaut (hoffentlich) genauer drauf und erkennt, dass die Tests nicht die relevanten Teile abdecken.

 

[Micha-]

Klar aber für die guten braucht man überall ein Abo wenn man soweit alles nutzen will.

Warum? Weil die Daten Geld kosten. Woher soll deine vibe coding App die Daten holen?

Da fängt es doch schon an..

 

[frames p. joule]

Woher soll deine vibe coding App die Daten holen?

https://dwd.api.bund.dev/

 

[Benna]

"Do you wanna develop an app?"

Hab mir gestern erst ne Wetterapp erchattet, weil ich mit dem Markt so unzufrieden war.
Schade ist es natürlich für die vielen ITler (in Ausbildung), die zukünftig kein Geld mehr verdienen können.

Und wer pflegt den Code und passt den an?

 

[Micha-]

Wenn die KI das erstellt hat, warum soll die das dann nicht warten?

 

[frames p. joule]

Und wer pflegt den Code und passt den an?

Welchen Code jetzt?

 

[e-hahn]

Mir ist das in einem anderen Forum erst so richtig bewusst geworden, dass es diese Leute gibt.
Stellen ihr Programm vor und geben aber offen zu, sie haben vom Programmieren keinen Schimmer, würden nicht eine einzige Zeile Code verstehen. Würden sich hier komplett auf die KI, unterschiedliche KIs verlassen.
Veröffentlichen gut jeden Tag eine neue Version, ballern eine Funktion nach der anderen rein. Ein Programm wo andere Jahre für brauchen, rotzen die hier in Tagen dahin. Gibt aber auch Leute die sich daran nicht stören und solche Software nutzen...

 

[JustAnotherTux]

Ich finde es allgemein schlecht das wir uns mit KI modellen aus den USA noch abhäniger von den USA gemacht haben als jehmals zuvor. Die Frage ist auch was die ganzen Arbeitslosen im EDV bereich aber auch Architekten usw. dann machen sollen bzw. wie wir mit dieser Welle an Arbeitslosen und sehr unzufriedenen Menschen umgehen sollen & können.

Als Werkzeug ist KI Super aber IMO sollte der Code von einem Menschen verstanden und kontrolliert werden.

Nennt sich übrigends Vibe coding wenn man nur noch prompts schreibt.

 

[Azghul0815]

KI als Werkzeug finde ich super, nutze ich selber. Aber "ich habe eine Software entwickelt" und "ich habe mir von einer KI eine Software generieren lassen, deren Code ich selbst nicht verstehe" sind für mich halt zwei grundverschiedene Dinge. Meine Meinung.

Bin bei dir.
Bei mir laufen bestimmt 5 Web Apps, die ich habe Vibe Coden lassen.
U.A. Eben auch eine Wetterapp, bzw. Ein Plugin für MagicMirror2 bei denen die AI die APIs abklappert und dann mehr oder weniger den Durchschnitt zieht.
Das ist glaube ich tatsächlich offen auf Git.
Zumindest ungefähr Lesen kann ich was das Plugin tut.

Ich frag zumindest die KI, ob sie die Security prüfen kann und davor lass mir auch den zyklomatischen Index bestimmen und dementsprechend die Umcoden.

Obs was bringt?
Keine Ahnung. Ich fühl mich besser.

 

[Micha-]

IMO sollte der Code von einem Menschen verstanden und kontrolliert werden.

Warum? Es ist nur eine weitere Abstraktionsebene. Du programmierst heute in einer Hochsprache und lässt dann compilieren. Kontrollierst Du den Maschinencode der dabei raus kommt? Hast du den Compiler selber geschrieben oder verlässt Du dich da blind auf andere? Kennst du den Code der APIs genau, die Du verwendest? Warum nicht?

 

[samuelclemens]

Nennt sich übrigends Vibe coding wenn man nur noch prompts schreibt.

Nunja, wenn man sich solche Prompts ansieht sind die fast schon komplexer aufgrbaut als so manche programmiersprache.
Man muss sich die Prompts selber teilweise sogar schon von anderen ki's bauen lassen weil zu komplex.

 

[JustAnotherTux]

Warum? Es ist nur eine weitere Abstraktionsebene.

Eben nicht, KI kann und wird dinge hinzu erfinden welche nicht existieren das macht maschienen code eben nicht.

Du programmierst heute in einer Hochsprache und lässt dann compilieren. Kontrollierst Du den Maschinencode der dabei raus kommt?

Nein aber der Halizuniert auch nicht.

Ergänzung (Donnerstag um 19:46)

Hast du den Compiler selber geschrieben oder verlässt Du dich da blind auf andere? Kennst du den Code der APIs genau, die Du verwendest? Warum nicht?

Gesunde Menschen halizunieren weniger als LLMs

 

[Micha-]

Du scheinst keine Erfahrung mit vibe-coding zu haben. Die Risiken sind, das Du dich unklar ausdrückst und er das dann irgendwie umsetzt.

Beispiel: "lese diese XLS Tabelle in eine SQLite db ein". Dann programmiert er Dir eine Import Routine. Aber ob er sich den Pfad in der Registry speichert und ob er die Spalten A,B,C stur importiert oder aber semantisch, also die Überschriften beachtend - das ist dann Zufall. Da musst du dann halt klarer werden.

Aber er erfindet keine Python Befehle die es nicht gibt. Eventuell geht er umständlich vor. Vielleicht nutzt er nicht die neusten APIs, weil er die nicht (so gut) kennt.

Ja, bei sehr exotischen Programmiersprachen kann es zu Verwirrungen kommen. Die KI will auch immer gern englische Excel-Befehle im deutschen Excel anwenden. Muss man ihm halt sagen.

Aber wenn Du mit Standard-Tool arbeitest, dann kommt auf Anhieb lauffähiger, valider Code raus.

 

[foofoobar]

Du scheinst keine Erfahrung mit vibe-coding zu haben. Die Risiken sind, das Du dich unklar ausdrückst und er das dann irgendwie umsetzt.

Hmm, du bist also der Meinung das jemand der mehr als ein bisschen programmiert das nicht kennt?

 

[Independent]

Ich finde sowas großartig, weil man so seine eigene Bedürfnisse erfüllen kann. Ich würde grundsätzlich auch offen damit umgehen.

Letztendlich denke ich auch, das es den Anwender schnurz piep egal ist, wer das nachher gemacht hat, denn Hauptsache es erfüllt seinen Zweck.

Sowas zu Amiga oder C64 Zeiten gehabt haben 🤪

Richtige Programmierer brauchst du immer, aber die Menge nicht.

 

[SheepShaver]

Früher haben wir Leute belächelt, die nur Hochsprachen, aber kein Assembler konnten. War auch Quatsch.
Ein Compiler ist ein Werkzeug, KI ist ein Werkzeug. Nur, weil etwa KI generiert ist, macht es nicht automatisch schlecht. Ob etwas Gutes am Schluss dabei rauskommt, hängt vom Anwender ab. Ein erfahrener Entwickler kann mit KI bessere Software bauen, als ohne.