Programmieren mit der KI von Usern, die nichts davon verstehen

[e-hahn]

Naja, ich habe seit 8 Monaten 10 Stunden täglich mit KI gearbeitet von 0. Ich hatte keine Ahnung von nichts und heute habe ich mehrere Projekte alleine gebaut.

Hast du dabei was gelernt, verstehst du nun auch zumindest ansatzweise den generierten Code?

 

[Micha-]

Warum sollte man das tun? In wenigen Jahren liest kein Mensch mehr Code. Die spannende Frage ist, wie validiert man die Funktion des Programms.

 

[e-hahn]

Warum sollte man das tun?

Warum sollte man das nicht tun?
Nicht jeder möchte sich vollkommen abhängig von KI machen.
Nicht jeder mag die zunehmende Verdummung der Menschheit durch KI.

 

[Micha-]

Wenn ich mir die Fortschritte der IT in den letzten 20-30 Jahren anschaue und die Fortschritte der KI in den letzten Monaten, dann führt das zu der obigen Erkenntnis.

Wieso es eine Verdummung der Menschheit ist, wenn man den Code nicht mehr selber liest, erschließt sich mir nicht. Du kannst auch keinen Weizen anbauen, Korn mahlen und Brot backen. Hast du Angst zu verhungern?

Und es ist durchaus intellektuell herausfordernd per vibe coding eine Anwendung zu bauen. Du hast nicht mehr den Code, die Schnittstellen, die Datenbank Tabellen und das Ziel in Kopf, sondern das ganze geschieht eine Abstraktionsebene höher. Aber das ist nicht weniger anspruchsvoll. Klar diskutiert man mit der KI schonmal Änderungen an der Datenbank, aber man kümmert sich nicht mehr um die SQL Befehle.
Ich habe noch nie zuvor so viel Zeit in Test und automatisierte Validation gesteckt, weil ich ja immer überzeugt war, dass mein Code fehlerfrei ist.

 

[Reaper75]

@KitKat::new()

Du kannst dir gerne mal einen kleinen Überblick verschaffen. Hier ist mein Rechnungsklassifikator den ich gemacht habe. Es tut Rechnungen die nicht richtig benannt sind analysieren umbenennen, in die richtig Ordnerstruktur kopieren und in die richtige Quartal schieben.

 

[Janush]

Es ging wahrscheinlich eher um die Benutzung des Wortes Profi-Software ... was soll das sein?

 

[e-hahn]

Du kannst auch keinen Weizen anbauen, Korn mahlen und Brot backen. Hast du Angst zu verhungern?

Muss ich ja auch nicht, das macht der entsprechende Bauer, ist also kein Argument.

Wenn keiner oder nur noch sehr sehr wenige in Zukunft mehr Code verstehen, in einer digitalen Welt, kann das nicht gut sein.
Ich lehne KI nicht ab, im Gegenteil, aber ich sehe das ganze dennoch sehr kritisch. Keiner weiß so wirklich was hier passieren wird und wenn selbst die KI Firmen ihre Modelle immer weniger verstehen, macht mir das schon Angst.

Ja und ich meine Verdummung, wenn Menschen immer weniger selbst machen müssen, ihnen nicht nur körperlich, sonden auch geistig alles abgenommen wird, werden sie sicher nicht schlauer.

 

[Micha-]

sonden auch geistig alles abgenommen wird

Du hast meinen Beitrag wohl nicht richtig gelesen

 

[e-hahn]

@Micha- Doch habe ich.
Du nennst hier ein Beispiel, das hier und da zutreffend sein kann, aber auch das vielleicht bald auch wieder nicht mehr. Ich bezog mich dann auch nicht nur auf das Programmieren bezüglich der Verdummung von Menschen.

 

[KitKat::new()]

Du kannst dir gerne mal einen kleinen Überblick verschaffen.

Source code?

 

[Reaper75]

@KitKat::new() Nein, bestimmt nicht. Würdest du deinen Code einen fremden geben?

 

[KitKat::new()]

Würdest du deinen Code einen fremden geben?

Ja, das meiste des von mir geschriebenen Codes ist im Internet frei abrufbar.

Alles was ich von der Profi-Software bisher gesehen habe, sind Screenshot von etwas was nichtmal eine native Oberfläche eines mit bekannten OS nutzt.

 

[Reaper75]

Alles was ich von der Profi-Software bisher gesehen habe, sind Screenshot von etwas was nichtmal eine native Oberfläche eines mit bekannten OS nutzt.

Das musst du auch nicht sehen. Wenn du deine Software im Internet frei verfügbar machst, ist es schön und gut. Das ist ja deine Sache. Aber so arbeite ich nicht und ich bin auch nicht hier, um mich zu rechtfertigen. Ich hätte überhaupt gar nichts zeigen müssen. Also von daher, mehr gibt es auch nicht.

 

[foofoobar]

Kann aber Nicht selbst programmieren, maximal wie eine schlecht gelernte Fremdsprache in der Gesamtschule dieses Lesen.

Ich kann aber STRUKTUR & Logik :-)

Dann prüfe noch mal deine Datenstrukturen ob die hinreichend generisch sind und keine redundanten Daten enthalten.
Sicherlich gibt es ein Zwischenformat aus dem du die Querys und Reports letztendlich ziehst.

 

[Benj]

@KitKat::new()

Hier ist mein Rechnungsklassifikator den ich gemacht habe.

Slop, den niemand kaufen würde (Details...). Dafür sind aber LKW-weise Wasser draufgegangen. Zumal es garantiert schon Lösungen auf dem Markt gibt, die dafür geeignet gewesen wären, z.B. paperless-gpt oder sowas.

Finde es jedes Mal kacke, wenn sich Leute ihre Apps maßschneidern lassen und die wahren Kosten dahinter überhaupt nicht sehen. Zumal du an anderer Stelle schon über die "viel zu teuren" API-Preise gejammert hast, obwohl die tatsächlich auch noch lange nicht die echten Kosten abdecken. Die bezahlt die Gesellschaft. Dessen sollte man sich zumindest bewusst sein.

 

[Micha-]

Ich arbeite seit 6 Monaten an einer Software für die Kalibrierung und Überwachung unserer Spektrometer. Die Software ist nun seit ein paar MOnaten im produktiven Einsatz und hat sich bewährt. Ab und an habe ich ein Review mit einer leistungsstärkeren KI gemacht und es wurde vereinzelt Bug für edgecases gefunden. Nichts dramatisches. Oft eher rein theoretisch mögliche Fehler. Mittlerweile ist die Entwicklung abgeschlossen. Inkl. Validation Harness zur Auditierung der Berechnungen. Hat mich also 6*23=138€ gekostet. Wenn die KI Anbieter mehr nicht in Rechnung stellen, ist das nicht mein Problem.
Auf dem Markt würde eine vergleichbare Software mehrere 10.000€ plus jährliche Wartungskosten je Lizenz verursachen. Und die wäre dann nicht mal maßgeschneidert auf unsere Aufgabe.
Der Erfolg ist jetzt schon messbar - Round-Robin-Test sind nun binnen 1 Tag abgeschlossen wo ich vorher 1 Woche an der Auswertung gesessen habe. Und bei jeder Optimierungsschleife von vorne. Wir haben nun eine Transparenz erreicht, die wahrscheinlich führend ist für vergleichbare Labore. Natürlich kann ich den Quellcode nicht zeigen. Auch weil ich ihn nicht verstehe

 

[JP-M]

Natürlich kann ich den Quellcode nicht zeigen. Auch weil ich ihn nicht verstehe

Dann ist das 'ne steile These, dass der Validation Harness wirklich funktioniert und alles korrekt abdeckt - also auch, wenn mal ein Edge Case leicht von einem Erwartungsfall abweichen sollte ;-).

 

[Micha-]

Natürlich geht das. Bei der Validierung werden Eingangs Parameter übergeben und das Ergebnis mit dem vorher extern berechneten, erwarteten Werten verglichen. Man muss hier auch nicht alle edge case abdecken, den der Zahlenraum abdeckt, sondern die in der Realität möglichen.

 

[JP-M]

ähm ... "die in der Realität möglichen" .. Das heißt potentielle Fehler in Sensoren, Speicher, etc. sind ebenfalls alle abgedeckt?
Wie viel besser ist denn jetzt die Güte deiner Software / Messeinrichtung im Vergleich zu den zu kalibrierenden Spektrometern? Hast du da konkrete Zahlen und Berechnungen, die verifizierbar sind?

 

[xexex]

Warum sollte man das nicht tun?
Nicht jeder möchte sich vollkommen abhängig von KI machen.
Nicht jeder mag die zunehmende Verdummung der Menschheit durch KI.

Ach wenn dieser Post schon etwas angestaubt ist, möchte ich dir an dieser Stelle etwas zu denken geben. Ich welcher Programmiersprache entwickelst du deine Software?

Wenn jetzt die Antwort von dir nicht Assembler lautet, machst du dich schon lange "abhängig" von Interpretern, vermutlich ebenfalls von diversen APIs und oben drauf setzt du vielleicht noch irgendwelche Frameworks ein. Ich behaupte dazu dann noch, viele Programmierer nehmen als Basis bereits im Netz verfügbare Software und schreiben nicht jede Codezeile selbst.

Verstehst du bis in aller letztes Detail, welche Rechenoperationen von der eingesetzten Hardware durchgeführt werden, oder verlässt auch du dich nur auf die Werkzeuge? Wenn du nicht alles selbst in Maschinencode schreibt, wofür ich dir höchsten Respekt zollen würde, solltest du mal deine wilde Behauptung grundlegend überdenken.

Wir sind in der IT nur deshalb mittlerweile soweit gekommen, weil wir keine Lochkarten mehr zum Programmieren nutzen und komplexe Projekte sind für die meisten nur deshalb zu bewältigen, weil sie sich gar nicht mehr um das "darunterliegende" kümmern müssen. KI ist an dieser Stelle nur ein zusätzliches und sehr mächtiges Werkzeug, das ist jede höhere Programmiersprache aber ebenfalls.

Ähnliche Behauptungen wurden schon aufgestellt, als die ersten Taschenrechner auf den Markt kamen und schau an, wir sind doch nicht "verdummt". Es interessiert heute einfach nicht mehr nach der Schule wie gut du im Kopfrechnen bist, du bist mit weit komplexeren Aufgaben betraut. KI gefällt heute vielen Programmierern nicht, wie das Auto früher vielen Kutschern nicht gefallen hat, die haben damals scheinbar auch vergessen, dass ihr Job daraus besteht Leute zu befördern und nicht Pferdeäpfel aufzusammeln.