Programmieren mit der KI von Usern, die nichts davon verstehen

[chr1zZo]

Die "Schau mal was ich mit Claude gebaut" habe Heinis. Agenten die ich niemals Produktiv einsetzen würde, Software die als aber toll ausgewiesen wird, ich in 2 Minuten aber schon genuked habe, weil sie offen stehen wie Scheunentore (Ich weis, nicht so Legal, macht aber Spass)

Und jede Github Repo für Gewerbliche Zwecke einzusetzen, gerade im DE/EU Raum, sehr gefährlich. Das kann man als Ami oder Asiate machen, hier kann das ne teure Nummer werden.

 

[Micha-]

Meines Erachtens ist es relativ egal, ob der Code von einem Menschen oder KI programmiert wurde. Wichtiger ist in beiden Fällen, ob der Code ausreichend getestet wurde und ggf. auf Sicherheitslücken gecheckt wurde, soweit relevant.
Jemandem mit Coding Erfahrung mag das leichter fallen. Jemandem ohne mag evt. gar nicht in den Sinn kommen, das Software getestet und geprüft werden muss.
Ich habe mir von der KI nicht nur ein Programm schreiben lassen, sondern auch gleich den passenden Test Harness (in getrenntem Chat) um einen Großteil der Tests zu automatisieren.

merken tut man das fast immer, ob da eine Software komplett von einer KI gebaut wurde

Woran? Meinst du mit oder ohne Einblick in den Code?

 

[ranzassel]

Coding hat nichts mit Skill zu tun

Komm her. Ich hab in den Bereichen auch keine Skills. Aber mit KI repariere ich dir die Bremsen an deinem Auto zum halben Preis. Die eine oder andere ambulante OP krieg ich auch hin… Fleischermesser und Chat-GPT, mehr brauche ich nicht.

 

[Wakasa]

Wie von einigen bereits erwähnt. es wäre absolut egal ob es ein Anfänger oder Profi macht, wenn wir verlässliche Prüfinstanzen haben.

 

[Flynn74]

Ich nutze Claude mittlerweile auch sehr viel beim programmieren - es spart einfach jede Menge Zeit.
Aber ... ich glaube nicht dass jemand mit 0 Kenntnissen etwas Gescheites und Stabiles hinbekommt. Ich muss Claude oftmals noch - trotz Fable 5 - mit gezielten Fachfragen/Prompts zum Ergebnis leiten. Und, während Claude arbeitet, genau verfolgen welchen Weg die KI gerade einschlägt um rechtzeitig intervenieren zu können. Das geht aber halt nur wenn man selbst was von der Materie versteht.
Das Tool selbst ist supernützlich. Aber am Ende bleibt es das auch nur - ein Werkzeug.
Witzig ist dass ich Anfangs in der Tat ein schlechtes Gewissen hatte weil es sich ein wenig wie cheaten anfühlt - aber das hat sich schnell gelegt. Ich könnte das auch alles selbst hinbekommen - nur halt in der fünfachen Zeit. Und Zeit ist bekanntlich Geld ...

 

[Serana]

Nicht nur Nutzer sondern auch die inverkehrbringer.

Das Problem bei den Inverkehrbringern derartiger Software ist ja allzuhäufig, daß diese sich durch ein geradezu grenzenloses Vertrauen in die hochgelobte künstliche Intelligenz auszeichnen. Immer nach dem Grundsatz: "Die KI weiß schon was sie tut."

Daß die KI in dem dort gemeinten Sinne gar nichts "weiß" ist diesen Leuten gar nicht bewußt. Problembewußtsein wird bei den Inverkehrbringern also mit hoher Wahrscheinlichkeit eher nicht zu finden sein.

Ich finde es nur kritisch, wenn damit Geld verdient werden soll und die Kunden im Unklaren gelassen werden

In solchen Fällen sollte meiner Ansicht nach seitens der Gerichte auf grobe Fahrlässigkeit oder sogar Eventualvorsatz erkannt werden. Einzige Ausnahme wäre, wenn der Kunde ganz genau wußte, daß der Auftragnehmer keine Ahnung von dem Thema hat.

 

[mscn]

Woran? Meinst du mit oder ohne Einblick in den Code?

An Registrierungsformularen mit dem Fehlertext "Es gibt bereits einen Nutzer mit diesem Kennwort" - umfassender und kürzer lässt sich das gar nicht auf den Punkt bringen.

 

[Micha-]

Manche tun aber auch so, als würden das immer hochkritische Web-Anwendungen sein, die da erstellt werden. Die meisten meiner Tools laufen einfach lokal. Lesen eine XLS oder CSV ein, machen eine Auswertung, Visualisierung, generieren ein PDF, Thats it. Teilweise wird der Export aus einem System für einen Import für ein anderes System umgewandelt. Weil niemand die 10.000€ für den ERP Profi übrig hat. Klar kannst du vermutlich eine manipulierte XLS unterschieben und die App zum Absturz bringen. Wenn es läuft ist die Datenqualität aber vermutlich höher als beim händischen abtippen.

Ergänzung (Donnerstag um 15:37)

An Registrierungsformularen mit dem Fehlertext "Es gibt bereits einen Nutzer mit diesem Kennwort" - umfassender und kürzer lässt sich das gar nicht auf den Punkt bringen.

Ich glaube das ist schon sehr speziell.

 

[steirerblut]

Komm her. Ich hab in den Bereichen auch keine Skills. Aber mit KI repariere ich dir die Bremsen an deinem Auto zum halben Preis. Die eine oder andere ambulante OP krieg ich auch hin… Fleischermesser und Chat-GPT, mehr brauche ich nicht.

Bremsbeläge, Öl, sonstiges Service kann man auch ohne Probleme selbst machen wenn man den Platz zur Verfügung hat. Beim MX5 und T5 der Eltern mach ich das seit die Wagen aus der Garantie raus sind. Bei Schnitt- und Operationstechniken wird die KI halt die Segel streichen.

KI Ist hier auch nur ein Werjtezg um schneller an Informationen zu kommen, was der Mensch damit macht ist wieder jeden selbst überlassen. Sollte jetzt jeder selbst sein Auto reparieren? Wohler eher nicht.
In den letzten 50 Jahren hätte jeder Mensch mit Zugriff auf einen Computer programmieren können, die Barrieren sinken seitdem immer weiter, KI gestützt ists eben noch einfacher geworden.
Oder meinst wir sollten dem Pensionisten oder dem Kleinkind die sich von GPT erklären lassen wie man VScode+NodeJS einrichtet und dort ein kleines Programm schreibt den Computer wegnehmen?

Nichts jedes Messer ist eine Waffe, aber jedes Werkzeug kann zur Waffe werden .. oder so 😅

 

[konkretor]

@e-hahn das Schlagwort das Du suchst nennt sich vibe coding. Ich sag es mal so für erste Mockups oder PoC/MVP kann das durchaus einen Mehrwert haben .
Ich nutze das im Bereich Ansible viel. Es spart mir viel Zeit. Verstehen muss ich es trotzdem. Hin und wieder wird auch unsinn produziert. da musst dann eingreifen.

 

[Azeron]

Hab mir gestern erst ne Wetterapp erchattet

Hmmm, ich bin mit der Apple Wetterapp nicht zufrieden und andere Apps haben entweder zuviel Werbung, sind nicht gut oder man braucht ein Abo für alles mögliche. Vielleicht probier ich das ja auch mal 😁

 

[chr1zZo]

@Azeron Man kann auch aus dem Wetter nen Elefanten machen Gibt genug Wetter Apps auf dem Markt ^^

 

[Azeron]

Gibt genug Wetter Apps auf dem Markt ^^

Klar aber für die guten braucht man überall ein Abo wenn man soweit alles nutzen will. Ich hätte kein Problem damit für ne gute Wetterapp 50€ oder so auszugeben aber nur einmalig und nicht monatlich nen betrag von X€

Deswegen, mit KI selber eine entwickeln wär ein lustiges Projekt. Ich bin kein Programmierer und kann das überhaupt nicht aber mit ner KI könnte da doch was nützliches rauskommen was meinen wünschen entspricht.

 

[foofoobar]

Klar aber für die guten braucht man überall ein Abo wenn man soweit alles nutzen will. Ich hätte kein Problem damit für ne gute Wetterapp 50€ oder so auszugeben aber nur einmalig und nicht monatlich nen betrag von X€

windy.com, da kann man das Modell auswählen.

 

[chr1zZo]

@Azeron echt, ich hab noch nie ein Abo gesehen in einer Wetter App ^^ Ansonsten gibt es da aber auch schon anständige Versionen auf Github.

 

[samuelclemens]

Das Problem bei den Inverkehrbringern derartiger Software ist ja allzuhäufig, daß diese sich durch ein geradezu grenzenloses Vertrauen in die hochgelobte künstliche Intelligenz auszeichnen. Immer nach dem Grundsatz: "Die KI weiß schon was sie tut."

Unwissenheit schützt vor Strafe nicht.
Inwieweit das zum Tragen käme muss natürlich ein Gericht im konkreten Fall entscheiden.
Zumal dann in diesem Szenario noch weitere Parteien eine Mitschuld tragen.

Deswegen steh ich auf dem Standpunkt das es langfristig klüger ist immer offen anzugeben das es KI generiert wurde und in welchem maße.
Vielleicht sogar, soweit abzusehen, auf mögliche Gefahren hinzuweisen.

 

[Azeron]

ich hab noch nie ein Abo gesehen in einer Wetter App ^^

Echt nicht?

Ich schau gerade im Store die Top Wetter Apps:
Wetter+ --> Abo
AccuWeather --> Abo
wetter.com --> Abo
Mercury Weather --> Abo
HeyWeather --> Abo
Windy (wie von @foofoobar vorgeschlagen) --> Abo
Carrot Wetter --> Abo (die war immer einer der besseren Apps was ich so mitbekommen habe und gabs mal mit ner Einmalzahlung bis es auf ein Abomodell umgestellt wurde)
WetterOnline --> Abo (um die Werbung wegzubekommen)
Clime: Wetter Radar --> Abo

Also die Top Wetter-Apps gibts nur mit Abo.

Windy sieht aber gut aus aber gibt doch paar Funktionieren nur mit Abo wovon zB die 12 Stunden Radaransicht ganz interessant wäre was schade ist. Hab sie trotzdem wieder deinstalliert. Ich bin da einfach kein Fan von.

 

[Der_Dicke82]

Ich warte auf den Tag wo die Modelle deutlich schlechter werden, weil sie mit dem Müllcode der frühen Modellen trainiert werden.

Ich sehe es durchaus kritisch, aber eher weil gerade viele glauben wir bräuchten keine Programmierer mehr! Ich denke wir brauchen sie mehr als je zuvor!

Ansonsten wird der Markt es wohl regeln und die Spreu vom Weizen trennen, schaut man in die Appstores ist das meiste doch seit Jahren Müll und bei den Talkshows der 90er Jahre würde ich heute sagen alles KI generiert!

Ergänzung (Donnerstag um 16:40)

AccuWeather

Als pwa mit adblocker keine Probleme

 

[foofoobar]

Windy (wie von @foofoobar vorgeschlagen) --> Abo

windy läuft im Browser, und auch da kann man das Modell auswählen.
Und für ganz kurzfristig: https://kachelmannwetter.com/de/regenradar

 

[Der_Dicke82]

Unwissenheit schützt vor Strafe nicht

Wissen aber offensichtlich schon, als die AWS Server 2024 down waren und keine Kartenzahlung mehr ging, hat mir keiner irgendwelche Schadensersatzleistung erbracht.
War mWn auch ein von KI erzeugtes Problem