Programmieren mit der KI von Usern, die nichts davon verstehen

[e-hahn]

Was haltet ihr davon, wenn da jemand mit einer KI eine Software baut, selbst keine Ahnung hat vom Programmieren und das dann als eigene Entwicklung versucht unter die Leute zu bringen?

Auf Github gibt es immer mehr von solcher Software, manche gehen offen damit um und manche nicht, merken tut man das fast immer, ob da eine Software komplett von einer KI gebaut wurde.

Ich finde die Möglichkeit grundsätzlich hervorragend, jeder kann sich jetzt seine eigene, auf sich perfekt abgestimmte Software bauen, aber muss man das dann auch gleich versuchen das unter die Leute zu bringen?

 

[frames p. joule]

"Do you wanna develop an app?"

Hab mir gestern erst ne Wetterapp erchattet, weil ich mit dem Markt so unzufrieden war.
Schade ist es natürlich für die vielen ITler (in Ausbildung), die zukünftig kein Geld mehr verdienen können.

 

[br3adwhale]

Es macht einen Unterschied, ob da jemand sitzt, der den Code versteht und prüfen kann, oder jemand, der eigentlich nur Prompts eingegeben hat. "Entwickler" die den Code nicht verstehen können im Zweifel eben nicht beurteilen ob da Sicherheitslücken drin sind oder noch ob ein Fix wirklich etwas behebt oder nur das nächste Problem erzeugt.

Solange das irgendein kleines Tool für den Eigenbedarf ist: geschenkt. Aber du redest von GitHub, da kommt das Zeug ans Tageslicht. Wenn sich andere darauf verlassen, sollte man schon offen damit umgehen, wie das Ding entstanden ist.

KI als Werkzeug finde ich super, nutze ich selber. Aber "ich habe eine Software entwickelt" und "ich habe mir von einer KI eine Software generieren lassen, deren Code ich selbst nicht verstehe" sind für mich halt zwei grundverschiedene Dinge. Meine Meinung.

 

[Fujiyama]

Wenn die Nutzer mehrheitlich zufrieden sind warum nicht? Die Software auf Github ist ja auch kostenlos, wer Lust hat kann die Software einsetzen.
Gibt durchaus tolle Projekte von Leuten ohne Kenntnisse. Ob die Software per KI oder nicht erstellt wurde spielt kaum eine Rolle.

 

[Pyrukar]

Ich halte davon wenig ... bin aber auch nicht in der IT tätig aber unwissenheit ist mMn gefährlich vor allem wenn die App letztlich irgendwelche Daten verarbeitet und im worst case irgendetwas phantasiertes damit passiert. Ich denke solange es open Source und klar kommuniziert ist passt das schon. Leute die verschweigen dass sie keine Ahnung haben was die KI ihnen da gezimmert hat, sollte man schnellstmöglich von der Plattform treten.

 

[Wo bin ich hier]

Was haltet ihr davon, wenn da jemand mit einer KI eine Software baut, selbst keine Ahnung hat vom Programmieren und das dann als eigene Entwicklung versucht unter die Leute zu bringen?

Gefährlich und unverantwortlich (für "Kleinkram" mag das aber noch akzeptabel sein).

 

[FrAGgi]

Wobei man ja auch sagen muss, dass auf Github auch Code von Leuten landen kann, die ihn selbst geschrieben haben, der aber trotzdem Murks ist

Generell find ich das mit von einer KI geschriebenem Code in Ordnung. Es sollte dann als solcher gekennzeichnet werden und dann kann ja jeder selbst entscheiden, ob er das Projekt deswegen meidet oder nicht.
Grundsätzlich sollte man sich ja mit den angebotenen Tools auf Github auch auseinandersetzten bevor man sie einsetzt und nicht einfach nutzen, weils auf Github ist.

Daraus können ja durchaus spannende Projekte entstehen, die dann von "echten" Entwicklern übernommen werden können.

 

[steirerblut]

Ist doch gut? Je mehr Menschen an das Thema rangehen desto mehr Auswahl gibt es. Ob der Code nun KI generiert oder irgendwie über Copy Paste zusammen kopiert wird macht dabei keinen Unterschied.
Coding hat nichts mit Skill zu tun, in Zeiten wo KI Code in Sekunden ausspuckt sind Sachverständnis und die gute Idee mehr Wert als gute Technik. Programmierung war immer schon frei Zugänglich, nun sinkt die Barriere eben weiter.

 

[Serana]

Das Problem mit derartiger Software ist weniger, daß sie von einer AI stammt sondern mehr, daß die Leute die da ihren Namen dran kleben keinen Schimmer haben was zum Geier die AI da eigentlich gemacht hat. Letztendlich könnte in dieser Software auch irgendeine Malware mit drin stecken und der angebliche Autor hat tatsächlich keine Ahnung davon. Es hängt in solchen Fällen eben alles an der Vertrauenswürdigkeit der AI die diese Software kreiert hat.

Dieses Risiko sollte einem bewußt sein wenn man sich so eine Software herunterlädt und einsetzt.

Ich sehe derlei Software sogar noch kritischer als Cracker-Tools von mehr oder weniger bekannten Gruppen. Zum einen haben diese Gruppen einen Ruf zu verlieren und zum anderen wissen diese Leute oftmals ziemlich genau was sie da eigentlich programmiert haben, daß sie ihre Talente für illegale Zwecke einsetzen ändert daran nichts. Klar kann auch da Malware mit eingebaut sein, aber die Schöpfer wissen das dann. Wenn dagegen bei solchen puren AI-Kreationen Malware mit drinsteckt wissen die Autoren nicht einmal was sie da mit ausliefern.

 

[br3adwhale]

@steirerblut dass die Einstiegshürde sinkt und dadurch mehr Leute eigene Ideen umsetzen können, finde ich gut. Copy & Paste war beim Programmieren nie ungewöhnlich. Der entscheidende Unterschied ist für mich aber, ob man zumindest versteht, was man da zusammenbaut.

 

[Deeen]

Sollen die Leute spielen und basteln. Wenn sie dann was richtiges wollen, kommen sie wieder zu uns ITlern.

 

[Petoschka]

Und bekommen MS Bob. 😛

Mir selbst ist es relativ gleich, sofern deutlich gemacht wird, woher das Programm kommt. Dann kann ich zumindest grob abschätzen, ob ich das Risiko eingehen möchte.

 

[Pyrukar]

kommen sie wieder zu uns ITlern

Na mal sehen wann MS endlich kappiert dass Win11 Updates die von Copilot geschrieben werden nicht die optimale Lösung ist. Meine vermutung wäre jedoch, dass "die ITler" eine ähnlich harte zeit haben werden, wie die Werbe und Synchronsprecher Branche. Die Guten ITler werden zwar noch arbeit haben, aber die Berufseinsteiger halt nicht und irgendwann gehen die ITler die noch arbeit haben halt in Rente und es gibt halt niemanden (menschlichen) mehr der sie ersetzen kann, weil es allen die keine Jobs mehr bekommen haben dank KI massiv an Berufserfahrung fehlt.

 

[User38]

Wieso wird Softwareentwicklung oder in dem Fall "Programmieren" immer mit Die IT gleich gestellt?

 

[Pyrukar]

@User38 denkst du wirklich dass die KI welle vor Netzwerk Administration und anderen IT Feldern halt machen würde. Ja ich habe es allgemeiner fomuliert, aber letztlich würde ich behaupten, dass das Argument überall das gleiche ist.

 

[madmax2010]

Hab mir gestern erst ne Wetterapp erchattet, weil ich mit dem Markt so unzufrieden war.

+1.. habe meine eigene Latex IDEgebaut, weil overleaf und Texstudio mich abwechselnd zum kotzen brachten. Seitdem ist mein leben gut, aber:

Was haltet ihr davon, wenn da jemand mit einer KI eine Software baut, selbst keine Ahnung hat vom Programmieren und das dann als eigene Entwicklung versucht unter die Leute zu bringen?

ich programmiere seit ich 12 bin, arbeite in dem bereich seit ich 16 bin und mache einen Spagat zwischen entwicklung, forschung, beratung, Devops und vielen der Untergebiete dazu.

Kein LLM schreibt code, den man einfach so publizieren kann. LLMs, gerade auch bei agentic coding, versuchen eine Liste an aus einem Set an Prompts extrahierten Anforderungen zu erfüllen.
Alter code, wird dabei oft umschifft, oder halb inaktiv gehalten.
Das schafft Angriffsfläche ohne Ende.

Dazu kommt noch der Betrieb von Sotware. So ziemlich jede Anwendung hat heutzutage serverkomponenten -beispielsweise Accounts, die zentral liegen. Beim Betrieb helfen LLMs, aber die menge an trivialen absicherungen die da gern mal fehlen ist wirklich lustig.
Gerade letzte woche erst eine kleine Auditiert. 2 minuten ohne googlen in der App gespielt und ich hatte eiune funktionierende SQL Injection, damit die Userlist und nachlässig gehashte PWs. Und die Entwickler wissen es eigentlich besser. Die machen das schon eine weile.
Bitte sehr vorsichtig sein.

Auf Github gibt es immer mehr von solcher Software, manche gehen offen damit um und manche nicht, merken tut man das fast immer, ob da eine Software komplett von einer KI gebaut wurde.

es reicht 2 minuten code zu lesen. Man erkennt seine Pappenheimer recht schnell

Ergänzung (Donnerstag um 15:01)

vor Netzwerk Administration und anderen IT Feldern halt machen würde

du hast viele Worte gebraucht um YAML zu schreiben

aber muss man das dann auch gleich versuchen das unter die Leute zu bringen?

ich baue mir inzwischen jeden Tag Automatisierungen, die mir das Leben erleichtern.
Dazu webanwendungen, config generatoren, audit tools
Publizieren will ich nichts davon. Es ist half-assed-shit, den ich so hingeschludert auf keinen Fall veröffentlichen will

 

[samuelclemens]

Dieses Risiko sollte einem bewußt sein wenn man sich so eine Software herunterlädt und einsetzt.

Nicht nur Nutzer sondern auch die inverkehrbringer. Wenn so ein Teil man versehentlich nen Millionenschaden anrichtet...🤔
Natürlich sollte solche ungetestete Software generell nicht in die mähe kritischer Systeme gelangen. Aber man weiss ja sorglos oftmals mit USB Sticks und dergleichen umgegangen wird.

Anderer Gedanke dazu. kKann man im Gegenzug KI nicht auch einsetzen um KI generierten Code zu identifizieren und automatisch zu Kennzeichnen auf github und zugleich auch nach zufällig entstandenen Schadcode prüfen. Vielleicht sogar gleich durch mehrere unabhängige KI Instanzen!?

 

[KillerCow]

Ich finde es nur kritisch, wenn damit Geld verdient werden soll und die Kunden im Unklaren gelassen werden, dass sie da etwas von einem Unkundigen einkaufen. Ich wüßte schon gerne, wenn der "Koch" den Kugelfisch nach Anleitung durch eine "KI" zubereitet hat

 

[madmax2010]

Wenn so ein Teil man versehentlich nen Millionenschaden anrichtet...🤔
Natürlich sollte solche ungetestete Software generell nicht in die mähe kritischer Systeme gelangen

Crowdstrike

. kKann man im Gegenzug KI nicht auch einsetzen um KI generierten Code zu identifizieren und automatisch zu Kennzeichnen auf github und zugleich auch nach zufällig entstandenen Schadcode prüfen. Vielleicht sogar gleich durch mehrere unabhängige KI Instanzen!?

bisher leider nicht so trivial wie man hoffen mag

Ergänzung (Donnerstag um 15:06)

Ich finde es nur kritisch, wenn damit Geld verdient werden soll und die Kunden im Unklaren gelassen werden, dass sie da etwas von einem Unkundigen einkaufen

gerade die Web 3.0 Token Bros haben an der Stelle absolut keine Hemmungen.
Token bros bleiben token bros ̄\_ (ツ)_/ ̄

 

[User38]

denkst du wirklich dass die KI welle vor Netzwerk Administration und anderen IT Feldern halt machen würde.

Da bin ich mir ziemlich sicher... ich benutze auch tagtäglich "die KI" um mir das ein oder andere leichter und schneller zu machen - aber in meinem Bereich gehört bisschen mehr dazu als einen Prompt solange einzugeben bis das LLM das richtige ausspuckt. Ich sehe der Zukunft sehr gelassen zu