Die KI erstellt ständig Monolithen egal was ich ihm sage heimlich und heimtückisch

Reaper75 schrieb:
Wenn man der KI vertraut baut die einfach alles als Monolithen auf weil es der einfachste Weg für ihn ist und wenn man nach Tagen oder Wochen feststellt, das man 200kb Dateien hat ist das Projekt gescheitert.
Man sollte der KI auch nicht blind vertrauen - du bist am Ende verantwortlich für das was sie generiert hat. Wenn dir eine Änderung nicht passt sag es ihr direkt und pack es in ihr Langzeitgedächtnis für das aktuelle Projekt. Ich vermute du verwendest Claude Code - dann kann das bspw in die CLAUDE.md.
Wieso stellst du das erst nach Tagen/Wochen fest?

Ich kann das Problem überhaupt nicht nachvollziehen und auch nicht wirklich verstehen.
 
Erfolg oder Misserfolg hängt ausschließlich an einer perfekten CLAUDE.md
 
Reaper75 schrieb:
ich kann die KI nicht ständig kontrollieren
Ähm... doch? Genau das musst du tun, wenn es für dich auch nur etwas relevant ist, dass da was ordentliches gebaut wird.
 
  • Gefällt mir
Reaktionen: Sebbi, Samurai76, iSight2TheBlind und eine weitere Person
Ohne dein Projekt zu kennen:

Gibst du denn deiner KI überhaupt erst das Design vor? Also Ordnerstrukturen, Schichten und co?

Eine Separation für Logiken kann man auch vorgeben, also separate Klassen Funktionen die unabhängig vom Hauptprogramm oder ähnliches laufen. Man kann es auch sehr hart setzen in dem man für einfache Sachen ein Codezeilen-Limit setzt. Wenn die Datei zu groß wird, muss Claude weiteren Code auslagern.

Und wo / wie genau lässt du überhaupt coden? In Claude selbst oder über VS Code etc?

Du gibst halt auch kaum Infos, Beispiele deiner Prompts oder Limits. Dann kann man auch nicht richtig helfen oder gar dein Problem verstehen.. Ich habe keine deiner genannten Probleme bisher erlebt.
 
  • Gefällt mir
Reaktionen: nutrix
In meinme letztenProjekt habe ich von ChatGPT 60 Zeilen VBS-Code erstellen lassen. Ich habe 50 Prompts gebraucht, vor allem aber aus meiner eigenen unkenntnis heraus.
Hat eigentlich gut funktioniert und ich bin ans Ziel gekommen.
Das Script habe ich mittlerweile weiter geupdatet und verfeinert indem ich die Datei einfach hochlade und von ChatGPT bearbeiten lasse.

Klar, sehr kleines Projekt, aber die KI hat schon gemacht was ich ihr gesagt habe. Ich musste zwar meine Prompts entsprechend spezifizieren und in der VBS datei auch selbst Hand anlegen.
Alles in allem hat das funktioniert.
 
Heimlich und heimtückisch. :)

Also mein erster Gedanke ist auch, dass du das Kontextfenster zu sehr füllst. Ich halte Anfragen klein, auf die jeweilige Aufgabe bezogen und insgesamt alles modular. Das funktioniert gut.
 
Reaper75 schrieb:
heimlich und heimtückisch
Da die aktuellen KI Modelle nur einem "Verarbeitungsbaum" anhand des Trainings und der Optimierung wie Quantisierung folgen, kannst Du Dir solche Worte bei einem technischen Tool sparen bzw. sie sind hier nicht angebracht und falsch. Wenn Dein Auto nicht richtig anspringt, weil Du die Wartung vernachlässigst, ist das Auto nicht an Deinen eigenen Versäumnissen schuld. 😉🙃
Reaper75 schrieb:
Ich nutze aktuell Opus 4.7
Frei, gekauft, welches Abomodell genau?
Wenn Dein Modell nicht funktioniert, wechsle es.
Reaper75 schrieb:
Also was ich wissen möchte ist folgendes habt ihr dieses Problem auch dass es ständig Monolithen erstellt bzw. das die KI sich nicht an Regeln hält oder bin ich etwa der einzige?
Ich glaube, da fehlt es bei Dir an gewissem Grundverständnis.
  1. Es gibt unterschiedlich verschiedene KIs und LLMs, je nach Anwendungszweck. Wenn Du Code entwickelst, ist Claude Code die bessere Wahl https://claude.com/de/product/claude-code. Bei anderen Anbietern gibt es sogar optimierte Modelle für diverse Programmiersprachen und Entwicklungsumgebungen.
  2. Je nach Entwicklung mußt Du verschiedene Modelle nutzen. Beispielsweise ein Modell, um ein Projektplan zu erstellen, eines für die Modellierung, ein anderes für den Code, eines für Reasoning bzw. Prüfung usw.
  3. Promping muß man auch erst mal können und lernen. Es funktioniert am besten, wenn man mit kleinen Bereichen anfängt, und dann diese Verfeinert. Je besser und detaillierter die Struktur und der Verfeinerungsprozess ist, um so besser wird das Ergebnis. Nicht umsonst werden dafür heute viele Kurse und Co. dafür angeboten, und dann verwundert es auch nicht, daß es so einen neuen Beruf wie einen Prompt Engineer gibt.
  4. Je größer die Anforderung und das Projekt, umso mehr Tokens verbrauchst Du. Das heißt, mit einem Micky-Mouse-08-15 Modell kommst Du nicht weit, da wird dir aus Kostengründen schon immer ein "optimierteres Modell" versteckt von Dir angeboten, was schneller und eher hallizuniert und dor falsche Ergebnisse liefert.
Ich war erst auf einer Konferenz, wo uns von einem Anbieter (sorry, NDA, mehr darf ich nicht sagen) ein komplettes Entwicklungsmodell von Grund auf für die Entwicklung eines einfachen Browserspiels in einer Programmiersprache mit allem drum und dran vorgestellt, was innerhalb einer Stunde erstellt werden konnte. Jedoch war die Stunde etwas geschummelt, weil die gesamte Promptvorbereitung und Strukturierung usw. natürlich vorher viel mehr Zeit kostete (einige Wochen). Und die Kosten lagen bei ca. 400-500 €.

Ja, solange Du da nicht kräftig finanziell reinbutterst, wird das so nichts. Du braucht eine hochintegrierte Plattform, wo Du problemlos zwischen den Modellen wechseln kannst und ein zentraler Prompt von selbst in die spezialisierten Modelle wechseln kann. Das wird für Dich als Privatnutzer aber astronomisch teuer, und ist die Frage, ob Du da auch so einfach rankommst. Als Unternehmen kommst Du da eher ran, wenn eben finanziell auch entsprechend rangegangen wird.

Sonst bleibt Dir nur eines, selbst Dich in die Materie tiefer einarbeiten, so daß Du selbst verstehst, was Du da machst. Du mußt dazu programmieren können, ebenso solltest Du von Planung, Testen/QS usw. Ahnung haben. Dann kannst Du dediziert nur die Teilbereiche von der KI bearbeiten lassen, wo Du nicht weiterkommst oder Dir tiefes Wissen fehlt. Sprich, wenn Du ein gutes technisches IT-Fundament hast, kann Dir dann auch ein einfacheres Modell vieles erleichern und schneller ermöglichen. Aus meiner Sicht ist es immer sinnvoller, eine KI als Erweiterung seiner eigenen bereits guten Fähigkeiten zu nutzen.
 
  • Gefällt mir
Reaktionen: ksk23, Holylemon, iSight2TheBlind und eine weitere Person
@Reaper75 es lässt sich halt nicht nachvollziehen was bei dir passiert ist. Weder kennen wir die Kommunikation von dir zu Claude, noch was in deinen Dateien steht. Ich kann mir das gerne tiefer anschauen, müssten wir uns aber Connecten.
 
Reaper75 schrieb:
und ich kann die KI nicht ständig kontrollieren
Dann hast du eine gänzlich falsche Vorstellung von KI. Die ist nicht dafür da loszuarbeiten ohne kontrolliert zu werden.
Als erstes und wichtigstes ist der prompt, also das was du der KI gibst. Aufgaben, Details, Regeln etc.. Direkt danach kommt die Kontrolle. Blind den aktuellen KI Modellen zu vertrauen ist keine Option. Der Umgang damit wird viel zu sehr unterschätzt. Mich würde es nicht wundern, wenn in der Zukunft die Bedienung von KI (um ein richtig ernstzunehmendes Ergebnis zu erhalten) eine berufliche Ausbildung oder Studium voraussetzen wird.

"Mal eben so" stellt man sich vor, funtkioniert aber nicht.

KI wird sich, wenn man es richtig macht, schon an die Regeln halten. Dafür muss man aber auch die Bedienung drin haben. Sobald man keine klare Struktur mitgibt sond von bis oder ungefähr etc. als Befehl mit nutzt wird es schon problematisch. Ganz konkrete, ganz niedrigschwellige Kommandos, abgestimmt auf das Modell. Dann wird es was. In 99,9% der Fälle liegt es eher am Nutzer vor dem PC als einzig und allein an der KI. Die führt ja nur aus.
 
  • Gefällt mir
Reaktionen: iSight2TheBlind und nutrix
Syntax_41 schrieb:
Nö nicht zwangsläufig
Hast Du hier ein konkretes Beispiel, wo und wie das funktionieren soll? Bisher wird bei mir überall da, wo KI im Fimenumfeld eingesetzt wird, ganz klar der Code immer geprüft und die Auswirkungen getestet.
 
  • Gefällt mir
Reaktionen: gaym0r
Reaper75 schrieb:
[...] bzw. das die KI sich nicht an Regeln hält oder bin ich etwa der einzige?
Ich hatte vor einer Weile ein ähnliches Problem mit ChatGPT und habe das dann so gelöst, dass eine der Regeln lautet die Regeln zu Beginn jeder Antwort zu wiederholen. Da Du aber vermutlich nicht rein über den Chat arbeitest, hilft Dir das wohl nicht. Außerdem kostet das natürlich auch zusätzliche Token. Vielleicht könntest Du testweise eine Regel hinzufügen, die lautet "schreibe alle Regeln als Kommentar oben in jede Source-Datei".
 
Zuletzt bearbeitet:
Millkaa schrieb:
Dann hast du eine gänzlich falsche Vorstellung von KI. Die ist nicht dafür da loszuarbeiten ohne kontrolliert zu werden.

Da würde ich kurz nochmal einsteigen und darauf hinweisen, dass das ja nicht nur für Softwareentwicklung gilt sondern generell!
Auch wenn man sich eine Zusammenfassung von etwas oder eine Hausarbeit zu einem Thema schreiben lässt muss der Output der KI gut (!) kontrolliert werden, da Halluzinationen jederzeit möglich sind!
Das ist auch besonders tückisch, denn eigentlich muss man von einem Thema so viel Ahnung haben um auch kleinste bzw. eigentlich glaubwürdige Halluzinationen zu erkennen, dass man dann den Artikel auch einfach selbst schreiben könnte. Den Output zu kontrollieren kann so sogar mehr Aufwand werden, besonders wenn das Niveau deutlich über dem eigenen Wissensniveau dazu liegt.
Dann lieber einen Text mit niedrigerem Niveau selbst schreiben, das dann aber entspannt runterschreiben können, weil man nur Dinge in den Text aufnimmt von denen man weiß (!), dass sie korrekt und belegt sind.
 
  • Gefällt mir
Reaktionen: Gizzmow und qualle
Reaper75 schrieb:
Ich habe den Thread deshalb eröffnet weil ich gerne wissen möchte ob ihr auch damit Probleme habt bzw. wie ihr diese Probleme löst.
Ich weiß jetzt nicht genau was Du mit „Monolithen“ meinst? Das einzelne Source Files riesig werden?

Auch mit AI Hilfe erstellte Projekte brauchen regelmäßiges Refactoring, wie jedes Entwicklungsprojekt. Auch dabei kann die KI Dich unterstützen, aber Du musst dann auch entsprechende Vorgaben machen. Ich mache das bisher interaktiv, und sage im Prompt explizit welche Codestellen überarbeitet werden sollen. Sicher kann man, mit der notwendigen Erahrung beim Prompten, auch automatisierte Refactoring Agenten erstellen.

Du darfst aber nicht vergessen, gut lesbaren und wartbaren Code zu schreiben ist auch für menschliche Programmierer eine Herausforderung die Erfahrung erfordert.

Genauso muss man die KI immer mal wieder auffordern, unnötige, selbst ausgedachte Features wieder zu entfernen.

Wichtig ist in jedem Fall jeder etwas komplexere Aufgabe erst mal Planen zu lassen, und die KI auch aufzufordern den Plan abzuspeichern. Sonst rutscht er irgendwann aus dem Kontext heraus. Bei Ki gilt „Aus dem Kontext, aus dem Sinn“.
 
  • Gefällt mir
Reaktionen: Millkaa
nutrix schrieb:
Hast Du hier ein konkretes Beispiel, wo und wie das funktionieren soll? Bisher wird bei mir überall da, wo KI im Fimenumfeld eingesetzt wird, ganz klar der Code immer geprüft und die Auswirkungen getestet.

Zb im autonomen Bereich und der KI-Automation da wäre es ja wiedersprüchlich wenn man es da gegen checken müsste
 
Syntax_41 schrieb:
Zb im autonomen Bereich und der KI-Automation da wäre es ja wiedersprüchlich wenn man es da gegen checken müsste
Ganz anderer Bereich oder Baustelle. Wir reden aktuell hier gerade von Coding.

Aber selbst dort werden diese Dinge in einer eigenen Umgebung erst mal getestet und entsprechend ausführlich geprüft, bevor sie produktiv eingesetzt werden. Selbstverständlich erfolgt hier auch immer vor dem Einsatz ein Review. Sobald sie im Einsatz sind, wird natürlich nicht mehr weiter gecheckt.
 
Zuletzt bearbeitet:
Zurück
Oben