News Datenleck bei Anthropic: Teile des Quellcodes von Claude Code veröffentlicht

[FrAGgi]

Was ich auch nicht verstehe, wieso der Leak keine Auswirkungen auf den Aktienkurs von Anthropic hatte?

Weil sie gar nicht an der Börse sind?

@Topic:
Schon irgendwie spannend, was da jetzt passiert und vermutlich auch in Zukunft passieren wird.
Claude ist mein primäres KI-Tool (der Chat im Browser und auch Claude Code). Ich nutze es gerne und spare damit in einigen Content-Bereichen massig Zeit im Monat. Daher hoffe ich natürlich, dass es ihnen nicht allzu sehr schadet.
Am Ende belebt es die Entwicklung aber sicher noch mals, wenn Konkurrenten sich jetzt etwas abgucken können.

 

[trabifant]

Menschen benutzen das ernsthaft?

Thread dazu: https://neuromatch.social/@jonny/116324676116121930

 

[person unknown]

Juhuuu, jetzt können wir uns unsere eigenen Palantiere bauen....
Ne, also mal Scherz beiseite: Wenn "Jemand" Anthropic aus "Gründen" verunglimpfen wollte, dann doch so.
Und ich wette diese Leute sind schlicht zu dumm, abzusehen, welchen Kollateralschaden man dabei anrichten wird. Ganz gleich, wie die BEstandteile der Story nun moralisch einzuordnen sind.

 

[SheepShaver]

Menschen benutzen das ernsthaft?
Anhang anzeigen 1718551

Thread dazu: https://neuromatch.social/@jonny/116324676116121930

Wo ist das Problem? Schau dir die anderen Harnesses an. Claude Code sticht da jetzt nicht besonders hervor. Weder negativ noch positiv.

 

[Kuristina]

Menschen benutzen das ernsthaft?

Es funktioniert wirklich gut. Aber der Thread, den du verlinkt hast, ist trotzdem witzig. ^^

 

[Snakeeater]

Code Reviews + Security Audits gehören eigentlich in das Standard Dev Workflow. Ich schreibe hier nicht von KI Audits beim Kunden sondern Entwicklungsautomatismen. Das LLM das dir Code ausspuckt ist stark auf einzelne Feature Slices und die Umsetzung fokussiert. Der Audit hat als Persona eben gezielt Fehler und Sicherheitslücken zu finden. Das hat im Prinzip mit den Token Limitierungen der Modelle zu tun, je komplexer der Prompt je mehr Zusatzaufgaben desto "verschmutzter" wird das Ergebnis. KI ist aktuell eben besser darin eine einzelne Sache mit begrenzten Umfang zu erledigen.

Anthropic hatte den Source auch schon letztes Jahr geleaked. Claude Code gilt als reines KI Projekt, der Output wird jetzt schon von Marktbegleitern kopiert -> es gibt zig Open Source Alternativen die es teils besser replizieren. Also nicht das große Ding, die versteckten Features sind für die Marktbegleiter aber relevant.

Ich habe das nicht als Programmierbegriff verstanden, daher meine Verwirrung.

 

[SheepShaver]

Aber hier geht doch um Claude Code, einer Agenten-Infrastruktur/TUI für Development-Tasks.
Kann es sein, dass viele Poster hier garnicht wissen, was Claude Code ist und es mit den Modellen verwechseln?

 

[the_IT_Guy]

Thread dazu: https://neuromatch.social/@jonny/116324676116121930

Wow, da muss man ja Vergnügungsteuer bezahlen.
Claude-Code Geschrieben von Claude-Code 😅 🙈
Anthropic hat die goldene Regel des Dealers ignoriert: "Don't get high on your own supply!"

 

[Grestorn]

Natürlich ist Claude-Code (das CLI UI selbst, das Framework etc.) mit Claude-Code geschrieben. Alles andere wäre auch absurd.

Mit Claude-Code SW zu entwickeln geht um Faktoren schneller. Und wie sich CC und die darin angebundenen Modelle selbst entwickelt haben, wurde es auch genutzt, um CC selbst immer weiter auszubauen und zu verbessern. Sonst hätte man das auch nie in der Zeit und in dem Funktionsumfang geschafft.

Das ist auch nichts neues. Seit Anbeginn der SW-Entwicklung war es z.B. üblich, dass sich Compiler selbst compilieren. Und auch da stellt sich die Frage nach Henne/Ei. Ist aber weitaus weniger überraschend, wenn man sich klar macht, dass das aus einem kleinen Start entsteht, der "Handgemacht" ist, der dann immer komplexer und vollständiger wird und mit dem handgemachten Start nichts mehr zu tun hat.

 

[pseudopseudonym]

Aber hier geht doch um Claude Code, einer Agenten-Infrastruktur/TUI für Development-Tasks.
Kann es sein, dass viele Poster hier garnicht wissen, was Claude Code ist und es mit den Modellen verwechseln?

Hier haben viele Meinungsstarke auch offensichtlich keine Ahnung, wie professionelle Softwareentwicklung mit KI aussieht.

 

[the_IT_Guy]

@Grestorn & @pseudopseudonym
Habt ihr euch den Link durchgelesen? Der hat den geleakten Quellcode analysiert und mit Screenshots belegt. Ergebnis: Spagetticode, zigfache komplett unterschiedliche Implementierungen der gleichen Funktion. Gemischt mit Systempropmts, deren Formulierungen zwischen betteln und Beschreibung einer Kurzgeschichte die vielleicht mal so passiert ist pendeln. Gewürzt mit unnötiger Aufruf von Funktionen nicht nur doppelt sondern sondern dutzende male.
Niemand will so eine Software warten, das ist eine mittlere Katastrophe!

 

[codengine]

Niemand will so eine Software warten, das ist eine mittlere Katastrophe!

Vibe Coding at its best!

 

[Grestorn]

@Grestorn & @pseudopseudonym
Habt ihr euch den Link durchgelesen? Der hat den geleakten Quellcode analysiert und mit Screenshots belegt. Ergebnis: Spagetticode, zigfache komplett unterschiedliche Implementierungen der gleichen Funktion. Gemischt mit Systempropmts, deren Formulierungen zwischen betteln und Beschreibung einer Kurzgeschichte die vielleicht mal so passiert ist pendeln. Gewürzt mit unnötiger Aufruf von Funktionen nicht nur doppelt sondern sondern dutzende male.
Niemand will so eine Software warten, das ist eine mittlere Katastrophe!

Also genau wie 95% aller eingesetzten Software aussieht (vielleicht abgesehen von Prompts. Aber dass Prompts im Quellcode stehen, ist eher ungewöhnlich).

Ich kontrolliere eigentlich schon ziemlich genau, was CC in meiner SW so macht. Und klar, ab und zu geht es besser und ich korrigiere ihn auch mal. Und klar, CC hat natürlich keine Ahnung, dass dieselbe Funktion schon mal woanders im Code implementiert wurde. Genauso wenig wie die meisten Menschen hat auch CC kein vollständiges Wissen über das gesamte Projekt.

Was Du schreibst, klingt nach einem schnell entstandenen Projekt, in dem vermutlich zwar viel getestet wird (Test-Driven Development), aber wenig Wert auf ein durchgehendes Design gelegt wird und vor allem niemand den vollen Überblick hat - was bei einer gewissen Größe eh nicht mehr geht.

Das kann mich jetzt nicht sonderlich schockieren. Und nach dem Maßstab, ist praktisch jede SW nichts als Vibe-Coding ...

 

[KitKat::new()]

zigfache komplett unterschiedliche Implementierungen der gleichen Funktion.

Passt ja dazu, dass DRY ist heutzutage ja out ist, und WET oder Rule of Three gehyped wird 😁

Also genau wie 95% aller eingesetzten Software aussieht

damit würde ich nie und nimmer mitgehen.

 

[Snakeeater]

Vor allem da der Reiz, eine KI zum coden zu benutzen, doch darin liegt das ich mein gesamtes Projekt ganzheitlich überprüfen lassen. Genau das ist doch der Vorteil von Maschinen.

 

[the_IT_Guy]

Also genau wie 95% aller eingesetzten Software aussieht

Achso also ist Claude-Code auch nur ein Mensch. Das ging ja schnell. Na dann, seid willkommen unsere neuen KI Herscher.
Ich dachte KI macht alles besser?

 

[Grestorn]

@the_IT_Guy Verstehe mich nicht falsch. KIs sind ein echtes Problem, weil sie auch u.a. meinen Job gefährden und vermutlich in ein paar Jahren obsolet machen werden.

Ich kann aber nicht umhin, zu akzeptieren, dass Claude Code im Allgemeinen um Faktoren schneller ist als ich und alle anderen SW-Entwickler, die ich kenne.

Es hat auch ein breiteres Wissen als ich es jemals haben könnte.

Aber bestimmte Dinge und Einsichten fehlen noch, und das lässt hoffen, dass wir so schnell nicht ganz überflüssig werden.

Aber nur auf KI zu schimpfen, alles als Slop zu bezeichnen und für sich rundheraus abzulehnen ist zwar menschlich nur zu verständlich, bringt aber den Einzelnen nicht weiter. Man muss schon wissen, was da auf einen zukommt, und auch lernen, damit umzugehen. Nur so kann man sich über Wasser halten. Alle anderen werden untergehen.

 

[Piktogramm]

Vor allem der Reiz eine KI zum coden zu benutzen doch darin liegt das ich mein gesamtes Projekt ganzheitlich überprüfen lassen. Genau das ist doch der Vorteil von Maschinen.

Wie soll ein LLM irgendwas "ganzheitlich" können, wenn sie vom Prinzip her keine Abstraktion, Konzepte von Etwas entwickeln können? Es sind Musterreplikatoren, die das Muster von Aufforderungen erkennen und daraufhin Muster erzeugen, die wahrscheinlich passen. Zudem sind die Dinger von den Anbietern im Regelfall darauf ausgelegt, dass sie möglichst positiv antworten sollen.
Entsprechend kommt da keine Rückmeldung, dass es mäßig schlau ist, eine Funktion die so, oder ähnlich bereits 14mal im Code ist nicht nochmals zu implementieren.

Wobei, man könnte damit viele Tokens abrechnen, wenn man die LLMs in eine Richtung trimmt Funktionalitäten zusammen zu fassen. Sowas kommt bestimmt demnächst und wird wahrscheinlich ähnlich schlecht funktionieren wie die Codeerzeugung jetzt schon.

Es hat auch ein breiteres Wissen als ich es jemals haben könnte.

LLMs haben kein Wissen. Sie kennen nur nahezu alle sprachlichen Muster, die zu nahezu allen Themen je von der Menschheit verfasst wurden (Schrift und Ton) und können diese Muster replizieren.

 

[the_IT_Guy]

weil sie auch u.a. meinen Job gefährden

Ki sichert dir deinen Job, du wirst die nächsten 10 Jahre alles wieder aufräumen müssen, was mit Vibecoding verbastelt wurde.

Ich bin nicht gegen KI, ich bin dagegen LLMs "KI" zu nennen, wenn es doch nur stochastische Papagein sind.
Das Transformer Model ist beeindruckend, aber es ist halt nur coole Technik, die bei Machinelearning, sprich Mustererkennung hilft. Mehr nicht. Dafür gibt es tolle Einsatzzwecke und dann gibt es halt noch ChatGPT/Copilot/Gemini.

 

[Grestorn]

LLMs haben kein Wissen. Sie kennen nur nahezu alle sprachlichen Muster, die zu nahezu allen Themen je von der Menschheit verfasst wurden (Schrift und Ton) und können diese Muster replizieren.

Man merkt, dass Du noch nicht mit Claude Code oder ähnlichem gearbeitet hast. Sorry, ich kann es nicht anders sagen.

Das "Wissen" des Menschen ist übrigens genau das gleiche, was Du eben beschrieben hast.