News Sicherheitsanalyse mit KI: Anthropics Opus 4.6 findet 22 Sicherheitslücken in Firefox

  • Gefällt mir
Reaktionen: aid0nex und the_IT_Guy
Da ich gerade Feierabend habe und noch auf das Essen in der Microwelle warte... 😉
Wow wir sind gerettet, wir haben einen Anwendungsfall gefunden der es rechtfertigt Gigawatts an Strom zu verbrennen, Milliarden an Krediten aufzunehmen.
Ach Moment Firefox ist Non Profit...
Dann Halt der Linux Kernel, die haben bestimmt Geld...
Also wieder nur was um den Hype am laufen zu halten.

Ping, Microwelle fertig.

Aber noch schnell etwas weniger Sarkastisch mal eine Frage in den Raum gestellt, warum muss das jetzt ein LLM tun, dass 100x das ganze Internet kopiert hat? Ich finde den Anwendungsfall nicht unpraktisch, aber warum nicht ein kleines Spezialisiertes Model dafür?
Statische Codeanalyse ist jetzt nichts neues.
 
  • Gefällt mir
Reaktionen: GuckenWasGeht, aid0nex, tomgit und 2 andere
Es wäre interessant was Claude Opus 4.6 im Source Code von OPNsense findet.
 
@the_IT_Guy frag mal das andere Modell, wieso es Kryptogeld schürft, wahrscheinlich einfach deshalb weil es das kann.
 
aid0nex schrieb:
Auch ich, ein nicht gerade begabter Coder, konnte so schon das ein oder andere nützliche Script auf der Arbeit schreiben, das mir den Alltag erleichtert und Dinge automatisiert.
Oh ja. Ich habe mir auch schon sehr viele Skripte mit KI in der Arbeit und privat schreiben lassen. Das können die Dinger wirklich gut. :daumen:
 
  • Gefällt mir
Reaktionen: aid0nex
T3Kila schrieb:
Halluzinieren hat früher der Arbeitsqualität der menschlichen Entwickler auch nicht geschadet :D
LMAO!
----
Es ist schön mal was positives über KI zu hören, ich persönlich bin ja schon lange Fan...
Noch was positives hinterher:
Mir scheint es so, als ob KI massiv helfen wird, dass FOSS mehr und mehr an Fahrt aufnimmt, weil es einfach weniger menschliche Arbeit benötigen wird um die Software zu bauen und zu pflegen.
 
Ich Nutze KI seit ein Par Jahren....
Für die Überwachungskameras ob da nur eine Krähe oder ein Hund auf der Strasse hockt oder ob ein Mensch/Auto da ist.
Das können die seit einer weile ganz gut.

BTW.
Ob die Wohl Linus Meinung befragt haben bevor sie auf die Idee kamen das mit dem Linux Kernel zu machen?

Zweite Sonja schrieb:
Psychologisch wird es aber auch negativen Auswirkungen haben, wenn die Mode-Industrie mit immer mehr perfekten AI-Models Schönheitsstandards definiert, die nur <20% der Menschen erreichen können.
Negativere Auswirkungen als Instagram/twitter/tiktok mit 20 Schönheitsfilter und täglich im Urlaub auf einer Yacht kann es eigentlich gar nicht haben...
 
In welcher Welt sind 14+7 22?
 
@coxon der dünne helle streifen unten ohne beschriftung ist noch eine lücke mit der einstufung low

Creeping.Death schrieb:
Die Blase müsste doch jede Sekunde platzen oder nicht?

Ich schreibe schon die ganze Zeit, dass AI durchaus sinnvole Verwendungszwecke bietet.
blase sein und sinnvolle verwendungszwecke haben schließt sich ja nicht aus, oder gibt es etwa das internet jetzt nicht mehr?
https://de.wikipedia.org/wiki/Dotcom-Blase
 
  • Gefällt mir
Reaktionen: coxon
aid0nex schrieb:
Nö, das hat niemand seriöses behauptet.
Das ist jetzt auch sarkastisch gemeint oder?
aid0nex schrieb:
Es wurde nie daran gezweifelt, dass KI nicht auch (sinnvolle) Anwendungsfälle hat.
Nein nie, höchstens in so ziemlich jedem KI-bezogenen Thema halt, aber wer zählt schon mit.
aid0nex schrieb:
Schwachsinnskommentar. Was genau tust du denn in deinem Beitrag hier? Wenn nicht haten?
Nicht schwachsinniger als das hier.
MaverickM schrieb:
Bezweifelt auch niemand.
Siehe Antwort oben. Es gibt leider sehr viele User hier, die zumindest so tun, als würde ihnen kein einziger sinnvoller Einsatzzweck für KI einfallen.
Es gibt für diese engstirnigen Kollegen auch nur schwarz oder weiß - nichts dazwischen. Soll heißen entweder 100% KI-Slop oder völlig frei von KI.

KI ist derzeit einfach ein ungemein nützliches Werkzeug, das einem sehr viele eintönige Aufgaben abnehmen kann. Selbstredend gibt es zahlreiche Berufe, wo KI nicht viel bewirken kann, aber da wo überwiegend Bürotätigkeiten (egal ob Verwaltung oder Wissenschaft) vorherrschen, finden sich meist sinnvolle Einsatzmöglichkeiten.
alyk.brevin schrieb:
blase sein und sinnvolle verwendungszwecke haben schließt sich ja nicht aus
Der Hype um KI hat Elemente die für eine Blase charakteristisch sind, aber auch viele, die dagegen sprechen.
 
  • Gefällt mir
Reaktionen: Zweite Sonja, Dystop1an und tidus1979
alyk.brevin schrieb:
@coxon der dünne helle streifen unten ohne beschriftung ist noch eine lücke mit der einstufung low
Trotzdem seltsam 14+7=22 hinzuschreiben. ^^
 
Die Softwareabteilung bei mir auf Arbeit ist von Opus 4.6 einigermaßen begeistert. Die sind tatsächlich der Meinung, dass es die Art wie Software entwickelt wird fundamental ändert. Ich selber bin da zwar skeptisch, aus der Erfahrung der letzen 10 Jahre weiß ich aber, dass unsere Softwareleute einiges drauf haben. Wenn die sich so äußern, muss ich es auch ernst nehmen.
 
  • Gefällt mir
Reaktionen: Azdak
@tomgit Es wird nur leider oft (und leider ebenso oft von den gleichen Leuten) behauptet, dass die KI den Code geschrieben hat, wenn etwas schief geht. Es gibt noch nicht mal seriöse Indizien, dass dies beim Nvidia Treiber der Fall war. Aber gleich wird wieder die sprichwörtliche Keule ausgepackt.
 
"In the time it took us to validate and submit this first vulnerability to Firefox, Claude had already discovered fifty more unique crashing inputs."

"By the end of this effort, we had scanned nearly 6,000 C++ files and submitted a total of 112 unique reports, including the high- and moderate-severity vulnerabilities mentioned above."

von anthropic.com

Also waren 22 davon echt und 90 halluziniert?
Leider sagt selbst das Einreichen von 112 Reports auch nichts über die Anzahl der 'gefundenen' Sicherheitslücken. Bspw. hätte der Bot genauso 220 'finden' können mit 90% Fehlerquote und am Ende waren nur 22 davon echt.
 
Vexz schrieb:
Ich habe mir auch schon sehr viele Skripte mit KI in der Arbeit schreiben lassen. Das können die Dinger wirklich gut. :daumen:
Und so fängt es an - Gefährdung deines eigenen Arbeitsplatzes oder jener eines Kollegen im Betrieb.

"Wir sind jetzt viel effizienter - Wir brauchen nicht so viel Personal."

Ich weiß - Für den Kommentar krieg ich aufn Sack. :rolleyes:😂😉
 
  • Gefällt mir
Reaktionen: Vexz, GuckenWasGeht und R O G E R
Ford_Prefekt schrieb:
LMAO!
----
Es ist schön mal was positives über KI zu hören, ich persönlich bin ja schon lange Fan...
Noch was positives hinterher:
Mir scheint es so, als ob KI massiv helfen wird, dass FOSS mehr und mehr an Fahrt aufnimmt, weil es einfach weniger menschliche Arbeit benötigen wird um die Software zu bauen und zu pflegen.
Viele FOSS Projekte wehren sich bereits gegen SLOP Contributions.
 
Das schlimme daran ist, das gleiche in den falschen Händen benötigt dann auch nur noch 14 Tage um 22 Schwachstellen zu finden die es dann auszunutzen gilt.
 
Zurück
Oben