News Sicherheitsanalyse mit KI: Anthropics Opus 4.6 findet 22 Sicherheitslücken in Firefox

[Zweite Sonja]

Warum sollte man sich noch die Arbeit machen, wenn die KI schneller und leichter machen kann?

Die Fragen haben sie die Menschheit sicher auch zur Industrialisierung gestellt.

Sehr viele Menschen haben ihre Jobs verloren, weil eine Maschine schneller und besser als viele Menschen ist. Ganze Berufe sind ausgestorben, dafür aber neue geschaffen worden.

KI hat bereits damit begonnen, sich ähnlich auszuwirken.
Der Mensch wird sich anpassen müssen, einige Jobs werden größtenteils durch KI ersetzt, andere Jobs dagegen werden erschaffen.
Die Auswirkungen kann man leider immer nur (Jahrzehnte) im Nachhinein sehen.

Trotzdem ist es kein Grund, die KI-Revolution zu verteufeln, weil sie langfristig sicher mehr Vorteile als Nachteile haben wird. Zumindest glaube ich daran.
Der Weg dorthin wird aber sicher für Millionen von Menschen von traurigen Schicksalen geprägt werden.

 

[Dystop1an]

Billionen! BILLIONEN! Oh mann, das wird so ein geiler Markt, da kann man Billonen machen, und alles so einfach aus der Luft! Aus Billionen Luft!

Ohweia, da ging das Hirn wohl wieder aus weil man KI gelesen hat.
Luft? Der IT Sec Bereich hat jetzt schon eine Marktkapitalisierung von über eine Billion Dollar, also nur die größeren player in dem bereich, die tausenden anderen außen vor gelassen. Und in dem Bereich kann Anthropic mit seinen Dienstleistungen halt mit buhlen und hier und da was abgreifen.

Und das ist nur eine Branche in der KI systeme sehr gut fuß fassen werden können.

Man denke mal an die ganze abbildung von Devops, und den Firmen die in dem bereich mit den diversen Toolstacks zig Milliarden machen. Auch da gibt es etliche Bereiche die für KI wie geschaffen sind.

Die Märkte gibt es schon alle, und KI firmen werden da in Zukunft „mitgrasen“.

Einfach vielleicht mal die augen aufmachen und sich die schon stattfindende Realität anschauen.

Ergänzung (Montag um 22:26)

Wenn ich deine beiden Aussagen in Zusammenhang bringe, dann scheint es mir, als ob mittelständische und große Firmen zukünftig mehr für die Lizenzen bezahlen müssten. Denn auch die KI will zukünftig bezahlt werden.

Das wollte ich allerdings nicht damit sagen. Die märkte die jetzt schon existieren, werden sich einfach stark verschieben. Die KI Firmen werden einfach viel von dem abgrasen, was jetzt andere Firmen mit anderen IT Dienstleistungen machen. Ob es dann teurer wird? Sicherlich, alles wird teurer, und das immer. Ob es aber teurer wird speziell wegen KI wage ich zu bezweifeln.

 

[Skysurfa]

Ob es aber teurer wird speziell wegen KI wage ich zu bezweifeln

Es gibt nur wenige Unternehmen, die aktuell in den Markt investieren können. Somit ein Oligopol mit Ansage. Da kommen in mir garantiert keine Zweifel auf.

 

[Zweite Sonja]

Genau, und deswegen ist ja auch die Qualität der Software so gut. Nur, weil es niemandem auf die Füße gefallen ist, heißt das nicht, dass es einen Vorteil davon gibt.

Jep: https://www.golem.de/news/arbeitswe...ei-angestellten-zu-brain-fry-2603-206234.html

14% sind akzeptabel gering. Es kann nicht jeder im Leben mithalten.

Pro-Tipp: Man kann auch vorbereitet in Meetings gehen.

Was Zeit kostet, dass die KI ersparen kann.
Und mit KI kann die Vorbereitung effizienter sein.

Ihr habt KI euch Vorschläge generieren lassen. Ok.

Richtig.
Anstelle einer 635 Methode, mit anschließender Zusammenfassung, dann Sortierung, dann Besprechung, was in etwa 20-30 Minuten kostet, haben wir die Stichpunkte der KI direkt zum Teil gestrichen, erweitert und besprochen.
Ein paar Ideen waren sogar dabei, auf die niemand von uns gekommen wäre bzw. die uns auf völlig neue Ideen brachte.

Man sollte immer etwas Neues versuchen.
Wir nutzen für Brainstorming ja nicht immer und ausschließlich KI... es ist lediglich eine Unterstützung. Ein Werkzeug, so wie jedes andere Werkzeug, beispielsweise das Internet.

Mit logischem Menschenverstand kommt man selbst drauf, dass KI keine Ideen generieren kann, sondern einfach nur das wiedergibt, was es bisher gibt. Was anderes kann die Technologie nicht. Das ist keine Innovation, das ist eher ein "Wir kennen den Markt nicht".

Der Mensch greift Ideen von Menschen auf. Die KI auch... also warum sollte man sie nicht als Ergänzung nutzen?

Ja, die ganzen Ressourcenmängel, Arbeitslosigkeiten und per Studien bewiesenen negativen Auswirkungen auf kongitive Fähigkeiten und Psyche werden sicherlich noch viel Positives bewirken.

Alles hat Vorteile und Nachteile.
Natürlich ist nicht jeder Mensch anpassungsfähig und einige würden am liebsten ihr Leben lang ohne jegliche Veränderungen ihrer Routine nachgehen. Das ist okay... andere Menschen dagegen verändern die Welt.
Die Geschichte hat gezeigt, dass es sowohl zum Guten als auch Schlechten geführt hat.
Wenn ich aber das Jahr 1500 mit heute vergleiche, waren die Veränderungen überwiegend sehr gut.

Schön, dass du dich bereits obsolet machst und dich darüber freust.

Routine-Aufgaben und alles, wofür es bereits feste Regeln und Abläufe gibt, wird die KI aber Stück für Stück ersetzen können.

Ich bin mir sicher, dass ich zu den anpassungsfähigen Menschen gehöre.
Wenn mein Job wegfallen sollte, dann ist es eben so. Dann lerne ich etwas Neues, was es heute vielleicht noch gar nicht gibt.

Allerdings weiß ich auch, dass mein Job noch Jahrzehnte davon entfernt ist, von KI ersetzt werden zu können.
Ermessensentscheidungen bleiben noch lange den Menschen vorbehalten.

 

[jonathansmith]

Es ist nur wichtig, dass am Ende wirklich noch ein Mensch der wirklich Ahnung hat den Code prüft und versteht - und damit meine ich nicht nur "mal eben drüber schauen". Sonst haben wir irgendwann Fehler die keiner mehr analysieren und damit beheben kann, weil niemand eine Ahnung hat was sich die generative KI damals beim Schreiben des Codes dabei gedacht hat (natürlich gar nichts, die kann ja schließlich nicht denken). Haben wir bei MS und Nvidia vielleicht ja jetzt schon.

Aus meiner Sicht ist das ein neues Abstraktionslevel: Du musst Code nicht mehr zwingend Zeile für Zeile lesen, um ihn zu verstehen. Du kannst Funktionsweise, Invarianten und Entscheidungen sauber dokumentieren, den Code kommentieren lassen und dir bei Bedarf gezielt Erklärungen von der KI holen. Mit einem soliden Grundverständnis kommst du damit extrem weit.

Natürlich werden menschliche Reviews eine Weile mitlaufen, vor allem bei High-Risk-Themen. Aber die Richtung ist klar: So wie heute kaum jemand Maschinencode liest oder in Assembly arbeitet, werden Hochsprachen zunehmend nur noch Mittel zum Zweck sein. Und in 10 bis maximal 15 Jahren wird "manuelles Code-Checking" für die meisten Changes eher Ausnahme als Standard sein - ersetzt durch Specs, Tests, formale Checks und KI-gestützte Verifikation.

 

[Feffnyr]

Trotzdem ist es kein Grund, die KI-Revolution zu verteufeln, weil sie langfristig sicher mehr Vorteile als Nachteile haben wird. Zumindest glaube ich daran.
Der Weg dorthin wird aber sicher für Millionen von Menschen von traurigen Schicksalen geprägt werden.

Ich weiss nicht, ob wir das alles abfangen können, was KI im stande ist zu übernehmen. Der Wandel dürfte recht extrem ausfallen und ich zweifle daran, dass wir genug ausweichsmöglichkeiten haben werden, für die ganzen Leute. Population ist glaub ich schlicht zu gross und das Angebot zu klein danach.

Wenn wir nicht aufpassen, fliegt uns das ganze um die Ohren. Politik ist gefordert, dass System rechtzeitig umzuschreiben. Bedinnungsloses Grundeinkommen kommt dann vermutlich und das wiederum von den Firmen die KI nutzen.

 

[Fyrex]

Ich schreibe schon die ganze Zeit, dass AI durchaus sinnvolle Verwendungszwecke bietet.

Das hat kaum jemand ersthaft bezweifelt. Das es dafür spezielle Anwendungsfälle gibt ist jedem mit technologischen Verständnis klar.

Aber aktuell ist es eben eine Blase. KI müsste langsam wachsen, nach und nach verbessert und man müsste prüfen, wo KI sinnvoll einsetzbar ist.

Doch das passiert nicht. Stattdessen haben wir ein idiotisches Wettrennen zwischen Firmen, die glauben man kann ALLES mit KI besser machen und pumpen 100 QUADTRILLIONEN in neue Hardware, damit SOFORT damit Geld verdient werden kann.

Wenn man bedenkt wie lange das Internet brauchte (seit den 1980ern) um zu werden was es heute ist. Das ging auch nicht von heute auf morgen. Aber alle müssen UNBEDINGT erster sein, keine Zeit systematisch und überlegt vorzugehen. Nein, es muss alles sofort sein. Dabei ist noch gar nicht klar, was KI kann und was nicht. Wir sind erst ganz am Anfang. Aber die reine FOMO macht alle blind.

Es ist eine Blase, weil die Investitionen viel zu groß sind für den momentanen technologischen Status. Sowas müsste über 10-20 Jahre wachsen und nicht in 3 Monaten aus dem Boden gestampft werden, damit man ja nur nicht zweiter wird.

 

[aid0nex]

Am Ende zählt nur, ob es so funktioniert wie es soll.

Nö. Ganz häufig zählt auch, wie effizient etwas geschieht. Nicht nur dass es funktioniert, sondern auch wie es funktioniert.

Achja und btw: Fullquotes sind schon scheiße. Aber doppelte Fullquotes sind echt....

 

[MaverickM]

KI ist derzeit einfach ein ungemein nützliches Werkzeug, das einem sehr viele eintönige Aufgaben abnehmen kann. Selbstredend gibt es zahlreiche Berufe, wo KI nicht viel bewirken kann, aber da wo überwiegend Bürotätigkeiten (egal ob Verwaltung oder Wissenschaft) vorherrschen, finden sich meist sinnvolle Einsatzmöglichkeiten.

Genau solch simpler Bürokram ist doch maximale Verschwendung für "KI". Ob das zudem effizienter ist, ist auch zu bezweifeln. Machine Learning ist eigentlich vorwiegend dort nützlich, wo es auch die Jahre davor schon benutzt wurde... In der Forschung, zur Mustererkennung, Datenanalyse etc.

 

[Skytravel]

Heißt das, dass die 14 High-Severity-Lücken erst mit der nächsten Firefox Version gefixt werden, oder sind die Patches bereits im Code und werden nur mit dem nächsten Release ausgeliefert

 

[scryed]

Mal doof gefragt hat einer alle 22 Fehler geprüft und bestätigt das es echte Fehler sind und nicht nur für Fehler gehalten werden ....

Ergänzung (Dienstag um 06:17)

Und so fängt es an - Gefährdung deines eigenen Arbeitsplatzes oder jener eines Kollegen im Betr

Man trainiert seinen eigenen Ersatz , find das ansich nicht lustig ...... Das wird am Ende so enden das es viele Programmierer auf die Straße sitzt ..... Dann werden entweder die billigen programmierer behalten und die teuren auf die Straße gesetzt oder eben fast alle bis auf wenige die gegebenfalls zur Kontrolle behalten werden und das sind die ersten die dann gehen dürfen bei Einspaarmaßnahmen

 

[SheepShaver]

Nö. Ganz häufig zählt auch, wie effizient etwas geschieht. Nicht nur dass es funktioniert, sondern auch wie es funktioniert.

Das muss eben entsprechend in den Kontext und du wirst halt der AI vertrauen müssen. Die Regeln legt man freilich fest.
Ein AI Agent kann 100000de an Zeilen Legacycode innerhalb von kürzester Zeit refactoren, Schwachstellen in der Architektur erkennen und beheben, Speicherlecks schließen, N+1 Probleme eliminieren, Data Races erkennen, etc. Das hätte früher einen Senior Wochen wenn nicht gar Monate gekostet.
Diese Produktivitätssteigerung wird nicht mehr wegzudenken sein. Wie sich die Arbeit von Softwareentwicklern verändert, ist im verlinkten Artikel gut beschrieben. In kleinerem Umfang ist es bei uns im Konzern auch schon so.

Achja und btw: Fullquotes sind schon scheiße. Aber doppelte Fullquotes sind echt....

Sorry, menschlicher Fehler.

 

[Creeping.Death]

Genau solch simpler Bürokram ist doch maximale Verschwendung für "KI". Ob das zudem effizienter ist, ist auch zu bezweifeln.

Das hängt stark davon ab, auf was du Effizienz und Verschwendung beziehst.

Meine persönliche Arbeitsleistung wird wesentlich effizienter, weil ich weniger Zeit mit Dingen verschwende, für die es keiner akademischen Ausbildung bedurft hätte. Beispiele: Powerpoint-Folien, Zusammenfassungen, Brainstorming, Recherche, ...

Wenn du die zur Verfügung stehende Rechenleistung als endlich ansiehst (was sie streng genommen natürlich auch ist), dann gibt es sicherlich wichtigere Dinge, die man damit lösen könnte.
Dann muss man aber auch wieder die Frage stellen, wer die "wichtigen" Dinge lösen soll - der Mensch oder KI. Wenn der Mensch dies tun soll, dann ist es sinnvoll, wenn die KI ihm die "niederen Aufgaben" abnimmt.
Wenn man die KI als das "Hirn" sieht, dann darf man sie nicht mit 08/15-Aufgaben beschäftigen.

Ich habe jedoch den Eindruck, dass sich die Mehrheit der Menschen mit dem ersteren Szenario wohler fühlt. Der Mensch ist der "Herr" und die Maschine soll dienen.

 

[Zweite Sonja]

Der Wandel dürfte recht extrem ausfallen und ich zweifle daran, dass wir genug ausweichsmöglichkeiten haben werden, für die ganzen Leute. Population ist glaub ich schlicht zu gross und das Angebot zu klein danach.

Ohne es mathematisch zu belegen, könnte es sehr langfristig gedacht mit der sinkenden Geburtenrate nur ein "temporäres" (= ein paar Generationen) Problem sein.

In geburtenstarken Regionen, besonders in Afrika, könnte KI für mehr Bildung und in Verbindung mit Robotics für mehr Wohlstand, was wiederum für geringere Geburtenraten sorgen, was das "Problem" mit zu vielen Menschen auf der Welt lösen könnte. Ebenfalls über mehrere Generationen...

In Europa bzw. Deutschland sind wir mit 1,5 Geburten pro Frau im Vergleich zu einigen Ländern in Afrika mit ~6 Geburten pro Frau theoretisch auf den richtigen Weg, Arbeitsplätze durch KI ersetzen zu lassen.
Wohlstand scheint die stärkste Bremse für die Überbevölkerung zu sein und wenn man für Wohlstand in Afrika sorgt, könnte sich das Problem der Überbevölkerung aufgrund von KI, Automatisierung, Robotics, etc. von selbst lösen.

Das ist natürlich alles optimistisch betrachtet.

Es könnte auch genau das Gegenteil eintreffen und für Massenarbeitslosigkeit, Bürgerkriege, Bildungsabnahme und alle möglichen Krisen überall auf der Welt führen.
Ich möchte es optimistisch sehen, so wie die Industrialisierung und nur von "temporären" Nachteilen ausgehen.

 

[SheepShaver]

Die ganzen AI Skeptiker (zu denen ich mich vor einem Jahr auch noch zählte) sollten sich folgendes Zitat vom diesjährigen World Economic Forum verinnerlichen:

The future of work will be shaped by people who, instead of reacting to change, anticipate it by building skills, perspective and judgement at a pace that keeps them ahead of the curve.

 

[DeusExMachina]

Die Frage bei so was ist doch eher braucht es dafür LLMs?

Oder reicht da ein vergleichsweise Schlankes System nicht auch?

Code Tester wie Sonar Cube prüfen ja auch auch schon ob die Testabdeckung passt. Und das können sie mit relativ geringen Aufwand.

Ich kann mir gut vorstellen das IDEs solche Prüfungen als nach gelagerte Instanz als Commit Hooks bekommen

Das wäre auch eine Hilfe für die Entwickler

 

[aid0nex]

Diese Produktivitätssteigerung wird nicht mehr wegzudenken sein. Wie sich die Arbeit von Softwareentwicklern verändert, ist im verlinkten Artikel gut beschrieben. In kleinerem Umfang ist es bei uns im Konzern auch schon so.

Daran hab ich auch gar nicht gezweifelt. Dem stimme ich 100%ig zu.
Ich kritisierte nur deine Aussage, dass es nur wichtig sei dass etwas funktioniert.

 

[l33ch0r]

Etwas sinnvolles. KI kann bekanntlich viel und das bekanntlich auch schneller als jeder Mensch. Mal eben eine App Zusammenschmeissen... Ich war selber schon überrascht. KI wird schlussendlich ein paar Jobs auf dem Gewissen haben, das ist so sicher wie das Amen in der Kirche. (Heisst wen die Entwicklung weiterhin positiv ist und keine Terminator KI entsteht. )

Vermutlich werden die Menschen auch nicht gebildeter in Zukunft. - KI macht ja alles... Ich sehs schon kommen.

Das "m" in "Zusammenschmeißen" ist optional, oder?

Es gibt diverse Menschen im IRC, die sich von einer LLM Bots (i.d.R. irgendwelche Spiele) zusammensch(m)eißen lassen und das funktioniert initial. Aber ab dem Punkt, wo sie was ändern wollen, bricht das ganze wackelige Konstrukt i.d.R. zusammen und ab einer gewissen Größe sind die auftretenden Fehler immerhin noch unterhaltsam. Ich bin absolut nicht von Vibe-Coding überzeugt. Es muss nicht jeder programmieren können, es gibt mehr als genug unterdurchschnittliche Entwickler da draußen. Mit KI werden die auch nicht besser...

 

[Fight for Right]

Ich bleibe bei Brave!

 

[M@tze]

Finde ich eine gute Einsatzmöglichkeit für KI, das fangen wir auch gerade an zu nutzen, um die Teile des Quellcodes, die schon sehr alt sind durchzutesten und auf unerkannte Probleme hin zu analysieren. Trotzdem wundert mich bei der Fehlerstatistik im Artikel, wie hoch der Ausreißer nach oben im Januar 26 war, auch ohne die von der KI gefundenen Fehler.

Der Mensch wird sich anpassen müssen, einige Jobs werden größtenteils durch KI ersetzt, andere Jobs dagegen werden erschaffen.
Die Auswirkungen kann man leider immer nur (Jahrzehnte) im Nachhinein sehen.

Das ist ein wichtiger Punkt. Mein Sohn studiert bereits bzw. ist fast fertig und meine Tochter fängt dieses Jahr mit dem Studium an. Da war bei der Auswahl der Fachrichtung auch viel Überlegung mit dabei, ob dieser Job in den nächsten 10+ Jahren durch KI ersetzt werden könnte. Soweit man das jetzt schon absehen kann...

Meine persönliche Arbeitsleistung wird wesentlich effizienter, weil ich weniger Zeit mit Dingen verschwende, für die es keiner akademischen Ausbildung bedurft hätte. Beispiele: Powerpoint-Folien, Zusammenfassungen, Brainstorming, Recherche, ...

Sehe ich auch so. Mittlerweile läuft bei jedem Meeting das Transkript mit und Copilot schreibt mir danach ein Zusammenfassung für ein Ticket mit Aufgabenzuweisungen, wer bis wann was zu erledigen hat. Das spart mir so viel Zeit und nimmt mir eine ungeliebte Aufgabe ab.

Wir haben auch die komplette, extrem umfangreiche Doku für unsere Software der KI verfüttert und die Kunden finden jetzt viel schneller und einfacher Antworten auf Probleme und Fragen.