Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
BerichtInterview mit Manuel „HonkHase“ Atug: Wie gefährlich sind KI-Modelle wie Claude Mythos?
Gut so, Adblock Plus (ABP) steht in der Kritik wegen "Acceptable Ads" die durchgelassen werden von ABP gegen Bezahlung der Werbetreibenden.
Der Hinwies auf fehlende Bezahlung der Webseitenbetreiber kann man erwähnen nach dem Motto deaktiviere es bei Webseiten denen du wirklich vertraust, sicherer ist man jedoch mit Werbeblocken-Script blockern und meide es diese zu deaktivieren auf Webseiten die ihre Werbung extern einbinden.
Meen Jott, guck doch mal aufs Datum. Das was du im ersten Absatz da erwähnst, ist zwar richtig, hat aber NICHTS mit der Entscheidung des BSI zu tun gehabt, steht doch da, einfach mal lesen.
Ergänzung ()
Piktogramm schrieb:
Naja "ausgebremst" wird hier vor allem, da der Rechtsrahmen und dessen Durchsetzung nicht so massiv missachtet werden, wie es in den USA möglich ist. Urheberrechte und Persönlichkeitsrechte so massiv ignorieren funktioniert in der EU nur mäßig, was für entsprechendes Risikokapital entsprechend unattraktiv ist.
Ich bin mir dabei nicht so sicher, ob es wirklich wünschenswert ist, Rechtsrahmen und damit Schutzrechte aufzuweichen, damit sich Geschäftsmodelle etablieren können, die den Mangel entsprechender Schutzrechte voraussetzen.
Was ist das für eine Argumentation bitte? Woher kommt dieser Kauderwelsch, worauf beruhst du dich?
Europäische KIs hinken hinterher aufgrund der Rechtsgrundlage? Und in wie weit ist solch eine Grundlage dann sinnvoll wenn 90% aller Europäer die US Alternativen nutzt? Wie sollen die europäischen KI Unternehmen da aufholen? Gar nicht?
Außerdem bezweifle ich das es irgendwas mit der Realität zu tun hat, man schaue sich Mistral an.
Ergänzung ()
Syntax_41 schrieb:
Müssen wir leider gibt keine alternative zum Air Gap
Rein aus Interesse, wie hat ein Air Gap bestand wenn der USB Stick dann ins Air Gap wandert?
Ergänzung ()
dev/random schrieb:
Das Finden von Sicherheitslücken ist nicht automatisch gut, sondern erst das Beheben oder Vermeiden von Sicherheitslücken. Wenn solche Tools die Herstellern mit Unmengen vermeintlicher Sicherheitslücken überschwemmen, bleibt das Beheben aufgrund der Menge an Informationen aber wahrscheinlich auf der Strecke.
Wenn so ein LLM dann auch noch die Ausnutzung der Sichheitslücken durch Exploit-Generierung erleichert, wird damit nur den Angreifern aber nicht den Software-Entwicklern geholfen.
Die Rechnung geht aber nur für schwerwiegende Sicherheitslücken auf, deren Ausnutzung offensichtlich zu großen Schäden führen kann.
Die Mehrzahl der von LLMs identifizierten Sicheheitslücken scheint aber eher trivialer Natur zu sein, deren Ausnutzung nicht einfach ist und nicht unbedingt große Schäden anrichten würde. Dann kann die Rechnung ganz anders ausfalllen.
Angenommen, ein LLM findet mit je 20.000 EUR Kosten 5.000 Schwachstellen. Dann sind schon 100 Mio EUR nur für die Schwachstellen-Identifikation drauf gegangen. Wenn bei den 5.000 Schwachstellen aber 4990 trivial sind und kaum nennenswerte Schäden verursachen werden, dann ist das Tool nicht effizient und günstiger, sondern nur schneller. Ich kann solche Relationen mangels nachvollziehbarer Studien hier nur schätzen und mag falsch liegen. Aber zumindest von meiner Berufserfahrung ausgehend ist das keineswegs abwegig.
Der Punkt ist nicht, dass Betreiber von Kraftwerken oder anderer kritischer Infrastruktur kein Geld haben, sondern dass Anthropic diesen Unternehmen bisher gar keinen Zugriff gewährt, auch nicht gegen Geld.
Und das weißt du woher? Der erste Absatz in deinem Beitrag ist übrigens ziemlich Bockmist. Liest oder schreibst du zufällig auf Heise, gab da neulich einen "Artikel" der einen ähnlichen Schwund fabriziert hat.
Gefunde Lücken sind besser als Lücken die nur eine kleine Anzahl von Leuten kennt und ausnutzen kann. Das Bugissues das Fixing verlangsamen ist auch absolute Fantasie.
The quality is higher. The rate of confirmed vulnerabilities is back to and even surpassing the 2024 pre-AI level, meaning somewhere in the 15-16% range.
In addition to that, the share of reports that identify a bug, meaning that they aren’t vulnerabilities but still some kind of problem, is significantly higher than before.
Also bei curl waren zuletzt nur 5% der Meldungen nachvollziehbare Schwachstellen (Quelle siehe unten). Bedeutet 95% Fehlerquote. Das ist weder für Open Source Entwickler noch für Software Firmen akzeptabel.
Nur unter der Annahme dass das Modell immer richtig liegt schweigen sich di
Und wieder, sehr unspezifisch. Greife doch bitte Punkte meiner Argumentation auf, wenn du sie kritisieren willst anstatt nur pauschal so eine Frage zu stellen.
Snakeeater schrieb:
Woher kommt dieser Kauderwelsch, worauf beruhst du dich?
Rechtsgrundlage und folgend wenig Bereitschaft für Risikokapital. Steht da.
Snakeeater schrieb:
Und in wie weit ist solch eine Grundlage dann sinnvoll wenn 90% aller Europäer die US Alternativen nutzt? Wie sollen die europäischen KI Unternehmen da aufholen? Gar nicht?
Das ist das übliche Problem, dass die Schutzrechte in der EU unterlaufen werden durch Anbieter aus dem nicht-EU Ausland. Ist bei der DSGVO so, beim Urheberrschutz, Umweltauflagen. Die Schutzrechte in der EU sehe ich als sinnvoll, die Abwehr gegen das Unterlaufen durch Dritte außerhalb der EU ist aber oftmals mangelhaft,
Das Unternehmen Schutzrechte weiträumig unterlaufen und so gedenken Profite einzufahren sehe ich so oder so nicht als sinnvolles Ziel. Auch KI.. das sind neuronale Netzwerke, davon abgeleitet LLMs oder Ähnliches. Es wäre Imho generell sinnvoll deren Fähigkeiten nicht dadurch zu steigern immer mehr Material zum Bilden der NNs in die Systeme zu kippen, sondern darauf zu optimieren, dass das "Lernen" wesentlich zielgerichteter erfolgt. Zudem der aktuelle Ansatz wohl eh an Grenzen stößt, da schlicht alle Quellen natürlicher Personen bereits verarbeitet wurden.
Snakeeater schrieb:
Außerdem bezweifle ich das es irgendwas mit der Realität zu tun hat, man schaue sich Mistral an.
In der Anfrage der Linken wird auch die damals noch herrschende Rechtliche Unsicherheit erwähnt.
Hätte das BSI eine Empfehlung geben sollen ohne rechtlich geregelte Informationen zur Nutzung zu haben?
Ja Kuketz ist für mich (in dem von dir geposteten Artikel) ein Meinungsmacher durch das wohlwollend unbewusste weglassen der beantworteten Fragen.
Also bei curl waren zuletzt nur 5% der Meldungen nachvollziehbare Schwachstellen (Quelle siehe unten). Bedeutet 95% Fehlerquote. Das ist weder für Open Source Entwickler noch für Software Firmen akzeptabel.
Wenn ich mich recht entsinne, wurde Mythos instruiert, die Schwere der gefundenen Schwachstellen selbst einzuschätzen, vorerst nur bei den zwei schwerwiegendsten Kategorien einen Prototyp für deren Ausnutzung zu erstellen, und selbst die so gesiebten Ausgaben gingen nur nach menschlicher Prüfung an die betroffenen Entwickler.
Our coordinated vulnerability disclosure operating principles set out how we report the vulnerabilities that Mythos Preview surfaces. We triage every bug that we find, then send the highest severity bugs to professional human triagers to validate before disclosing them to the maintainer. This process means that we don’t flood maintainers with an unmanageable amount of new work—but the length of this process also means that fewer than 1% of the potential vulnerabilities we’ve discovered so far have been fully patched by their maintainers.
Ich hab jetzt mal den ganzen Thread gelesen und irgendwie kommt bei keiner der Diskussionen an denen Du beteiligt bist, ein Beleg zu Deinen Gedanken. Da klingt lediglich durch, daß Du es meinst besser zu wissen und alle anderen Unrecht haben. Dabei wäre es so schön für Dritte, wenn Du auch Belege zeigen würdest. Es wäre dann eine sehr lehreiche Diskussion.
Ich hab jetzt mal den ganzen Thread gelesen und irgendwie kommt bei keiner der Diskussionen an denen Du beteiligt bist, ein Beleg zu Deinen Gedanken. Da klingt lediglich durch, daß Du es meinst besser zu wissen und alle anderen Unrecht haben. Dabei wäre es so schön für Dritte, wenn Du auch Belege zeigen würdest. Es wäre dann eine sehr lehreiche Diskussion.
Das tut mir leid wenn das so rüber kommt, ich frag mich nur warum Leute die dem BSI Kompetenz beipflichten keinerlei Belege vorlegen müssen und wenn ich mehrere Links zusammen suche wird dann von Meinungsmache gesprochen.
Sag mir gerne wofür du Belege von mir hättest. Bei Antivirensoftware kann ich dir wahrscheinlich keine schwarz auf weiß Artikel vorlegen, aber wir sind ja hier in einem IT-nahen Forum, daher gehe ich davon aus was man die Grundfunktion eines AVs kennt.
Jemand Unbedarften einen AV als Schutzmechanismus zu empfehlen ist nicht nur inkompetent, es ist sogar fahrläßig. Jemand mit gewisser IT-Kompetenz und tatsächlichem Anwendungsfall für einen AV, kann sicherlich irgendwie einen Nutzen daraus ziehen.
Aber in dem von mir angesprochenen Fall vom BSI ging es nicht um die Wirkweise eines AV sondern darum das das BSI das gegenerelle blocken von Werbung im Internet für weniger sinnvoll erachtet als einen Virenscanner. Das man den komplett falschen Adblocker empfohlen hatte, ist hier doch nur Nebensache.
Ansonsten nenn gerne wofür du Belege sehen willst.
Ergänzung ()
Piktogramm schrieb:
Und wieder, sehr unspezifisch. Greife doch bitte Punkte meiner Argumentation auf, wenn du sie kritisieren willst anstatt nur pauschal so eine Frage zu stellen.
Ruhe finde ich meist auf einem Kopfkissen. Komische Frage..
Ernsthaft, du meinst wahrscheinlich "berufen" und ich verweise auf Urheber- sowie Persönlichkeitsrechte. Den Abschnitt hast du sogar zitiert.
Rechtsgrundlage und folgend wenig Bereitschaft für Risikokapital. Steht da.
Sorry das ich erst so spät auf deine Antwort eingehe, aber unterwegs macht sich das Zitieren einfach nicht gut. Ich habe hier auch langsam den Faden verloren, aber lass es mich wie folgt aufdröseln:
Deine Aussage war das die EU-KIs hinterher hinken weil man hier irgendwelche Rechtsgrundlagen befolgen muss. Ich habe in meinem Post versucht kenntnlich zu machen das ich es bezweifle, dass dies der Grund für den "Abstand" ist. Als Beispiel habe ich hier Mistral gewählt, dass es meines Wissens nach ein KI Unternehmen aus Frankreich ist. Faktisch ist Mistral nicht auf dem Level wie Anthropics Produkte und trotzdem scheinen sie irgendwelche Probleme mit den von dir gelinkten EU-Rechten zu haben.
Piktogramm schrieb:
Das ist das übliche Problem, dass die Schutzrechte in der EU unterlaufen werden durch Anbieter aus dem nicht-EU Ausland. Ist bei der DSGVO so, beim Urheberrschutz, Umweltauflagen. Die Schutzrechte in der EU sehe ich als sinnvoll, die Abwehr gegen das Unterlaufen durch Dritte außerhalb der EU ist aber oftmals mangelhaft,
Das Unternehmen Schutzrechte weiträumig unterlaufen und so gedenken Profite einzufahren sehe ich so oder so nicht als sinnvolles Ziel. [...]
Mir fehlt hier irgendwie auch nur irgendwie der Bezug, wer jetzt genau von den EU-Rechten geschützt wird? Die KI-Unternehmen in Europe scheinen dadurch eher beeinträchtigt, die Produkte der US-Riesen sind mal wieder der Standard auch hier in Europe. Also wer profitiert von den EU-Gesetzen?
