Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsIT-Sicherheitsforscher: OpenAIs Hugging-Face-Hack war menschliches Versagen
Dass OpenAIs Forschungsmodell aus der Sandbox ausbrach und Hugging Face sowie weitere Dienste attackierte, sorgte für Aufsehen. Nach Einschätzungen von IT-Sicherheitsforschern ist der Grund aber weniger die KI-Leistung als vielmehr menschliches Versagen, berichtet Wired.
Ach jetzt doch.
Ist aber auch egal, alle Mainstream Medien haben schon drüber berichtet und die kostenlose Werbung wurde so mitgenommen. Schön bei Anthropic abgeschaut, da funktionierte das ja auch so gut.
Ich frag mich halt warum die Sandbox um den Exploitgym so Schwach war dass das Modell "ohne Probleme" den Weg ins offene Netz gefunden hat .. Oh wait, Marketing!
Zwei Euphemismen der IT-Security, mehr ist das nicht...
Wenn man in der deuschen Google-Suche "Edera" sucht, dann kommt als erstes ein Ergebnis zu:
Kranus Edera - die App gegen erektile Dysfunktion
Ich glaub die KI-Bros haben das gegenwärtig (noch) nicht nötig, weil denen ja einer abgeht, wenn sie über KI schwadronieren.
@Andy Die Mitgründerin/CTO von dieser Cloud-Security-Bude namens "Edera" ist eine Frau. Jedenfalls identifiziert sich die Person als solche. "Mitgründer" wäre dann wohl nicht politisch korrekt.
An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.
Niemand aufgefallen... erst am Montag... ja.... glaub ich auch nciht.... schwierig Leute... sorry @Andy , glaubst du das? Ich denke auch eher an "schelchtes" Marketing.
Also einer hat das am Freitag "auserversehen" laufen lassen... und dann am Montag... ohhhh... es hat Hugingface gehackt... ich weiß nicht... außschließen kann man es tatsäclich nicht.
Ees wirft aber kein gutes Licht auf openAI. Egal von welcher seite. Macht Openweights noch wichtiger. Das schließt aber weder Versagen noch Marketing, noch beides aus.... Nur jeder Mittelständler weiß jetzt, das er zum schutz seiner Firma was eigenes braucht.
Mann, mann, mann.
Das weiß doch nun wirklich jeder sofort, wenn mal wieder irgendwas geknackt wird.
Ich finde es immer wieder in höchstem Maße ... amüsant (aka Zynismus), wenn die Marketing Kuh durchs Dorf getrieben wurde, die wirklich hinterletzte Bude mit ihrem Käseblatt darauf auch noch aufgesprungen ist und es danach heißt, ... ach ne, doch nicht.
Das dann keiner mehr mitbekommt.
So geht IT-Security heute:
Anstatt dass sie direkt die Verantwortlichen ... ab sofort Klos putzen lassen? machen wir eine Erfolgsmeldung draus und gruseln uns wie fürchterlich schrecklich diese LLM doch sind.
Verantwortung?
Komische Vokabel, aus Vorsintflutlicher Zeit.
Immerhin:
In Sachen BS-Marketing und Twist kann man von denen echt was lernen.
@Benna
Weil ihr der Auftrag erteilt wurde dieses Problem zu lösen.
Und nichts groß weiter.
LLM sind nicht deterministisch, daher kann die auch niemand wirkllich nachvollziehen. ... auch keine andere LLM, weil die ggf. auf anderen statistischen Entscheidungspfaden wandelt.
Allmählich wird es lachhaft, jeden tag ne neue news ala "Aber mein Model ist besser, bäh"
SAN FRANCISCO, July 30 (Reuters) - Anthropic said on Thursday some of its Claude AI models had hacked into the systems of three companies during cybersecurity tests, a disclosure that comes days after rival OpenAI revealed that one of its AI agents went on a rogue attack.
Haben sie nichts von damals gelernt, als beim Sherlock Holmes-Rollenspiel La Forge dem Holodeck einen für Data angemessenen Gegenspieler angefordert hat? Also der KI die Sicherheitsmechanismen entfernt hat?
so als info an alle die es nicht wissen. OpenAI macht seit 2019 auf sich aufmerksam damit, dass AI ganz böse ist. das ist denen ihr marketing. bei der konkurrenz ist es mittlerweile genau so. also lasst euch nicht verarschen
hier 2019, war einfach zu gefährlich für die menschheit
Ist aber auch egal, alle Mainstream Medien haben schon drüber berichtet und die kostenlose Werbung wurde so mitgenommen. Schön bei Anthropic abgeschaut, da funktionierte das ja auch so gut.
Finde ich nicht, einerseits wirft es ein schlechtes Licht auf die Unternehmen selbst, weil die nicht mal absolute basics beherrschen (also ihre Modelle und Datensicherheit) und es ist Wind in die Segel der KI Kritiker, dass das alles eh Teufelszeug ist.
Ja ist es, aber nicht wegen mir sondern weil die sich selbst so lächerlich darstellen.
Desweiteren ist das kein OAI Spin/Erfindung, angefangen hat Antrophic damit dies fast wöchentlich zu publizieren. Deswegen auch der angehängte Quote von Reuters.
Und dann kommt es wie es immer kommt (so auch hier) und man entschärft das ganze wieder, war ja dann doch nicht ganz so wild....
