News 150 weitere Organisationen: Anthropic öffnet Project Glasswing für mehr Teilneh­mer

mischaef

Kassettenkind
Teammitglied
Registriert
Aug. 2012
Beiträge
7.559
Der KI-Spezialist rechnet allerdings damit, dass viele dieser Systeme ohne ausreichende Schutzmaßnahmen gegen Missbrauch erscheinen.
So wie bei Anthropic selbst, wo Discord-Mitglieder Zugriff auf Mythos bekamen?
Seit den Fixes für Firefox hört man allerdings auch nicht mehr viel neues davon.
 
Ich seh den Impact noch nicht also glaube ich immer noch an einen Marketing Stunt.

GPT-4 2023 "Übertrifft Menschen in fast allen Aufgaben, könnte Cyberangriffe automatisieren"
auch GPT-4 2023 mit „Sandwich-Angriff“ - "Konnte aus der eigenen Sandbox ausbrechen"
AlphaGo 2016 "Go ist zu komplex für KI".
Deepmind Agent57 "Erste KI, das alle Atari-Spiele meistert"

Ich muss immer noch zur Arbeit gehen, das Internet funktioniert noch immer, die Zivilisation existiert noch, und ich muss immer noch jede komplexe Aufgabe in einzelne Subslices runterbrechen damit die KI auch nur halbwegs ne Chance hat das zu machen was ich von ihr erwarte um dann den Output zu kontrollieren. Bring it on Anthropic!!!
 
  • Gefällt mir
Reaktionen: jotecklen
@steirerblut Naja... da gebe ich dir teilweise recht. Zwar ist Anthropic ein gewinnorientiertes Unternehmen, dass neuerdings auch an die Börse strebt, allerdings ist in den letzten Monaten auch ein deutlicher Anstieg an entdeckten/geschlossen kritischen Lücken in diversen Produkten zu beobachten. Nicht alles davon schafft es bis in die Tagesschau oder hier auf Computerbase. Gerade wenn man allerdings auch deutlich nischigere Publikationen konsumiert, oder direkt mit Herstellern oder Entwicklern Kontakt hat, berichten nahezu alle, dass die Menge und, inzwischen, auch die Qualität der gemeldeten Lücken teils massiv zugenommen hat.

Mfg Kae
 
  • Gefällt mir
Reaktionen: patison
Zurück
Oben