Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsHinweis von Amazon: Wie es zur Sperre von Mythos 5 und Fable 5 kam
Überraschend und kurzfristig musste Anthropic die neuen Top-Modelle Fable 5 und Mythos 5 aufgrund einer Anordnung der Trump-Administration sperren. Wie Politico berichtet, kam der ursprüngliche Hinweis demnach aus den Reihen von Amazon – einem der größten Investoren von Anthropic.
Das kommt davon wenn fehlgeleitete Marketingmaßnahmen mit einer Prise Selbstüberschätzung auf die schiere Ahnungslosigkeit und Ignoranz der aktuellen US-Regierung treffen. Es ist quasi wie eine riesige Manege voller Clowns - nur ist eben die ganze Welt Zuschauer in diesem Zirkus.
Man darf sich fragen, wie viel davon tatsächliche Besorgnis über Zweckentfremdung ist, und wie viel doch eher globale Machpolitik ist. Sicherlich können auch US-Bürger:innen in den USA mögliche Jailbreaks auf kriminelle Weise nutzen.
In jedem Fall wird das internationalen Bemühungen, die Abhängigkeit von den USA zu reduzieren, starken Vortrieb geben. Die Welt ist beim Thema KI immer noch in den Kinderschuhen – für Europa ist es wahrscheinlich gut, dass das passiert, bevor KI in wirklich allen Bereichen des Lebens fundamental eingebettet, und die Abhängigkeit zu den US-KI-Modellen noch größer wird.
Kurios daran: Viele der Menschen, die für Anthropic diese Modelle entwickeln und ermöglichen, dürfen ihre eigenen Werke privat nun nicht mehr nutzen.
versteh mich nicht falsch - Gemma und Qwen sind tolle Dinger, aber wenn mir noch einmal jemand auf r/LocalLLaMA meint erzählen zu müssen, dass das Modell in Benchmarks und bei Coding mit Opus aufschließt und gar nicht gebenchmaxt wäre, sondern echt so gut wäre - nur damit ich dann feststelle, dass es nach einigen custom Fragen die ich stelle, dümmer ist als GPT-4... - dann verliere ich den Glauben an diese Modelle endgültig.
konkretor schrieb:
Das beste an Open Source Modellen, wenn es auf eigener Hardware läuft, schaltet es niemand einfach mal so ab.
Wenn man das liest kann man nur erahnen was da hinter verschlossenen Türen so ab geht ... Anthropic geht auf Konfrontation, Amazon pinkelt formal Anthropic ans Bein damit die US-Regierung einen Grund hat den Stopp reinzuhauen ... uiuiui.
Interessant ist jetzt was das für die führenden AI Anbieter bedeutet. In USA und der westlichen Welt erhalten die Anbieter die Hardware die zum skalieren und auch zum Training nötig ist um mitzuhalten. Wenn sie ins Ausland gehen würden hätten sie andererseits mehr Freiheiten was die Modellpolitik an geht. Schwierig. Aber ich fürchte momentan führt (noch) kein Weg an den USA vorbei ...
Interessant auch:
Non-US Bürger auf US Boden sollen ausgeschlossen werden?
Geht das im Rahmen einer Exportkontrolle?
Schwer zu glauben ...
Dazu kommt: Wenn KI Anbieter diesen Check etablieren brauchen sie ja quasi Passdaten. Nutzer wären dann 100% gläsern und ein vollumfängliches Identifizierungs-System etabliert.
Bei anderen Systemen wie zB Kennzeichenscannern sieht man schon wie so ein System dann mit der Zeit immer weiter für andere Zwecke missbraucht wird .... das in Kombination mit KI eröffnet Regierungen ganz neue Möglichkeiten der Überwachung und Kontrolle ... ich bin ja kein Pessimist, aber da kommt einiges an Risiken auf uns zu.
Ergänzung ()
konkretor schrieb:
Das beste an Open Source Modellen, wenn es auf eigener Hardware läuft, schaltet es niemand einfach mal so ab.
Das wird der nächste Trend:
Illegale KI Farmen deren Rechenzeit man sich im Darknet kaufen kann.
Auf denen laufen dann große, freie, unregulierte Modelle. Oder ein geleaktes Mythos ...
Aus Sicherheitsgründen nur für US-Bürger. Weil von denen garantiert niemals einer irgendwas böses im Schilde führen würde. Ist klar. Erinnert an die Windradfarmen auf dem Meer, deren kurz vorm Ende befindlicher Bau plötzlich wegen nationaler Sicherheit und so gestoppt werden musste. Jaja.
Dieser kleine, etwas unscheinbare Punkt ist auch gleichzeitig die größte Anomalie (und größte Schwachfug) im Kontext des Vorgehens und der Kommunikation. Ich würde davon ausgehen, das abseits der öffentlichen Kanäle noch ganz andere Dinge laufen.
Man mag sich kaum ausmalen wenn statt der US-Regierung die EU diese Entscheidung getroffen hätten (und die Macht dazu hätten). Hier würde es toben mit EU "rant-postings" und der Faden wäre schon sechs Seiten lang innerhalb 1 Stunde...
Sorry aber wer glaubt denn das dies der wahre grund ist/sei. Ich verfolge die US News täglich und wenn eins kristall klar ist dann ist es das Trump + Admin sehr nachtragend sind und dir das leben sehr schwer machen wollen/werden - man siehe sich nur seine Retribution Tour gehe die Dems an bzw. jedem der seit 2016 auch nur ansatzweise kein Trump Cultist ist.
Nun erinnere man sich als der Irankrieg los ging, Anthropic sich geweigert hat Claude für Angriffsziele/Autonom agieren zu lassen und wie Hegseth + Co alle gleich rumgeheult haben - das ist nun die "Retourkutsche" und das gefasel von Fable/Mythos als Sicherheitsproblem nur ein Vorwand.
Ende vom Lied war das man veraltete Daten nutzte (angeblich) und knapp 160 kleine Kinder starben und es durchsickerte das Claude mit verantwortlich sei.
Erstaunlich... ja, erstaunlich ist, dass die Unternehmen (5+Amazon) nur 2 Tage brauchten, um eine Schwachstelle zu entdecken, Anthropic aber nach langen internen Tests jedoch vorher nichts fand! Seltsam. Was war und ist in dem Konzern der Bude los?
KI Modelle die drohen die gesammte digitale Infrastruktur zu zerstören werden also in Zaum gehalten von Unternehmen, die ihre Billiarden an Investition zurückholen wollen und einem Präsidenten, der eher nicht als hellste Kerze auf dem Kuchen bezeichnet wird.
Erinnert mich an den Prolog zu einem Roman/Film/Spiel über eine dystopische Zukunft...
Hat bestimmt nichts damit zu tun, dass die Trump Regierung verstimmt ist, weil Anthropic nicht zulassen wollte, dass deren Modelle für Massenüberwachung und autonome Waffen eingesetzt werden dürfen..
Boah mist, ich kann mit meinem baldigen m5 max mir 128 GB GPU RAM nichtmal Minimax M3 Q1 laufen lassen Oo Hab so gehofft dass mindestens Q3 laufen könnte. Naja, eventuell doch das MacBook abbestellen Das alles so teuer geworden, klar Minimax M3 usw. sind viel günstiger als andere, aber dennoch kommt da schon ein Batzen wenn 24 Stunden das Ding läuft
Die Exportkontrolle war vermutlich das einzige sofortig verfügbare Rechtsinstrument zum Stopp.
Ganz ehrlich: Ich sehe hier die Verantwortung ganz alleine bei Anthropic.
Es ist nicht sehr klug, monatelang zu betonen, wie gefährlich das eigene Produkt ist, und dann nicht eine extrem stichfeste Argumentation zu haben, warum es nun doch veröffentlicht werden kann.
Wenn Anthropic dann auch noch Sicherheitsbedenken bagatellisiert statt professionell entkräftet, merkt man, dass die Betonung der Risiken von Mythos vor allem PR, nicht echtes Sicherheitsbewusstsein, war.
Da wird Anthropic seiner Verantwortung für die Gesellschaft(en) nicht gerecht. Und die US-Regierung tat das, was ich von einer guten Regierung erwarten würde: sich mit dem Thema befassen und keine Risiken eingehen - die Reißleine ziehen.
Persönlich vermisse ich Fable übrigens jetzt schon sehr. Für mich ist Fable nicht weniger als ein Weltwunder - die fortgeschrittenste Technologie, die unsere Zivilisation bis dato gebaut hat.
Dennoch: Die Welt verliert nichts, wenn Fable erst in paar Monaten wieder da ist.
Und Softwareentwickler können guten Gewissens den Sommer genießen 😃
naja - also wenn es einen vorgeschobenen wirklichen Grund geben sollte - abseits von Politikum und normalen Machtspielchen, ist es bestimmt nicht die Option von wegen Gefährlichkeit fpr Kriminelle. Aber das kennen wir ja bereits bestens aus allen erdenklichen anderen Richtungen auch. Man nehme das Gegenteil und ist dann bereits knapp an der Wahrheit dran...
meine Vermutung daher, das Tool wird wohl wirklich ganz gut Schwachstellen aufspüren können. Das ist dann natüröich nicht so toll fpr die Geheimdienste, die alle möglichen Lücken ja bewußt lassen oder gar zwingen welche Einzubauen - zwecks der nationalen Sicherheit, Überwachung und Ausspionieren von jedermann.
Natürlich nicht so toll, wenn diese Lücken, oder zumindest einige davon nun aufgedeckt werden könnten...
Das dumme ist halt, dadurch dass keiner öffentlich weiß wie gut dieses Modell tatsächlich ist, können sir nur spekulieren was an der ganzen Sache dran ist.
Gibt ja Dinge, die darauf hindeuten, das Mythos ein wirklich gutes Modell ist, aber jetzt nichts außergewöhnliches, eher die übliche Weiterentwicklung und die Bereitschaft massiv Ressourcen einzusetzen um Sicherheitslücken zu finden.
Na und, meine erste Insta Anmeldung war in 9 Minuten fertig, und es hat nicht mal 90 Minuten gebraucht wieder gesperrt zu werden, warum soll es da anderen Leuten die weniger Grips haben besser gehen.
