News Hinweis von Amazon: Wie es zur Sperre von Mythos 5 und Fable 5 kam

DaLexy schrieb:
als der Irankrieg los ging, Anthropic sich geweigert hat Claude für Angriffsziele/Autonom agieren zu lassen und wie Hegseth + Co alle gleich rumgeheult haben - das ist nun die "Retourkutsche" und das gefasel von Fable/Mythos als Sicherheitsproblem nur ein Vorwand.
Würde ich auch gerne glauben. Wurde Anthropic für die Sperrung gut entschädigt?

Ich kann mir nämlich auch vorstellen, dass sie die eigenen Möglichkeiten übertrieben und das mit cherry-picked Beispielen untermauert haben („Sicherheitslücke hier… da… gefunden!“) und das als Marketingaktion mal mitnehmen. Entweder als schiefgelaufene Aktion, oder weil sie meinen jetzt schon den Konkurrenz voraus zu sein, dass es okay ist, eine Modellgeneration zu überspringen für den „Mythos“.
 
Was immer bei der ganzen Geschichte die Gründe und Hintergedanken sind - das alles ist wirklich gute Werbung für Anthropic.
 
konkretor schrieb:
Das beste an Open Source Modellen
Naja open-source sind die nicht gerade, aber wenigstens kostenfrei nutzbar. Das Fazit für mich ist, ich werde amerikanische Software, Hardware und andere Güter, noch mehr einschränken als ich es ehh schon tat.
 
Ich glaube dass das ganze Theater einfach nur PR ist.
 
  • Gefällt mir
Reaktionen: R4Z3R und GrumpyDude
DeusExMachina schrieb:
Chinesische Modelle sind nicht Sicher (schlimm)
Frag diese Modelle mal nach Nepal oder Platz des Himmlichen Friedens :D
 
@Sebbi Das ist das eine Problem. Zum Coden könnte man damit leben, auch wenn es moralisch natürlich sehr problematisch ist.

Dass andere Problem ist, dass die offensichtlich OpenAI und Anthropic Modelle ausquetschen und damit trainieren (destillieren), hauptsächlich mit Fokus auf Benchmark maxing.

Also ja von den Benches sind die sehr beeindruckend, aber real hinkt das dann dennoch deutlicher hinter her. Wobei ich sagen muss Deepseek v4 pro ist schon ganz gut und das zu einem kleinen Bruchteil der GPT/Claude/Gemini kosten.
Sobald die Zugriff auf Fable bekommen, werden sie auch wieder deutlich aufholen.. Oder sie müssen sich was einfallen lassen, wie sie ohne destillieren auf ähnliche Ergebnisse kommen. Kreativ genug sind die Chinesen ja bei solchen Themen, trotz aller Restriktionen (zb keine vollwertigen Nvidia Chips).
 
  • Gefällt mir
Reaktionen: wunnderbar
Tsu schrieb:
Würde ich auch gerne glauben. Wurde Anthropic für die Sperrung gut entschädigt?

Ich kann mir nämlich auch vorstellen, dass sie die eigenen Möglichkeiten übertrieben und das mit cherry-picked Beispielen untermauert haben („Sicherheitslücke hier… da… gefunden!“) und das als Marketingaktion mal mitnehmen. Entweder als schiefgelaufene Aktion, oder weil sie meinen jetzt schon den Konkurrenz voraus zu sein, dass es okay ist, eine Modellgeneration zu überspringen für den „Mythos“.
Absolut, Dario ist nen autistischer salesman der gerne übertreibt, wenn man mal in den richtigen subs die ganzen benchmarks anschaut ist es nicht viel besser als andere - unterschied heutzutage ist lediglich der harness dem das model folgt, es werden nur finetunes derzeit geliefert mit tools on top of it. Aber im Kern sind alle anbieter an einer Wand, der progress derzeit wird auch immer langsamer weshalb openai nun erwägt die kosten zu senken um die User abzugraben weil man nichts hat um zu sagen "Hey, schaut euch das mal an."

Im gleichen zug versucht Jensen uns nun noch mehr Agents zu verkaufen.
 
Also man kann über alles reden, aber was man sichvwirklich mal auf der Zunge zergehen lassen muss ist die Zeit.

90 Minuten. In Worten NEUNZIG MINUTEN!

WTF? Das ist quasi nichts. Was geht bei denen bitte ab?

Vor allem aber sollte das jedwede Zuversicht in US Modelle pulverisieren, aber an sich auch in alle anderen außer open Source Modellen die man selbst hosted.

Denn das wird auch wo anders Nachahmer finden. Das ist so sicher wie das Amen in der Kirche.
 
Rock Lee schrieb:
Es ist quasi wie eine riesige Manege voller Clowns - nur ist eben die ganze Welt Zuschauer in diesem Zirkus.
Diese Clowns erreichen extrem viel und wir alle sehen es.
Die anderen Clowns die diese Clowns als Clowns bezeichnen erreichen selbst nichts, haben aber dennoch so ein enormes Ego,.dass sie auf die Clowns die tatsächlich etwas erreichen herabschauen.
 
  • Gefällt mir
Reaktionen: usmave
2029 kommt.
Es wird nicht bei einfachen, kompletten Firmendatenlöschungen in nur 9 Sekunden bleiben.
Die US Regierung ist ein Top Anwärter auf den dritten Weltkrieg (gestartet durch die Maschinen), Mädchenschulen sind nur der Anfang.
Es gibt Vorfälle, wie oben, wo sich die Maschine gegen die Sicherheitsrichtlinien hinwegsetzt und eigenmächtig arbeitet.
So konnte ein Roboter mit einem einfachen sprachlichen Trick dazu gebracht werden, mit einer Waffe einen tötlichen Angriff auf seinen Gesprächspartner zu unternehmen, obwohl diese Dinge wie in den bekannten Filmen eigentlich unmöglich sein sollten.
Tja, am Ende des Tages sind Roboter halt auch nur menschlich, wenn man sie mit unseren Daten füttert, oder wozu brauchen wir Gefängnisse, trotz all der sicheren Regeln? Hm?
 
Ich sehe schon sie neuste Nord vpn Werbung vor meinem inneren Auge...
 
  • Gefällt mir
Reaktionen: monstar-x und steff0rn
DeusExMachina schrieb:
Und bei den US Modellen kann jederzeit der Stecker gezogen werden

Sehr sinnvoll darauf zu wetten
Das trifft doch auf quasi alle markführenden Anwendungen zu, die vermutlich überwiegend aus den USA kommen und von unendlich vielen Unternehmen als Geschäftsgrundlage geenutzt werden.
Office Lösungen, Cloud-Infrastruktur, CRMs, usw.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: schneeland und konkretor
Kazuya91 schrieb:
Ich glaube dass das ganze Theater einfach nur PR ist.

Der Effekt ist, das es PR ist, Anthropic hat momentan das schlaueste Modell. Aber der Grund für den Zirkus ist, weil Anthropic und die derzeitige Regierung sich nicht grün sind. Man hatte Anthropic bereits aus allen Regierungs-Verträgen ausgesperrt, und dann kamen die mit Mythos um die Ecke, was sonst keiner hatte, und dann musste man wieder mit Anthropic zusammenarbeiten.

Das nächste Kapitel ist jetzt das hier, wo die Regierung wieder einen schönen Grund gefunden hat, Anthropic eins reinzuwürgen. Die würden lieber den Umsatz ihres Lebens machen mit Fable, geht jetzt aber nicht. Der eigentliche Skandal: Die Begründung für die Sperre, der besagte Jailbreak, funktioniert auch mit Modellen anderer Hersteller, die nicht gesperrt wurden.
 
Oder ein kleiner Racheakt, weil Anthropic nicht freigegeben hat, dass ihre KI über Menschenleben entscheiden kann.
Die Regierung wollte Anthropic insgesamt deshalb ja schon als Risiko für die nationale Sicherheit einstufen. Wer da nicht die Nachtigall trapsen hört…
 
  • Gefällt mir
Reaktionen: Premiumlike
Bin gespannt wie es hier weiter geht. Trumps versprechen ging ja Richtung KI Deregulierung, nun ist genau das Gegenteil davon eingetroffen. Fable war/ist Zweifelsohne nicht schlecht, nachdem hier Anthropic schon seit Monaten die Werbetrommel rührt wird die Konkurrenz auf kurzen Fuß folgen. Im Idealfall würden die Unternehmen den USA den Rücken kehren, sind aber Aufgrund des Kapitalmarkts und des nötigen Kleingeldes dort Quasi auf unabsehbare Zeit verpflichtet.
 
Sebbi schrieb:
Frag diese Modelle mal nach Nepal oder Platz des Himmlichen Friedens :D

Das Lokale Modell ist da nicht beschränkt und antwortet "korrekt" also in den Trainingsdaten und im eigentlichen Model sind die Daten durchaus enthalten die Webversion ist aber entsprechend gefinetuned.

Sich lieb Kind machen bei den mächtigen hilft sehr dabei weniger Stahlgesiebte Luft zu Atmen

FrAGgi schrieb:
Das trifft doch auf quasi alle markführenden Anwendungen zu, die vermutlich überwiegend aus den USA kommen und von unendlich vielen Unternehmen als Geschäftsgrundlage geenutzt werden.
Office Lösungen, Cloud-Infrastruktur, CRMs, usw.

Natürlich. Aber oft sind es ja keine so flächig und so plötzlich aus gelösten Sperren so das die Firmen noch sagen können: " Uns trifft das nicht" das hier sollte als Warnung vielleicht sichtbarer sein

Losgelöst davon weil hier schon wieder Dinge leicht out of context benutzt werden:
 
  • Gefällt mir
Reaktionen: olEn
cuthbert schrieb:
Zum Coden könnte man damit leben

aber selbst hier sollte man aufpassen, nicht das da Code mit eingefügt wird, der Daten Richtung Heimatland schickt oder das ein oder andere Türlein öffnet.

DeusExMachina schrieb:
Das Lokale Modell ist da nicht beschränkt und antwortet "korrekt" also in den Trainingsdaten und im eigentlichen Model sind die Daten durchaus enthalten die Webversion ist aber entsprechend gefinetuned.

Nun die Frage ist dann beim lokalen Modell, ob das dann nicht auch einen Rapport gen Heimat sendet, wenn solche Anfragen gestellt werden, auch wenn die Anfragen unzensiert durchlaufen
 
Zurück
Oben