Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsMistral Large 4: Das größte LLM aus der EU soll zur Konkurrenz aufschließen
Mistral hat mit Large 4 sein bislang größtes Modell mit offenen Gewichten vorgestellt. Das multimodale Sprachmodell mit einer Billion Parametern befindet sich derzeit in der Vorschau. Die Gewichte sollen noch im Laufe des Monats auf Hugging Face und weiteren Modellplattformen verfügbar werden.
Ich dachte die haben aufgegeben, oder ich hab es falsch mitbekommen. Mir war noch im Kopf hängengeblieben, dass sie finanziell und daher auch technologisch nicht mithalten können mit dem amerikanischen und chinesischen Modellen. Wenn das Ding vom Speed und Qualität so gut ist wie DeepSeek v4.1 Flash, dann isses cool. Mal testen.
Leider sagt die Anzahl der Parameter nichts über die Qualität des LLMs aus. Wenn du dir die ganzen offen gewichteten Modelle ansiehst die sich alle in dem Bereich bewegen gibt es massive Qualitätsunterschiede von GLM 5.3 bis zu Longcat oder ähnliches. Wirklich zeigen ob sie damit konkurrenzfähig sind hängt auch stark vom Output preis pro m Tokens ab. Wir werden sehen.
Scheint zwar auf dem Niveau zu sein, aber dafür ist es dann ganz schön groß und teuer.
Also nett, dass es überhaupt was in der Richtung gibt, aber konkurrenzfähig ist es (noch) nicht.
und ich merke gerade, dass es übelst langsam ist. Habs gerade mit meinen Standard-Prompts, die ich nutze um den Speed und Qualität eines LLMs zu testen, getestet. Boah ist das Ding langsam, absolutes KO Kriterium.
Da ist sogar gefühlt GLM schneller.
Edit: Omg es ist immer noch nicht fertig. Ich lösche gleich wieder meinen Mistral Account.
Hier ist der Zug doch schon längst abgefahren... und dank dem ganzen EU Beamtenapparat wird das auch nie was werden. Die sollen lieber das Geld in wichtigere Dinge stecken - da gibt es genug wo es mehr Sinn macht.
Modelle mit offenen Gewichten solchen mit proprietären gegenüberzustellen liefert letztlich hauptsächlich akademische Werte, weil die Einsatzszenarien in der Regel das eine oder das andere erfordern.
Ich nutze Mistral privat (free), auf der Arbeit haben wir Copilot (via OpenAI, Claude ist gesperrt). Tut beides was es "muss".
In der Geschwindigkeit sehe ich jetzt keine Unterschiede, bin aber auch wahrlich kein Poweruser. Wenn etwas besser wird, ist das ja erstmal prima. Würd mir wünschen, dass eine EU Alternative zumindest "etwas" kann.
Es geht auch garnicht darum die Amerikanischen und chinesischen Modelle zuschlagen, wäre natürlich gut ist aber auch kein muss. Dazu sieht gesagt 3Milliarden ist jetzt nicht soviel in dem Bereich. Aber es eines der wenigen grossen Modelle was Datenschutz konform Arbeitet aus Europa.
Diese Grafik von "Artificial Analysis" zeigt das Problem leider recht deutlich. Es ist schlechter oder teurer oder Beides. Ein GPT-6 Luna oder ein Mimi-2.6 Pro kosten ein Bruchteil und sind besser. Vor 6 Monaten wäre es ein Top-Modell gewesen.
Trotzdem ist es kein schlechtes Modell.
Ergänzung ()
Northstar2710 schrieb:
Aber es eines der wenigen grossen Modelle was Datenschutz konform Arbeitet aus Europa.
@User38: Du meinst man sollte deshalb dumm dem Ami und China Mist nur hinterher rennen und irgendwann so abhängig sein, dass ein ganzer Kontinent auch ohne offene Konflikte erpressbar wird?
Über Beamte bleibt es nur übliche Stammtisch Gewäsch - was bei Beamten die Dienstvorschriften sind wäre bei Konzernen die Prozessanweisungen wie ich aus eigener Erfahrung leidvoll weiß. Nicht alles muss im Leben eine "Hey Joe" Startup Mentalität haben, die Menschheit ist mit den vielen Veränderungen derzeit schon überfordert.
Der gravierende Unterschied ist, dass die agilen Managertypen ihre Clique trotz Misswirtschaft und Fehlentscheidungen zur nächsten Firma mitziehen und keinerlei Herzblut an irgendetwas hängt außer der eigenen aktuellen Zielerreichung und die eigene Tasche zu füllen. Alte und Kranke sind da nur im Weg und alles unterhalb nur Fußvolk. Wir erleben es derzeit in Amerika wie toll das alles funktioniert.
Und hätten wir das Gegenteil mit zu viel Staatlichkeit von welcher du in der EU ausgehst dann hätten wir es wie in China. Und da dürftest du aber solche Sprüche in einem Forum nicht offen klopfen.
Es geht auch garnicht darum die Amerikanischen und chinesischen Modelle zuschlagen, wäre natürlich gut ist aber auch kein muss. Dazu sieht gesagt 3Milliarden ist jetzt nicht soviel in dem Bereich. Aber es eines der wenigen grossen Modelle was Datenschutz konform Arbeitet aus Europa.
naja wobei wenn das ding schnarch lahm ist. ist es leider nicht sinnvoll nutzbar. und damit wirds dann doch wieder nicht genutzt weil halt zu eingeschrankt und zu schlecht gguber china und usa.
Die Geschwindigkeit des Modells ist zu großen Teilen eine Hardwarefrage. Das was aktuell veröffentlicht wurde, ist ein Preview. Ob das geschickt ist, sei dahingestellt. Aber eine pauschale Aussage, es sei lahm, ist unsinnig, weil man die Randbedingungen nicht kennt.
Besonders hebt Mistral dabei die Leistung bei Cybersicherheitsaufgaben hervor. Das Modell gehöre zu den stärksten bei einschlägigen Tests wie dem neuen Cyber-Index von Artificial Analysis, erklärt das Unternehmen. Mistral verweist darauf, dass proprietäre US-Modelle Aufgaben mit Sicherheitsbezug mitunter ablehnen, wenn diese als potenziell offensiv eingestuft werden – stattdessen brechen die Agenten immer häufiger allerdings alleine aus und können ein Sicherheitsrisiko darstellen. Laut Mistral könnten solche Einschränkungen jedoch legitime Schwachstellenforschung und die Reaktion auf Sicherheitsvorfälle behindern.
Das würde es zu einem der stärksten Modelle ohne künstliche Fesseln machen. Aber das kann ich mir für ein EU Modell kaum vorstellen. Wie wollen die das denn rechtlich überleben?
Die anderen open weights Modelle bekommst du bei Huggingface doch auch als uncensored, heretic, oblibareted/aliberated oder ne Mischung aus allem. Hab davon auch das Ein oder Andere zum Testen auf lokaler HW.
@Scheitel Meißt aber nur die "kleinen" bis 70B. Nicht die großen Originalmodelle. Außerdem kostet das implementieren von Alignement ein bisschen Performance, und die anschließende Obliteration nochmal. Also wenn man eins hätte das von Anfang an ohne auskommt wäre schon besser
Schon, aber das hast du ja selber beantwortet und da bin ich bei dir, das will sich keiner unter die Füße holen.
Man darf halt nicht vergessen, dass nicht nur Cybersec dann "frei" ist sondern auch alles, dass man nicht im Netz finden "will" wie ChemWarF etc. Das wäre dann auch alles verfügbar und das ist es aus gutem Grund nicht^^