News Offene KI-Modelle: Nvidia warnt öffentlich vor übereilten Verboten

[aid0nex]

Wie immer wird hier mit zweierlei maß gemessen, große Unternehmen dürfen Raubkopien nutzen, der kleine Bürger aber nicht.

Ist leider immer und überall so. Schau dir auch die Globalisierung an, Unternehmen nutzen sie voll und breit und profitieren davon aber wenn ich mal irgendwo ein Produkt oder eine Dienstleistung einkaufen will wo sie günstiger ist als hierzulande (Game Keys z.b.) wird mit Account Sperre oder gar rechtlichen Konsequenzen usw. gedroht. Mir werden Dinge verboten die Firmen im großen Stil nutzen.

Ergänzung (Gestern um 12:14)

Und darüber wird sich jetzt hier im Forum aufgeregt? Ist doch völlig egal, was genau dahinter steckt, sich aber für offene Modelle oder Open Source einzusetzen, ist doch erst mal gut?

Es geht nicht um die Forderung an sich, sondern darum wer sie äußert und warum diese geäußert wird.
Stell dir vor ich fordere staatlich bezahlte Brote für Obdachlose. Wenn ich eine Bäckerei besitze, hat diese Forderung einen ganz anderen Beigeschmack.

 

[Dragonscall]

wenn sich das murica skynet am ende nur auf murica beschränkt sollen die ruhig machen 😂

 

[Muntermacher]

LLMs werden immer Fehler machen. Und es wird immer jemanden geben, der Zugriff auf die unzensierte Technik und damit nicht nur Gutes im Sinn hat.
Da hilft nicht Kopf in den Sand stecken, wie gefühlt bei 99% der Realitätsverweigerer hier, sondern nur proaktiv Systeme harden, harden und noch mehr harden. Selber schlauer sein, nicht nur rumheulen. Aber es muss natürlich erst ein paar Mal knallen, bis es verstanden wird.

Das härten, was Du interssanterweise harden nennst, kostet Geld. Das wird gerne eingespart aufgrund Gewinnmaxinierung bzw Unkostenminimierung. Entsprechend geht es nur über Vorgaben. Wenn das nicht richtig gemacht wird, ist Terminator nicht mehr nur Fiktion, denn so wie der Mensch sich verhält, ist er eine Bedrohung für den Planeten. D.h. ein Terrorist muß nur genugend Verblendung haben und der KI helfen auszubrechen und zu handeln. Klar, da sind noch Meilen zu gehen, aber wenn es im Vorfeld nicht beachtet wird, wird es immer schwerer es später zu implementieren.

 

[fineline]

Angesichts der Speicherkrise und dem Energiehunger von KI hätte ich mir von so einem Konsortium lieber eine Stellungnahme zum Thema Nachhaltigkeit und Ressourcenmanagement gewünscht.

Genau, erst reden alle von der Umwelt, und wenn’s um die KI geht, ist es wieder egal. Das ärgert mich auch.

 

[aufkrawall]

Klappt ja richtig gut, das "harden".

Wird ja aus diversen Gründen gar nicht gemacht. Da muss erstmal ein Evolutionsprozess stattfinden, bzw. in dem Fall ein Massensterben. Was Software angeht, bevor das hier jemand geifernd falsch verstehen will.

 

[Booth]

@aufkrawall Ein Massensterben... im Mail-Umfeld? Ach so - hast Du komplett überlesen, meinen Hinweis.
Und na KLAR gibt es immer Gründe. Meist haben die Gründe irgendwie mit einer einzigen Ressource zu tun: GELD.

Ich finde übrigens, dass ich relativ ruhig auf DEIN Gegeifere reagiert habe. Anderen geifern vorzuwerfen, während Dir schon wieder der Schaum vorm Mund klebt, weil Du an diese ganzen "Realitätsverweigerer" denkst, die Risiken ansprechen... Dir ist nicht klar, wie emotional Du unterwegs bist, oder?

Sorry, dass Du beim Thema Risiko offenbar sofort nen Tilt im Hirn produzierst, und denjenigen Realitätsverweigerung vorwerfen willst, die genau das Gegenteil tun: Risiken der Realität sehen.
Deine wiederholende Abwertung zeigt aber schon ziemlich eindeutig, wer hier Realität verweigert und wer herumgeifert.

Vielleicht versuchst Du in Deinem Hirn mal ein paar Gänge runterzuschalten? Und versuchst, Risiken als solche erstmal nüchtern zu betrachten? Klar sind manche Hinweise vollkommen übertrieben. Aber Du bügelst ja einfach mal ALLE Kritiker ab. Und sorry, wenn ich hier dann auch endlich mal kurz emotional werde: Aber wie bescheuert ist das eigentlich, Kritik wegzuignorieren ohne im Details auch nur ansatzweise darauf einzugehen?

 

[iron_monkey]

Ach ja, gab auch mal eine unrühmliche Wurst die behauptet hat Heroin ist besser als Aspirin bei Kopfschmerzen...
Einem Profisäufer unter der Brücke glaube ich zu 100% das er die Kohle versaufen wird, den dem Geld (Macht) verfallenen Opfern, glaube ich perse garnichts!

 

[Finalspace]

Ich verstehe das nicht. Für lokale KI-Modelle brauch man eh GPU's die fast 5/6 stellig kosten, gerade wenn man wirklich die "Premium" durch kostenlose ersetzen will. Selbst mit 24/32 GB GPU's kann man nicht wirklich viel reißen. Da passt 32K/64K/128K Kontext rein und das reicht gerade mal um ein paar poplige Python-Scripte zu schreiben. Aber ist absolut unbrauchbar für richtige Projekte die aus hunderten wenn nicht sogar aus tausenden von Quellcode-Dateien bestehen.

Ich teste regelmäßig diesen lokalen KI-Modelle in den neusten Varianten und selbst mit Optimierungen wie KV-Cache Kompression, Prediction ausschalten, Batch/GPU Optimierungen kann ich nichts in realen Projekten damit machen.

1,5 MB C file? 80 C++ files? Mehr als 10 Projekte in der Solution? Komplexe MVVM Client Server Architektur? Vergiss es! Mit Claude Opus und 1 Mio Context-Window kein Problem, kostet zwar aber das kann problemlos in solchen Codebasen arbeiten.

Für lokale Modelle um privat etwas zu reisen bräuchte man alleine schon eine GPU mit 48, eher 96 GB VRAM und da sind wir dann nahe bei weit über 5000 Euro und entsprechend auch passendem Stromverbrauch.

Für Firmen brauchst Du mind. einen dedizierten Server mit N-GPU's, weil da ja nicht nur eine LLM läuft sondern pro Agent eine LLM. Die kaufen sich dann eh in der Regel einen kleines AI-Rechenzentrum für ein paar Millionen.

Daher völliger quatsch das einschränken zu wollen. Können sich eh nur die Reichen leisten... und wer profitiert davon... NVIDIA... Wundert mich nicht, das Lederjacke davon warnt...

 

[Zhenwu]

Ich verstehe das nicht. Für lokale KI-Modelle brauch man eh GPU's die fast 5/6 stellig kosten, gerade wenn man wirklich die "Premium" durch kostenlose ersetzen will. Selbst mit 24/32 GB GPU's kann man nicht wirklich viel reißen. Da passt 32K/64K/128K Kontext rein und das reicht gerade mal um ein paar poplige Python-Scripte zu schreiben. Aber ist absolut unbrauchbar für richtige Projekte die aus hunderten wenn nicht sogar aus tausenden von Quellcode-Dateien bestehen.

Ein Glück kann man sich keine entsprechenden Server mieten und darauf laufen lassen, was man will.

 

[Finalspace]

@Zhenwu Lohnt sich nur wenn man das nur sporadisch braucht und wenn ich mir die Preise anschaue bei z.b. Hetzner, nein lohnt sich kein bisschen.

https://www.hetzner.com/dedicated-rootserver/matrix-gpu/

 

[Zhenwu]

@Finalspace Da ist Runpod deutlich günstiger. Da bist du bereits unter 200 € im Monat dabei. Vorausgesetzt der läuft 24/7. Das macht die Hardware zu Hause wahrscheinlich nicht.