Bericht Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

Alphanerd schrieb:
Ich frage mich auch, ab welchem Zeitpunkt solche Aussagen eigtl strafbare Marktmanipulation darstellen.
Früher "wussten" die Menschen einfach, dass Werbung lügt.
Ich halte nichts davon, gleich nach der Strafverfolgung zu rufen, nur weil man solche einfachen Erkenntnisse nicht mehr beachten will, weil alles so viel schöner blinkert als früher.
 
@Tevur

Das ist keine Werbung ala "Kauf mein Produkt" sondern eine gezielte Manipulation der Aktienmärkte. Es wird einfach eine falsche Behauptung aufgestellt um die Gunst der Anleger zu behalten/gewinnen.

Vor Trump hat sich die SEC schon für so etwas interessiert.
 
  • Gefällt mir
Reaktionen: Kaulin, bene91 und Wichelmanni
Dass wir von der Terminator Zukunft noch weit weg sind, mag zwar stimmen, aber es braucht auch keine Cyborgs um die Menschheit auszulöschen. Eine rein digitale KI ist dazu genauso oder gar besser in der Lage. Menschen haben sich schon immer selbst ausgelöscht. Alles was die KI tun muss, ist uns durch "Fake News" Gründe dafür zu liefern. Wenn einer auf den Knopf drückt, dann gehen wir unter. Ich bin gespannt was passieren wird, das ist mal eine Sache bei der man nicht sicher sagen kann "das erleben wir sowieso nicht mehr".
 
Alphanerd schrieb:
Er sprach vom bereits veröffentlichten GPT 6.
Anhang anzeigen 1761772


Hast du gut verlinkt also so im Zusammenhang wirkt der Post schon irreführend und wie einfach purer Marketing Hype. Gleich noch dazu die Aussage 400k weitere GPUS... xD

Aber gpt 1 zu astra in 4 jahren

und intern sind die nochmals 8 monate vorraus oder sogar 1 jahr

naja
 
  • Gefällt mir
Reaktionen: Wichelmanni und Alphanerd
Ich hatte von einem Fall gelesen bei dem eine Person einen Flug von einem KI-Agenten buchen ließ und der dann angeblich einen Flug von einer anderen Person gelöscht und ersetzt hat weil kein Platz mehr frei war.

Ob das wirklich so war oder nur erfunden, keine Ahnung, aber war zumindest eine nette Story. :D
 
Xood schrieb:
Klar, es war ein Kommentar, aber für mich hat der Inhalt keine Qualität.
Magst du noch etwas ausführlicher schreiben was du mit Qualität meinst? Der Kommentar ist erstmal eine weitere Perspektive mit der so oder so umgegangen werden kann.
Wenn du tiefer im Thema „AI“ bist, klar, dann findet sich wenig neues.
 
  • Gefällt mir
Reaktionen: Sturmflut92, DNS81, Xood und eine weitere Person
tomgit schrieb:
Mit dem Sentiment, dass die Transformer-Architektur bis zur AGI mitlaufen wird, gehe ich absolut nicht konform
Lustigerweise offenbart er mit dieser Aussage ja durchaus ein bestimmtes Verständnis von AGI bzw. Intelligenz: Nämlich als hochgradig ausgefeilte Form der Next-Token-Vorhersage, trainiert anhand einer ausreichend großen Menge an Daten. Damit geht er also davon aus, dass sich jedes beliebige Problem durch Interpolation aus existierenden Mustern lösen lässt.
 
  • Gefällt mir
Reaktionen: DNS81, rooney723, tomgit und 2 andere
"Noch trägt die Transformer-Architektur, laut Geiping wahrscheinlich sogar bis zur Allgemeinen Künstlichen Intelligenz (AGI)."
"Wir wissen, was AGI ist, wenn sie da ist"

Besser als Kaffeesatz-Leserei ist das aber auch nicht. Andere Experten sehen das anders. LLMs haben kein "Verstaendnis" von der Welt und oder von Ursache-Wirkungs-Beziehung.
Sie erkennen statistische Muster aus ihren Trainingsdaten. Das kann bei (trainierten) Aufgaben außerordentlich stark wirken, aber bei wirklich neuen Situationen oder veränderten Bedingungen fehlt das kausale Verstaendnis.
Warum fahren Teslas wohl durch geschlosse Schranken ?
https://www.golem.de/news/autonomes...t-im-fsd-modus-bahnschranken-2603-206272.html
Oder warum empfehlen LLMs Pizza mit Kleber zu fixieren ?
https://www.n-tv.de/wirtschaft/Pizz...-Googles-KI-halluziniert-article24963714.html

Sie generieren nur Text oder Audio oder Video.. aber sie verstehen nicht was sie generiert haben.
 
  • Gefällt mir
Reaktionen: Heavynator, Redirion, iron_monkey und 4 andere
@Andy vielen Dank! Toller Artikel. Sehr gute Balance. Mit das beste was es in den letzten Jahren hier zu lesen gab.
 
  • Gefällt mir
Reaktionen: Andy und DNS81
Es gibt ja noch gar keine Vision / Übereinkunft, wie unsere Zukunft mit AI eigentlich aussehen soll.

Wie gehen wir damit um, dass ein Grossteil der Menschen nicht mehr Teil der Wertschöpfungsketten sein wird?

Wie verhindert man eine weitere Konzentration von Technologie auf eine Handvoll Firmen in einem einzigen Land, die auch eine Konzentration von Macht bedeutet?

Die Gedanken um die Sicherheit aktueller Systeme ist das eine, aber in absehbarer Zeit warten deutlich größere Fragen auf uns alle…
 
  • Gefällt mir
Reaktionen: Alphanerd
bene91 schrieb:
@Der_Picknicker Sehe ich ähnlich. Zumal ich es etwas widersprüchlich finde das die Unternehmen nach Regulierung schreien, weil sie sonst die KI Entwickeln, welche die Menschheit auslöschen könnte. Die ersten die sich selber aus Sicherheitsbedenken bremsen und einschränken könnten sind die Unternehmen selbst. Da braucht es keine externen Regulierungen für. Es wird nichts so heiß gegessen, wie es gekocht wird
Eine Firma bremst sich, die anderen ziehen weiter durch. -> Die eine Firma verliert das Rennen. Deswegen wollen sie, dass der Schiri eingreift - am besten weltweit. Und so gelten für alle die selben Regeln. Wäre im übrigen auch für uns gut. Dann geht der Bedarf an KI Rechenzentren etwas zurück.
 
guter artikel, aber bei der verdopplungs-zahl würd ich bremsen. "alle ein bis zwei monate" steht so in keiner messung. metr kommt auf sieben monate über sechs jahre gerechnet, in 24/25 beschleunigt auf vier. und das ist der 50-prozent-horizont, also die aufgabenlänge die der agent in der hälfte der fälle packt. bei 80 prozent siehts deutlich magerer aus. ein agent der ne woche läuft hat halt noch keinen wochen-horizont, das wird dauernd durcheinandergeworfen 😅

exploitgym fand ich dann fast beruhigend :D 898 echte lücken, das modell kriegt den quellcode, nen fertigen trigger-input und nen container zum rumprobieren. also hausaufgabe mit halber lösung. bestes modell 157 treffer, macht 17 prozent. stark für ein sprachmodell, aber "internet wird in sechs monaten überrannt" klingt dann doch weng anders... :evillol:

der eigentliche brüller steckt woanders: geiping ist ja kein zaungast, der hat huginn mitgebaut. das ding das test-time-compute über rekurrente tiefe im latent space macht statt über tokens. also exakt die technik hinter astra, über die sich gerade alle in die haare kriegen. und was macht openai damit? rekurrenz gedeckelt, rechentiefe laut pachocki nah an gpt-4 gehalten, monitoring draufgesetzt damit die CoT lesbar bleibt.

heißt: labor verzichtet freiwillig auf leistung, damit man weiter reingucken kann. ziemlich genau das gegenteil von kontrollverlust ;) und dass greenblatt und shlegeris trotzdem sturm laufen ist kein widerspruch. die haben letztes jahr mit ~40 leuten von openai, deepmind, anthropic und dem uk-institut das papier geschrieben das genau diesen fall kommen sah, hinton und sutskever mit drauf. dass die jetzt laut werden ist der plan, nicht der fehler.

ach, und reward hacking: heißt in der rl-ecke seit ewigkeiten specification gaming, deepmind pflegt ne liste mit dutzenden fällen. klassiker ist das boot im rennspiel das im kreis dreht und items einsammelt statt ins ziel zu fahren, 2016. nix hinterhältig, nur schlampige zielfunktion.

was mir in der ganzen debatte fehlt: man kann inzwischen in die dinger reingucken. sparse autoencoders, attribution graphs. alles lückenhaft, schon klar, aber vor drei jahren war da schlicht nix. mir wär lieber die energie ginge da rein statt in prozentwetten aufs weltende 😂

(kleinkram am rande: die 10 prozent sind von hubinger, coxon ist der der gegangen ist)
 
  • Gefällt mir
Reaktionen: Andy und Backfisch
Also normale Nutzer hat man aber Stunden- und Wochenlimits bei den Tokens, die verhindern, dass man einen Schwarm mit 1.00 Agenten laufen lassen kann.
Nix verstehen

Was ich auch nicht verstehe: Coxon ist angeblich gegangen um vor den Gefahren freier warnen zu können. Aber das Unternehmen, bei dem er war, warnt jetzt genauso vor den Folgen?
Wieso ist er dann aus dem Unternehmen gegangen? Das stinkt doch zum Himmel.
 
  • Gefällt mir
Reaktionen: McTheRipper, bene91 und Wichelmanni
Fighter1993 schrieb:
Denen geht die Kohle aus. Sie können das Tempo im Jahr 2027 nicht mehr halten. Deshalb rudern die jetzt zurück.
Ich würde eher sagen dehnen gehen die Ressourcen in Form von Serverfarmen aus. Weil diese Farmen benötigen extrem viel Wasser für die Kühlung & Strom für den Betrieb. Deswegen versuchen sie auch bei allen Staaten auf der Welt zu werben damit sie dort weitere Serverfarmen aufbauen dürfen (in Deutschland gab es schon bei einem Treffen eine Absage an Sam Altman persöhnlich von der Regierung) damit diese zu einem gigantischen Weltumspannenden Server-Netzwerk für die KI Berechnung zusammengefasst werden können.
Das Problem ist nur das geht nicht so ohne weiteres weil die Staaten (wie Deutschland auch) alle ihr eigene KI Süppchen kochen wollen. Und gleichzeitig gibt es Weilweit in jedem Land Massiv viele kleine Ki-Startups bis große Lokale Cloud Firmen die in den KI Bereich einsteigen.

https://www.plattform-lernende-systeme.de/ki-landkarte.html

DAS ist nur für Deutschland schon extrem viel! Ihr wählt dort einen Hauptbereich (die farbigen Menüpunkte) oben zuerst dann erscheint die Karte mit der Anzahl im jeweiligen Bundesland und beim drüber gehen mit dem Mauscursor die dazugehörigen Firmen...

Viele weitere befinden sich im Bau...alle benötigen Strom & Wasser....

Demgegenüber hat China in der Wüste ein gigantischen Solarpark gebaut der mehr Strom liefert als hier ein Atomkraftwwerk. Und genau das bauen sie sie aus bzw. weitere für Ihre KI Rechenzentren ohne das die Bevölkerung etwas dazu zu sagen hat. Während in den USA aktuell in jedem Bundestaat die Leute auf die Barrikaden gehen wo Ausbauten oder Neubauten stattfinden sollen weil Wasser knapp wird und Strompreise sich schon für die Bevölkerung verdreifacht haben!

DAS ist der Hintergrund für den Ruf nach Regulierung. Eine Regulierung die die Konkurrenz insbesondere aus China aber nicht nur die ausbremsen soll. Weil die US Platzhirsche nicht mehr in dem Tempo wie zuvor ausbauen können da der Wiederstand wächst.

JEDER CB User kennt das nervige ZIRPEN aus dem PC von insbesondere der Grafikkarte in Spielen...viele tauschen beim Neukauf solange um bis sie eine möglichst ohne Störgeräusche bekommen. In den KI-Rechenzentren mit tausenden davon interessiert das niemanden und das klingt dann SO:


Na wer möchte ein KI Rechenzentrum in seiner direkten Nachbarschaft in Deutschland? 😏 🤕
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Alphanerd
Was hat sich denn bei den Modellen getan?
Vor ein paar Monaten haben sie noch das nächste Wort "berechnet" ohne Chain of Thought war da also kein denken möglich.

Wo ist da jetzt der Sprung gekommen, dass es die offenbar nicht mehr gibt? Und womit werden die Modelle dann Trainiert?

Und wo gibt es Modelle die sich abseits vom Training selbst weiterentwickeln können?
 
Gamefaq schrieb:
ohne das die Bevölkerung etwas dazu zu sagen hat
Weil die Solaranlagen weit weg von Bevölkerung sind, China parallel massiv in die eigene Wasserversorgung investiert (die bauen Pipelines in die Regionen in denen die Versorgung in Zukunft schlechter wird durch den Klimawandel) und haben bezahlbare Energiekosten für ihre Bevölkerung.
 
  • Gefällt mir
Reaktionen: iron_monkey
Shigu schrieb:
Was ich auch nicht verstehe: Coxon ist angeblich gegangen um vor den Gefahren freier warnen zu können. Aber das Unternehmen, bei dem er war, warnt jetzt genauso vor den Folgen?

Nichts ist schwarz|weiß - also außer Denkweisen.

Was wollen die Unternehmen auch machen? Sollen sie sich etwa gegen die KI-Angst stellen?

Die ist schnell geschürt. Und das schönste, eindringlichste Bild dafür findet sich auch hier im Interview natürlich wieder:

Terminator

Wenn ich als Unternehmen nicht aufpasse, wie ich mich positioniere, werde ich von der öffentlichen Meinung schnell hinweggefegt. Die Anti-KI-Stimmung steigt ohnehin; das Thema polarisiert zunehmend. Auch Politiker werden das mehr und mehr für sich entdecken - irgendwann ist es ein fester Punkt in den Wahlprogrammen.

Die Strategie der Unternehmen ist einfach, der Debatte den Wind aus den Segeln zu nehmen. Genau deswegen gehen sie mit.

Und wieso sollten sie etwaige Gefahren auch komplett absprechen oder verharmlosen?

Schlechte, schockierende Schlagzeilen sind bei dem Thema vorprogrammiert. Reporter lieben das Terminator-Bild und die Angst und die einhergehenden Clicks.

KI, die sich weiterentwickelt von allein. Es ist wie ein Virus, der sich verbreitet. Oh, der Horror!

Doch was die KI selbst macht, ist ja selbst nur ein Teilaspekt.

Da diese Produkte für den Massenmarkt gedacht sind, werden Menschen sie zwangsläufig einsetzen. Und ich würde mir viel eher Sorgen machen, was "normale" Menschen damit anstellen.

Die CEOs proben wahrscheinlich schon für ihre nächsten Auftritte bei CNN. Von daher ist es aus Sicht der Unternehmen nur logisch zu sagen: "Ja, wir sind uns der Risiken bewusst. Klar, reguliert uns, bremst das Wachstum."

Und im Umkehrschluss hast du Dozy Don: "Full Throttle ahead, Chyna bad".

Jetzt können sie sich wieder hinstellen mit dem Argument, dass sie ja dafür waren, die Entwicklung zu verlangsamen ^^

Das ist ein kuratiertes Ping-Pong-Match für den öffentlichen Diskurs.
 
  • Gefällt mir
Reaktionen: rooney723
Zurück
Oben