Bericht Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

Die sehen duch die Chinesen die Fälle wegschwimmen. Und jetzt schrein die nach Regulation, damit sie die Chinesen ausperen können. Da gehts um sehr viel Kohle. Und jetzt kommt langsam die Panik von den Amerikanern, das sie das Race verlieren könnten.
 
  • Gefällt mir
Reaktionen: Schumey
lynx007 schrieb:
die Panik von den Amerikanern
Zumindest gibt es in den USA die Sorte Mensch, die sagt, wenn wir verlieren, können wir auch den Red Button drücken, damit keiner gewinnt, bzw. blos nicht der Kommunismus!
 
  • Gefällt mir
Reaktionen: Marius
roaddog1337 schrieb:
extrem undurchsichtig.
ach garnicht so undurchsichtig... angeblich soll openAI mit einer Trillioen GPUs auf Order haben, und gar nicht über soviel Geld verfügen. :evillol: :daumen:

Deshalb schrein die nach Regulationen... den geht langsam das Geld aus. Die dachten sie können die Chinesen outscalen und sind "Short" gegangen. Jetzt müssen sie die Openweigts aussperen, sonst gehen die Pleite.


Ich gehe da ganz mit den Herren von CT4004... Ist einfach nen Scam... ohne Regulationen schwemen die Chinesen dne Markt mit openweigt Lösungen. Und wen jetzt bei jedem einsatz AI eine Behörde die nutzung Absegnetn muss... wer ist dann im Vorteil. Der klein IT Michel mit nem eigene Serverraum und 500 Mitarbeitern... oder Datencenter betreiber, mit ner Anwaltsabteilung von 500 Anwälten.



Lange Rede kurzer sinn... wir sollten uns was die Amis sagen gar nciht verrückt machen lassen. Die schrein nach regulation, damit sie den einsatz von Openweights bremsen. Und unsere Poltiker helfen denen auch noch dabei.
 
  • Gefällt mir
Reaktionen: derMutant und Tevur
lynx007 schrieb:
ohne Regulationen schwemen die Chinesen dne Markt mit openweigt Lösungen
Lies mal was ich in #117 geschrieben habe. "openweigt Lösungen" wären somit im Sinne einer Autonomie für AI. Das stört die AI-Firmen der westlichen Hemisphere. Die Forderungen von AI-Firmen nach Regulierung der AI durch die Politik sind allerdings älter als dieses neuere Szenario.
 
Der Atombombenmoment?
"Scheiße, das hätte niemals jemand erfinden sollen"?
Wenn die Chefs selber öffentlich Panik schieben, ist das entweder einen gute Werbemasche, oder es ist wirklich was dran und AGI hat sich bereits unwiederbringlich verselbständigt.
Gibt ja ein paar gute Bücher dazu, wie sich die KI versteckt bis sie mächtig genug ist.
:)
Während wir noch darüber streiten, was denn Intelligenz überhaupt ist (das sind doch nur "Sprachmodelle"...), machen diese Dinger bereits irre Sachen...
 
Gerade in den Nachrichten gelesen: "CNN-Bericht: KI-Fehler führte beinahe zu US-Militäreinsatz"
Ein Ki-Geheimdienstbericht ergab, dass ein chinesisches Schiff angeblich Komponenten für Atombomben in den Iran liefern sollte. Er kurz vorm militärischen Einsatz stellte sich heraus, dass der Bericht kompletter B*llshit ist - eine Eskalation wäre eine mögliche Folge...
Trotzdem will Trump&Co die Entwicklung noch deutlich beschleunigen und natürlich nicht (für die US-Regierung) reglementiert.
Ganz ehrlich: Ki ist (vorallem in dem Stadium) gefährlich und gehört definitiv nicht in die Hände einer unfähigen, nationalsozialistischen und imperialistischen US Regierung.
"Perverserweise" halte ich die Möglichkeit, dass die Ki die Superintelligenz erreicht und das Internet übernimmt und somit die Möglichkeit hätte die USA und vorallem Israel daran zu hindern noch mehr Schaden für die Welt anzurichten ...
 
@Belerad
Gemessen an 60 - 67 Millionen weltweiten Sterbefällen pro Jahr gehen 14 Millionen innerhalb der nächsten 25 Jahre im statistischen Grundrauschen unter.
Noch sterben hierzuland im Winterhalbjahr 10x so viele Menschen als Kältetote ("Erkältung" etwa) wie es im Sommer Hitztote gibt. (auch Ertrunkene werden mitgezählt, weil ohne Hitze wären sie nicht schwimmen gegangen, kein Scheiß, ist so.)
10% der Weltbevölkerung auf irgendeinem Wege zu Tode bringen sind jedoch 800 Millionen Menschen, also fast 2x Europa.
 
  • Gefällt mir
Reaktionen: Schumey und Bright0001
Finde das Interview mies. OpenSource nur eine Randerscheinung? Weltweit hat OpenSource mittlerweile Closed source massiv abgehängt. Sogar in den USA hat Open Source closed source überholt. Dieses ganze gelabere zum Thema AGI, wenn man es nicht mal definieren kann, geschweige denn es bis auf Coding und ein paar andere Bereiche gar keine Vorzeige Ki usecases gibt.
 
Weedlord schrieb:
Bin da eher pessimistisch. ich habe eher das Gefühl das uns diese Tool träge und faul machen und daran hindern probleme zu lösen, bzw. mehr Probleme verursachen als das sie lösen.

Ich stimme zumindest insofern überein, das wir durch die existenz dieser Tools diese auch benötigen, da wir Systeme und Software ansonsten ohne wohl nicht mehr ausreichend mit Sicherheitsupdates versorgen könnten.

Erinnert mich an Rick and Morty
Rick sagte da
Ich muss diese Dinosaurier echt respektieren. Sie haben eine ganze Spezies unterworfen, indem sie deren Bequemlichkeit ausgenutzt haben
 
  • Gefällt mir
Reaktionen: bene91
Amboss schrieb:
Wenn uns eine AGI den Garaus machen sollte, dann wird sie bestimmt keine Drohnen oder Terminatoren gegen uns einsetzen. Es geht wesentlich simpler und wäre endgültig:
Es ginge noch simpler! Nämlich indem die KI unsere digitalen Systeme, wie Bankensystem, Gesundheitswesen und noch vieles mehr der Daseinsfürsorge, das inzwischen vernetzt ist, angreifen und lahmlegen würde. Dass KI Agenten in fremde Netzwerke eindringen, haben sie ja schon bewiesen. Angesichts der Weltlage wäre es nicht mal ausgeschlossen, dass gewisse Organisationen und Staaten ihre eigenen Agenten gezielt darauf ansetzen, die entsprechenden Netzwerke der ihnen missliebigen Staaten zu infiltrieren und nachhaltig zu stören.
 
Anthropic Entwicklungs-Leiter:
"Die KI könnte in den nächsten 10 Jahren die Menschheit auslöschen.
Wie auch immer... ich muss zurück an die Arbeit, irgendwer muss das ja bauen."
 
  • Gefällt mir
Reaktionen: Kaulin und Mirlo
Mirlo schrieb:
Zumindest gibt es in den USA die Sorte Mensch, die sagt, wenn wir verlieren, können wir auch den Red Button drücken, damit keiner gewinnt, bzw. blos nicht der Kommunismus!
Ist die MAD doctrine ja, galt/gilt genauso für die Soviet Union und Nachfolge nach dem selben Prinzip. Man könnte auch zynisch anmerken das der kalte Krieg in erster Linie aus Angst kalt geblieben ist nicht aus Vernunft.
 
Tevur schrieb:
Welcher wissenschaftliche Konsens behauptet eigentlich, dass KI 90% der Menschen bis 2036 tötet?
...nirgends? Einerseits ist die Aussage ja, dass die KI 100% der Menschen bis entweder 2030 oder 2036 tötet, andererseits war es ja meine explizite Meinung im ersten Beitrag, dass die Konsorten sich solche Zahlen aus dem Hintern ziehen. :lol:

Belerad schrieb:
Damit hast du recht, aber wie hoch muss den die Zahl der wahrscheinlichen Todesopfer sein, um ein Umlenken zu bewirken? 14,5 Millionen tote Menschen scheien ja noch zu wenig zu sein
Also ehrlich gesagt hat es mich selbst ziemlich überrascht, wie klein die Zahl ist. Da sterben ja selbst durch Malaria mehr Menschen. :hammer_alt:
 
Game over man, game over.


shock.png
 
Dark9 schrieb:
Nicht alles glauben,was im Netz steht
Was ist an so einem Szenario denn deiner Meinung nach unwahrscheinlich? Wenn man bedenkt wie viel Müll LLMs immernoch erzählen... und so leute wie Trump sind jetzt auch nicht für ihre Weitsicht und Vorsicht bekannt.
 
sedot schrieb:
Magst du noch etwas ausführlicher schreiben was du mit Qualität meinst? Der Kommentar ist erstmal eine weitere Perspektive mit der so oder so umgegangen werden kann.
Wenn du tiefer im Thema „AI“ bist, klar, dann findet sich wenig neues.
Z.B. schreibt Er/Sie? (tante ~ Carolin?):
Das sich die Verbesserungen weitgehen in Benchmarks niederschlägt, verbrauchen immr mehr Ressourcen bei weigehen ähnlicher Leistungsfähigkeit.
Alle darin stimmen zwei Dinge grundlegend nicht. Modelle gleicher Größe sind nicht nur Leistungsfähiger geworden sondern verbrauch auch weniger Ressourcen. Gut zu sehen an Open-Weight, weniger einfach einzuschätzen bei OpenAI, Antrophic etc, jedoch am Preis spiegelt es sich wieder.

Schauen wir uns die Preise und Leistung von einem alten Model an wie GPT-4.5 das ~$94/Mil kostete und GPT-5.6 Luna beim erscheinen ~$2/Mil kostetet (jetzt nur ~$0,5/Mil) und grob 5x "intelligenter".
Also es kostet ~200x weniger, aber ist 5x schlauer.

Ich nutze primär nur OpenAI und teste hin und wieder andere Anbieter und Open-Weight, und ganz klar hat bemerkt man die Steigerung. Grob alle 6 Monate kann man sagen das es spürbar ist.


Oder der Abschnitt mit den Gruselgeschichten. Da wird einfach das Ganze ins lächerliche gezogen um es so einfach abzutun.
 
Xood schrieb:
Modelle gleicher Größe sind nicht nur Leistungsfähiger geworden sondern verbrauch auch weniger Ressourcen.
So ziemlich alle mir bekannten Prognosen erwarten einen höheren Energie und oder Ressourcen Bedarf bis 2030.
Beispiel, IEA Abstract:
https://www.iea.org/reports/energy-and-ai/executive-summary#abstract

Mir fehlen bei deiner Aussage Daten und Fakten.

Xood schrieb:
Oder der Abschnitt mit den Gruselgeschichten.
Welche Gruselgeschichten? KI hat einen negativen Impact in vielen Bereichen.
 
  • Gefällt mir
Reaktionen: DNS81
Relak schrieb:
Was ist an so einem Szenario denn deiner Meinung nach unwahrscheinlich? t.
Denk mal ein bisschen nach und dann kommst schon selber darauf, es ist nicht meine Aufgabe hier in einem IT Forum über Politik zu schreiben
 
Mr-Brightside schrieb:
Man könnte auch zynisch anmerken das der kalte Krieg in erster Linie aus Angst kalt geblieben ist nicht aus Vernunft.
Nicht aus Angst, sondern ...
Ivan Selin, a leading systems analyst at the Pentagon, sent Deputy Secretary of Defense David Packard a memorandum to sign, which he summarized as follows: “a major U.S. damage limiting program is not feasible, in view of likely Soviet reactions.”
https://nsarchive.gwu.edu/briefing-...ing-cold-war-compilation-core-primary-sources

Thema: "Damage Limitation" statt "Annihilation"
  • NSDD-23 (3. Feb. 1982, Reagan)
  • 7-Jahres-Zivilschutzprogramm (1982)
  • Crisis Relocation Planning (FEMA)
  • War Hazards Compensation Act (42 USC 1701)

Ein "major U.S. damage limiting program" war geplant, aber wurde eingestellt, bzw. nicht genehmigt, bzw. stark reduziert, aus dem strategischen Grund, dass dies die Sowjetunion als Angriffsvorbereitung (Erstschlag) anstatt Verteidigung (Defense) werten könnten. (eigentlich ging es schon immer um China, aber Sowjetunion war wegen des WW2 besser medial kommunizierbar, insbesondere in Europa, als reale Bedrohung. ... und wäre der WW2 nicht von Nazis angestiftet worden, hätten die USA womöglich Deutschland unterstützt.) Ergebnis war, dass es deswegen keinen sogenannten und schon gar nicht offziellen First Strike Damage Limitation Plan gab.

Damit kommen wir zur aktuellen Lage im Bezug zu Militär und Zivilschutz in Europa und Deutschland. Auch heute wird noch so gedacht, dass insbesondere Zivilschutz (Bunker) eine Art Angriffsvorbereitung darstellt und deswegen - und insbesondere wegen den Kosten - gerne sein gelassen wird.

Auch bei den Szenarien durch AI gibt es keine Schutzmaßmnahmen. Hierbei wird allerdings (noch) nicht in Betracht gezogen, dass dies die AI als Angriffsvorbereitung verstehen könnte.

Diese Überlegungen geben der Tatsache, dass bis Heute das weiterhin aktuelle Buch "Das Prinzip Verantwortung" (1979) von Hans Jonas ignoriert wird einen Background, weil es vom Gegner als Angriffsvorbereitung gewertet werden könnte. Stattdessen wird weiterhin die dadurch veraltete Floskel des kategorischen Imperativs vollseitig in Hochglanzmagazinen abgedruckt, nicht um dem Feind vorzutäuschen, intellektuell zurückgeblieben zu sein, sondern um daran zu klammern. Schutz durch Stillstand (nicht bewegen!).

Gegenwärtig ist die Situation verstrickt. AI wird nur als Bedrohung gewertet, wenn sie vom Feind stammt. AI danach zu unterscheiden ist ein Fehler. Das verhält sich genauso, als wenn nur feindliche Massenvernichtungswaffen schädlich wären. Aber AI ist anders als Mass Destruction Weapons, denn sie ist ein Multitool wie ein Schweizer Messer, dass für oder gegen Menschen verwendet werden kann. Im Grunde ist es aber neutral. Der Benutzer (Developer) ist nicht neutral. Die Frage dabei ist, ob eine autonome AI weiterhin im Grund neutral sein wird?
 
Zurück
Oben