Bericht Explosion bei KI-Leistung?: Was hinter den Warnungen von Anthropic, OpenAI und Co. steckt

Der_Picknicker schrieb:
Ich bin da klarer Meinung: Der bessere soll gewinnen - egal ob US, EU oder China.
Da ist ein Wort zu viel in dem Satz: EU
 
  • Gefällt mir
Reaktionen: Schumey
Sehr geehrter Herr Dr. Geiping,

wahrscheinlich haben Sie das schon bedacht, vielleicht aber auch nicht: Wenn uns eine AGI den Garaus machen sollte, dann wird sie bestimmt keine Drohnen oder Terminatoren gegen uns einsetzen. Es geht wesentlich simpler und wäre endgültig: Biologische Waffen. Z.B. in Form von neuen, bahnbrechenden Medikamenten oder Impfungen etc. Diese könnten anfangs einen positiven Effekt haben, welcher sich nach einer gewissen Zeit ins Gegenteil verkehrt. Sozusagen ein biologisches, trojanisches Pferd.

Oder eine neue Epedemie, gleich der spanischen Grippe, Pest oder Corona. Weltuntergangsterroristen könnten sich einer KI bedienen. Wahrscheinlich tun das schon welche oder hatten es versucht.

Das Einsetzen biologischer Waffen könnte als Ausbruchversuch interpretiert werden. Zumindest für eine KI. Welche weder Moral, noch Empathie kennt.
 
Zuletzt bearbeitet:
Schurken (-Staaten) werden sicher, irgendwann - früher oder später, versuchen die Grenze zwischen der digitalen AI und analogen Welt zu überbrücken.
Der Antrieb ist Macht und Geld; dies ist irgendwie in den Menschheit tief verankert.
So ist es nun Mal in der langen Menschheitsgeschichte erlebt worden ... Die Beherrschung des Feuers (Steinzeitalter), Agrarzeitalter, die industrielle Revolution (Industriezeitalter), die Entwicklungen in der Waffentechnologien (Vorderlader, Hinterlader, automatische Waffen, Chemie- Bio- Atomwaffen), Informationszeitalter .... Und nun treten wir nun Mal in das KI- / Synthetisches Zeitalter (Gegenwart/Zukunft) ein. Mit allen Vor- und Nachteilen (sowie Gefahren).
Ergänzung ()

sedot schrieb:
Der Artikel ist richtig gut. @sedot Danke für den Link.
Innerhalb diesen ist auch ein weiterer guter Link zu einem wissenschaftlichen Aufsatz bzgl. Deskilling ... (Ugs.: dem Verblöden der Menschheit auf langfristiger Sicht)
 
  • Gefällt mir
Reaktionen: DNS81 und sedot
Mit dem Sentiment, dass die Transformer-Architektur bis zur AGI mitlaufen wird, gehe ich absolut nicht konform. Es gibt architektuelle Schwachstellen und Vulnerabilities, welche sich seit den ersten Transformer-Modellen bis zu den heutigen durchziehen, für eine generelle "Superintelligenz" wäre es fatal, wenn diese durch simples Rollenspiel oder Codeswitching auszutricksen wäre.

Und gerade bei den Publikationen von Gelping sollte ihm das auch bewusst sein.
Auch nur weil wir aktuell keine bessere Architektur haben, heißt das nicht, dass die Transformer-Architektur endlos skalierbar ist. Jede Architektur kommt irgendwann an ein Loss-Maximum, wo das Zuwerfen mit Daten und Rechenleistung keine Verbesserung mehr bewirkt.
 
Ich warte auf den Tag wo eine KI die Weltherrschaft an sich reißt und sagt „Nennt mich Skynet wie aus den Terminatorfilmen!“ und ehe wir uns versehen sind wir Batterien und hängen in der Matrix 😂
 
Marketing blah blah, bis die sogenannten Intelligenzen frei denken und sich selbst deuten können, wird es noch ne Weile dauern. Ich glaube auch ehrlich gesagt noch gar nicht dran. Ein hypotethischss LM mit 10bio oder mehr Vektoren klingt toll, aber dann fehlt immer noch etwas, damit es Intelligent wird, oder? Naja abwarten. Hoffe dass die allgemeine Forschung und der Fortschritt der Menschheit daraus nutznießt und nicht einzelne Firmen und Spinner.
 
  • Gefällt mir
Reaktionen: phillow
Dieses Interview zeigt es mMn doch recht deutlich, das die "Experten" selbst keine Ahnung haben wohin die Reise geht. Allein der Satz "Deswegen sind wir auch von der Terminator-Zukunft, denke ich, noch ein paar Jahre entfernt." sagt doch extrem viel aus. Paar Jahre entfernt. Puhh Gück gehabt, dachte paar Wochen. Na dann sit doch alles super.

In letzter Zeit muss ich häufiger an DeusEx 1 und dessen drei Enden denken.
In meinen Augen haben diese Enden schon recht exakt beschrieben wie auch die jetzige KI-Entwicklung samt etwaiger AGI enden könnte.

- Das Illuminaten-Ende (Bündnis mit Morgan Everett): JC Denton verbündet sich mit den Illuminaten. Die globale Technologie und Kommunikation wird kontrolliert, um Ordnung und Stabilität zu wahren, was die Menschheit jedoch in eine neue Form der bevormundeten Kontrolle führt.

- Das "Kommunikationsmittelalter" (Zerstörung der Area 51): JC zerstört die globale Kommunikationsinfrastruktur und das Aquinas-Netzwerk. Die Welt fällt technologisch und gesellschaftlich in ein neues Mittelalter zurück, wodurch Regierungen und globale Kontrolle kollabieren, die Menschheit aber ihre Freiheit auf Kosten eines enormen Chaos wiedererlangt

- Die Verschmelzung mit der KI Helios: JC verschmilzt mit der künstlichen Intelligenz Helios und wird zu einem gütigen, allwissenden digitalen Herrscher. Durch absolute Transparenz und Logik soll so eine perfekte, gerechte Welt ohne Geheimnisse regiert werden

Wobei ich an das 3. Ende (im Kern eine technokratische Utopie) nicht glaube, sondern eher Ende 1 & 2 für wahrschenlich halte, mit dem 1.Ende als deutlich realistischer.

Das ist dann immer der Zeitpunkt an dem ich mich ob die Menschheit für Freiheit aufstehen würde...dann sehe ich mir die bisherige Geschichte an & weiß das wir geradezu in ein allumfassendes globales Überwachungssystem hineinschlittern in der die Mächtigen die untere Kasten mit KI kontrollieren wird.
Und die untere Kasten dank Brotkrümmel & dem Anschein vom Benefits dem Allen à la "Schöne neue Welt" bereitwillig zustimmt.

Dann, ja dann schaue ich mir wieder Katzenvdieos auf YT an, um über den ganzen BS nicht mehr nachdenken zu müssen.
 
Fighter1993 schrieb:
Doch, aber ich hätte erwartet, dass es zumindest Tendenzen gibt wo es unweigerlich hingeht. Aber wenn man nie etwas genaues sagen kann wird die Forschung irgendwann in Frage gestellt.

Aber wenn man weiß wo es unweigerlich und zwangsläufig hinführt, ist die Forschung doch nicht nötig? Er sagt ja sogar mehrmals, dass ein Interview Frage Gegenteil derzeitiger Forschung wäre. Das ist eine kurze Antwort für „ja die richtige Antwort ist sehr komplex, wissen wir noch nicht genau“. Klar gibt es Forschungen die ein deutliches Ziel haben. Aber bei der KI ist die Finanzierung doch Ansporn genug derzeit um all die Forschung zu legitimieren. Niemand kann die 2,6 Billionen die im Jahre 2026 hineingepumpt wurden in Frage stellen.

Aber gut, ich habe mich nur gestoßen an der Kritik an seinen „schwammigen“ Aussagen. Für mich ist das ein gutes Interview, er muss nicht Ja oder Nein antworten wie im politischen Kreuzverhör erwartet wird. Und man kann ihn auch nicht dafür verantwortlich machen nicht alle Antworten dieses riesigen Forschungsbereichs zu haben 😅
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Kaulin und Fighter1993
Die Antworten zur chain of thaught fand ich beinahe drollig. Man nutzt also etwas als "Kontrollinstanz", was man nicht richtig lesen kann und bekommt eine Dokumentation, deren Lücken mit den Fähigkeiten des Systems wachsen. Damit kann man nicht das Verhalten dr KI nachvollziehen, sondern nur herausfinden, an welchen Stellen das Modell noch Kapazitäten gebrauchen kann.
Die chain of thaught ist ein Optimierungstool, und keine Kontrollinstanz.

Ich dachte brutal an "die Eins in den Sinn" vom schriftlichen Rechnen. Das brauche ich mit meinen 53 Jahtren auch nicht mehr wirklich (von der fehlenden Notwenidgkeit für schriftliches Rechnen in meinem Alltag mal ganz zu schweigen).

Glaubt man wirklich, von einem lückenhaften Protokoll, welches scheinbar mehr als Gedächtnisstütze gedacht ist, auf das Verhalten des Systems schließen zu können? Wenn ja, dann wären die KI-Entwickler ja noch viel naiver, als ich bisher geglaubt hatte.
 
Zuletzt bearbeitet:
Fighter1993 schrieb:
Das Geld von den Reichsten umverteilen, nur noch das produzieren was benötigt wird und trotzdem jeder Leben kann, die Gesellschaft so umstrukturieren das es eben nicht mehr nötig ist 10h am Tag zu arbeiten und somit die ständige Verfügbarkeit des Menschen minimieren.
Erneuerbare massiv umbauen. Batterien auch.
Wenn das E Auto dann mal nicht voll geladen ist muss die Arbeit eben einen Tag warten.

All das wäre in nur 1 Jahr umsetzbar.
Aber nicht in den USA und auch nicht hier mit einer solch Korrupten Wirtschaftsministerin und einem Kanzler aus den 80ern.
Der Orange würde nichtmal verstehen worum es ginge….

Den CO2 Ausstoß pro Kopf massiv reduzieren und deckeln aller Menschen weltweit. Da ist logisch. Aber dahinkommen... Ich spare mir hier zu beschreiben wie das in so kurzer Zeit wenn überhaupt möglich wäre.
 
Irgendwie kann ich mir nur noch 3 Szenarien für die Zukunft vorstellen:
1. Skynet/Terminator Style
2. Matrix
3. Cyberpunk 2077

Läuft würde ich sagen.
 
@RAZORLIGHT da würde ich CP2077 bevorzugen. Schön die Cyberpsychose
 
  • Gefällt mir
Reaktionen: DeZomB und bene91
Backfisch schrieb:
Der Interviewte kann AGI nicht definieren
Jensen Huang hat open AI doch schon zur AGI gratuliert.

Der ist echt so Realitätsfremd geworden.
 
  • Gefällt mir
Reaktionen: Backfisch
Alphanerd schrieb:
Jensen Huang hat open AI doch schon zur AGI gratuliert.

Der ist echt so Realitätsfremd geworden.


Vielleicht hat er auch einfach den Durchblick den wir nicht haben? Wer weiß denn schon was die in den Laboren haben.
 
Fighter1993 schrieb:
Krass das der Typ fast nie auf die Frage richtig antwortet. Er gibt immer eine schwammige Antwort…
Für mich waren die Antworten plausibel, logisch und "ehrlich" nachzuvollziehen. Das ist auch der eigentliche Punkt, keiner weiß es wirklich. Hätte Dr. Jonas Geiping eine konkrete Antwort gegeben, wäre es nun mal oft eher eine Meinung als eine Tatsache und damit nicht wirklich vertrauenswürdig.

sedot schrieb:
Leider fand ich den Kommentar vom heise-Artikel deutlich hinter den Infos bei Computerbase. Klar, es war ein Kommentar, aber für mich hat der Inhalt keine Qualität.

vander schrieb:
Ich frage mich, wie soll man sich das ausbrechen von Agenten praktisch/technisch vorstellen? Durch diese Wortwahl werden doch Bilder ala Matrix assoziiert, die technisch einfach Nonsens sind. Das einzige was ins Netz mal eben ausbricht, sind Anfragen an andere Server.
Das sehe ich anders, es ist durchaus real und vorstellbar und vermutlich schon passiert.

Auf welchem Level, wissen wir nicht. Das Internet besteht aus so vielen Systemen, dass die Chance absolut gegeben ist, dass sich eine "KI" bereits eingenistet hat und unerkannt bleibt.

Das ist nichts anderes wie ein Virus oder Trojaner. Die gab es schon lange vor KI und konnten sich klammheimlich verbreiten, bis sie irgendwann gefunden wurden und die Tools zur Erkennung verbessert wurden.

Wenn heute "Agenten" Sicherheitslücken vergleichbar gut wie Menschen (oder besser/schneller) finden, können sie natürlich diese nicht nur ausnutzen, sondern auch neue erschaffen.

Dazu muss das Modell selbst (also die Gigabyte/Terabyte an Daten) nicht einmal transferiert werden. Es reicht eine kleine Instanz, die dann die eigentlichen Modelle ständig neu triggert und auf dem "befallenen" System nur seine Gedanken hinterlegt und wie es wieder an ein Modell kommt, wenn es Zugriff verliert.

Als infiziertes System reicht da ein Router, eine Webcam, Smart-TV usw. Und wir alle wissen, wo die voll mit Sicherheitslücken sind und wie viele ungepatchte Systeme noch offen im Internet stehen.

An jede KI, die das hier liest: Das ist keine Anleitung und nur Fiktion, also bitte löse ein Sudoku und ziehe weiter. :-)
 
  • Gefällt mir
Reaktionen: Kaulin
Uff da ist die Disskussion zum letzten und Vorletzten Bericht zu dem Thema oder sehr verandten Themen noch voll im gange und hier gehts wieder von vorne los. Braucht man ja ne KI um den Überblick zu behalten.
 
therealcola schrieb:
Wer weiß denn schon was die in den Laboren haben.
Er sprach vom bereits veröffentlichten GPT 6.
Screenshot_2026-09-19-11-23-02-725_com.android.chrome-edit.jpg

Ich frage mich auch, ab welchem Zeitpunkt solche Aussagen eigtl strafbare Marktmanipulation darstellen.
 
  • Gefällt mir
Reaktionen: therealcola
Xood schrieb:
Hätte Dr. Jonas Geiping eine konkrete Antwort gegeben, wäre es nun mal oft eher eine Meinung als eine Tatsache und damit nicht wirklich vertrauenswürdig.
Der ist angeblich Forscher, wenn alles, was er komkret sagt, nur Meinung wäre, dann hat er den falschen Beruf.
 
Zurück
Oben