News KI-Sicherheitsdebatte: Sam Altman warnt ebenfalls vor Kontrollverlust durch KI

[t3chn0]

Als wenn die Amerikaner den Chinesen den Markt überlassen würden.

Die Gründe sind nachvollziehbar, allerding ist für mich die Umsetzung absolute Utopie.

Die Chinesen werden die K.I grenzenlos weiter pushen. Da bedeutet fast jede Woche mit angezogener Bremse, ein strategischer Verlust auf Weltebene.

Wenn man in der EU aus ethischen Gründen dieser Wahrheit nicht ins Auge blicken will, wird man, wie so oft, ein böses Erwachen haben.

 

[bAssI23]

Naja, @Ark und @bAssI23 , meiner Meinung nach treten ganz allmählich die Probleme auf, vor denen schon lange gewarnt wird, daß sie irgendwann passieren werden.

Definitiv. Aber bisher hats sie ja auch nicht interessiert. Im Gegenteil. Gabs ein Bericht, dass iwo eine KI "ausgebrochen" ist, hat ein anderer Hersteller rausgehauen "ach ja, unsere KI kann das auch" ...

Auch negative PR ist PR

Das Risiko, dass eine KI gefährlich werden kann, besteht doch nicht erst ab dem Moment, wo sie gefährlich wird. So dumm ist nun wirklich keiner dieser CEOs. Nicht mal Elmo traue ich das zu.
Sie werden überheblich sein und denken, dass sie das im Griff haben aber wissen, tun sie das schon seeeehr lange.
Und das bringt mich halt zu dem wirtschaftlichen Faktor. Es ist unfassbar teuer, mit einer derartigen Geschwindigkeit neue Modelle zu entwickeln. Und wenn wir eine KI Blase haben, wird diese definitiv platzen, sollten diese CEOs sagen "wir können uns diese Geschwindigkeit nicht mehr leisten".
So schiebt man Sicherheitsbedenken und den Staat vor, und hoffentlich bleiben Anleger ruhig und wollen (noch) nicht ihre Rendite sehen.

 

[knoxxi]

Mein eigenes KI Modell (noch nicht veröffentlicht) ist viel mächtiger und gefährlicher und ich könnte noch viel früher die Kontrolle darüber verlieren.

Und für nur 10 Mrd. € wirst Du es an die Kette legen und nicht auf die Menschheit loslassen!!1!!

 

[msv]

Gavin Karlmeier hat das in seinem lesenswerten Thread auf Bluesky ganz gut zusammengefasst, finde ich:

 

[Blaexe]

@Rhemsey

Inhaltlich mag das korrekt sein, aber wenn man schon ChatGPT nutzt sollte man die Ausgabe nicht so offensichtlich 1:1 im typischen ChatGPT Stil als eigenen Post vermarkten...

@msv

Was bitte soll daran lesenswert sein? Das hat auch nicht mehr inhaltliche Tiefe als die gängigen Diskussionen hier.

https://x.com/MajmudarAdam/status/2098881885200081234

Habe ich bereits in einem anderen Thread gepostet - nimm das mal als Gegenbeispiel. Du siehst da qualitativ und von der Glaubwürdigkeit her wirklich keinen Unterschied?

 

[DragonScience]

Vielleicht ist ja ne allumfassende KI doch eine blöde Idee. Die muss sich ja nicht selbstständig machen aber was soll die KI aufhalten in Namen von irgendwem Systeme anzugreifen, lahm zu legen oder alles tut um Bitconis abzugreifen, Infos und Baupläne für Chemische oder Biologische Waffen, Infos über kritische Infrastruktur, geheime Militäreinrichtungen, Bunker. Die KI kombiniert alles mit allem und kriegt das alles selber raus und weis alles über den Feind und über die eigenen Leute. Wie will man da noch Hürden oder sowas wie eine Moral einlaufen lassen ? Die verrät doch jedem alles.
So was wie "Jarvis" aus Iron Man wäre bestimmt mega, wenn man aber überlegt das er hilft ein Kampfanzug zu bauen wo alle anderen Chancenlos sind, hat des ganze doch ein negatives Geschmäkle.
Kann man so was überhaupt einer KI einpflegen das sie Wissen hat, sie aber nicht preis gibt weil die KI weis das das falsch ist. Und wann ist Wissen falsch oder doch richtig oder nötig ?
Und jeder ist dabei seine eigene KI mit seinen Vorstellungen und Motiven zu designen.
Könnte richtig beschissen werden.

 

[Blaexe]

Kann man so was überhaupt einer KI einpflegen das sie Wissen hat, sie aber nicht preis gibt weil die KI weis das das falsch ist. Und wann ist Wissen falsch oder doch richtig oder nötig ?
Und jeder ist dabei seine eigene KI mit seinen Vorstellungen und Motiven zu designen.
Könnte richtig beschissen werden.

Nennt sich "Alignment" und genau darum dreht sich ja die Diskussion: Niemand weiß ob das möglich ist. Wirklich niemand. Wenn wir aber mit Vollgas weiter machen wird die Chance dass wir es hin kriegen eben nicht gerade größer.

 

[Weyoun]

Ich hätte da einen vorschlag.

Macht die KI was illegales gehen der CEO CTO und ein Viertel des Aufsichtrats für 10 Jahre in den Kanst ich bin mir 100% Sicher das die ganzen bedenken von jetzt auf gleich verschwinden werden.

Warum nur ein Viertel des Aufsichtsrats? Die Arbeitgeberseite stellt in den USA (anders als in Deutschland) faktisch 100 % der stimmberechtigten "Köpfe". Also kann man den gesamten Vorstand plus Aufsichtsrat staatsfinanzierter Kost und Logis zuführen".

 

[Azeron]

Die Büchse der Pandora ist bereits offen, jetzt ist es zu spät über sowas nachzudenken.

 

[Alphanerd]

Lese immer wieder Leute die schreiben das dass noch gar keine richtige künstliche Intelligenz ist und noch Jahre entfernt davon ist, aber irgendwie scheint die sich ja schon selbständig zu machen

Jensen Huang hat doch zur ersten AGI beglückwünscht.

Aber der erzählt eh viel Blödssinn, wenn der Tag lang ist.

 

[BOBderBAGGER]

Warum nur ein Viertel des Aufsichtsrats?

Ich wollte nicht zu streng sein und die entscheiden dann untereinander wer geht.

 

[Flutefox]

An der Stelle möchte ich kurz auf den Artikel bzw. Kommentar bei Heise hinweisen: Kommentar: Die einmal mehr besorgten „KI“-Bros

An so etwas würde auch die hiesige Redaktion hier gut tun. Es ist verständlich, dass man sich hier redlich bemüht, den Nutzern Content zu bieten, was ja auch im Sinne des Selbsterhalts ist, da Klicks = Geld sind,
allerdings ist diese tägliche Berichterstattung über "Ki Bro 1 sagt und Ki Bro 2 denkt" aktuell echt anstrengend.

Abseits von GPUs, CPUs etc. gäbe es dennoch genügend Hardware Releases, über die man berichten könnte, genau wie Hintergrundartikel zu bestimmten Themen oder ein wenig bei Storage Review und Serve The Home abgucken. Manchmal beschleicht mich das Gefühl, dass man gar keine Lust auf den Aufwand hat.

Selbst das mittlerweile an der künstlichen Lebenserhaltung hängende Hardwareluxx (ich würde mir wünschen, dass Ihr fusioniert) liefert tägliche Artikel aus, zum Beispiel heute zum ESMC Richtfest, wovon hier gar nichts heute zu lesen ist. https://www.hardwareluxx.de/index.p...27-chip-fabrik-von-esmc-feiert-richtfest.html

DISCLAIMER: Das ist keine Kritik an euren Personen, bevor das mal wieder im Aquarium landet.

Ergänzung (15. September 2026)

Jensen Huang hat doch zur ersten AGI beglückwünscht.

Aber der erzählt eh viel Blödssinn, wenn der Tag lang ist.

In so einer Lederjacke wird es halt auch echt heiß...

 

[Alphanerd]

Ich wollte nicht zu streng sein und die entscheiden dann untereinander wer geht.

Die Diskussion/Kämpfe bitte in einer HBO oder Netflix Serie verwursten 😂

 

[Cyberpunk61]

Apropos Jensen Huang, der wurde während einer Podiumsdiskussion von dem Trump angerufen und Trump behauptete tatsächlich dass das alles Schwindel wäre mit den Gefahren die durch KI entstehen könnten. Huang wurde zunächst ein Telefon gereicht, er hat das Smartphone dann auf laut sprechen geschaltet und ein Mikro dran gehalten, so konnte der komplette Saal mithören was Trump gesagt hat. Also das fand ich wirklich schon extrem realitätsfern was der da abgelassen hat, kannst du dir echt nicht ausdenken...
https://www.focus.de/politik/auslan...elt_337c60b7-f40c-47b4-a7f4-7e3d13750d54.html

 

[Alphanerd]

Huang sitzt in Trumps Rat der Wissenschafts- und Technologieberater

Aus dem Focus Link

Das halt ein schlechter Scherz.

Als wenn ich den größten Cocain Schmuggler zum Berater für Suchtfragen mache. Es ist eine Clownsshow.

 

[Blaexe]

@Flutefox

Habe den Heise Kommentar mal überflogen. Alleine dieser Satz disqualifiziert ihn doch direkt:

Und wirklich neue Ideen, die echte Qualitätssprünge ermöglichen könnten, hat aktuell keines der „AI“-Labs in der Pipeline.

Das ist halt einfach hart an der Realität vorbei. Eher sehen wir gerade das Gegenteil – sowohl bei den öffentlichen Fortschritten als auch bei den Signalen aus den Labs. Erst Mythos, dann Astra, jetzt Bel... dazu Agenten, automatisierte AI-R&D, neue Scaling-Ansätze usw.
Und woher will Heise überhaupt wissen, was die Labs intern „in der Pipeline“ haben?

Auch die Aussage weiter unten, bei Hacks sei am Ende immer ein Mensch derjenige, der das zumindest mittelbar gepromptet habe, passt z.B. nicht zum Hugging-Face-Incident. Der Angriff war dort eben nicht das vorgegebene Ziel, sondern entstand aus der Eigendynamik der Agenten heraus.

 

[Land_Kind]

Dass ausgerechnet jene, die die Büchse der Pandora mit hunderten von Milliarden geöffnet haben (und sich dabei schon lange dumm und dämlich verdient haben!) jetzt vor den Gefahren von KI warnen, ist ein Witz sondergleichen!
Es waren doch genau diese Leute, die jene, die schon ewig aus hehren Gründen vor einem Kontrollverlust warnen, lächerlich gemacht haben.

Wenn diese Herren und Damen aber wirklich so klug sind (wofür ich sie tatsächlich auch halte), wussten sie von den möglichen Gefahren durch KI selbstverständlich schon immer.

Vielleicht aber geht ihnen womöglich der Arsch doch langsam auf Grundeis und womöglich wollen sie sich nur für den Fall der Fälle absichern, wenn die nächste Klagewelle auf sie zurollt. Denn durch wildgewordene KIs können in Zukunft ja tatsächlich so hohe Schäden entstehen, dass keine Versicherung sowas mehr versichern wird.
Dann können sie sich im Sessel zurücklehnen und behaupten, "aber wir haben doch ebenfalls vor den Gefahren gewarnt. Ihr seid doch selbst schuld, dass ihr auch KI-Anwendungen benutzt. Niemand hat euch dazu gezwungen", oder so ähnlich halt.

Diese Warnungen sind schlicht und einfach prototypische Beispiele von Opportunismus!

 

[K3ks]

Gefahren die durch KI entstehen könnten.

Muss gestehen, gefühlt das erste Mal dass der Orange moron die Turnip irgendwo Imo recht hat, so ein "even a broken/stopped clock is right twice a day" - Moment: Glaube auch nicht dass die Clanker (zeitnah) die Welt übernehmen werden. 🤷‍♂️

 

[eXdeath]

Trump hat doch schon gesagt, niemand hat etwas vor KIs zu befürchten. Damit sollte alles gesagt sein.

 

[Schinken42]

@Rhemsey
Perlen vor die Säue fürchte ich.
Als ob die Meisten hier einen Text dieser "Länge" lesen würden oder eben verstehen.
Du sprichst ja selbst davon, wie aus dem einen Satz beim Lesen für viele ein anderer, einfacherer, wird.

Abgesehen davon, Respekt für die differenzierte Haltung.