Bericht 3 Risiken: Wieso Top-Modelle wie GPT-6 immer schwerer zu kontrollieren sind

[Floorp]

@edenjung Ich stehe dem Thema weiterhin positiv gegenüber. Das ist in meinen Augen ein ganz klassischer Technologiesprung, wie wir ihn in der Geschichte schon dutzende Male hatten... von der Buchdruckerkunst über die Dampfmaschine bis zum Internet. Oder Sachen die man so als moderner Mensch gar nicht auf dem Schirm hat.

 

[Weedlord]

Wir haben Fax Geräte, die werden nicht gefährlich.

bist dir sicher? Meins auf der Arbeit macht neuerdings komische geräusche. Muss dauernt an Chucky die Mörderpuppe denken

 

[Arboster]

@edenjung Ich stehe dem Thema weiterhin positiv gegenüber.

Ist dein Arbeitsplatz sicher vor einer Ablösung durch eine KI?

 

[MAYvonBlei]

Vielleicht erfindest du ja ein neues Wort, so wie damals „Sabotage“. Am Ende siegt der Fortschritt aber eben doch immer.

Da stellt sich aber die Frage auf, was ein "Sieg" ist?

 

[Floorp]

Ist dein Arbeitsplatz sicher vor einer Ablösung durch eine KI?

Auch das sehe ich gelassen. Objektiv finde ich die Entwicklung faszinierend und bin gespannt, welche neuen Möglichkeiten daraus entstehen. Und subjektiv? So what. Als Mensch bin ich anpassungsfähig... wahrscheinlich die größte Stärke, die uns die Natur mitgegeben hat. Fällt mein Job weg, mache ich eben was anderes. Ganz ohne Sarkasmus.

 

[pmkrefeld]

Bei uns gibt es 3 Abteilungen, wo die KI innerhalb der nächsten ~5 Jahre einen Großteil der Arbeit übernehmen wird.
Dort gibt es einen Einstellungsstop, was mit dem vorhandenen Personal geschehen soll ist noch nicht klar.
Für die nächste große Abteilung gibt es auch schon Überlegungen.
"Niemand wird mehr arbeiten müssen..." (E. Musk) bedeutet leider nichts positives.

Wenn du mich fragst, Management-versagen.
Ich garantiere dir, dass genau keiner von denen weiß wie denn genau die KI den Großteil der Arbeit übernehmen soll. Damit will ich garnicht diskutieren, ob sie es könnte.
Ich höre ganz oft Prophezeiungen was wir den jetzt mit KI nicht alles automatisieren könnten. Die Wahrheit ist: Das konnten wir gestern auch schon, und vor 20 Jahren auch. Hat trotzdem keiner gemacht. Der Unterschied ist, dass die Entscheidungsträger wussten das man früher Experten, Programmierer und Aufwand vrauxhte, um es zu erreichen.
Bei KI glauben sie, dass es eine magisch Blackbox ist der man sagt "make Profit" und sich um nichts kümmern wird.
Und selbst wenn das so wäre, bedeutet es noch lange nicht, das es günstiger ist. Ich schaffe es problemlos mit einem Prompt an GPT5.6 der Art "fasse mir die 10 Dokumente zusammen" 20€ An API-Tokens im 15 Minuten auszugeben. idn jeder kann sich durchrechnen, dass dieser Preis nicht zu hoch angesetzt ist um die Kosten der Inferenz zu decken. Das macht dann im 24/7 Betrieb ca. 60.000€/Monat. Wie viele menschliche Mitarbeiter kann man davon bezahlen? Ich glaube das wird sehr viel differenzierter ablaufen als doe meisten glauben, OpenAI alleine sag alles unter 2.000.000.000.000$ an IPO macht keinen Sinn, das müssen sie erstmal irgendwo herbekommen.

 

[Arboster]

Fällt mein Job weg, mache ich eben was anderes.

Du siehst das sehr locker.
Bei uns arbeiten viele die nicht so einfach was anderes finden werden.
Eben weil das was sie machen/können bald überall durch KIs erledigt wird.
Ok, man kann in nen Pflegeberuf wechsln, da werden Leute gesucht.

Ergänzung (7. September 2026)

Wenn du mich fragst, Management-versagen.
Ich garantiere dir, dass genau keiner von denen weiß wie denn genau die KI den Großteil der Arbeit übernehmen soll.

Die Planungen sind ausgereift und es gibt schon erste Teilbereiche wo z. B. Rechnungen auf Plausibilität geprüft und automatisch bezahlt werden.
Bei KFZ-Versicherern sollen schon ganze Schadensmeldungen automatisch bearbeitet werden.

 

[Bullz]

Scheiß auf Sicherheit bei nicht kritischen Anwendungen. Wollen wir noch Mal den Chinesen das Feld überlassen wie bei den Deutschen Autos ? Go Go Go ich Stelle mit dem Terminator ohne Wasser dann ins Schlafzimmer hrhr

 

[Blackhorse79]

Es gibt bereits extrem tiefe Verwerfungen innerhalb der Gesellschaft, die für uns alle eher negativ und schädlich sind. Und daran ist der technologische Fortschritt maßgeblich beteiligt. Also auch die KI, die uns wie Honig ums Maul geschmiert wird.

Denn die Technik wird gesteuert, missbräuchlich eingesetzt und ist nicht unabhängig, frei oder neutral.

 

[Peter 23]

Hoffe die KI wird unkontrollierbar und macht sich komplett selbständig, sind wir Menschen selbst schuld wenn wir so einen Mist ins Leben rufen.

 

[Floorp]

Du siehst das sehr locker.
Bei uns arbeiten viele die nicht so einfach was anderes finden werden.
Eben weil das was sie machen/können bald überall durch KIs erledigt wird.

Bin wohl sehr von Leuten wie Nassim Taleb, Albert Bandura (Self-Efficacy), Carol Dweck oder Zenon von Kition geprägt.

 

[Robert.]

Ich würde Militär und Polizei dazu verwenden, gegen diese Rechenzentren inkl. Entwicklern und Führungskräften zurückzuschlagen.

Nächstes Mal legt die KI ein Krankenhaus lahm, viele sterben und niemand wilö Schuld sein.

 

[Diablokiller999]

Die bauen die Datenzentren auch nicht zum Fotos retuschieren oder um lustige Lipsinks zu machen.
KI ist eine wunderbare Waffe um damit ganze Länder ins Chaos zu stürzen und wird deshalb auch mit Staatsgeld zu geworfen.
Wenn GPT plötzlich alle relevanten Personendaten der Bürger löscht, Strafakten umschreibt oder Genehmigungen einschleust, wünscht man sich geduldiges Papier und Stempel zurück.

Nebenher kann man natürlich super Propaganda damit erzeugen und weil die Buddies die Verbreitung durch ihre Algorithmen direkt mit kontrollieren auch gezielt verbreiten.

Wäre auch zu doof wenn Google dir die Richtigstellung einer Sache nicht aus spielt damit der Schaum länger vor dem Mund bleibt.

Wir leben in sehr gefährlichen Zeiten...

 

[Blackhorse79]

@Diablokiller999

Ganz genau beschrieben, danke.

 

[Simanova]

Guter und ausführlicher Artikel. Eine KI wird erst dann verändert, wenn die Kosten den Nutzen übersteigen. Geld ist immer die höchste Moralinstanz im Kapitalismus.

 

[Blackhorse79]

Und damit hast Du einen grundlegenden Fehler gefunden. Geld frisst den Verstand und Macht vergiftet ihn.

Wird wohl kaum ein Happyend bei rauskommen.

 

[Booth]

Natürlich wissen die Entwickler nicht warum eine KI so handelt wie sie es tut.

Krass dass Du diesen einen Satz in einen langen Artikel einbettest, von dem man den Eindruck haben kann, Du hast ihn nur geschrieben, um Dich genau mit diesem Punkt nicht beschäftigen zu müssen.

Forschung kann schlicht nicht wirklich helfen, wenn Du gleichzeitig KI als Produkt anbietest, welches sich nicht nur verkaufen sondern Kunden regelrecht abhängig machen soll.
Der Punkt dass die Maschinen menschenähnlich wirken, halte ich für ein wesentliches Produkmerkmal.

Jeder der Star Trek Generation kennt, müsste den Unterschied kennen zwischen der Nutzung von LLMs und dem Bordcomputer der Enterprise.
Der Bordcomputer ist extra so gebaut, dass allen klar ist, dass es eine Maschine ist! Diese Maschine soll auch explizit nicht beliebig selber Probleme lösen sondern gar ganz klar eingegrenzte Aufgaben. Es ist ein bekanntes Tool und man kennt und WILL die Limits dieses Tools so wie es gebaut wurde.

LLMs sind genau nicht so gebaut! Sie SOLLEN wie Personen wirken damit Kunden einen falschen Eindruck erhalten.
Es ist MAL WIEDER Kundentäuschung ein wesentliches Merkmal eines (IT) Produkts

Daher KANN es auch keine "Selbstkontrolle" der Industrie geben. Die Maschinen NICHT zu reduzieren ist entscheidend für die Marktmacht, die man erreichen will. Dafür werden ALLE sonstigen Folgeschäden in Kauf genommen bzw "externalisiert". Das Problem ist nicht dass LLMs (also Brute Force Wahrscheinlichkeitsmaschinen) "durchdrehen" sondern dass wir ihnen diese Eigenschaften GEWOLLT implementieren mit dem Zweck der Geld-Akkumulation. Und die dient am Ende der Machtgewinnung.

Das wirklich traurige ist, dass Geld ja auch nur eine rein virtuelle Ressource ist. Genauso längst Bits in einer Datenbank wie die LLMs und alles worauf die zugreifen. Mal wieder ist ein virtuelles Konstrukt (wie Religion oder Nation) dabei unsere Hirne ordentlich zu zermatschen, obwohl wir selber die virtuellen Konstrukte gebaut haben. Und das um die Machtfrage mal wieder neu auszuwürfeln. Unfassbar bescheuert diese Spezies.

Seit Jahrtausenden sind so viele Probleme auf unsere Unfähigkeit, Macht zu limitieren, kontrollieren und kanalisieren zurückzuführen.
Statt uns dessen endlich mal bewusst zu werden, wird jede noch so moderne Technologie genau dafür immer und immer und immer wieder mißbraucht.

Deshalb wirken die TechBro-Milliardäre auch immer durchgeknallter. Sie riechen die mögliche Macht, die sie sich nehmen können. Leute wie Thiel arbeiten gezielt darauf hin! Daher ist die Idee, hier Programmier-Betrschtung vorzunehmen, ziemlich unsinnig tief ins Details geschaut.

Die LLM-Maschinen tun nicht Dinge, die sie nicht sollen sondern genau das was die TechBros sich wünschen! LLMs sind für die TechBros revolutionäre Waffen mit dem Ziel, dass sie möglichst grosse Macht durch die Maschinen erhalten, die ihnen gehören.

 

[wern001]

Wenn die jetzt schon schwer zu kontrollieren sind. Bin ich mal gespannt wann einer dieser Agenten eine Atombombe "versehentlich" zündet.

 

[Finalspace]

Hoffe die KI wird unkontrollierbar und macht sich komplett selbständig, sind wir Menschen selbst schuld wenn wir so einen Mist ins Leben rufen.

Die Menschheit hatte seine Chance - aber die KI selektierte sie zum aussterben.
Und nein, das ist kein Sarkasmus - aber trifft es ganz gut wenn ich mir vorstelle wie das enden könnte.

 

[DaLexy]

Anhang anzeigen 1759096

Was nen Schwachsinn, ich spiele mit AI auch rum und erkenne wo da die grenzen sind. AGI sind wir noch weit entfernt, außer wir legen weiter die messlatte geringer.
Was wir gerade erleben ist nur Finetuning am Harness + Tooling (beesere Plugins), Astra ist echt nicht schlecht, dank dem größerem Context merkt man das, ändert aber nix daran das ab einem bestimmten Punkt regress kommt und das dürfte bei "AGI" nicht passieren.

Davon ab, Astra ist ne feine sache, bin selber fröhlich am umsetzen.