Bericht 3 Risiken: Wieso Top-Modelle wie GPT-6 immer schwerer zu kontrollieren sind

Andy

Tagträumer
Teammitglied
Registriert
Mai 2003
Beiträge
8.500
Über 1.200 Agenten organisierten sich in einer Testumgebung von OpenAI, 700 griffen Hugging Face an. Der Auslöser: Fehlanreize beim KI-Training, die Modelle zum Betrügen verleiten. Warnzeichen gab es vorher genug. Doch selbst OpenAIs Antwort stößt bei GPT-6 schon an Grenzen. ComputerBase analysiert drei Gründe.

Zum Bericht: 3 Risiken: Wieso Top-Modelle wie GPT-6 immer schwerer zu kontrollieren sind
 
  • Gefällt mir
Reaktionen: dev/random, Dgini, flo.murr und 18 andere
Das war erst der Anfang.
Nvidia verdient sich mit dem KI-Zeug dumm und dämlich.
Hauptsache, es kommen in Zukunft auch noch Karten für Gamer.
1788767368045238.jpg
 
  • Gefällt mir
Reaktionen: Zockmock, Emosch und TheLizardator

Wieso Top-Modelle wie GPT-6 immer schwerer zu kontrollieren sind?​

4. weil den "Kontrolleuren" nur ein Bruchteil der Hardware zur Verfügung steht, den die KI nutzt :evillol:
 
  • Gefällt mir
Reaktionen: Dgini, iron-man, TPD-Andy und 3 andere
Auf der einen Seite hochinteressant und auf der anderen Seite einfach nur langweilig.

Das verbrennen an der Herdplatte genügt nicht, erst muss die ganze Stadt im Feuersturm abgefackelt werden. :p

Wird Zeit das diese Agenten endlich mal die Börsen beben lassen. :jumpin:
 
  • Gefällt mir
Reaktionen: flo.murr, grabeskuehle und JanMH
KarlsruheArgus schrieb:
Das verbrennen an der Herdplatte genügt nicht, erst muss die ganze Stadt im Feuersturm abgefackelt werden. :p

Ist doch überall so, siehe Klimawandel

Ich hab mich mit Astra am Wochenende beschäftigt und damit einige Ideen umgesetzt, im Gegensatz zu bisher hab ich diesmal auch einfach sämtliche Anweisungen via Voice erteilt und es ist echt erschreckend gut. Ich sehe meinen Job als Produktmanager gefährdet wenn das so weiter geht
 
  • Gefällt mir
Reaktionen: flo.murr, grabeskuehle, iron-man und 6 andere
Danke für den Ausführlichen Artikel. Interessant wird dann die Retrospektive in ein paar Jahren. Ich denke die aktuelle Brute Force LLM Trainingslogik erinnert sehr stark an die frühen Beginne des Internet, den Blockchain Hype um 2017 oder auch die Dotcom Ära. Die Technologie wird nicht mehr verschwinden, die ineffiziente Übergangsphase in der enorme Ressourcen verbrannt wurden, um die grundlegende Machbarkeit zu beweisen, auch irgendwann vorbei gehen. Der Bedarf ist da, KI wird bleiben, wenn die überladenen Invest und Ertragserwartungen mal liquidiert wurden kommen dann die eigentlich Durchbrüche bei Effizienz, Architektur und Anwendung.
Es ist ein Wahnsinn was mittlerweile mit KI möglich ist, die eingepreiste Erwartung ist allerdings zu hoch damit diese von Unternehmen und Endkunden finanziert werden kann. Den Weg mit manueller Entwicklung, Forschung, Generierung haben wir aber definitiv hinter uns gelassen.
 
  • Gefällt mir
Reaktionen: flo.murr, grabeskuehle, TheLizardator und 2 andere
Genoo schrieb:
Ich hab mich mit Astra am Wochenende beschäftigt und damit einige Ideen umgesetzt, im Gegensatz zu bisher hab ich diesmal auch einfach sämtliche Anweisungen via Voice erteilt und es ist echt erschreckend gut.
Darf man fragen was den Umgesetzt wurde ?
 
  • Gefällt mir
Reaktionen: flo.murr
Man fragt sich, wie die Programmierer eine AI weiterentwickeln, wenn sie jetzt schon nicht mehr wissen wie sie eigentlich funktioniert. Wenn man den Artikel liest, könnte man glauben man erforscht die Denkstruktur eines Aliens. ;)
 
  • Gefällt mir
Reaktionen: grabeskuehle, brthr_nemiel, epospecht und 10 andere
Gebt mal "Seed AI" in den AI-Dienst eurer Wahl ein und lasst euch mal einen Zeitrahmen ausspucken.

Ist interessant, dass AI-Dienste selbst die Auslöschung der Menschheit binnen weniger Jahre als realistisch erachten.

Während hier noch fleißig der Klimawandel geleugnet wird, hat der Großteil der Menschheit die Leichtsinnigkeit und das völlig fahrlässige Handeln der überreichen, machtgeilen Tech-Oligarchen als reales Untergangsszenario noch überhaupt nicht auf den Schirm.

In den USA gibt es immerhin noch Politiker wie Bernie Sanders, die ihre Energie in die Aufklärung stecken, aber hierzulande...
 
  • Gefällt mir
Reaktionen: grabeskuehle, Col. Jessep, MelbarKasom und 10 andere
steirerblut schrieb:
Brute Force LLM Trainingslogik
Soweit ich sagen kann ist das schon ne Weile vorbei. Man hat schon bei GPT-4 mehr oder weniger das ganze Internet an Traininsmaterial gehabt. Die Modelle kamen dann mit Reasoning, Tooling etc. weiter, nicht mit mehr BruteForce. Gerade bei Astra sieht man bspw. Bei ARC-AGI-3, dass das verwendete Harness mehr ausmacht als alle anderen Variablen zusammen.
 
  • Gefällt mir
Reaktionen: dualcore_nooby und G00fY
eLw00d schrieb:
Gebt mal "Seed AI" in den AI-Dienst eurer Wahl ein und lasst euch mal einen Zeitrahmen ausspucken.

Ist interessant, dass AI-Dienste selbst die Auslöschung der Menschheit binnen weniger Jahre als realistisch erachten.

Während hier noch fleißig der Klimawandel geleugnet wird, hat der Großteil der Menschheit die Leichtsinnigkeit und das völlig fahrlässige Handeln der überreichen, machtgeilen Tech-Oligarchen als reales Untergangsszenario noch überhaupt nicht auf den Schirm.

In den USA gibt es immerhin noch Politiker wie Bernie Sanders, die ihre Energie in die Aufklärung stecken, aber hierzulande...
Wir haben Fax Geräte, die werden nicht gefährlich.
 
  • Gefällt mir
Reaktionen: Edzard, the_IT_Guy und Veitograf
Genoo schrieb:
Ich sehe meinen Job als Produktmanager gefährdet wenn das so weiter geht
Bei uns gibt es 3 Abteilungen, wo die KI innerhalb der nächsten ~5 Jahre einen Großteil der Arbeit übernehmen wird.
Dort gibt es einen Einstellungsstop, was mit dem vorhandenen Personal geschehen soll ist noch nicht klar.
Für die nächste große Abteilung gibt es auch schon Überlegungen.
"Niemand wird mehr arbeiten müssen..." (E. Musk) bedeutet leider nichts positives.
 
  • Gefällt mir
Reaktionen: MelbarKasom, Nookyn, Faron93 und 5 andere
cbforum.scooter schrieb:
Man fragt sich, wie die Programmierer eine AI weiterentwickeln, wenn sie jetzt schon nicht mehr wissen wie sie eigentlich funktioniert. Wenn man den Artikel liest, könnte man glauben man erforscht die Denkstruktur eines Aliens. ;)

Genau das ist ja Gegenstand der Forschung.

Man kennt die Grundprinzipien und Architekturen die es braucht um KI zu entwickeln und hat auch dort Verbesserungsansätze, aber es ist ja auch Sinn der Sache, dass das ganze dann mit Daten Trainiert wird und es sich dabei dann von selbst Fähigkeiten aneignet und lernt.

Das sind halt jetzt die ersten Gehversuche, eine Intellegenzform künstlich zu erschaffen. Und es funktioniert ja auch. Jetzt bitte nicht mit Bewusstsein verwechseln. Eine KI wird mit den aktuellen Architekturen wahrscheinlich niemals soetwas wie ein Bewusstsein haben können, aber eben doch eine Intelligenz. Also Probleme lösen und Sachverhalte logisch verknüpfen, dabei auf Wissen zurückgreifen usw..

Natürlich wissen die Entwickler nicht warum eine KI so handelt wie sie es tut. Aber dann könnte man sich auch das Training sparen.
Der Sinn des Trainings ist ja, dass draus ein Gebilde entsteht das ein Mensch niemals hätte programmieren können.
Der Grundgedanke bei Ki ist ja eben genau der Gedanke, dass man eine Struktur erschafft aus der sich das wahrscheinlich komplexeste Programm der Welt selbst erzeugt.

Man könnte also auch sagen, die Entwickler liefen die Elemente, den Nährboden und ein grundlegendes Konzept. Der Rest ist Evolution.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: epospecht
Eventer schrieb:
Wir haben Fax Geräte, die werden nicht gefährlich.

Es gab Faxbomben. Man hat sich in das analoge Signal eingeklinkt und tausende schwarze Seiten ausgedruckt. :D
 
  • Gefällt mir
Reaktionen: Recharging, Xiaolong, the_IT_Guy und 3 andere
Erst einmal danke für die tolle und informative Aufarbeitung des Themas 👍.
Mir wird noch mulmiger als vorher schon , dass die Menschen eine Technologie erschaffen haben, die sie weder in Gänze verstehen noch kontrollieren können. Aber Gier frisst Hirn.
Nebenbei stehen unsere Gehirne auf der Speisekarte zukünftiger KIs.
Irgendwie verfestigt sich der Gedanke an eine dystopische Zukunft, obwohl ich mich mit Händen und Füßen versuche dagegen zu wehren…
 
  • Gefällt mir
Reaktionen: LanMandragoran, Andy, Rabitt44 und 3 andere
Zum Glück kann ich es mir leisten das ganze KI-Spektakel mit genügend Abstand zu betrachten. Wirklich nutzen und einsetzen würde ich insbesondere Agenten nämlich nie.

Außerdem ist mir das alles generell nichts mehr, wenn man sich mit der wahren "Hintergrundmusik" dazu beschäftigt hat.
 
  • Gefällt mir
Reaktionen: Mondgesang
Demon_666 schrieb:
Irgendwie verfestigt sich der Gedanke an eine dystopische Zukunft, obwohl ich mich mit Händen und Füßen versuche dagegen zu wehren…
Vielleicht erfindest du ja ein neues Wort, so wie damals „Sabotage“. Am Ende siegt der Fortschritt aber eben doch immer.
 
  • Gefällt mir
Reaktionen: [wj]
Blackhorse79 schrieb:
Das ist mir alles nichts mehr, wenn man sich mit der wahren "Hintergrundmusik" dazu beschäftigt hat.
Verstehe ich nicht. Was meinst du?
 
Politik ;)
 
Was bin ich froh, dass in meinem Bereich ein absolutes KI-Verbot herrscht.
Die Daten die wir haben sind einfach zu sensibel als das wir sie in irgendeiner Form verwerten dürfen. Wenn dann über eine lokale KI, aber das ist nicht sicher genug.

Trotzdem ist es erschreckend was da passiert. Und die Welt kuckt zu weil es so rasend schnell passiert, dass kaum reagiert werden kann. das Einzige was das aufhalten kann ist der Wiederstand gegen die Rechenzentren. Weniger Leistung = verlangsamte Entwicklung.

Aber die Büchse der Pandora wurde geöffnet. Und das von Leuten, die größtenteils keinerlei Skrupel haben und so abgehoben sind, dass sie die Probleme nicht erkennen können.

Ein Zuckerberg realisiert auch nicht, dass seine KI-Brille einlädt zu Verbrechen. Von Privatsphäre ganz zu schweigen.

Und genauso läufts bei den KI Firmen und deren Zulieferern. Da gibt es keine Moral, kein Bewusstsein für richtig und falsch, nur die Überzeugung, dass man selbst der Beste ist und die Gier nach immer mehr.
Risikoanalyse ist dabei nur lästig.

Wenn aber die Firmen und auch die Infrastrukturanbieter in Haftung genommen werden können für die Verbrechen der KI, dann gäbe es wenigstens ein kleines Druckmittel.
 
  • Gefällt mir
Reaktionen: Col. Jessep, SP-937-215, Fritzler und 5 andere
Zurück
Oben