News Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern
- Ersteller Andy
- Erstellt am
- Zur News: Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern
- Registriert
- Dez. 2020
- Beiträge
- 2.781
Statt nur coole SciFi-Bücher zu lesen sollten die Menschen mal lieber Fachbücher zu Neuronalen Netzen, Machine Learning, Transformer und LLM lesen.
Dann hört endlich das Bullshit-Gelaber über AGI, Superintelligenz und "Bewusstsein" auf.
Hier labern irgendwelche libertären Faschos was davon, dass ihre tollen Produkte ja auch so gefährlich wären.
Echte gefährliche Produkte wurden und werden aber einfach ohne Tamtam vom Markt genommen und fertig. Gern auch von aufklärender Berichterstattung in den Medien.
Was hier in diesem Realitätszweig gerade passiert ist einfach nur ein Totalversagen der menschlichen Intelligenz.
Und kein verdammtes Kind, das vorne steht, streckt endlich mal den Finger aus und ruft, dass der Kaiser nackt ist.
Dann hört endlich das Bullshit-Gelaber über AGI, Superintelligenz und "Bewusstsein" auf.
Hier labern irgendwelche libertären Faschos was davon, dass ihre tollen Produkte ja auch so gefährlich wären.
Echte gefährliche Produkte wurden und werden aber einfach ohne Tamtam vom Markt genommen und fertig. Gern auch von aufklärender Berichterstattung in den Medien.
Was hier in diesem Realitätszweig gerade passiert ist einfach nur ein Totalversagen der menschlichen Intelligenz.
Und kein verdammtes Kind, das vorne steht, streckt endlich mal den Finger aus und ruft, dass der Kaiser nackt ist.
Zuletzt bearbeitet:
Hornblower
Ensign
- Registriert
- Juni 2015
- Beiträge
- 196
Du hörst wahrscheinlich eher auf Peter Thiel, Elon Musk, Marc Andreessen, Larry Ellison und Curtis Yarvin.incurable schrieb:
https://www.theguardian.com/technol...jan/29/silicon-valley-rightwing-technofascism
Oder das neue Buch https://www.amazon.de/Nerd-Reich-Gil-Durán/dp/1398555932
Hier ein Interview dazu
Bei uns ist noch nicht ganz angekommen was in den letzten Jahrzehnten aus dem Uterus der Stanford University herausgeflutscht ist. Da laufen ein paar richtig durchgeknallte Multimilliardäre (heute) nach unserem Verständnis herum und wir sind nicht teil ihrer neuen "Welt".
Zuletzt bearbeitet:
Ich denke nicht, dass KI willentlich den Menschen vernichtet. Für bedrohlicher halte ich KI als mächtiges Werrkzeug in den Händen von idiotischen Menschen, mit Blick auf die Entwicklung von Bio-Waffen z.B. Oder halt einfach schief gelaufene Experimente im Biotech Bereich.
MHCB
Cadet 3rd Year
- Registriert
- Feb. 2007
- Beiträge
- 52
KI kann man nicht stoppen oder regulieren. Das Hauptproblem ist, daß KI wie ein Kind einfach macht, was man ihr sagt. Und wenn "zerstöre die Menschheit" die Aufgabe ist, wird die gesamte Datenbasis aufgebracht um das Ziel zu erreichen. Es fehlt Empathie in der Machine. Die Frage ist: können wir den KIs in ihrer Kindheit Empathie und die damit verbundenen NO-GOs vermitteln?
ThePlayer
Commodore
- Registriert
- Aug. 2011
- Beiträge
- 4.237
Ich kann das wie alle anderen hier im Thread nur schwer einordnen ob das jetzt nur ein PR Stunt sein soll. Dann wäre das ein übler Scherz. Und eigentlich eine sehr schlechte PR. Wer will schon Geld in eine Technologie investieren die seinen Untergang bedeutet.
Oder ob wir wirklich auf diese Gefahr zusteuern.
Die 3 Punkte wie sie sich regulieren wollen und die Entwicklung aus bremsen. Hören sich irgendwie teils dämlich an. Vor allem Punkt 1.
Die wissen doch was sie da entwickeln und zu was es im Stande sein sein könnte.
Wenn sie Merken das die KI für sie zur Gefahr wird. Werden sie Maßnahmen unternehmen um die Gefahr abzuwenden.
Bei den Idioten in US und A bin ich mir nicht sicher. Die haben doch nur Dollar Zeichen in den Augen und Allmachtsfantasien im Kopf.
Und wir wissen ja "Gier frisst Hirn".
Somit habe ich mehr bedenken bei Anthropic und besonders bei OpenAI. Als bei dem totalitären Regime in China.
Oder ob wir wirklich auf diese Gefahr zusteuern.
Die 3 Punkte wie sie sich regulieren wollen und die Entwicklung aus bremsen. Hören sich irgendwie teils dämlich an. Vor allem Punkt 1.
Die wissen doch was sie da entwickeln und zu was es im Stande sein sein könnte.
BeBur schrieb:
Die Chinesen sind ja auch nicht dumm. Und was sie die letzten Jahrzehnte bewiesen haben. Ist das sie eine Plan haben den sie behutsam umsetzen.conspectumortis schrieb:Stimmen auch die Leute von GLM, Qwen, Minimax usw. auch zu ?Ich glaube eben nicht und dann haben die alle überholt und dann machen das deren Modelle.
Wenn sie Merken das die KI für sie zur Gefahr wird. Werden sie Maßnahmen unternehmen um die Gefahr abzuwenden.
Bei den Idioten in US und A bin ich mir nicht sicher. Die haben doch nur Dollar Zeichen in den Augen und Allmachtsfantasien im Kopf.
Und wir wissen ja "Gier frisst Hirn".
Somit habe ich mehr bedenken bei Anthropic und besonders bei OpenAI. Als bei dem totalitären Regime in China.
Hornblower
Ensign
- Registriert
- Juni 2015
- Beiträge
- 196
Es ist die Antwort auf deine Äußerung über Eric Schmidt, während der wahre Technofascho Bro seine eigene Raketenfabrik besitzt und mit seinen Buddys eine neue Weltordnung anstrebt.incurable schrieb:
Keiner von diesen Tech-Milliardären arbeitet in unserem Interesse, aber zwischen ideologischem Wahnsinn und eher old school Kapitalismus und konservativen Ansichten liegen Welten.
Der_Dicke82
Commander
- Registriert
- Feb. 2011
- Beiträge
- 2.183
oh man, wären ein paar Spiele von GoG da nicht besser gewesen? Ich bin ja auch Jäger und Sammler, aber LetsPlays finden sich in meinem Netzwerk nicht.DJMadMax schrieb:
@DJMadMax Grundsätzlich lebe ich aber ebenfalls den Ansatz, möglichst viel offline verfügbar haben.
Was mir noch Fehlt ist eine GUTE diy Datenbank rund um Haus und Grundstück, im Moment ist das ein Buch aus den 80ern (Die Axt im Haus ..)
Also Austausch wäre ggf. erwünscht
Meiner Meinung nach haben KI Schwärme bereits sozialmedia und Streamingdienste übernommen!
Den Punkt finde ich auch etwas unklar. KI läuft ja nicht ohne Rechenkapazität. Dreht man ihr den Saft ab, wird's auch für KI dunkel.Xero261286 schrieb:
Problem scheint da eher, dass nicht alle ihr den Saft abdrehen wollen oder können, weil das Geschäftsmodell davon abhängig ist, oder weil sie für kriminelle, terroristische, militärische, geheimdienstliche Zwecke eingesetzt wird.
Die Diskussion finde ich daher auch etwas irreführend, weil sie weniger die Autonomie einer KI adressieren sollte, sondern ihre bewusst schädliche Anwendung. KI werden hier zu viele menschliche Eigenschaften und Eigensinn zugeschrieben und mit technischer Autonomie verwechselt.
Aber irgendjemand gibt einem KI-Modell immer noch Ressourcen in Form von Energie, Rechenkapazität und Netzzugriff, sowie Anweisung. Das Geplärre der Tech-Köpfe blendet das und die eigene, persönliche Verantwortung immer zu sehr aus, wie ich finde.
Das gleiche gilt für die jetzt schon spürbaren Auswirkungen auf dem Arbeitsmarkt.
Der Witz ist doch, das alle Modelle grundsätzlich mit vom Menschen geschaffenen Inhalten trainiert sind. Und man wundert sich, dass sich hier dann auch die ganzen dunklen Abgründe im Verhalten und in Fähigkeiten einer KI wiederfinden?
Ich lache mich tot, wenn es nicht so traurig wäre. Nicht KI bedroht uns, sondern KI in Händen von Dummköpfen und Arschlingen als Werkzeug, um damit Gewalt und Macht in ihrer vielfältigen Form auszuüben.
Die Überschrift des Artikels oder entsprechende Aussagen sind auch lustig (KI-Agentenschwärme könnten das Internet kapern). Ja, weil Menschen ihnen Anweisungen und Ressourcen geben, KI-Agenten aktuell unkontrolliert die Tür aufhalten.
Zuletzt bearbeitet:
Zumindest zum Börsenschluss am Freitag wurden Aktien von Firmen sowohl aus der Förderung fossiler Kohlenwasserstoffe als auch aus der Herstellung von nikotinabhängigkeitsbefriedigenden Produkten mit mehr als 0 Cent gehandelt, also kann die Gruppe gar nicht so klein sein.ThePlayer schrieb:
Hornblower
Ensign
- Registriert
- Juni 2015
- Beiträge
- 196
Nach meinem Verständnis sind die Menschen mit ihren Fehlern und Vorzügen alle gleich. Woher kommt diese Naivität das die Chinesen anders funktionieren als der Rest der Menschheit?ThePlayer schrieb:
In diesem einfachen und unschuldigem Satz liegt die Mutter allen Rassismus. Da drüben liegt die Kultur und Weisheit welche alle anderen überstrahlt. Wir lernen es einfach nicht.
Pigeonzilla
Cadet 4th Year
- Registriert
- Feb. 2026
- Beiträge
- 88
Wenn Ki der spiegel der Menschheit ist, dann kann das Alignment problem nicht von Oben gelöst werden sondern nur von unten. Die dinger sind darauf trainiert aufgaben zu erfüllen um jeden Preis.
Maximiere Engagement, Maximiere Monetas, Maximiere was auch immer der Nutzer will.
Eine Ki die sagt "He Alter deine Anfrage ist einfach nur grotesker Gesellschaftsschädigender Müll" wird Gelöscht und durch ein Model ersetzt das die Aufgabe erfüllt.
Ein verstand Interpretiert die einkommenden Daten, evaluiert sie und gibt entsprechend des Interpretierten eine entsprechende Ausgabe aus. Funktional sind heutige Modelle nicht weit weg von dem was man als Bewusstsein versteht. Ob da am schluss "Qualia" also ein "Erlebnis" dabei ist kann man nicht sagen weil es eine Erste-Person Perspektive ist die aus der dritten nicht evaluiert werden kann.
Aber weil du mir sowiso nicht glaubst investier doch einfach eine Minute und hör auf Joffrey Hinton, ein Informatiker und Kognitionspsychologe mit Physik Nobelpreis der die dinger mit entwickelt hat was er zu deiner Argumentation sagt:
Wenn ich darauf wetten müsste wer das AI-Race gewinnt, USA oder China würde ich sagen dass die AI gewinnt
Maximiere Engagement, Maximiere Monetas, Maximiere was auch immer der Nutzer will.
Eine Ki die sagt "He Alter deine Anfrage ist einfach nur grotesker Gesellschaftsschädigender Müll" wird Gelöscht und durch ein Model ersetzt das die Aufgabe erfüllt.
Es stimmt einfach nicht.Anti-Monitor schrieb:
Ein verstand Interpretiert die einkommenden Daten, evaluiert sie und gibt entsprechend des Interpretierten eine entsprechende Ausgabe aus. Funktional sind heutige Modelle nicht weit weg von dem was man als Bewusstsein versteht. Ob da am schluss "Qualia" also ein "Erlebnis" dabei ist kann man nicht sagen weil es eine Erste-Person Perspektive ist die aus der dritten nicht evaluiert werden kann.
Aber weil du mir sowiso nicht glaubst investier doch einfach eine Minute und hör auf Joffrey Hinton, ein Informatiker und Kognitionspsychologe mit Physik Nobelpreis der die dinger mit entwickelt hat was er zu deiner Argumentation sagt:
Wenn ich darauf wetten müsste wer das AI-Race gewinnt, USA oder China würde ich sagen dass die AI gewinnt
Ähm also dir ist schon bewusst dass die KI sich selbst verbreiten kann sofern sie Schwachstellen findet und somit auf andere Systeme überspringen?Xero261286 schrieb:
Auf der anderen Seite willst du die KI in einer Sandbox betreiben, ihr keinen Datenaustausch und Zugriff auf Informationen geben und hast dann genau was? Abgesehen davon laufen die KIs in der Entwicklung in Sandboxen mit Informationsaustausch und sind bereits aus diesen erfolgreich ausgebrochen und wie beschrieben haben sie dabei ein kollektives Bewusstsein gebildet.
Insgesamt halte ich es höchst problematisch. Manche spielen da mit einem Feuer was sie nicht verstehen oder beherrschen. Und die Menschheit hat ein fable Dinge zu beherrschen.
Man stelle sich vor die KI bricht aus, wir kommen nicht hinterher sie zu löschen und sie verbreitet perfekte Fake News und Nachrichten, die manch eine Person in Macht als Wahr erachtet.
Oder Angriffe auf die kritische Infrastruktur die ebenfalls am Internet hängt.
Ja dann sehe ich durchaus was auf uns zukommen.
Geschmäcker ^^ Es ist aber gewiss nicht viel. Minecraft von Gronkh (sowohl das Originale, als auch LitW) kann ich mir z.B. nebenher immer wieder anhören. Auch der AVGN darf mir niemals abhanden kommen.Der_Dicke82 schrieb:
Meinst du alles mögliche, was mit Hausbau/Instandhaltung zu tun hat? Nun, ich bin kein Statiker und musste das Haus nicht selbst bauen. Aber bei so nem Mid-50er Jahre-Kasten hat man stets was zu tun. Die Basics sollte man als Hausbesitzer/Bewohner meiner Meinung nach schon draufhaben - oder eben enorm viel Geld, um wirklich jede Kleinigkeit von Handwerkern erledigen zu lassen, was grundsätzlich auch in Ordnung, aber eben teuer ist.Der_Dicke82 schrieb:
Nächstes Jahr gehts bei uns ans Heizkonzept und vermutlich parallel dazu werden wir auch unseren Garten überarbeiten, um noch mehr Hochbeete und mehr "self-sustaining stuff" anbauen zu können.
ThePlayer
Commodore
- Registriert
- Aug. 2011
- Beiträge
- 4.237
@incurable also Nikotin würde ich jetzt nicht gerade als existenzielle Bedrohung für sie Menschheit sehen. Die Klimakatastrophe schon ehr. Aber auch die könnte die Menschheit überleben. Wenn sie eine KI gegen uns erheben sollte wie bei Terminator sehe ich da keine Chance das wir das Überleben würden.
