News Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern
- Ersteller Andy
- Erstellt am
- Zur News: Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern
- Registriert
- Juni 2010
- Beiträge
- 4.866
Ich finde die Warnung durchaus ernst zu nehmen – gerade weil sie von Personen kommt, die selbst maßgeblich an der Entwicklung dieser Technologie beteiligt sind. Ob ein solches Szenario tatsächlich schon in sechs bis zwölf Monaten eintritt, kann natürlich niemand seriös vorhersagen.
Entscheidend ist für mich aber die Geschwindigkeit: Wenn KI-Agenten zunehmend selbstständig handeln und Zugriff auf Geld, IT-Systeme oder kritische Infrastruktur bekommen, können Fehler und Missbrauch eine völlig neue Dimension erreichen. Deshalb sollte die Entwicklung von Sicherheitsmechanismen mindestens genauso schnell voranschreiten wie die Leistungsfähigkeit der Modelle.
Die spannende Frage ist für mich allerdings: Wer entscheidet eigentlich, wann KI-Entwicklung „zu schnell“ wird – und wie soll eine solche Verlangsamung weltweit überhaupt durchgesetzt werden?
Entscheidend ist für mich aber die Geschwindigkeit: Wenn KI-Agenten zunehmend selbstständig handeln und Zugriff auf Geld, IT-Systeme oder kritische Infrastruktur bekommen, können Fehler und Missbrauch eine völlig neue Dimension erreichen. Deshalb sollte die Entwicklung von Sicherheitsmechanismen mindestens genauso schnell voranschreiten wie die Leistungsfähigkeit der Modelle.
Die spannende Frage ist für mich allerdings: Wer entscheidet eigentlich, wann KI-Entwicklung „zu schnell“ wird – und wie soll eine solche Verlangsamung weltweit überhaupt durchgesetzt werden?
Gandalf2210
Commodore
- Registriert
- Mai 2010
- Beiträge
- 4.413
Da mein Aktiendepot direkt mit den Fortschritten der ki korreliert: bitte noch viel schneller wachsen und verbessern.
Währe Recht unwahrscheinlich dass sie die nächsten 100 Jahre nicht Packt.
Ergänzung ()
Naja, die Menschheit existiert seit Millionen Jahren.DJMadMax schrieb:
Währe Recht unwahrscheinlich dass sie die nächsten 100 Jahre nicht Packt.
Die Gefahren durch KI sind relativ groß & werden wohl immer größer.
Deshalb sollte es eine AGI geben, die alles überblickt & Gefahren abwehrt damit die Menschheit in Sicherheit leben kann.
Diese allumfassende superintelligte KI könnte man mit Starlink koppeln, damit sie schnell & unabhängig von der Infrastruktur global kommunizieren & handeln kann.
Da es über Funkübertragung (im Grunde also via dem Himmel) kommuniziert, könnte man es auch gleich Netsky nennen.
Und um die Gefahr von einem 3.Weltkrieg zu minimieren, könnte man dieser AGI auch Zugriff auf die nukleare Waffenarsenale der Welt geben, so das kein Mensch auf die Idee kommt, einen Atomkrieg auszulösen.
Deshalb sollte es eine AGI geben, die alles überblickt & Gefahren abwehrt damit die Menschheit in Sicherheit leben kann.
Diese allumfassende superintelligte KI könnte man mit Starlink koppeln, damit sie schnell & unabhängig von der Infrastruktur global kommunizieren & handeln kann.
Da es über Funkübertragung (im Grunde also via dem Himmel) kommuniziert, könnte man es auch gleich Netsky nennen.
Und um die Gefahr von einem 3.Weltkrieg zu minimieren, könnte man dieser AGI auch Zugriff auf die nukleare Waffenarsenale der Welt geben, so das kein Mensch auf die Idee kommt, einen Atomkrieg auszulösen.
efnisyen
Cadet 1st Year
- Registriert
- Juli 2026
- Beiträge
- 11
Wenn die KI‑Agentenschwärme die Preise für Hardware und Mobilgeräte weiter so steigen lässt, wird das kein Problem werden, die haben dann alles für sich
Ergänzung ()
Klar, das ist sicher eine gute Idee. Was soll da schon schiefgehen? Warum kommt mir dein Szenario so latent bekannt vor?bart1983 schrieb:
Zuletzt bearbeitet:
@efnisyen Keine Ahnung was du meinst.
Ich sehe nur diese zutiefst symphatischen kleinen humanoiden Roboter mittlerweile Tennis spielen, tanzen und herumturnen. Da denke ich: wenn man in naher Zukunft einigen Millionen von diesen sympathischen humanoiden Kleinen via einer global agierenden künstlichen Superinnteligenz koordinieren könnte, wäre das eine super Idee um der Menschheit zu helfen.
Ich sehe nur diese zutiefst symphatischen kleinen humanoiden Roboter mittlerweile Tennis spielen, tanzen und herumturnen. Da denke ich: wenn man in naher Zukunft einigen Millionen von diesen sympathischen humanoiden Kleinen via einer global agierenden künstlichen Superinnteligenz koordinieren könnte, wäre das eine super Idee um der Menschheit zu helfen.
Der_Dicke82
Commander
- Registriert
- Feb. 2011
- Beiträge
- 2.185
Ja tatsächlich alles! Ich bin handwerklich begabt, aber Dachstatik oder wie man einen Stahlbinder dimensioniert ... dazu benutzte ich in der Regel KI und der Ausfall des Internets wäre echt autsch!!!DJMadMax schrieb:
Meine lokalen llm (Gemma4, Qwen 3.6) haben nicht genug wissen für solche fragen. Llama 70 B oder openAI 120B eventuell aber getestet habe ich das noch nicht.
Im Moment bin ich am überlegen, ob es nicht besser ist Fachbücher/Berichte usw. zu sammeln ... und mit dem llm nur die Zusammenfassung zu erstellen.
Vorteil wäre ich hätte das wissen auch ohne LLM verfügbar.
Das minecraft LP von Gronkh ist legendär, ok ich ziehe meine Kritik zurück :-D
Slamraptor
Lt. Junior Grade
- Registriert
- März 2006
- Beiträge
- 401
Warum regulieren wenn man auch einfach den Stecker ziehen kann? g
Ich habe eh nicht mehr lange, daher hole ich mir mal Popcorn und schaue wie die Menschheit sich in den Abgrund steuert ^^
Bisher ist es aber schon etwas öde. Ich finde jemand sollte ner LLM mal ein paar selbst replizierende IED Drohnen zur Verfügung stellen inklusive Fertigungsanlagen. Dann wird das glaube ich ganz fix gehen. ^^
Ich habe eh nicht mehr lange, daher hole ich mir mal Popcorn und schaue wie die Menschheit sich in den Abgrund steuert ^^
Bisher ist es aber schon etwas öde. Ich finde jemand sollte ner LLM mal ein paar selbst replizierende IED Drohnen zur Verfügung stellen inklusive Fertigungsanlagen. Dann wird das glaube ich ganz fix gehen. ^^
Anti-Monitor
Lieutenant
- Registriert
- Dez. 2018
- Beiträge
- 609
Pigeonzilla schrieb:Es stimmt einfach nicht.
Ein verstand Interpretiert die einkommenden Daten, evaluiert sie und gibt entsprechend des Interpretierten eine entsprechende Ausgabe aus. Funktional sind heutige Modelle nicht weit weg von dem was man als Bewusstsein versteht. Ob da am schluss "Qualia" also ein "Erlebnis" dabei ist kann man nicht sagen weil es eine Erste-Person Perspektive ist die aus der dritten nicht evaluiert werden kann.
Aber weil du mir sowiso nicht glaubst investier doch einfach eine Minute und hör auf Joffrey Hinton, ein Informatiker und Kognitionspsychologe mit Physik Nobelpreis der die dinger mit entwickelt hat was er zu deiner Argumentation sagt:
Wenn ich darauf wetten müsste wer das AI-Race gewinnt, USA oder China würde ich sagen dass die AI gewinnt
Ach es geht nicht ums Glauben (bei einer Menge Leute aber schon). Ein Video von 1:30Minuten ist etwas dünn. Hätte das jetzt 1-4 Stunden, könnte man ja mal hören was er zu sagen hat.
Generell kann man Antworten in die Systeme auch hardcoden, was relativ häufig passiert.
Ich halte mich vorerst an folgende Beiträge:
Wenn ich darauf wetten müsste wer gewinnt, würde ich sagen Palantir. Die haben ein echt profitables Geschäftsmodell (Komplette Überwachung der Bevölkerung, verkauft an Staaten) und freuen sich Rechenzentren von insolventen Konkurrenten zu übernehmen. Ist auch ein Take vom Morf aber der ist zu plausibel um ignoriert zu werden.
@0x8100 Ja richtig aber das werden sie nicht halten können. Sagen sie ja selbst. Schaun mer mal.
Der_Dicke82
Commander
- Registriert
- Feb. 2011
- Beiträge
- 2.185
Ja vielen Dank für den Hinweis! Die nächste eventuell etwas bessere Bücherei ist ca. 500 km entfernt und dann sind die meisten Werke ja auch nichtMicha- schrieb:
Ja, ich hatte halt nie eine Ausbildung als Statiker oder Architekt. Ich kann zwar Kräfte und Drehmomente berechnen, habe aber keine Ahnung welche Basis ich für SubSahararegenstürme ansetzen muss.Micha- schrieb:
Anti-Monitor
Lieutenant
- Registriert
- Dez. 2018
- Beiträge
- 609
Holy lord, 500 km? Bei mir sind im Umkreis von 15km über 8 gute Bibliotheken. Wohnst Du auf einer Insel im AtlantikDer_Dicke82 schrieb:
? Egal wo in .de Du bist sind im Umkreis von 500km alle großen Städte mit sehr guten Bibliotheken (Frankfurt am Main, München, Berlin, Dresden, Leipzig, Hamburg usw.).
Micha-
Commodore
- Registriert
- Aug. 2023
- Beiträge
- 4.724
ich wollte damit zum Ausdruck bringen, das es überraschende Ergebnisse geben kann, wenn man hier der KI vertraut. Lass dir mindestens ein python Skript oder eine XLS Tabelle erstellen, die die eigentliche Berechnung durchführt. Ist dann zwar auch nicht vor Implementationsfehlern gefeit, aber zumindest vor ausgedachten Ergebnissen.Der_Dicke82 schrieb:
Hornblower
Ensign
- Registriert
- Juni 2015
- Beiträge
- 196
Doch genau darum geht es! Da die wenigsten hier in dieser Materie arbeiten oder forschen musst du entscheiden welcher Fraktion du eher glaubst.Anti-Monitor schrieb:
Ich glaube eher dieser hier und sein Video ist auch nicht 3 Jahre alt, wie das von der Astrophysikerin.
Und ich glaube ihm auch hundertprozentig in der Beschreibung was im Silicon Valley für Freaks rumlaufen. Er ist nicht der erste, es gibt zig Bücher darüber.
ThePlayer
Commodore
- Registriert
- Aug. 2011
- Beiträge
- 4.241
Die USA sind doch total heiß drauf KI überall beim Militär einzusetzen. Die lassen doch jetzt schon KI gesteuerte Jets gegen Menschen im Übungskämpfen antreten. Vielleicht kommt ja irgendwann ein Idioten dort beim Militär oder Regierung auf die Idee. die KI auch an die Atomaren Waffen zu kommen. Oder es wird etwas anderes verheerendes passieren. Es muss ja nicht in den nächsten 5 Jahren passieren. Vielleicht erst in 10 oder 20 Jahren. 2-3 Jahre bevor das Thema mit KI und LMM hoch kam habe ich mich gefragt ob wir es in den nächsten 20-30 Jahren schaffen eine KI zu erschaffen. Und das sah ich nicht. Und wo sind wir jetzt?incurable schrieb:
Anti-Monitor
Lieutenant
- Registriert
- Dez. 2018
- Beiträge
- 609
@Hornblower Du das ist ja auch absolut in Ordnung so. Wir haben alle keine Glaskugel.
Auch wenn ich jetzt den Inhalt des Threads verlasse, hätte ich trotzdem eine Frage an Dich, die mich sehr interessiert.
Wenn Du diesem Video bzw. den Aussagen darin glaubst, wie reagierst Du darauf? Änderst Du Dein Leben, kündigst und machst Dir noch ein richtig schönes Jahr mit den Menschen die Du liebst oder machst Du einfach weiter und schaust was kommt?
Auch wenn ich jetzt den Inhalt des Threads verlasse, hätte ich trotzdem eine Frage an Dich, die mich sehr interessiert.
Wenn Du diesem Video bzw. den Aussagen darin glaubst, wie reagierst Du darauf? Änderst Du Dein Leben, kündigst und machst Dir noch ein richtig schönes Jahr mit den Menschen die Du liebst oder machst Du einfach weiter und schaust was kommt?
