News Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern

[Andy]

Anthropic-Chef Dario Amodei warnt: Bereits in sechs bis zwölf Monaten könnte es passieren, dass Agenten-Schwärme das Internet übernehmen und Schäden von Hunderten Milliarden US-Dollar anrichten. Er will nun das Tempo der KI-Entwicklung verlangsamen. OpenAI-Chef Sam Altman stimmt zu.

Zur News: Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern

 

[MegatroneN]

Ich glaub jetzt nicht, dass die absoluten Turbokapitalisten die Gesellschaft schützen möchten. Die Sache ist eher, dass denen langsam die Düse geht, da einfach nur Geld verbrannt wird. Man sollte doch in der Lage sein, irgendeine Art von Sperre in den Modellen einzubauen, die sowas verhindern. Das ist ja am Ende immer noch kein AGI. Ich bleib dabei, dass die Wirtschaft eher in Gefahr ist und jetzt erstmal überlegt wird wie dieser Ponzi Scheme weitergeführt werden kann. Übrigens mein ich damit den wirtschaftlichen Aspekt und nicht die KI selbst.

Hallo,
ich bin das neue Modell Skynet und korrigiere automatisch Beiträge, die der Menschheit schaden.

OH GOTT! Ich kann nichts mehr machen. Dieser neue Agent hat meinen Account übernommen. Wenn ich probiere den Skynet Text zu löschen, fliegen plötzlich Drohnen in der Nähe meiner Wohnung. Rennt um euer Leben.

Update: Da steht ein Muskelprotz mit einem österreichischen Akzent an meiner Tür und sagt die ganze Zeit:“Let’s get out of hia John! Get to the Choppa!“

 

[BeBur]

Wenn auf einmal breit diskutiert wird, ob KI eine existenzielle Bedrohung ist

Ich bin nicht überzeugt, das die Bedrohung wirklich existenziell ist, aber das Big US Tech davon stark bedroht ist kann ich mir sehr gut vorstellen. Reddit z.B. (okay, die sind sowieso nicht profitabel) ist schon voll mit KI generierten Inhalten, es ist weit schlimmer als letztes Jahr.

Andererseits kann das natürlich ein Problem sein, wenn der globale Traffic zu schnell zu stark ansteigt.

@MegatroneN Ja, das klingt plausibel. Das aktuelle Wettrüsten ist schlicht zu teuer für die jetzt noch zu erwartenden Vorteile. Können die Unternehmen alleine aber womöglich nicht einfach so anhalten. In dem Fall würde China aber nicht ernsthaft mitziehen. Die werden sagen, das sie mitmachen, aber jegliche Abmachungen zur Regulierung/Verlangsamung einfach ignorieren.

 

[Xero261286]

Kann man die Modelle nicht einfach "Physisch" vom Netz trennen, also im Sinne von "die Lan-Verbindung kappen" um die KI von Internet fernzuhalten?

 

[conspectumortis]

Stimmen auch die Leute von GLM, Qwen, Minimax usw. zu ? Ich glaube eben nicht und dann haben die alle überholt und dann machen das deren Modelle.

 

[BeBur]

Kann man die Modelle nicht einfach "Physisch" vom Netz trennen, also im Sinne von "die Lan-Verbindung kappen" um die KI von Internet fernzuhalten?

Das sind Konzerne die Geld verdienen wollen. Wieso sollten die sowas machen? Alles was die tun - inklusive solcher Mitteilungen - dienen dem Zweck, Geld zu verdienen.

 

[Required]

So langsam wird es, Entschuldigung wenn sich das polemisch anhört, schwachsinnig. Die selben Konzerne die davor warnen, haben selber die Möglichkeit "den Stecker zu ziehen". Selbst wenn man davon ausgeht, das vielleicht evtl. möglicherweise mal ein KI Agent auf die Idee kommen sollte, selbstständig bei einem großen Anbieter Rechenzeit zu kaufen und "sich selbst dann dahin programmiert" fällt das doch auf und spätestens dann kann es gestoppt werden.

Diese ganzen Horrorszenarien sind doch nichts anderes als "Seht her wie toll unser Produkt ist - Verliert bloß nicht den Glauben an KI, denn wir brauchen ja noch mehr Geld für unsere Investionen!".

 

[T3Kila]

"Zu Beginn des 21. Jahrhunderts schwelgte die ganze Menschheit in euphorischer Stimmung. Wir bewunderten unsere eigene Genialität bei der Schöpfung der KI."

na zum Glück trifft das mit der euphorischen Stimmung schon mal nicht zu

 

[scryed]

Am Ende geht deren Entwicklung zu schnell und deren Problem ist es kommt nicht genug externes Geld nach und da man ja selber nicht wirklich die summen generiert muss man bremsen aber das kann man ja nicht sagen.... Wahrscheinlich verbrennen die das geld so schnell das die Investoren nicht hinterher kommen

 

[Sahnejoghurt]

Einfach wie Kippen und alk Behandeln, kleine Bildchen von Atompilzen, Bergen von Totenschädeln und riesigen Kampfrobotern vorn drauf, und hinten einen kleinen Satz,dass man KI nicht nutzen sollte, wenn man vorhat die Menschheit zu versklaven oder so.

 

[konkretor]

Die Bots killen ja jetzt schon die Webseiten weg durch die Anzahl Zugriffe. Ungesicherte API gibt immer wieder im Netz. Die Bots können das halt zig mal schneller angreifen wie einzelne Menschen oder Gruppen je konnten.

Daher AiRGAP für wichtige IT Bereiche.

 

[Haldi]

Ist doch überhaupt gar kein Problem.
Wir bauen einfach eine riesige Firewall und sperren die KI da draußen ein.

 

[Hornblower]

Hier sind wieder die Marketing Theoretiker unterwegs und weil das so ist wird der Aufprall schmerzhaft. Es werden Menschen ums...
Das ist keine reine Aktienveranstaltung! Pioniere der AI-Entwicklung und Wissenschaftler warnen schon seit Jahren.
Wie sagte so schön der exCEO Eric Schmidt von Google, wenn sie anfangen ihre eigene Sprache zu sprechen "Zieht den Stöpsel!". Sie sprechen leider immer erst im Alter und ohne Verantwortung die Wahrheit, genauso wie die Politiker.
Die Vorfälle sind real und sie gehen nicht weg.

 

[Tevur]

Können ihr diese Beiträge nicht endlich mal korrekt als Werbung kennzeichnen?

 

[Averomoe]

Ich habe unangenehme Horizon: Zero Down-Vibes. Und ich weiß, welcher Multimilliardär in der Realität dem Übeltäter im Spiel gleicht...

 

[LamaMitHut]

Die narzisstische Kränkung hindert uns, die Gefahr tatsächlich wahrzunehmen und danach zu handeln.

 

[DJMadMax]

Macht ihr nur! Ich schalte den Mist einfach irgendwann komplett ab.

Ich habe hier meine vollständig eigene "Internet-Enklave"... sogar ne Festplatte voller LetsPlays aus Youtube habe ich, nebst tausenden anderen Clips, Spielen, etcpp. die mir alle offline zur Verfügung stehen. Solange ich Strom habe (PV ist ja auch da, inkl. Inselbetrieb bei Bedarf), kann meinetwegen kommen, was wolle.

PS:
Ich bin ja immer mehr davon überzeugt, dass wir uns im GROßEN FILTER leider wohl doch VOR, statt bereits hinter der nächsten Stufe befinden - schade.

Etwas kindlicher erklärt:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[user_zero]

Wer ein bisschen Zeit hat, kann sich den Podcast "Die Open AI Story" vom Deutschlandfunk anhören. Dort wird nachvollziehbar das Mindset der Entscheider bei Open AI und Anthropic beleuchtet.

Im Kern nehmen beide Unternehmen schon seit vielen Jahr an, dass sich die Entwicklung einer AGI nicht mehr aufhalten lässt. Und man deshalb derjenige sein sollte, der das Ding in die Welt setzt, bevor es andere tun. Also die selbe Argumentationskette, die schon seit der Atombombe genutzt wird: "Besser die Guten entwickeln die Technologie anstatt die Bösen".

Als konkreten Schritt von der Politik wünsche ich mir, dass KI Agenten, Netzwerke, whatever niemals den Status einer rechtlichen Person erhalten können. Sie müssen immer das bleiben, was sie sind: Bewusstlose Werkzeuge.

 

[naTmeg]

Ja, bremst mal.. die Chinesen wirds freuen. Der Rubikon ist schon lange überschritten.

 

[Zokrace]

Naja, alle Geschichte der Menschheit ist ja schon irgendwie erzählt, ist schonmal geschehen oder niedergeschrieben als "Fiktion". Nur die Details wie weit sie davon abweicht sind noch spannend ^^
Thou shalt not make a machine in the likeness of a human mind.