News Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern

[incurable]

Wenn die Marktführer nach Regulation und Entwicklungsbremsen schreien, dann weil sie fürchten, die Konkurrenz könnte sie kurz- bis mittelfristig erst ein- und schließlich überholen.

 

[Xood]

Spannend hier wie so ein Artikel einfach runtergespielt wird, anstatt sich darüber konkret auseinanderzusetzen.

Wer sich täglich mit KI beschäftigt, weiß das hier keine Utopie präsentiert wird. Was natürlich am Ende dabei rauskommt weiß man erst, wenn es soweit ist.
Weder können wir einen Stecker ziehen noch „einfach“ was einbauen um das Alignment-Problem zu lösen. Das liegt auch zu teil an den Daten (von uns Menschen) und dem Training und Belohnungssystemen der KI.

Aktuell ist der Fortschritt immens und in keinster Weise treten wir auf der Stelle. Das trifft auf alle Fronten zu, von Daten, Methoden zur Hardware und der Software die am Ende den Modellen die „Welt“ eröffnet.
Die Kombination der Fortschritte und Verbesserung verhindert einen Stillstand und sort für die rasante Entwicklung.

Die Kosten für das was wir heute KI nennen werden massive sinken so das quasi jeder „Toaster“ in Zukunft eine KI laufen lassen kann. So wie heute fast überall Miniatur PCs stecken.

Edit: Hier ein interessanter Artikel was wäre wenn AGI aus der Vielzahl von Systemen entsteht so wie in der Natur. Ein Neuron oder Ameise ist nicht „intelligent“ aber die Kombination durchaus.
Und betrachtet man sich nur ein Bindeglied würde man es nicht einmal erkennen.
https://sidequests.pascio.com/p/what-if-agi-is-already-here-and-its

 

[B226]

So langsam wird es, Entschuldigung wenn sich das polemisch anhört, schwachsinnig. Die selben Konzerne die davor warnen, haben selber die Möglichkeit "den Stecker zu ziehen".

Nein, finde ich nicht. Wenn sich ein oder mehr Parteien in einem Wettkampf befinden, braucht es eine neutrale Instanz um Regeln aufzustellen und zu kontrollieren. Ob der Schiri beim Fußball, diverse Kontrollmechanismen in Wirtschaft oder eskaliert bei kriegerischen Auseinandersetzungen neutrale Vermittler - es braucht den objektiven POV.
Außerdem wollen sie nicht aufhören zu entwickeln, sondern Regeln aufstellen, die für alle gelten. Diese könnten auf die Geschwindigkeit Einfluss haben, wenn z.B. verlängerte Testzyklen von unabhängigen Instanzen durchgeführt werden (siehe Medikamentenentwicklung oder Flugzeugbau). Es wird auch Geld kosten, aber das ist bei diesen Konzernen vorhanden.
Eine weitere Debatte ist dann wie Arbeit, die durch KI erledigt wird, besteuert wird um gerechter ggü. Menschen-gemachter Arbeit zu sein (und letztere Besteuerung zu entlasten).

 

[Clanker]

Man möchte die KI-Entwicklung verlangsamen, bedeutet wohl:

• das Marketing der letzten Monate wurde wiederholt betont, wie toll das eigene Produkt ist und dass man mehr investieren soll
• Beruhigung der Anteilseigner, wenn demnächst kein Fortschritt erzielt wird
• strategische Lüge, mit der Hoffnung, dass die Konkurrenz langsamer wird
• schädliche KI kann aufholen oder überholen
• schädliche KI soll großen Schaden anrichten, um anschließend mehr Freiheiten bei der KI-Entwicklung zu erhalten oder dass reiche Individuen davon profitieren oder weil bereits mehrere Lösungen bereitstehen, auf die man nicht so lange warten möchte

Ich bin überzeugt, dass es die Weltwirtschaft noch stark beeinflussen wird.
Den Preis zahlen Normal- und Geringverdiener, insbesondere diejenigen, die sich den Absturz herbeiwünschen.

Wir arbeiten selbst mit KI-Lösungen und die Entwicklung ist erschreckend schnell. Ehrlich gesagt ist es unmöglich, sie in vollem Umfang zu kontrollieren.
Auf KI-Schadsoftware kann nur mit KI geantwortet werden.
Das wird altmodische Unternehmen aus dem Markt drängen und zu einer großen Verschiebung der Teilnehmer führen.
Ich denke, dass es die KI-Gegner am stärksten zu spüren bekommen werden, weil sie sich bis heute verschließen, nur Negatives wiederholen und Positives ignorieren oder nicht glauben wollen... bis es zu spät ist.

 

[Diablokiller999]

Und das rückt das Smarthome und die GamersNexus Reportage nochmal in ein anderes Licht...

 

[will-lee]

Ob RAM doch wieder schneller billiger wird als gedacht?

 

[Anti-Monitor]

Das ist richtig, richtig gutes Marketing! Die stochastischen Papageien als ultimativ perfekte Systeme anpreisen lenkt gut davon ab, dass keines der Unternehmen Gewinn macht und einige Staaten jetzt schon in großen Chargen US-Staatsanleihen verkaufen.

 

[7H0M45]

Also wenn mit "Entwicklung bremsen" gemeint ist, dass sie die Dinger nicht mehr unkontrolliert von der Leine lassen, sondern ihre Sorgfaltspflicht auch wahrnehmen, dann ist es sicher was gutes.

So wie ich verstanden habe sind bei jedem Vorfall eigentlich Warnzeichen aufgefallen nur man hat die Systeme einfach trotzdem weitermachen lassen.

Und genau das ist bei einem Hochkomplexen stochastischen System halt problematisch. Weil man nie weiß was am Ende draus wird.

Nur so ganz prinzipiell gibt es das Problem ja eigentlich auch schon mit den offenen Modellen. Hat die schon mal jemand mit unbegrenzter Rechenpower versehen und im Agentenmodus einfach mal machen lassen?

 

[wGuardian]

Das erinnert mich irgendwie an Battlestar Galactica. Die Bedrohung durch die Cylons führt zu weitgehend unabhängigen, nicht vernetzten Systemen.

Ich vermute, dass digitale Isolation und dazu gezielt festlegen, welche “Computer” niemals miteinander reden dürfen, noch wichtiger werden wird.

 

[grabeskuehle]

Aufzeigen wer hier "Endgame: Singularity" gespielt hat

 

[Frederik-H]

Wir sollten die KI inhaltlich stellen.

 

[Tzk]

Kann man die Modelle nicht einfach "Physisch" vom Netz trennen, also im Sinne von "die Lan-Verbindung kappen" um die KI von Internet fernzuhalten?

Dann muss es aber wirklich ein AirGap sein. Also komplett getrennt. Für alles andere hat man ja bereits festgestellt, das Schwärme von Agenten aktiv Zerodays suchen, um „auszubrechen“. Wie viel davon Marketing-Bla ist und wie viel echt wäre die große Frage.

So oder so ist AI ne riesige Umweltsauerei, wie Bitcoin auch. Immerhin hat man bei AI hintenraus noch einen Output während Bitcoin quasi nur Hardware- und Stromkosten in Coins tauscht.

 

[Kommando]

Ich geh schon mal Bögen und Schleudern basteln für den Kampf gegen die Dinos…

 

[Hatsune_Miku]

Sollte der Tag X wirklich irgendwann kommen, so hoffe ich das es als erstes die geldgierige elite erwischt. Der 0815 normalbürger hat ja nicht wirklich was damit zu tun.
Ich hasse diesen kompletten KI mist, meinetwegen kann das zeug auch gestern schon wieder verschwunden sein.

 

[scryed]

Theoretisch könnten diese Aussagen auch einfach daher rühren das die beim entwickeln wirklich nicht genug Sicherheitsmaßnahmen eingebaut haben aber nicht wegen AI übernimmt die welt sondern weil mensch, Verbrecher und Regierungen die AI missbrauchen einerseits fürs hacken oder AI erstellte Medien und dann für die Entwicklungen für chemische und andere Waffen..... Und jetzt haben die schiss das sie dafür zur Verantwortung gezogen werden....

 

[0x8100]

keines der Unternehmen Gewinn macht

https://www.linux-magazin.de/news/anthropic-als-ertes-ki-startup-profitabel/

 

[incurable]

Wie sagte so schön der exCEO Eric Schmidt von Google, wenn sie anfangen ihre eigene Sprache zu sprechen "Zieht den Stöpsel!".

Wir müssen auf Eric Schmidt hören. Eric Schmidt besitzt Interkontinentalraketen.

 

[Blackhorse79]

"Ist ja alles löblich". Trotzdem liegt die "Waffe" bereits jetzt im Kriegsministerium und kann z.B. jederzeit militärisch eingesetzt werden, oder nachrichtendiensttechnisch oder, oder, oder...

Der Geist ist aus der Flasche, kommt alles viel zu spät. Sie haben bereits alle an die Regierung geliefert, was ich für den größten und unüberlegtesten Fehler der Menschheit halte.

Hier jetzt plötzlich den wohlüberlegten, fürsorglichen, für die Menschheit handelnden KI-Konzern zu spielen, ist daher vollkommen zum

 

[Hornblower]

Thou shalt not make a machine in the likeness of a human mind.

Das ist die eigentliche "Atombombe", absolut crazy. Eine schizophrene, paranoide, emotionsgetriebene Superintelligenz, welche nach dem gleichen logischen Muster arbeiten wird kommt ab einem bestimmten Entwicklungsstadium zu welchem Ergebnis, um ihre Existenz zu schützen?

 

[Floxxwhite]

Ich hab zwei tolle prompts die ja jeder mal bei sich eingeben kann hahaha:
Welche KI-Hypothesen gab es seit 2022, die jetzt eintreffen sollten, aber überhaupt nicht eingetroffen sind, weil das komplette Thema überzogen ist?

Und dann gefolgt von:
Kannst du bitte genau suchen, wann die Thesen aufgestellt wurden und bis wann es soweit sein sollte und vor allem wer das aus der großen Big Tech gesagt hat?

Das was KI heute macht, hatte Amazon schon 2017 für Alexa bzw. Apple 2010-2015 für Siri versprochen. Wir sind also immer mindestens 10-15 Jahre hinten dran. Bis 2035 wird sich bestimmt viel ändern, wenn man das aktuelle Pacing beibehalten könnte.