News Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern

[Olandos]

Das mit dem Roboter der den Ingeniuer angreift ist ja echt heftig.

https://www.t-online.de/video/nachr...94/china-roboter-geht-auf-ingenieur-los-.html

Da fragt man sich natürlich ob fehlerhafte Updates oder ein Schlechtmensch Hacker einen friedlichen Pflege Roboter nicht auch umdrehen kann das der auf einmal Kung Fu macht.
Am besten ganz geschlossenes System an dem man selber und der Hacker nicht ran kommt. Also nur in der Fachwerkstatt und die schauen dann ob er nach dem Update auch kein Kung Fu macht.

 

[Tevur]

Du wirfst hier zwei völlig verschiedene Technologien in einen Topf. LLMs sind das eine.
Wir sprachen inzwischen von lokaler, neuromorpher Hardware (wie Intels Loihi-Chips) und biologischen Systemen.

Ich halte mich an das Thread-Thema und die Aussage, dass hier irgendwas "bedrohlich" oder "nicht lustig" wäre.

In dem von dir zitierten Artikel (der trotzdem interessant ist, daher vielen Dank) gibt es keine Verknüpfung zu irgendwelcher KI. Das "Training" dieser Neuronen-Chips erfolgt durch physikalische Signale und daher nach völlig anders als das Reinforced Learning von Transformern in LLMs. Sie konstruieren ihre Schaltung selbst, sie lernen nicht.
Das Teil hat auch nicht gelernt DOOM zu spielen, sondern es konnte einen einfachen Learning Algorithmus ausführen. Wieder was völlig anderes, als das Training in LLMs.
Und trotz ähnliche Namen: neuromorphe Chips sind bisher wohl nicht für neuronale Netze verwendet wurden. Das wäre aber wirklich lustig, wenn das ginge.

Also nein, kein Zusammenhang mit diesen "gefährlichen KIs", die die Menschheit vernichten wollen und auch keine "selbstlernende KI".

Danke trotzdem für den interessanten Artikel.

 

[Tevur]

Das mit dem Roboter der den Ingeniuer angreift ist ja echt heftig

Nee, dumm...

Es gibt einen Grund, weshalb Roboter mit beweglichen Teilen seit Jahrzehnten in Sicherheitskäfige gestellt werden.

 

[mykoma]

Bitte beim Thema bleiben!

 

[Kommando]

Das mit dem Roboter der den Ingeniuer angreift ist ja echt heftig.

Sieht nicht nach nem Angriff aus, eher ein Muster, welches gestartet wird. Der geht ja nur nach vorne. Keine Verfolgung des Menschen.

Hauptsache Klicks