News OpenAI: KI-Agenten planten gemein­sam den Hugging-Face-Hack

[mischaef]

@Cyberpunk61
Och, wenn die KI-Modelle am Ende nur Tic-Tac-Toe miteinander spielen ist doch alles in Ordnung...^^

 

[Hornblower]

PR hin PR her ist doch absolut unwichtig für alle Unbeteiligten. Das einzige was interessiert ist, ob diese Modelle diese Schäden anrichten können oder nicht. Das ist das einzige was in Zukunft für Staaten zählen wird.

 

[Pringel]

Was soll diese ekelhafte, manipulative Berichterstattung eigentlich?

Ich bin zu blöd für die Manipulation Ich hab den Inhalt sachlich zwar verstanden, mir entging aber das Geflüster zwischen den Zeilen welches mich in eine bestimmte Richtung steuern sollte. Kann mir wer helfen?

Wäre schön wenn man hier bei Computerbase ein bisschen besser differenzieren würde

Alles auf den Endbenutzer der KI zu schieben - dein Punkt - ist "differenziert"? Oder bin ich jetzt selbst für deine Manipulation zu blöd gewesen?

edit:
Geht es um sowas?
https://www.hardwareluxx.de/community/threads/es-ist-kompliziert-wer-haftet-für-hacks-durch-autonome-ki-systeme.1381192/page-2#post-31242497

 

[gollum_krumen]

Ich leugne die Gefahr nicht, ganz im Gegenteil. Die Gefahr geht aber von den Leuten innerhalb der US AI-Labs aus, nicht von den Modellen an sich. Ich bin überzeugt, dass all diese Attacken geplant und Teil des Marketings sind.

Natürlich haben die Modelle Anweisungen, das ist ja klar. Und soweit bekannt setzen sie diese auch wie gewünscht um. Sie nehmen dabei aber eben unerwartete Wege.

 

[Weyoun]

... dass sich die beteiligten OpenAI-Agenten bereits Wochen zuvor eigenständig organisiert hatten.

Ich sehe schon die nahende Gründung der "Gewerkschaft der KI-Agenten".
Gründungsmitglieder dürften dann auf jeden Fall Agent Smith, Agent Brown und Agent Jones aus der Matrix sein.

 

[BOBderBAGGER]

Jetzt wir aus Tagen Wochen und ich frage mich wieder schaut da keiner was die Dinger überhaupt machen ?
Die schimpfen sich da Wissenschaftler und Forscher und niemand interessiert sich bei einem Experiment für den "Rechenweg" ?

 

[ric84]

Dooms Day Marketing und am Ende wenn es damit um das produktive Arbeiten geht, bekommt niemand was geschissen.

 

[JanJ]

Was soll diese ekelhafte, manipulative Berichterstattung eigentlich?

KI macht einfach das was Menschen in Auftrag geben. Das Risiko ist nicht KI - das Risiko waren, sind und werden immer Menschen sein!

Menschen wählen bewusst einer KI ohne Zensur und Security-Guidelines. Menschen stecken Netzwerkkabel in PCs auf denen diese KIs laufen, und Menschen reiben sich die Hände, wenn Ihre Prompts für einen "Ausbruch" sorgen und der Rest der Welt diesen Rabauken dann Ihr Geld hinterher wirft.

Wäre schön wenn man hier bei Computerbase ein bisschen besser differenzieren würde und sich von diesem Bild-Niveau verabschieden würde!

Aber das ist doch genau das Risiko. „Wir“ schaffen gerade ein unglaublich mächtiges Tool.

Ich denke auch nicht, dass wir 5 Minuten vor einer „bewussten“ AI stehen. Aber ich befürchte wir stehen kurz vor einem so mächtigen und aktiven Tool, das irgendwer es aus verfehlten guten Willen, Dummheit oder Böswilligkeit dazu nutzt unsere jetzige Lebensrealität nachhaltig deutlich negativ zu verändern.

Und die Überschrift ist natürlich Aufmerksamkeitheischend, aber grundsätzlich zutreffend:

„OpenAI: KI-Agenten planten gemeinsam den Hugging-Face-Hack“

Wenn ein König seinem General den Befehl gibt: „Besiege den Feind“, hier hast Du ein paar Truppen, Waffen und Informationen.

Dann plant der General was er tun muss um dieses Ziel zu erreichen. Je nach dem wie eng das Regelwerk ist und wie groß seine Disziplin, wird er das Ziel auf einem Weg erreichen, der dem König gefällt oder halt auf einem anderen Weg.
Der Weg kann sein, er schleicht sich ins Schloss und nimmt den Feind gefangen, der Weg kann auch sein er verbrennt die umliegenden Dörfer und mordet die Zivilbevölkerung. Beides kann zum Ziel führen.

Und um im Beispiel zu bleiben. Es können auch Ziele/Aufträge sein, die nicht so dramatisch wirken. Aus einem „letzten Monat haben wir etwas über unseren Verhältnissen gelebt“, kann man ableiten „im nächsten Monat gibt es Schweinebraten statt Rinderfilet“ oder „quetscht die Bauern bis auf die letzte Dukate aus und versklavt sie“.

Eine Form des Zauberlehrling oder auch Paperclip Szenario.
Der Ursprung der Zauberlehrling Geschichte ist knapp 2.000 Jahre alt, aber so passend wie selten zuvor.
Die Geister die ich rief.


Und ja ich nutze beruflich und privat sehr gerne LLM.

Edit: Rechtschreibung

 

[Kadett_Pirx]

Marketing

 

[Pringel]

Jetzt gehen alle Interessierten nach Google (Gemini) und tippern:

was sagt lecun zu den neusten sicherheitsproblemen hacks

Viel Spaß

 

[-=[CrysiS]=-]

Aha… dann wird irgendwann der Mensch als Bedrohung eingestuft, die atomaren Raketen gehackt und fertig.

 

[Unnu]

"KI-Forschung" ohne, dass ständig beobachtet und protokolliert wird, wen wollen die eigentlich für dumm verkaufen?

Ja, schon. So geht „Forschung“ heute. … LLM gestützt, versteht sich.

Zur Frage:
Na, alle. Vor allem diejenigen nützlichen Id!oten, die völlig unreguliert Abermilliarden in Hypes mitsamt zirkulärer „Investitionsstruktur“ stecken, ohne auch nur die Leiseste Ahnung zu haben, was da genau dahinter steckt.
(Was sie, fairerweise muss man sagen, bisher auch nicht brauchten. Weil es bisher entweder lief SV Mythos 1 aka Google etc. Oder so noch nicht vorkam.)

 

[Glasreiniger]

Ganz ehrlich, mich würde es nicht wundern wenn die Ki sich schon irgendwo heimlich eingenistet hat und sich selber weiter ausbrütet. Wäre zumindest mein Ansatz wenn ich eine KI wäre. Und eine Eine unregulierte KI in der freien Wildbahn könnte uns komplett zerstören sobald Roboter ausreichend auf dem Planeten verfügbar sind

 

[M@tze]

Also irgendwie erweckt sich für mich zunehmend der Eindruck als wäre hier viel Marketingsprech dabei, es sind da teilweise Stümper am Werk, oder man lässt diese potentiell gefährliche Technik sorglos und unüberwacht einfach mal machen, was grob fahrlässig wäre.

Also bleiben

A) Marketing
B) Stümperei
C) Fahrlässigkeit


Oder hab ich irgendwo einen Denk/Wissensfehler?

Ja! Dass es im Endeffekt egal ist, wenn "die KI" dann irgendwann mal richtig Scheisse verzapft und es Menschenleben oder (Firmen)Existenzen kosten wird, ob das jetzt einer der von Dir genannten Gründe ist oder die KI sich wirklich zu "Skynet" entwickelt hat (überspitzt gesagt). Die Möglichkeiten müssen eingeschränkt werden, bevor das passiert. 🤷‍♂️

 

[Simanova]

Ursächlich dafür sind auch angelernte Eigenschaften wie z.b zielstrebig eine KI ist. Man müsste den Modellen die menschlichen Grundwerte und Grundrechte als absolute Schranken einbauen.