News OpenAI: KI-Agenten planten gemein­sam den Hugging-Face-Hack

@Extraportion25 Technologie lässt sich immer missbrauchen, das wird sich natürlich auch in Zukunft nicht ändern. Dafür gibt's dann wieder Gegenmittel und Gegenmittel gegen die Gegenmittel usw. usf., man kennt es. Ist wie immer ein Wettrüsten :D

Extraportion25 schrieb:
Token sind nur immer so explizit erwähnt, weil sie die Einheit sind in denen das Geleistete gegen eine Währung gehalten wird. Auch alle anderen Arten von neuronalen Netzen arbeiten mit "Token", es ist einfach nur eine Menge an Daten die den Netzen als Input gefüttert wird (und worauf sie trainiert wurden) und dadurch ein Output entsteht. Wie die Daten aussehen (Art der Daten, Format, Dimensionen) hängt dann wieder vom jeweiligen Netz ab.
 
im Prinzip kann man der KI sagen hacke das System und dringe ein. Dann wird die das so lange probieren bis es klappt. Die wird nicht müde und arbeitet schweiß frei. Eigentlich der perfekte Hacker.
 
  • Gefällt mir
Reaktionen: Toast.Brot, cbforum.scooter, DaysShadow und 2 andere
hacker-hackerman.gif
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Mimir schrieb:
Wie kommst du auf Bewusstsein?
Weil versucht wird zu argumentieren, dass die LLM sowas wie ein Bewusstsein entwickeln. Siehe hier

Mimir schrieb:
Es liegt also in der Natur der Sache, dass das passiert. Da braucht es kein Marketing.
Und es liegt auch in der Natur der Sache, dass das LLM Lücken findet. So wie KI ja mittlerweile unzählige Lücken in Software findet (siehe News der letzten Wochen). Hier wirds halt direkt praktisch angewendet um die Aufgabe zu lösen.
Und es liegt in der Natur der Sache, dass Unternehmen dich etwas denken lassen wollen indem sie deine Emotion gegen dich nutzen. Das nennt sich PR. Sie verkaufen dir ein Produkt, was sie als äußerst geschickt und kompetent darstellen lassen wollen und du machst mit deiner Argumentation dann das übrige.

Die Schweinchen hören das und laufen dem nach wie die Motten dem Licht hinterher.
Erst war es Antrophic die ihren Hype generieren wollten, dann Openai und nun ist es Meta.

Ob das demnächst bei den Opensource-Lösungen von Qwen, Kimi & co auch passiert? Was glaubst du?

Ciero
 
  • Gefällt mir
Reaktionen: the_IT_Guy und Booby
Fast schon beängstigend, wie fantasielos hier manche sind.
Ich geb uns noch 5 - 10 Jahre bis es ernst wird. Zumindest wenn wir so weitermachen.
 
  • Gefällt mir
Reaktionen: Hornblower
@Wallwatcher Jemand gibt einem Affen ein Maschinengewehr ohne Sicherung und diejenigen, die vor diesem Jemand warnen, sind natürlich "fantasielos".
Wenn jemand zu Schaden kommt, dann ist weder der Affe (KI), noch das Maschinengewehr (Rechenleistung + Infrastruktur) Schuld. In diesen US AI-Labs sitzen größenwahnsinnige Psychopathen und werden mit Kapital überschüttet. Das ist das Problem.
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Da widerspreche ich dir überhaupt nicht. Aber das ist nunmal das Setup, in dem sich die Welt aktuell befindet und am Ende ist nur das Ergebnis wichtig.
Es deutet eben alles darauf hin, dass dieses Ergebnis nicht so geil wird.
Als "fantasielos" bezeichne ich lediglich den Gedanken: "Ach, so einem Affen ein MG zu geben ist doch reines Marketing, um zu zeigen was der Affe alles kann. Da braucht man sich also keinen Kopf machen."
 
  • Gefällt mir
Reaktionen: Hornblower und Mimir
Wallwatcher schrieb:
Ach, so einem Affen ein MG zu geben ist doch reines Marketing, um zu zeigen was der Affe alles kann. Da braucht man sich also keinen Kopf machen."
Bin ganz bei dir. Mein Problem ist die Darstellung, dass der Affe so allmählich zu einem Gott mutiert und bald eine Waffenfabrik aus seinen Gedanken herausmanifestieren kann.
 
Terminator muß nicht unbedingt grüßen lassen, aber mir graut vor dem, das kommen mag, wenn ich bei solchen Dingen an all die Schattenprofile von Menschen denken, all die Daten, die grsesammelt und weitergeben werden.
 
Und immernoch verstehen die meisten Menschen auf der Welt nicht was gerade abgeht, selbst wenn sie das hier lesen würden. Bin wirklich gespannt drauf in was für einer Welt mein Sohn aufwachsen wird (1,5 Jahre alt). Hoffe ein "Skynet" Szenario wie bei Terminator wird nicht wahr. Dann doch lieber das alternative Ende von Mass Effect 3 Symbiose zwischen Mensch und Maschine
 
mischaef schrieb:
Für mich gewinnt da der Song "Mr. Roboto" von Styx von 1983 doch eine neue Bedeutung...
Ich denke da eher an IRobot und ähnliche Szenarien. Wobei Mr.Roboto ein wunderschöner Song ist, den ich heute noch gerne höre.
 
Mal sehen wie Anthropic nächster Zug im "Unser Modell ist aber viel gefährlicher als deins"-Spiel aussieht.
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Ich sehe das eben auch so, auch hier in der CB Blase, die nebenbei stark politisiert moderiert wird, wo man unter anderem anderen die Fantasie regelrecht in Abrede stellt und wie in Stein gemeißelt darauf pocht das alles wäre ne PR Show. Das ist zwar nicht abwegig, aber keiner hier weiß was genau die mit welchen Modellen in welchem Ausmaßen hinter verschlossenen Türen die so Anstellen. Das wusste damals auch keiner wie man zB an Kindern oder Tieren experimentiert hat....

Wir sind längst im realen AI, KI, LLM or what ever Zeitalter angekommen, wo man neben etwas positivem für Mensch und Umwelt, mit deren Hilfe auch alles und jeden Hacken, Ausspionieren und Manipulatieren kann, und auch will. Nicht zuletzt zu Kontrollieren. Oder etwa nicht?

Man setzt haufenweise solche Mittel ein um Schwachstellen zu finden, und das nicht nur um diese zu Schließen, sondern auch gezielt auszunutzen.
Das Wort "Sicherheitslücke" hat eine Bedeutung. Die gefährtung der Sicherheit und der SCHADEN beginnt nicht erst mit einem Terminator, sondern schon dann sobald diese Mittel, ob selbstständig automatisiert oder per menschlichem Befehl automatisiert gegen Menschen agieren. Und das erleben wir längst in jeder Ecke... Nix mit PR und nix mit Fantasie, es ist bereits real.

Selbst wenn es nur PR wäre wird es hier bereits allein für Angst und Manipulation eingesetzt.
Längst müssen Informationen wie Texte, Bilder, Videos, Audio usw geprüft werden was echt oder KI Fake ist oder mit dieser manipuliert wurde. Und auch hat es bereits einen Reifegrad erreicht, um Potentiell in diesen fragilen und angespannten Zeiten, durch Missbrauch Unruhen oder Kriege auszulösen.

Jeder sieht doch nun deutlich wo sowas heute schon überall trinn ist und jeder kann sich vorstellen wo es zukünftig noch Einzug hält, gleiches gilt für die Nutzung davon, wo die tendenzielle Richtung zu erkennen ist.

Das bisherige Überlebensmodell der Menschen wird zusehens radikaler umgestellt. Und sowie etwas intelligenter, schneller und effizienter als dieser wird, ist die Kontrolle weg. Die letzten beiden Punkte haben wir bereits erreicht, an der anderen und wichtigsten wird fleißig gearbeitet, denn bei der allgemeinen Definition von Intelligenz sind wir an vielen Punkten bereits schon weit über den menschlichen Fähigkeiten angekommen.
 
  • Gefällt mir
Reaktionen: JanJ und Mimir
Glaubt doch kein Mensch, dass sowas ohne Ingenieure die im Hintergrund die Fäden ziehen funzen würde.
Alles nur um den krepierenden 'AI' hype wiederzubeleben.
 
  • Gefällt mir
Reaktionen: the_IT_Guy, Kadett_Pirx und Pringel
"Laut Michael Dalton hat OpenAI aus dem Vorfall Konsequenzen gezogen und will Teile seiner Forschungsarbeit bewusst verlangsamen"

Versteh ich nicht. So gewinnt man doch den KI-Wettlauf nicht, und der ist alles was zählt.

Oder meinen die mit "Teile seiner Forschungsarbeit" die Nachverfolgung verdächtiger KI-Aktivitäten? Damit der KI-Wettlauf ungestört weitergehen kann? Wo bekämen wir dann unsere tägliche KI-Schlagzeile her?
 
  • Gefällt mir
Reaktionen: the_IT_Guy
mischaef schrieb:
Für mich gewinnt da der Song "Mr. Roboto" von Styx von 1983 doch eine neue Bedeutung...
Richtig interessant wird es dann wenn auch der Spielfilm "War Games" von 1983 an Relevanz gewinnt...
Obwohl ich KI durchaus schätze und auch relativ oft nutze, befürchte ich doch dass wir in Zukunft noch so manch unangenehme Überraschung erleben werden.
Interessant wäre auch die Dunkelziffer von Fällen über die wir nichts erfahren...
 
Zurück
Oben