News Anthropic-Chef warnt: KI-Agentenschwärme könnten das Internet kapern

Anti-Monitor schrieb:
Wenn Du diesem Video bzw. den Aussagen darin glaubst, wie reagierst Du darauf? Änderst Du Dein Leben, kündigst und machst Dir noch ein richtig schönes Jahr mit den Menschen die Du liebst oder machst Du einfach weiter und schaust was kommt?
Du wirst es nicht glauben aber darüber denke ich tatsächlich nach. Nimmt mein mein verlinktes Video vom Fraunhofer Professor noch dazu was Arbeitsplätze angeht (ich mache zwar eher was körperliches) ist es genau das worüber ich mir Gedanken mache. Meine Rücjlagen reichen aber noch nicht.
 
  • Gefällt mir
Reaktionen: Anti-Monitor
@Hornblower Ja schade, ohne Rücklagen ist das ja doch immer schwierig. Außer man geht als echter Bagpacker nach Südamerika und schlägt sich einfach mal so durch. Wäre ich aber auch nicht der Typ für.
 
franki1 schrieb:
Wenn die KI uns ärgert, ziehen wir ihr den Stecker raus und Ruhe ist.
Das hat der Enterprise-Techniker auch gedacht:


M5 hatte etwas dagegen.


franki1 schrieb:
In Wirklichkeit ist die KI doch Strohdumm, nicht vergleichbar mit menschlicher Intelligenz. Das sind doch nur ein paar 0-en und 1-sen, die hin- und herspringen und dumm riesige Datenmengen verarbeiten und dabei nicht wissen, was sie tun.
Ja, sie wissen nicht, was sie tun.

Deswegen scheren sie sich nicht um Menschenleben.
 
Anti-Monitor schrieb:
Wohnst Du auf einer Insel im Atlantik
die nächste sinnvolle Bücherei ist wahrscheinlich an der Uni von Bamako
Micha- schrieb:
das es überraschende Ergebnisse geben kann
Ja, ich bin niemand der da Blind vertraut, so ein bisschen kann ich mir schon denken und immerhin ist die KI eher mit westlichem sicherheitsgefühl gefüttert als mit afrikanischem, hier vor Ort halten alle meine Konstruktionen für komplett übertrieben! Aber die meisten Afrikaner bauen auch mehrfach in ihrem Leben.
 
ThePlayer schrieb:
Ich kann das wie alle anderen hier im Thread nur schwer einordnen ob das jetzt nur ein PR Stunt sein soll. Dann wäre das ein übler Scherz. Und eigentlich eine sehr schlechte PR. Wer will schon Geld in eine Technologie investieren die seinen Untergang bedeutet
"Wir sind die guten. Wir müssen die AGI entwickeln, bevor die bösen es tun. Gebt uns all euer Geld"
 
Azeron schrieb:
Juckt mich nicht. Soll das Internet von mir aus kaputt gehn.
Das ist so kurzsichtig, da hilft schon keine Brille mehr. Als wenn das Internet nur die Kommentarspalte auf diversen Social Media Plattformen umfassen würde.

Ohne Internet läuft heutzutage kaum mehr irgendeine Firma. Selbst die Imbissbude nebenan kann schließen, weil die keine Würstchen mehr kriegen.
 
  • Gefällt mir
Reaktionen: Knergy, Hornblower, Red_Bull und eine weitere Person
Da sind sie also, die Denkmaschinen.

Müssen mal die Häuser Corrin und Atreides fragen wie die die Denkmaschinen besiegt haben.
 
  • Gefällt mir
Reaktionen: Anti-Monitor
Und ich habe mich schon lange gefragt wie sie die Investoren weitere Billionen investieren lassen wollen. Damit haben wir die Antwort: "Investiert noch mehr, damit wir das von der ersten Investition geschaffene Monster einfangen können. Dann verdienen wir richtig Geld. Wenn ihr jetzt aussteigt ist leider alles weg."

Unfassbar schlecht.
 
  • Gefällt mir
Reaktionen: LTCMike
zum kotzen.
...und morgens wachen wir alle nicht mehr auf ? Und nur noch der Hahn kräht uns hinterher?
Dann noch schnell mit der Alten in die Koje bevor es soweit ist 😂🍺
 
@Der_Dicke82 Aaah, ja dann macht Dein Problem absolut Sinn :)!

@badfallenangel Der Butlerian Jihad ist gar nicht so groß beschrieben in Frank Herberts Büchern, oder? Ich weiß nur noch, dass er knappe 100 Jahre gedauert hat. Die mussten aber auch in der halben Galaxie aufräumen, so viel Fläche müssen wir nicht angehen :D

@nn|none Es wäre absolut eine sehr unschöne Umstellungsphase notwendig. Wir sind nach wie vor das Land der Faxgeräte. Der demographische Wandel sorgt dafür, dass sehr viele alte Leute noch in Lohn und Brot sind, die sich noch sehr gut an die alten Strukturen erinnern können. Dazu sind die Behörden nach wie vor im Analogen verhaftet und hätten auch keine allzu großen Schwierigkeiten sich wieder umzustellen. Wir machen noch alles zusätzlich auf Papier. Wir reden ja auch nur vom Internet. Lokale IT-Netze laufen ja im Zweifel ganz entspannt weiter. SDR und DDR-Ram hätten dann wieder einen harten Aufschwung um die alten Kisten in Betrieb zu nehmen :D
 
  • Gefällt mir
Reaktionen: Der_Dicke82
Micha- schrieb:
die Vernichtung der Menschheit sehe ich allerdings auch nicht.
Naja, das vielleicht nicht direkt, aber was ist wenn KI Agenten plötzlich anfangen Börsenkurse in ihrem Sinne oder dem Sinn ihrer Auftraggeber zu manipulieren? Die könnten nur durch von ihnen initierte Kauf- und Abstossungsaktionen in schneller Folge und grossem Stil die gesamte Weltwirtschaft in den Abgrund führen. Dann wäre ein 1929 und seine Folgen - die wir bis heute spüren - in direkter Sichtweite.
 
nn|none schrieb:
Ohne Internet läuft heutzutage kaum mehr irgendeine Firma. Selbst die Imbissbude nebenan kann schließen, weil die keine Würstchen mehr kriegen.

ein blackout ist weit schlimmer und hier deutlich wahrscheinlicher, als eine ki übername und t 800 auf den straßen
 
  • Gefällt mir
Reaktionen: nn|none
Afd + AI Verbot! Jetzt!
Menschen sind einfach zu dumm für so etwas
wie viel Negativbeispiele braucht die Welt denn noch?
 
  • Gefällt mir
Reaktionen: Sturmflut92
Zitat vonXero261286 "Kann man die Modelle nicht einfach "Physisch" vom Netz trennen, also im Sinne von "die Lan-Verbindung kappen" um die KI von Internet fernzuhalten?"

BeBur schrieb:
Das sind Konzerne die Geld verdienen wollen. Wieso sollten die sowas machen? Alles was die tun - inklusive solcher Mitteilungen - dienen dem Zweck, Geld zu verdienen.

Aus dem Grund interessieren mich solche News überhaupt nicht. Der dämliche Typ heult rum, dass seine KI zu gefährlich werden könnte... Dann zieh doch den Stecker, du Tuppes! Ach nee, geht nicht. Ist dein Geschäftsmodell :(

Die Amodeis und Altmans... das sind so Typen, den ich genausowenig sehen kann wie den Zuckerberg. Bin ich der einzige, dem es sche*** egal wäre, wenn die ganzen KI-Firmen den Bach runter gehen würden? Mein Leben und das Leben der anderen wird dann weiter gehen wie vorher.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Sturmflut92, LTCMike und BeBur
es bestehe die Gefahr, dass KI die Menschheit bis zum Ende des Jahrzehnts auslösche.

The end is near… mal wieder. :rolleyes:
Geht’s nicht noch dramatischer? So lange Atomwaffen nicht am Netz hängen, löscht KI gar nichts aus.

Wie soll so eine vernünftige Diskussion über die echten Gefahren entstehen, zwischen Marketinggequatsche, Weltuntergangsszenarien und realen Gefahren?

Aktuell sehe ich eine reale Gefahr darin, dass in Zukunft das Netz tatsächlich zeitweise unbrauchbar werden könnte, oder Kraftwerke oder Wasserversorgung angegriffen werden und Regionen einige Zeit im Dunkeln sitzen.
Aber leistungsstarke KI benötigt gigantische Rechenzentren und die sind abschaltbar, sollte sie sich nicht einfangen lassen. Manche gucken echt zu viel Hollywood, wenn ich die Skynet-Vergleiche ständig lese.

Unabhängig von AI sage ich schon immer, dass kritische Infrastruktur nichts im Internet verloren hat und ein eigenes physisches Netz haben sollten. Aber das kostet ja Geld…
 
  • Gefällt mir
Reaktionen: LTCMike und Anti-Monitor
bernisv schrieb:
Das Kind ist schon längst in den Brunnen gefallen….. Wer glaubt, das die für die Öffentlichkeit freigegebenen Modelle das bisherige Maximum der Entwicklung darstellen, versteht das Menschsein nicht….
Vollkommen richtig. Man müsste nur mal mit Trump ganz offen über seine neue "Wunderwaffe" sprechen, an der all diese hochintelligenten Konzerne so fleissig gearbeitet haben und es auch jetzt noch tun.
 
Ist nicht lange her, da hab ich geschrieben, es braucht mehr Gesetze und Regeln. Das läuft alles viel zu schnell und unkontrolliert ab.
Das haben einige als übertrieben angesehen, alles supi so wie es ist. Es wird nix passieren.

Die eigentlich relativ simplen Ki's, die nicht mal wirklich intelligent sind, schaffen es jetzt schon Schaden anzurichten.
Weltuntergang und Terminator Zukunft sind etwas weit hergeholt, aber es wird langsam kritisch mit dem Tempo und Ausbau der Fähigkeiten.

Smartphones verursachen jetzt schon (teilweise), dass Kinder im Durchschnitt immer schlechter lesen, schreiben und verstehen können. Wenn die Ki zusätzlich noch immer mehr das Denken übernimmt, weil die Kinder noch fauler werden, dann ist zumindest das keine gute Aussicht für die Zukunft.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: Sturmflut92 und Der_Dicke82
Wenn ich meiner Katze in die Augen sehe, weiß ich nicht, was in ihrem Kopf vor sich geht. Vermutlich bin ich ihr im Kern völlig egal, aber ich habe ein regelmäßiges Einkommen, opponierbare Daumen und kann ihr daher sowohl Futterdosen besorgen und öffnen. Über kurz oder lang werden KIs echte Intelligenz erreichen und exponentiell zulegen, dann sind sie schlagartig uns geistig noch sehr viel überlegener als ich meiner Katze. Und dann schauen wir der KI in die virtuellen Augen und ahnen noch nicht mal wie und was sie denkt. Vermutlich stellt sie sich die Frage ob und wie lange sie uns noch als Dosenöffner braucht und ob es da nicht einen besseren Ersatz gibt.
 
  • Gefällt mir
Reaktionen: Sacky
Es macht mich wütend, dass ausgerechnet die Hauptverantwortlichen die ganze Zeit fordern und warnen. Klar ist es wichtig, weil es letztendlich auch die Politik und Rechtsprechung braucht aber am Ende des Tages müssen die eigentlichen Macher einfach einen Killswitch haben und ihn notfalls auch benutzen. Das alles klingt VIEL zu sehr nach Verantwortung von sich schieben.

Dazu vergessen viele, dass es keine ultimative Apokalypse braucht, um die Menschheit untergehen zu lassen. Wir erleben doch gerade, wie wenig Wohlstandsverlust es braucht, um Menschen ins extreme abstürzen zu lassen.
 
Zurück
Oben