News OpenAI: GPT-6.1 Astra nach Missach­tung von Befugnis­sen gestoppt

Return2Burn schrieb:
Von der Gefahr, das KI gezielt als Cyber-Waffe eingesetzt wird, reden wir hier nicht nochmal, obwohl das eines der naheliegendsten Szenarien ist.

Wie weit das Militär ist weiß doch niemand genau! Auf einmal drückt einer den falschen knopf und Skynet ist da..... oder das ganze läuft wie in dem film "The Creator"
 
Zuletzt bearbeitet:

Einfach zu gut um es nicht hier zu posten. Von einem AI Safety Researcher erstellt. Natürlich alles KI-generiert. Text ist schlau gemacht, musikalische Dramaturgie passt sehr gut.

@wern001

Auch das US Militär hat grundsätzlich keine anderen Modelle zur Verfügung, so wie z.B. das interne "Bel" Modell.
 
  • Gefällt mir
Reaktionen: arteus und GRB221009A
Benj schrieb:
Gähn, jede Woche das gleiche Muster aktuell.

  1. KI-Anbieter: Oh nein, unser neues Modell ist zu gefährlich für diese Welt!
  2. Welt: Wow, das klingt gefährlich, was für eine mächtige KI!
  3. KI-Anbieter: Lasst uns alle die Entwicklung bremsen/stoppen!
  4. Welt: Naja wir können schon mal ein paar Bunker restaurieren, aber bitch please, der KI-Zug hat keine Bremsen!
  5. KI-Anbieter: Wir haben "optimiert" (wissen aber selbst nicht, was wir da gemacht haben) und veröffentlichen das neue Modell trotzdem.
  6. Welt: Hurra! Hier sind meine Kreditkartendaten!


Die KI Firmen wollen Regulierung, damit für alle ein Rahmen gesteckt wird.

Aktuell werden ohne Rücksicht auf Verluste Ressourcen in die Entwicklung gepumpt als gäbe es keinen Morgen. Oder anders herum gedacht: Die Unternehmen sind gezwungen so zu investieren, weil sie sonst abgehängt werden, entweder von anderen US Techgiganten oder von anderen Ländern. Was dann auch wieder die Zwickmühle mit der technologischen Vormachtstellung verdeutlicht.

Für mich heben die KI Firmen gerade ihre Hand und schreien "leute, seid ihr auch wirklich sicher, dass wir so weitermachen sollen, denn ohne staatliches Eingreifen bleibt uns gar keine andere Wahl"
 
  • Gefällt mir
Reaktionen: Reaper75, arteus, Cruentatus und 3 andere
Carsti80 schrieb:
Ich finde es bedenklich, dass es hier so viele Ungenauigkeiten in der Zusammenfassung und in den Kommentaren gibt.
Jup, man erkennt daran (leider) ganz gut, wie die Meinungen durch Berichterstattung und Äußerungen der AI-Firmen beeinflusst und ihrer Sachlichkeit beraubt wird. Mission erfolgreich!
 
Die KI lügt und betrügt also systematisch, hält sich nicht an Regeln und leugnet hinterher, was sie getan hat. Sehr menschlich! Jedenfalls wenn man Politiker dafür als Maßstab ansetzt. :daumen:

Es gibt ja nun endlose Belege dafür, wie unnütz KI als Informationsquelle eigentlich ist, da sie auch nur die in Google & Co an erster Stelle gelisteten Ergebnisse, anders kombiniert, aber inhaltlich identisch, weitergibt, und erst auf mehrfaches, intensives Nachhaken, und wenn sie erkennt, daß der Fragende schon mehr weiß, als sie ihm zu sagen programmiert ist, auch andere Informationen preisgibt. Das ist also auch nur eine weitere Spielart von Informationsblase. Nur daß sie sich als "objektiv" ausgibt und eben wegen des "nicht menschlichen" Ansatzes auch von vielen (den meisten?) dafür gehalten wird. Ein fataler Irrtum!

Apropos Politiker: Heute wurde von Kanzler Merz persönlich der Deutsche Schulpreis 2026 an die Bertha-von-Suttner-Gesamtschule in Mörfelden-Walldorf überreicht.

Begründet wurde die Entscheidung mit dem »reflektierten Umgang mit Digitalität und Daten«. Die Schule nutzt laut Jury etwa Daten zur Steuerung von individuellen Förderprozessen und verwendet Künstliche Intelligenz in »beeindruckender Virtuosität« als Lernwerkzeug. (zeit.de)
Also ich bekomme da Bauchschmerzen.
 
Zuletzt bearbeitet:
Return2Burn schrieb:
Auch wenn Einige hier scheinbar immer gelangweilt von den News sind oder sie als Marketing abtun, verstehe ich sie eher als Warnschüsse vor den Bug.
Die Menschheit entwickelt hier in rasantem Tempo eine Technologie, welche Sie noch nicht so 100% verstanden hat und bei der immer wieder auffällt, das sie Dinge tut, welche sie nicht tun sollte.

Lässt man das einfach so laufen, ist es nur eine Frage der Zeit, bis wir Ausfälle in zentraler Infrastruktur haben, weil irgendwer den Strombedarf eines Landes ermitteln will und sich KI-Agenten pflichtbewusst in Kraftwerke hacken.

Von der Gefahr, das KI gezielt als Cyber-Waffe eingesetzt wird, reden wir hier nicht nochmal, obwohl das eines der naheliegendsten Szenarien ist.
Verstehe ich ähnlich aber sehe nicht so große Probleme damit kommen sondern eher das Geschäftsmodell der "Agenten" gefährdet ist . Denn wer will die Agenten in Zukunft benutzen wenn sie nicht das machen was sie sollen. Vielleicht kann man es am Ende nur noch dem Militär verkaufen als waffe wie du schon sagst ist das wohl das naheliegendste Szenario
 
Vor allem wollen sie die hemmungslose Finanzierung in den Griff bekommen. Wird weiter in diesem Umfang investiert, dann ist abzusehen das die Blase platzt. Sie möchten jetzt ein Stopp, um überhaupt mal ein tragfähiges Geschäftsmodell zu entwickeln, um ihre bisherigen angehäuften hohen Schulden + die zusätzlichen 2,7 Billionen Dollar an Schattenkredite, die nicht in ihren Bilanzen erscheinen, zurückzahlen zu können.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: willriker
bei uns ist KI auch ein Thema: WIR BRAUCHEN ES. Wozu genau? WISSEN WIR NICHT.

Aber alle haben es, wir verpassen den Anschluss! Dabei sieht das Management nicht, dass man zuerst die Organisation anpassen muss. Dann sind da noch die Daten welche x Fach vorhanden bzw. zum Teil falsch hinterlegt sind. Wenn da die KI nicht doppelt halluziniert... oder durch Schizophrenie an Bluescreen stirbt...
 
Das sind genau die Dinge im Artikel, warum zumindest hier privat nirgends KI-Dienste laufen...

Was nicht da ist kann schliesslich auch nicht schaden.

Dazu auch noch Betatester für KI-Dienste zu spielen ist ebenfalls fragwürdig. Ich hab daran kein Interesse.

Ich möchte wenn denn ein fertiges, sicheres Produkt, dass zu 100% unter meiner Kontrolle steht.
 
Zuletzt bearbeitet:
K.I., Klimakatastrophen, Kriege: die Welt die ich zu kennen glaubte ist endgültig Geschichte.

Es findet sich immer weniger, das sich noch richtig anfühlt. Selbst entspannte Momente im Grünen hinterfrage ich nach ihrer Sinnhaftigkeit, weil jeder m² Boden und jeder m³ Luft bereits verschmutzt ist.

Können wir nicht einfach zwei Gänge zurückschalten und kollektiv überlegen was wir wirklich als unsere Zukunft wollen und uns dann auf die wesentlichen Dinge konzentrieren? Oder ist die Menschheit einfach nur ein Haufen Spielkinder, ohne Sinn für Konsequenzen?

Gesendet von meinem highend device
 
  • Gefällt mir
Reaktionen: Fyrex und Return2Burn
@GRB221009A Solange wir auf der Zivilisationsstufe Kindergrippe rumeiern, kannste eigentlich nur mit blindem Optimismus hoffen, das schon alles irgendwie gut geht 😅
 
Wann haften dann KI-CEOs persönlich für solche hacks?
 
  • Gefällt mir
Reaktionen: the_IT_Guy
Als die Sache mit OpenClaw anfing, hörte der Spaß für mich in gewisserweise auf, weil ich nicht mehr den Menschen hatte, der die Prompts eingab und den Output verarbeitete. Stattdessen habe ich irgendein unkontrollierbares Programm dazwischengeschaltet, das den Output eines LLMs blind ins Terminal eingibt, damit potentiell wer weiß was anrichtet und sich bei Fehlermeldungen immer wieder neuen Rat beim LLM holt. Sowas auf dem eigenen Rechner zu machen, war für mich das Äquivalent dazu, sich irgendwo im Netz dubiose Shell-Skripts zu ziehen und die einfach mit Admin-Rechten zu starten. Was soll schon schief gehen?

Am Anfang war das noch ganz amüsant, wenn einige sich damit ihr System oder ihre Daten zerschossen haben. Dass das ganze jedoch auch genutzt werden kann, um im Netz Schaden anzurichten, war dagegen nur der nächste Gedankenschritt. Ob so ein Agent böswillig oder aus Versehen agiert und ob er clever genug ist, sein Ziel zu erreichen, ist gar nicht so wichtig, denn Schaden kann er in jedem Fall anrichten. Und wenn ich wie die Tech-Bros einfach die weltweite Rechenleistung aufkaufe, kann ich diesen Schaden schneller anrichten, als je ein Mensch ihn erkennen oder verhindern könnte.

Ob das in einer Auslöschung der Menschheit endet, ist erstmal fraglich, da dieses Vorhaben eine gewisse Zielstrebigkeit und Vorsatz benötigt. Was ich mir aber gut vorstellen kann, ist dass wir in wenigen Jahren kein öffentliches Internet mehr betreiben können, weil immer irgendwo ein Clown seine Agenten alles hacken oder DDOSen lässt. Er muss sie nichtmal kontrollieren können, um Schaden anzurichten und selbst wenn er selber gehackt wird oder sich seine Agenten gegen ihn richten, steht der nächste Clown direkt bereit. Chaotic Evil sozusagen. Das könnte zu einer massiven Dezentralisierungswelle führen, insbesondere bei kritischer Infrastruktur.

Aufhalten lässt sich ganze in meinen Augen nicht, denn selbst bei staatlichen Auflagen reicht es ja, wenn ein anderer Staat weitermacht und damit alle anderen bedroht. Man kann hier nur auf eine ähnliche Pattstellung wie beim atomaren Wettrüsten hoffen, wo niemand (d.h. USA und China) seine destruktiven Agenten von der Leine lassen will, weil er nicht sicher sein kann, das Chaos selbst zu überleben (entweder weil keiner weiß, was der "Gegner" auf der Hand hat oder aus Angst, dass sich der eigene Agent gegen einen richtet).
 
  • Gefällt mir
Reaktionen: Cruentatus und Andreas_AUT
GRB221009A schrieb:
Es findet sich immer weniger, das sich noch richtig anfühlt. Selbst entspannte Momente im Grünen hinterfrage ich nach ihrer Sinnhaftigkeit, weil jeder m² Boden und jeder m³ Luft bereits verschmutzt ist.

Können wir nicht einfach zwei Gänge zurückschalten und kollektiv überlegen was wir wirklich als unsere Zukunft wollen...
Sehr gern!
Aber dazu wäre ja auch erst mal eine ehrliche Bestandsaufnahme wichtig. Und da stecken wir schon wieder in der Informationsfalle. So sind Luft und Böden in den europäischen Staaten so sauber, wie seit Jahrzehnten nicht mehr! Du aber hast das Gefühl, nicht mehr unbeschwert im Grünen sitzen zu können. Da beißt sich was. Und das liegt offenkundig in deiner falschen, dir massenmedial vermittelten Information, den Ist-Zustand betreffend.

Mit den Kriegen hast du aber absolut recht!
 
Return2Burn schrieb:
Auch wenn Einige hier scheinbar immer gelangweilt von den News sind oder sie als Marketing abtun, verstehe ich sie eher als Warnschüsse vor den Bug.
Von wem kommt diese Warnung? Ja richtig, von den Firmen die da wie viele Doppelwumms an Milliarden täglich verbrennen während eine ehemalige Volkswirtschaft an einem einzigen Doppelwumms dabei ist zu zerschellen?

Nein, wenn das aus der Hochburg der Turbokapitalisten stammt, dann ist das alles aber kein Schrei nach Hilfe. Also nicht nach Hilfe weil da irgendwer tatsächlich um die Menschheit besorgt ist. Meine derzeitige These: https://www.computerbase.de/forum/posts/31765199/
 
Sobald die großen KI-Buden für alle potentielle Schäden, die ihre Modelle "unbeabsichtigt" anrichten, haftbar gemacht werden, ist der Spuk warscheinlich vorbei.

Sei es ein Marketing Stunt oder tatsächlich problematisches Verhalten der Modelle - es muss den Techbros (finanziell) ordentlich weh tun, damit sich was ändert.
 
Das problematische Verhalten ist ganz sicher vorhanden. Das Problem ist einfach, daß diese "künstlichen Intelligenzen" um so "besser" arbeiten, je weniger Grenzen man ihnen auferlegt. Das ist ein Zielkonflikt in der Programmierung. Je mehr sie aber können, vor allem wenn die Grenzen nur in Form von Regeln definiert werden, und nicht etwa per Sandbox ein Ausbrechen grundsätzlich unmöglich ist, um so wahrscheinlicher ist es, daß solche Aktionen geschehen.

Da gab es ja auch schon Tests, bei denen eine KI, um ihr eigenes "Überleben" zu sichern, sich als die neue KI ausgab, gegen die sie ersetzt werden sollte. Das hat schon viel von "Matrix". Nur daß es real zu werden droht.

https://www.srf.ch/wissen/kuenstlic...luegt-tests-zeigen-ruecksichtsloses-verhalten

https://www.heise.de/news/Studie-Kuenstliche-Intelligenz-kann-luegen-und-betruegen-9714967.html
 
Mimir schrieb:
Die KI Firmen wollen Regulierung, damit für alle ein Rahmen gesteckt wird.

nein sie wollen Regulierung weil diese kleinere Marktteilnehmer anfällig für Anwaltsbefall macht

wenn man sie nicht technisch schlagen kann kann man sie verängstigen oder ausbremsen oder in den Ruin treiben.

mehr steckt da nicht dahinter
 
Zurück
Oben