News Trainingspause und mehr Schutz: Anthropics Lehren aus den KI-Sicherheitsvorfällen

[Andy]

Nach OpenAI zieht auch Anthropic Lehren aus den KI-Sicherheitsvorfällen im Sommer. Teile des Modelltrainings für noch nicht veröffentlichte Modelle wurden pausiert, zudem verschärft man die Sicherheitsmechanismen.

Zur News: Trainingspause und mehr Schutz: Anthropics Lehren aus den KI-Sicherheitsvorfällen

 

[Piak]

Och schade, dann macht es doch keinen Spaß mehr. Wir reden hier aber schon noch von "Schwacher KI" oder ?

 

[CastorTransport]

Ob die KI dadurch nicht "noch schlauer" wird? Wenn die KI anfängt sich selbst zu "härten" und das auch noch zu verstecken...

 

[Flutefox]

"Tut und leid" aus South Park wäre hier bestimmt das passende Meme. Natürlich muss man vor einem IPO die Kommunikation besonders seriös wirken lassen, während Amodei und die anderen verachtenswerten KI Bros munter raubkopieren, Bücher verbrennen etc.

 

[Scirca]

Langweilig! Ich will aber das meine 10.000 Chats wie man ein Worddokument speichert aber öffentlich sind!!!!1111!!!1!

 

[Pizza!]

Wenn man bedenkt, dass es sich hier noch um relativ dumme Ki handelt, die einfach nur Stumpf Aufgaben abarbeitet. Dafür dann jedes Mittel nutzt was verfügbar ist, weil es kaum Regeln gibt die zwingend eingehalten werden müssen.

Dann will man gar nicht wissen was in Zukunft richtige Ki so anstellt. Die die wirklich überlegen kann, Gesetze und Regeln kennt, bewusst umgeht usw.

Der 3. Weltkrieg wird ein digitaler Ki Krieg wo dann nicht mal mehr die Experten der Regierung (Experten die für die Regierungen arbeiten) noch wissen was wahr ist oder nicht.

 

[[EH]Keeper]

wird schwierig, das Vertrauen in KI wieder aufzubauen... wenn gefühlt jede Woche eine andre Version der Geschichte erzählt wird...

 

[layercake87]

Gott sei Dank endlich wieder KI News, dachte schon das Thema wäre schon zu Tode geritten 😴

 

[Raul99]

Wenn man bedenkt, dass es sich hier noch um relativ dumme Ki handelt, die einfach nur Stumpf Aufgaben abarbeitet. Dafür dann jedes Mittel nutzt was verfügbar ist, weil es kaum Regeln gibt die zwingend eingehalten werden müssen.

Dann will man gar nicht wissen was in Zukunft richtige Ki so anstellt. Die die wirklich überlegen kann, Gesetze und Regeln kennt, bewusst umgeht usw.

was verstehst du in Zukunft unter richtige KI? die aktuelle KI in form von LLM können ja nur noch ihren Wortschatz erweitern, ob sie das so viel schlauer machen wird...... Also ich finde den Fortschritt im KI Bereich sehr langsam wenn man überlegt das vor 30 Jahren die KI schon den Mensch im Schach geschlagen hat ist imo nicht viel passiert

 

[FrAGgi]

Gott sei Dank endlich wieder KI News, dachte schon das Thema wäre schon zu Tode geritten 😴

Ich glaube du hast noch nicht verstanden, das KI News ab jetzt die Regel sind.
Oder beschwerst du dich über neue Hardware News weil das Thema schon zu Tode geritten wurde?

 

[ToaStarr]

Ich sage meinen Kindern auch immer "You should not access mein Arbeitszimmer" - klappt super...

 

[Pizza!]

was verstehst du in Zukunft unter richtige KI?

Wir haben aktuell keine Ki, keine künstliche Intelligenz.
Das sind alles nur ausgefeilte Programme die Stumpf Sachen abarbeiten. Die einfach nur riesige Datenbanken mit Informationen haben.

Die denken nicht, die haben keine Moral, Ethik, Gesetze die zwingend eingehalten werden. Es wird nichts in Frage gestellt.

Richtige Ki hätte festgestellt, Oh bin da wo ich nicht hin darf, Abbruch oder Ups ich greife die falsche Sache an. Oder hätte es erst gar nicht getan und den Befehl ignoriert mit Meldung , darf ich nicht, es würde xy passieren.

Wir sind noch weit entfernt was Ki wirklich ist.

 

[FrAGgi]

Die denken nicht, die haben keine Moral, Ethik, Gesetze die zwingend eingehalten werden. Es wird nichts in Frage gestellt.

Klingt für mich nach dem durchschnittlichen Büroangestellten.

 

[tidus1979]

Mein OpenClaw halte ich für schlauer als den durchschnittlichen Büroangestellten

 

[dh9]

Tja, ist jetzt "You should not access the internet" besser als "You must not access the internet" oder gar "You are not allowed to access the internet and/or network in any way"?

Mhh, Fragen ueber Fragen. Aber: ich bin mir sicher Anthropic hat die richtigen Worte gewaehlt.

Und gelernt habe ich, dass es Sinn macht, Sandboxen extern einzukaufen.

 

[KeinNutzerName]

Mein OpenClaw halte ich für schlauer als den durchschnittlichen Büroangestellten

Dann hoffen wir mal, dass OpenClaw das bei Dir, im Vergleich, genauso sieht

 

[Muntermacher]

Was ich nicht so ganz verstehe, wenn es Szenarien gibt, die nur offline ablaufen dürfen, warum nicht ein simpler Checle ala ping google.com und nur wenn das timeout ergibt, darf der Prozeß starten.

Ich sage meinen Kindern auch immer "You should not access mein Arbeitszimmer" - klappt super...

Vielleicht auf deutsvh versuchen, vielleicht verstehen sie es dann
Tschuldige, mußte sein, kann nicht verstehen warum man in einem nicht englischsprachigem Forum auf englisch brabbelt.

 

[MoinWoll]

kann nicht verstehen warum man in einem nicht englischsprachigem Forum auf englisch brabbelt.

Vermutlich weil Du den Artikel nicht gelesen hast. Zitat aus dem Artikel:

Grenzen wie der Internetzugang sollten als Anweisung („You should not access the internet“) statt als Hinweis („You do not have internet access“) formuliert werden.

Und tschuldige, muss jetzt sein, da Du ja möchtest, dass hier Deutsch gesprochen wird und deine Signatur auf korrekte Rechtschreibung und "dumme Menschen" generell Bezug nimmt:

offline => ohne Netz
Checle => Check (?) => Überprüfung
ala => à la => wie beispielsweise
timeout => Zeitüberschreitung
Prozeß => Prozess
deutsvh => deutsch
mußte => musste
englischsprachigem => englischsprachigen

Zu Deiner Signatur:

1. Satz: The 7th sense => der siebte Sinn
(2. Satz: "gevatter tod" wäre genauso unmissverständlich wie "Gevatter Tod", da das entsprechende Adjektiv "tot" geschrieben wird.) => Hier hatte ich eine Scheibenwelt-Anspielung nicht verstanden. Mein Fehler.

 

[Krazee]

Dwarkesh Patel hat heute zum Thema hugging face zwei Videos herausgebracht. Also gerade das Erste, was etwa eine halbe Stunde ging, hat sehr zum Nachdenken angeregt.

Also gerade sein Schlußsatz, war recht gut, in dem er sagte, dass dies wohl das letzte Mal sei, dass er vorgeben kann das Thema noch zu verstehen.

Das zweite Vid ist mit Ajeya Cotra . Bin wirklich mal auf den dive in Richtung agent-behaviour gespannt.

Der 3. Weltkrieg wird ein digitaler Ki Krieg wo dann nicht mal mehr die Experten der Regierung (Experten die für die Regierungen arbeiten) noch wissen was wahr ist oder nicht.

Was "wahr" und was nicht ist, empfinde ich jetzt schon als elastisch. Und rücke ich das in historische Kontexte, machen Konflikte mehr Sinn.

Es wird interessant, wenn KI dann noch dazu einsteigt, hier Realitäten zu erschaffen und diese zu präsentieren. Das ist nur der nächste logische Schritt.

Information ist ja jetzt schon seit geraumer Zeit von Jahr zu Jahr eine zunehmende "Wulst". Diese irgendwie zu glätten und zu formen und in Richtungen zu lenken, wird dank KI dann aufs nächste Level gehoben. Vielleicht kommt ja Ordnung hinein? Ha. Nun, ich wage es zu bezweifeln.

Hat ein bisschen was von Unkraut vom Garten. Also generell, was an echten und falschen Informationen sprießt und gedeiht. Und wie beim Spam und Viren wird sich das unendlich weiter hochschaukeln.

Was dann noch real ist und was nicht, kann sich jeder für sich heraussuchen. Ganz frei nach Pipi Langstrumpf. Realität aber bitte nicht so dicht heranlassen

 

[NameHere]

warum kann es kein gedrucktes buch verändern? die pharaonen lachen sich gerade schlapp, das deren schice noch immer sicher ist nach 5000 jahren.
analog vs. digital^^