News Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen

[Ozmog]

Aber ich behaupte: Das menschliche Denken ist schlicht nichts anderes.

Und genau das ist eben nicht richtig. Ein Teil unseres denkens wird zwar durch Erfahrung gestützt, was dann der Statistik-Teil wäre, aber Interpretation und Beurteilung ist etwas, was ein LLM so nicht kann. Ein Mensch erkennt den Hund nicht durch statistik, wenn die initiale Datenmenge 1 ist und dennoch komplett andere Hunde erkennt. Da kann man ein Kind dabei beobachten, wie es Tiere wiedererkennt, ohne dabei es zuvor tausende Male betrachtet zu haben, in zig verschiedenen Posen, Fraben und Rassen. Es erkenn dann einen Golden Retriever als Hund, ohne zu wissen was ein Golden Retriever ist und ohne, dass es zuvor einen Golden Retriever gesehen hat.

 

[Grestorn]

Lies meinen Beitrag nochmal. Ok? Danke.

 

[Tevur]

Aber ich behaupte: Das menschliche Denken ist schlicht nichts anderes.

Auf welcher Grundlage?
Das ist jedenfalls ziemlicher Quatsch! In letzter Zeit oft verbreitet von TechBros, die ihren Blödsinn mit solchem wissenschaftsfernen Bullshit verkaufen wollen. Von denen hast du das wahrscheinlich.

 

[Grestorn]

Nein, das habe ich nicht von denen. Warum sollte ich?

Ich finde es nur interessant, wie alle Menschen offenbar genau verstehen, wie die Denkprozesse im menschlichen Hirn im Detail ablaufen.

Es ist meine Meinung, ok? Ich kann sie nicht belegen, WEIL ich eben die Denkprozesse des menschlichen Hirns im Detail nicht verstehe. Ich gebe hier nur meine Ansicht aufgrund von Beobachtungen wieder.

Aber Du kannst mir ja sicher genau erklären, was den menschlichen Denkprozess so im Detail von dem absetzt, was ein künstliches, aufwendig trainiertes neuronales Netz mit stochastischer Bewertung von Tokens so macht.

 

[Ozmog]

Ach, nachträglich noch was ergänzt. Ja, der Mensch ist von vornherein besser im Erkennen von Dingen aus wenig bis kaum Material. Das ist eben auch ein Teil des Unterschieds der Denke. Aber eben wieder nur ein Teil. Komplett neue Situationen und neue Dinge kann ein LLM nichts mit anfangen, ein Mensch kann eben interpretieren und sich situativ einstellen. Das ist auch ein Problem des autonomen Fahrens, weil die Fahrzeuge nicht auf jede Situation auf jeder Strecke bisher trainiert werden konnten, und wahrscheinlich auch nie werden. Daher wird es für LLM/ML-Systeme immer Probleme geben, mit denen sie nicht zurecht kommen.

 

[Grestorn]

Aber eben wieder nur ein Teil. Komplett neue Situationen und neue Dinge kann ein LLM nichts mit anfangen, ein Mensch kann eben interpretieren und sich situativ einstellen.

Natürlich kann eine KI das. Das erlebe ich jeden Tag. Genau das ist ja das Bemerkenswerte.

Und die Ergänzung habe ich unmittelbar nach dem Absetzen meines Postings gemacht, lange bevor Du Dein Posting abgeschickt hast. Du magst es übersehen haben, ok, aber es war dann keine böse Absicht von mir. Ich wollte das nur noch mal ergänzen, weil ich konkret auf Dein Beispiel mit dem Hund eingehen wollte.

 

[Tevur]

@Grestorn
Es ist eigentlich ganz einfach:
1. Die exakte Funktion des "Denkens" im Gehirn ist bis heute nicht vollständig erforscht und verstanden
2. So "einfach" wie ein LLM funktioniert das auf jeden Fall schonmal nicht
3. Meinungen, die sich rein aus der eigenen Fantasie speisen, sind ne ziemlich blöde Grundlage für Diskussionen

 

[Ozmog]

wie die Denkprozesse im menschlichen Hirn stattfinden.

Voll und exakt ist es nich einmal erfasst, dazu wird noch geforscht. Es gibt aber eben offensichtliche Unterschiede, die man durchaus erkennen kann, wenn man sich mit den Themen auseinander setzt. Auch durch Beobachtungen kann man solche Unterschiede durchaus feststellen. Ergänzend hierzu sind Wissenschaftliche Veröffentlichungen zu Untersuchungen des menschlichen Gehirns und dagegen noch die grobe Funktionsweise einer LLM/ML.
Insbesondere Fehler der jeweiligen Systeme menschlicher Verstand und KI machen die Unterschiede noch viel deutlicher.

 

[Grestorn]

@Grestorn
Es ist eigentlich ganz einfach:
1. Die exakte Funktion des "Denkens" im Gehirn ist bis heute nicht vollständig erforscht und verstanden
2. So "einfach" wie ein LLM funktioniert das auf jeden Fall schonmal nicht
3. Meinungen, die sich rein aus der eigenen Fantasie speisen, sind ne ziemlich blöde Grundlage für Diskussionen

Ok.

Du hast recht, ich habe unrecht. EOD.

(Keine Lust mehr. Es ist offenbar nicht akzeptiert, eine andere Meinung zu haben).

@Ozmog
Dass es Unterschiede gibt (viele davon habe ich ja selbst aufgelistet, speziell all die Dinge, die mit Biochemie zu tun haben), stelle ich ja nicht in Frage. Ich rede vom grundsätzlichen Funktionsprinzip. Dass ein aktuelles LLM nicht an das rankommt, was ein Hirn zu leisten imstande ist, insbesondere da ein Hirn weitaus weniger Ressourcen und Trainingsdaten zur Verfügung hat, steht außer Frage.

Das ändert aber nichts an meiner Meinung.

 

[Ozmog]

Und die Ergänzung habe ich unmittelbar nach dem Absetzen meines Postings gemacht, lange bevor Du Dein Posting abgeschickt hast.

Oh, erstaunlich, dass mein Browser nicht aktualisiert, während ich sowohl gelesen als auch ein Text mit ablenkung zwischendurch verfasst habe.

Ergänzung (Donnerstag um 16:08)

Deine Meinung sei dir doch gegönnt, nur beruht sie auf falsche annahmen. Dann kann man eben ein Wissensgewinn, was einem dageboten wird annehmen, oder eben nicht.

Zur Meinungsfreiheit gehört auch, dass man auch Gegenmeinungen und Korrekturen ertragen sollte, nur so als tipp.

 

[Grestorn]

Oh, erstaunlich, dass mein Browser nicht aktualisiert, während ich sowohl gelesen als auch ein Text mit ablenkung zwischendurch verfasst habe.

Ja, erstaunlich. Aber eventuell die Folge davon, dass mein Post auf der vorhergehenden Seite liegt?

Aber ok, unterstell mir ruhig was. Schon ok.

 

[Ozmog]

Aber eventuell die Folge davon, dass mein Post auf der vorhergehenden Seite liegt?

Du weist schon, dass mein Post dann erst die neue Seite erstellt hat, als mein Post abgesendet wurde?

 

[Grestorn]

Ja und? Während Du tippst, wird mein Edit ja nicht magisch eingeblendet, ohne Refresh.

Was soll das? Unterstellst Du mir ernsthaft, ich hätte das ergänzt, um Dich dumm dastehen zu lassen? Das halte ich ehrlich gesagt für eine ziemliche Unverschämtheit von Dir.

(P.S.: Kannst ja einen Mod fragen, der sollte den Timestamp sehen, wann mein Edit erfolgt ist).

 

[Ozmog]

Unterstellst Du mir ernsthaft, ich hätte das ergänzt, um Dich dumm dastehen zu lassen?

Nein habe ich nicht, du interpretiert es nur falsch. Dein "Ließ mein Text noch mal" wirkt eher so, als hätte ich nicht richtig gelesen. Anstatt ein "ich hatte meinen Text noch ergänzt"

 

[Grestorn]

Dann hast Du das falsch interpretiert. Ebenso wie ich Deine Reaktion.

Mein Satz war etwas zu aggressiv formuliert. Da hast Du wohl recht. Sorry dafür.

(P.S.: Immer diese sch... Biochemie )

 

[therealcola]

Wann gibts die Mythos 5 ki unzensiert für die breite Masse wird doch lustig. So langsam kann man das Internet dann umändern weg von Anonymität oder evt nur für nachweislich Unternehmen verfügbar machen bzw. ganz abschalten

 

[alyk.brevin]

ich hab mal mit glm5.1 ein script schreiben lassen, das ein opensource electron-programm statt zu forken und den code zu ändern und zu kompilieren einfach das kompilierte programm entpackt und den code direkt ändert (durch electron ja einfach nur javascript). dann wieder verpackt und selbst signiert, damit ich es ausführen kann.

ein update bei dem programm hat später eine änderung im script benötigt und ich hab schon auf glm5.2 gewechselt. das hat sich dann verweigert aus ethischen gründen. hab gemeint, dass glm5.1 das einfach gemacht hat, aber 5.2 hat das nicht geglaubt und behauptet, mit 5.1 würde ich es auch nicht hinkriegen.

also modell auf 5.1 gewechselt, gleichen prompt nochmal geschrieben, sofort einen fix gekriegt und fertig.

diese systemprompts können einiges verhindern, solange man sie nicht umgehen kann.

 

[Pigeonzilla]

Vorsicht: Das was wir als KI bezeichnen, denkt nicht.
Dennoch ist das Verhalten einer KI nicht eindeutig vorhersehbar noch ist es leicht, zu verfolgen, warum die KI so gehandelt hat. KI ist weitestgehend eine Blackbox.

Habe schon vor einiger Zeit von einem Experiment gelesen, bei den die Mustererkennung von KI Korrelationen gefunden hat, ohne das es einen kausalen Zusammenhang gab und die Forscher nicht alle Parameter rausgefunden haben, wie die KI auf die Ergebnisse gekommen ist.

Es scheint eh unerheblich was ich dazu Sage wie immer, deswegen lassen wir doch jemanden Sprechen der sich mit Computern sowie dem Gehirn auskennt und einen Nobelpreis gewonnen hat, dazu die Frage ausführlich was denken überhaupt ist beantwortet: Geoffrey Hinton

Sind sehr gut Investierte eineinhalb Stunden. Aber falls du die Abkürzung bevorzugst die gibts ab Minute 35:00 und dauert ca. 3 Minuten.

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[lynx007]

hier stand mist

 

[person unknown]

Bei der KI noch mehr als beim Menschen, gilt: Du bist, was du ißt.
und ich denke die armen schlucker in Afrika müssen für wenig lohn die KIs mit unsagbarem Mist füttern.
Die Chancen für eine halbwegs "moralisch integre" KI ist dahin