News Hunderte Datenbanken offen im Netz: KI-Agenten übernehmen unsichere Voreinstellungen ohne Kontrolle

[gustlegga]

Ist das alles FOMO?

Gleicher Vibe 😉

Danke !
Direkt geklaut fürs eigene Bsky/Reddit Archiv. Nur noch schnell eine englische Version dazu basteln.

 

[Beelzebot]

In dem beispiel wäre die Ki der Hammer der dir absichtlich von selbst auf dem Daumen haut und erst gar nicht auf den Nagel zielt.

Nein, man hat die Nutzung des Hammers nur nicht verstanden. Der Agent muss immer getriggert werden. Dass das Handbuch, an das er sich halten soll, Mist ist, ist nicht Schuld der KI. Der Artikel nennt es doch beim Namen: Unsichere Standardeinstellungen von Supabase
KI legt solche gravierenden Fehler einfach nur offen.

 

[Minas]

Wohin soll das alles noch hinführen mit Blick in die Zukunft?

Da hat man keinerlei Worte mehr.

 

[alyk.brevin]

Dass das Handbuch, an das er sich halten soll, Mist ist, ist nicht Schuld der KI.

das handbuch besteht nicht nur aus benutzeranfragen, sondern auch trainingsdaten und finetuning.

wenn zb im internet in allen supabase-anleitungen kein passwort gesetzt wird und nach dem training beim testen nie darauf geachtet wird, dass sich dieses verhalten bessert, dann steckt das halt im sprachmodell. kurzfristig könnte man noch mit system prompts einiges korrigieren.

aber am ende ist natürlich der entwickler verantwortlich wie er das werkzeug benutzt und wie gut er die ergebnisse prüft. und supabase hat einen kleinen anteil durch die unsichere standardeinstellung.

 

[Hito360]

Was ist mit "ein deutscher Mittelständer" gemeint?

 

[TPD-Andy]

Hört sich an wie "Fachwissen benötigt niemand", "Alles was was kompliziert ist ist unwichtig" oder "Sparen am sparen, am besten an allem und jedem" . Hauptsache ohne die Konsequenzen zu verstehen die KI machen lassen und wenn es Scheppert und Kracht dumm schauen und sich dann fragen "Wie kann das denn passieren?".

 

[TPD-Andy]

Was ist mit "ein deutscher Mittelständer" gemeint?

Damit sind bestimmt die Art Unternehmen gemeint in denen der "Computer-Mensch" eine Art Universalgelehrter ist der neben der Serveradministration sich auch um die Drucker kümmert, PCs zusammen baut, die Telefonanlage am laufen hält und den Helpdesk der Mitarbeiter bereit stellt. Und wahrscheinlich jetzt auch irgendwie den KI Kram in den Ablauf der Firma integrieren soll/muss.