DeusExMachina
Lieutenant
- Registriert
- Jan. 2008
- Beiträge
- 922
Erkekjetter schrieb:Offensichtlich nicht. Ist ja bisher nicht vorgekommen…
Oder einfach nicht nach ausgetragen wurden?
sowas passiert ständig
Folge dem Video um zu sehen, wie unsere Website als Web-App auf dem Startbildschirm installiert werden kann.
Anmerkung: Diese Funktion ist in einigen Browsern möglicherweise nicht verfügbar.
Erkekjetter schrieb:Offensichtlich nicht. Ist ja bisher nicht vorgekommen…
Wie gesagt, soweit ich weiß hatte der User nur gefragt ob es möglich wäre. Da sollte kein Agent selbstständig handeln.Kuristina schrieb:Dann muss man das genauer ausformulieren. Die KI kann ja nicht deine Gedanken lesen.Noch nicht. ^^
Ich kenne jetzt das konkrete betroffene System nicht, aber ich habe sowas leider auch schon oft in der Praxis gesehen. Da werden einfach im UI die "unzulässigen" Termine bei der Anzeige ausgefiltert, die API liefert aber einfach alle aus und prüft auch beim übernehmen von Änderungen nicht auf zulässige Daten.seyfhor schrieb:Das ist ja erst der zweite Teil. Zuerst hat sich der Agent ja Zugriff verschafft um eine Buchung zu einem eigentlich noch gar nicht zulässigen Datum in der Zukunft getätigt.
Das Problem liegt für mich daran, dass ein für ein Fitness Studio völlig ausreichendes System plötzlich abgesichert sein muss wie Fort Knox.
Damit beleidigst Du die Jüngeren hier, weil Du Ihnen unterstellst, dass sie blauäugig mit fliegenden Fahnen kritiklos jeglichen Einsatz der KI begrüßen und feiern. Ich (Jahrgang 1967) finde KI an sich gut (meine Diplomarbeit 1994 ging über Neuronale Netze), allerdings muss man aufpassen wo und wie man sie einsetzt. Es gab jetzt schon einige Beispiele, wo man gesehen hat, dass eine KI ohne Schranken auch ohne Rücksicht auf Verluste alles probiert um zum Ziel zu kommen. DAS ist unreguliert gefährlich. Ausnahmsweise hat es Elon Musk mal einigermaßen richtig ausgedrückt: Er glaubt, dass 2036 jegliche Jobs von KI übernommen werden. Niemand muss mehr für sein Auskommen arbeiten (Ähnlich wie bei Star Trek). Allerdings ist er sich gleichzeitig nicht sicher, ob es 2036 noch Menschen geben wird..squbash schrieb:Die Ablehnung von KI und die Art der Kommentare zu diesem Thema hier deuten das fortgeschrittene Alter der CB Community an. Die Welt ist Umbruch und derartige, sicherheitsrelevante Vorfälle sind wichtig für ITler. Wer beim Thema KI die Fackel herausholt, möge die Artikel doch einfach nicht mehr anklicken. Das Thema wird nicht mehr verschwinden.
Keinerlei Authentifizierung auf der API zu haben und auch keine Validierung der Eingabe (Datum nicht mehr als X Wochen in der Zukunft) ist nicht völlig ausreichend. War es auch schon vor KI nicht, das ist einfach schlampig.seyfhor schrieb:Das Problem liegt für mich daran, dass ein für ein Fitness Studio völlig ausreichendes System plötzlich abgesichert sein muss wie Fort Knox.
cunhell schrieb:Was allerdings sehr relevant ist, dass man aus der Vergangenheit gelernt haben sollte, dass man nichts in die Welt setzen sollte, dass man nicht sicher betreiben kann.
Was ist denn bei dir "hacken" - fehlt da der Kapuzenpullover?T3rm1 schrieb:Was ein schlechter Artikel. Hier von hacken zu sprechen ist etwas überzogen.
Genau. Es haben aber eben nicht nur "seriöse" Entwickler zugriff auf die KI sondern auch, wie der Artikel beweist, auch Leute die ihr Tun nicht danach richten.Cool Master schrieb:Nichts ist zu 100% sicher. Vor allem ist das Vor-KI eher unsicherer als die mit KI erstellt wurde. Vorausgesetzt natürlich, dass der richtige Prompt genutzt wurde aka "achte auf DSGVO, SQL injections etc.". Was für ein halbwegs guten SW Entwickler aber Standard sein sollte.
cunhell schrieb:Es haben aber eben nicht nur "seriöse" Entwickler zugriff auf die KI sondern auch, wie der Artikel beweist, auch Leute die ihr Tun nicht danach richten.
cunhell schrieb:Wenn ich als Person einen Angriff durchführe, bin ich voll verantwortlich für das was ich tue. Nur weil ich dazu ein Tool namens KI verwende, macht es die Handlung nicht weniger starfbar als wenn ich es selber durchführe.
cunhell schrieb:Jede andere Einstufung würde dem Missbrauch Tür und Tor öffnen. Es würde nämlich bedeuten, dass ich kriminelles Verhalten an den Tag legen könnte und wenn ich blöderweise erwischt werde, sage ich, es war ja die KI und wäre fein raus.
Ich verstehe darunter, dass man Sicherheitssysteme oder -vorkehrungen umgeht. Das ist hier nicht der Fall, da diese gar nicht existierten. Ist so als wenn du am Geldautomat einfach Geld abheben könntest ohne deine Karte zu verwenden. Fällt nicht unter hacken nach meinem Verständnis.cruse schrieb:Was ist denn bei dir "hacken" - fehlt da der Kapuzenpullover?
Die KI hat selbstständig eine Sicherheitslücke entdeckt und direkt aktiv ausgenutzt. In meinem bisherigen Verständis von "hacken" ist das genau das.
Der Fitness-Laden hat sicher die Software nicht selbst geschrieben sondern zugekauft.Cool Master schrieb:Sagt auch niemand etwas anderes, ich sehe in diesem Fall nach wie vor kein strafbares Verhalten. Die API macht nur das wofür sie programmiert ist. Ich sehe hier den Fehler eher beim Betreiber der einfach die API nicht abgesichert hat. Das ist daher auch keine "Sicherheitslücke" sondern einfach nur schlecht programmiert. Wie ich schon schrieb hätte das wohl auch ein Skript-Kiddy machen können.