News USA: KI soll Selbstmordabsichten bei Schülern erkennen

[cliscan]

Ich sehe so eine verdachtsunabhängige ``Gesinnungsüberwachungspraxis'' als einen mehrfachen Verstoß gegen die Grundrechte jedes Menschen auf Privatsphäre und informationelle und körperliche Selbstbestimmung an. Das ist imho Faschismus pur.

 

[Silverangel]

Es gibt überhaupt keinen Beweis das ein Filter hier irgendwas bringt.

Schön, dass du den Artikel nicht mal sorgfältig gelesen hast.

 

[K3ks]

Es gibt überhaupt keinen Beweis das ein Filter hier irgendwas bringt.

Keine Zahlen aber wenn das erwähnte positive Fazit stimmt und es mehr als einem Kind etwas gebracht hat...

@Über mir: Ohne unabhängige Zahlen haben wir nichts Festes. Hand auf das Herz, der Kram hat bestimmt geholfen.*

Man geht nicht die Ursachen an, sondern hängt einen Filter ans Ende des Problems und glauben damit was bewirken zu können.

So sehe ich das auch.

E: *Jedoch ändert das nichts am meiner Meinung.

E2: Bin seit Seite 2 auf Silverjaaks Ignoreliste, heh?

E3:@Silverjaak #64 My bad, sorry für die Unterstellung, hatte es aber vermutet.

 

[Silverangel]

Wieso sollte ich es jedes mal kommentieren und nochmals durchkauen? Sehe darin keinerlei Mehrwert.

 

[Doom Squirrel]

Dazu benötigt es keine AI sondern einfach nur menschlicher Kontakt. Zuhören. Erkennen. Handeln.

 

[Elverado]

Ich glaub das wichtige ist doch hier, ob es als zusätzliches Mittel zur Verhinderung von Suizid (der gedachte Zweck), oder als Ersatz der normalen "Mittel" dient. Ersteres ist natürlich erstmal so gedacht von den Entwicklern und es gibt jetzt grundsätzlich nicht viel daran auszusetzen, solange die Datensammellei im Rahmen bleibt (betrifft zudem ja auch nur Schulcompute. Ob das später Überhand nimmt, ist aber natürlich nochmal ne andere Sache).
Das Problem hier ist aber eindeutig (und was ja auch viele hier befürchten): Dass sich das Ganze entgegen der eigentlichen "Widmung" zu einem Ersatz entwickeln kann. D.h. das stärkere menschliche Miteinander wird nicht gestärkt sondern eher abgebaut, da man sich (vllt. in Zukunft) immer mehr auf Algorithmen verlässt, die glauben machen, dass man von sozialen Pflichten entbunden ist (Auf Andere achten, sie in die Gemeinschaft mit einbeziehen, ihnen helfen/nicht mobben). Und in diesem Fall würde ich tatsächlich zustimmen, dass ein Algorithmus dann mehr Schaden als Nutzen bringt, da dann, wie auch schon andere geschrieben haben, nicht der Grund der Probleme beseitigt wird.
Ob sich das aber einstellt, bleibt abzuwarten. Meiner Meinung nach gibt es durchaus schon eine solche Tendenz in diese Richtung. Aber nur die Zukunft weiß, was daraus wird.
Insofern würd ich die Mistgabeln doch noch stecken lassen, aber das Ganze schon etwas kritisch beäugen.

 

[Hagen_67]

Sorry, aber das ist so dermaßen krank.
Jeder mit einem gerüttelt Maß an Intelligenz und Sozialkompetenz und Interesse an politischen, gesellschaftlichen Zusammenhängen weiß warum die Zahlen so sind wie sie sind.
Und eine solche Software ändert nun mal nix an den Ursachen.
Die Menschheit geht lachenden Auges zum Teufel...

 

[FranzvonAssisi]

Uuund Orwell wird mit offenen Armen empfangen. Klar, so kann man die Einführung aktuell rechtfertigen und sammelt schon mal Daten.

In 2 Jahren kommt dann die KI zur Verbrechensprävention bei Schülern und in 15 Jahren das Gesetz, dass man für verhinderte Straftaten verurteilt werden kann

Ich finde die Idee an sich gut, allerdings kann sich das Blatt schnell wenden.

 

[Mushi]

mit dem nächsten Update wird dann auch sofort das BKA gewarnt wenn ein Schüler sich für Drogen interessiert, natürlich wird davon dann nichts in der changelog stehen

 

[nciht]

Stell ich mir super vor, wenn die KI fälschlicher Weise mal ne Vermutung hat und der Schüler XY dann von Psychologen von der Schule abgeholt wird oder so Ähnlich... wenn dich dann 100 Leute 100 mal fragen, ob du schon mal an Selbstmord gedacht hast, fängst du irgendwann an, an dir selbst zu zweifeln und lässt dich entweder freiwillig einweisen, wirst eingewiesen oder bringst dich halt vorher um... klasse

Edit: (Vorsicht Sarkasmus)
Schüler gehören natürlich auch nicht zu den Leuten, die man noch sehr leicht z.B. durch Werbung beeinflussen kann, die ihr Kaufverhalten noch nicht wirklich kontrollieren können, etc.
Aber sicher will man da keine Daten für wirtschaftliche Zwecke sammeln. Die KI finanziert sich ja bestimmt alleine von den zahlreichen Spenden der Eltern, die dankbar sind, weil ein Programm das Leben ihres Kindes gerettet hat... (Sarkasmus)

Edit2
Wer da ein mal ins Visir kommt, hat dann vermutlich auch Schwierigkeiten danach ne Lebensversicherung abzuschließen.

 

[U-L-T-R-A]

Land of the free und so

Wieviele von den 13 pro 100k waren denn Kinder?
Weil irgendwann is ja auch mal Schluß mit Schulcomputern.
Kommt danach dann das Proggi auf den Arbeitsplatz-PC wo dann Dein Arbeitgeber und ggf die Krankenkasse über Dich informiert werden...?
Für mich genau so n Quatsch wie die Killerspiel-Debatte.
Nich jeder is für alles empfänglich und nur weil man mal diese und jene Seite angesurft hat wird man sich nu gleich umbringen - wird aber gleich in ne Schublade geschoben.

Von der Datensicherheit auf den Schulen will ich da nich erst anfangen.
Wenn die Daten einmal raus sind können sich die Kids n vernünftiges College klemmen.

 

[SVΞN]

Ich glaube dass mit aufmerksameren Eltern, besser geschulten Lehrern und mehr Offlinezeiten für Schüler (...aber auch und vor allem für Eltern) mehr gewonnen wäre.

Vielleicht sollte man zuerst einmal eine Generalüberholung des Bildungssystem in Angriff nehmen?

Junge Menschen für Themen zu sensibilisieren hat schon immer eine exorbitant höhere Wirkung auf sie gehabt als sie zu überwachen.

Aber irgendein Deckmantel lässt sich immer finden um Menschen zu überwachen.

Schöne neue Welt.

Liebe Grüße
Sven

 

[Robo32]

Ich glaube dass mit aufmerksameren Eltern, besser geschulten Lehrern und mehr Offlinezeiten für Schüler (...aber auch und vor allem für Eltern) mehr gewonnen wäre.

Ich teile Deine Meinung, aber übersetz das jetzt auf die Verhältnisse in diesem Land - das wird nicht viel besser wobei die Probleme mit Drogen hier noch nicht so präsent sind wie drüben...
- Eltern die ihre Kinder nur zwei Stunden pro Tag sehen, Erziehung, das Miteinander usw. bleiben auf der Strecke und immer mehr Kinder leben in H4 Verhältnissen (immerhin ist die Zeit da kein Problem, nur ist das auch keine Lösung...)
- schlecht bezahlte Lehrer die dazu neuerdings nur noch zwischen den Ferien eingestellt werden, in den Ferien H4 mit allen Folgen die sich daraus für die Lehrer und die Schüler ergeben
- schlecht ausgestattete Schulen mit zu grossen Klassen mit Stoff aus den Achtzigern der von demotivierten Lehrern per Giesskanne verteilt wir in der Hoffnung, dass einer von dreissig Schülern sich dafür interessiert

Viele Schüler sind inzwischen überfordert und für viele fehlt es an einer gute Perspektive für die Zukunft, die Gründe sind vielfältig, allerdings helfen Pflaster da nicht wirklich weiter. Mehr als ein Pflaster ist in diesem System aber nicht machbar und es wird eher schlechter als besser werden wenn man die Entwicklung der letzten Jahrzehnte betrachtet.
Es gibt nun mal den Spruch "jeder kann Millionär werden, nur nicht alle..." und in der einer, oder anderen Form trifft es auch auf die Zukunftsperspektiven der heutigen Schüler zu.

Es gibt nicht nur schwarz/weiss auch wenn sich das so liest... - mit SW kann man vielleicht Tendenzen ausfindig machen, man kann mit dieser aber keine gesellschaftlichen Probleme lösen, eher neue hinzufügen.

Für Diskussionen zu diesem Thema ist es aber das falsche Forum.

 

[SVΞN]

Für Diskussionen zu diesem Thema ist es aber das falsche Forum.

Da gebe ich dir (allerdings nur eingeschränkt) Recht, zumindest was die KI-Diskussion angeht.

Was die Verhältnisse (aktuelle Situation) in den USA angeht, ist zum einen schon (fast) alles zu spät, zum anderen sind wir hier tatsächlich nicht im richtigen Forum.

Zu den KI nur noch soviel:

KI für „vermeintliche“ Selbstmordabsichten, Straftaten, Urheberrechtsverletzungen und der letzte Schrei und gerade ganz aktuell in Genf diskutiert, KI für Kampf-Roboter ...

https://mobil.n-tv.de/politik/Die-Welt-wappnet-sich-fuer-den-Hyperkrieg-article20586807.html

Wer den Knall jetzt noch nicht gehört hat, wird ihn nicht mehr hören bzw. erst wenn’s zu spät ist.

Man fragt sich doch, wie konnten Generation über Generationen ohne KI leben (überleben)?

Liebe Grüße
Sven

 

[Robo32]

KI für Kampf-Roboter ist doch was feines, endlich keine Verantwortung mehr für die eigenen Soldaten und keine Zeugen...
In den USA allerdings neben allen anderen auch ein gesellschaftliches Problem, da langfristig so mancher Job damit entfällt was den Druck auf die Schüller (um beim Thema zu bleiben) noch verschärft...

"Ich bin nicht sicher, mit welchen Waffen der dritte Weltkrieg ausgetragen wird, aber im vierten Weltkrieg werden sie mit Stöcken und Steinen kämpfen."

 

[Corros1on]

Nicht für jedes Problem gibt es eine technologische Lösung!

Bei solchen Dingen habe ich das Gefühl, dass sich die Menschen nicht um ihre eigenen Probleme kümmern wollen und damit versuchen mit Maschinen ihre Probleme zu lösen und dabei nicht merken, dass sowas zum Mensch sein dazu gehört.
Wir sind keine Maschinen.

Jeder Mensch ist anders und reagiert anders in gewissen Situationen oder psychischen Problemen.
In unserer oberflächlichen Gesellschaft geht es bei vielen mehr darum welches eigene Bild den anderen zeigt und bloß kein Zeichen der Schwäche bzw. Verletzlichkeit preisgeben.

In meinen Augen ist diese intelligent geschriebenen Software (ich weigere mich, dass als künstliche Intelligenz zu nennen) einfach nicht soweit um die Komplexität der menschlichen Psyche erfassen zu können.

 

[MC´s]

Wir sollten auf der ganzen Welt den Kindern einfach mehr Aufmerksamkeit schenken, mehr persönlich mit Ihnen unternehmen und Perspektiven bieten. Aber vielen Eltern ist der Job und die Karierre wichtiger als ihre eigenen Kinder, die werden dann gleich in Grippen gesteckt oder sie verdienen zu wenig um genug Freizeit zu haben sich richtig um ihre Kinder zu kümmern.

 

[Silverangel]

@Corros1on: Du tust gerade so als soll das Arzt und Psychologische Betreuung ersetzen. Eher den Sinn und die Aufgabe des Programms nicht verstanden.

Es ist nur ein weiterer Baustein in der Früherkennung um rechtzeitig reagieren zu können und entsprechende Hilfe zukommen zu lassen.

 

[Robo32]

Die Frage ist dabei wie viele False Positive es gibt und welche Folgen wird das haben... - das werden wir in einigen Jahren vielleicht erfahren.

 

[Rotkaeppchen]

Es geht doch nur um die rechtliche Absicherung der Schulen. Sobald die ersten Eltern klagen würden, dass ihr Kind durch ein von einer Schule bereitgestelltes Informationssystem Anleitungen zum Selbstmord gefunden hat, gäbe es die übliche 500 Millionen Strafzahlung. Nur darum geht, doch nicht um die Kinder, denen könnte man viel besser helfen.