1. #1
    Tagträumer
    Dabei seit
    Mai 2003
    Ort
    Marburg
    Beiträge
    4.890

    Post Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Algorithmen dürfen nicht zu einer Black-Box verkommen, denen die Nutzer hilflos ausgeliefert sind, fordert der Bundesverband der Verbraucherzentralen (vzbv). Entscheidend sei daher, dass die Politik aktiv wird und klare Regeln aufstellt.

    Zur News: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein
    Binde Dich an nichts, was Du nicht innerhalb von 30 Sekunden loswerden kannst!

  2. Anzeige
    Logge dich ein, um diese Anzeige nicht zu sehen.
  3. #2
    Lt. Junior Grade
    Dabei seit
    Apr 2015
    Beiträge
    256

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Ganz nette Idee, aber mehrere Jahrzehnte zu spät und heutzutage nicht mehr umsetzbar. Schon bei minder komplexen Algorithmen dürfte eine derartige, für Verbraucher brauchbare Beschreibung so gut wie unmöglich zu erstellen sein. Und da immer mehr Entscheidungs- und Wahlprozesse von "KIs", neuronalen Netzen und ähnlichem ausgeführt werden, dürfte das ganze in Zukunft noch schwerer werden.

  4. #3
    Rear Admiral
    Dabei seit
    Sep 2009
    Beiträge
    5.671

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Es gibt keine falschen und richtigen Entscheidungen. Es liegt immer daran, was man sich als Ziel genommen hat. Automatische Preisanpassung für zB Flugtickets ist doch kein warnendes Beispiel, da das System genau so funkioniert, wie es geschaffen wurde. Preis und Nachfrage eben. Die gesamte Finanzbranche arbeitet auf diesen Füßen, um ein möglichst gutes Ergebnis innerhalb von Korridoren zu erhalten, Menschliche fahrlässige Fehler können somit minimiert werden.

    Aus meiner Sicht kann man die Besitzer von Algos auffordern, ihren Sinn zu erklären und ein paar Fallbeispiele darlegen. Aber darüberhinaus? Ne, das wird schwierig.

  5. #4
    Fleet Admiral
    Dabei seit
    Dez 2005
    Beiträge
    22.930

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Wird niemals kommen und ich hoffe es auch. Unternehmen geben Millionen, Milliarden wenn nicht sogar Billionen für Algorithmen aus da ist dann doch das minimale dass es unter das Geschäftsgeheimnis fällt. Man stelle sich nur mal vor Google müsste sein Such-Algorithmus öffentlich machen. Da würde sich jede andere Suchmaschine die Finger nach lecken. Wenn so eine Regelung kommen würde würde das die Software-Entwicklung um Jahrzehnte verlangsamen.

    Erstmal muss man den Bürger/Nutzer aufklären wie er seine Daten schützen kann und ihm klar machen, dass das A und O von Datenschutz die Daten erst gar nicht heraus zu geben ist. Aber alleine daran werden schon 80% scheitern...
    1950X@H2O | 1080 SC@H2O | X399 Taichi | 32 GB TridentZ 3200/14 | Corsair 540 Air | SS Prime Titanium 750W
    Apple: MacBook Pro 1,1 | iPhone 6 Plus 128 GB | iPad Mini 4 16 GB Wi-Fi | Mac Mini 2012
    [Anleitung] - Deaktivieren der Power LED auf einem Synology NAS

  6. #5
    Lieutenant
    Dabei seit
    Apr 2007
    Beiträge
    927

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von NeoExacun Beitrag anzeigen
    Ganz nette Idee, aber mehrere Jahrzehnte zu spät und heutzutage nicht mehr umsetzbar. Schon bei minder komplexen Algorithmen dürfte eine derartige, für Verbraucher brauchbare Beschreibung so gut wie unmöglich zu erstellen sein. Und da immer mehr Entscheidungs- und Wahlprozesse von "KIs", neuronalen Netzen und ähnlichem ausgeführt werden, dürfte das ganze in Zukunft noch schwerer werden.
    Ist es nicht vielmehr entscheidend WAS der Algorithmus macht und nicht so sehr WIE er funktioniert?

  7. #6
    Ensign
    Dabei seit
    Mär 2012
    Beiträge
    145

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Ich finde es immer wieder schön das mit zweierlei Maß gemessen wird.

    Als der Verbraucherschutz gegen die Schufa klagte wegen deren Algorithmus und dieser als Betriebsgeheimnis eingestuft wurde kam nichts mehr. Nun muss wieder eine LEX Internet geschaffen werden um den Wettbewerbsvorteil von Firmen einzuholen und ggf, somit Vorteile für die eigene Tasche zu schaffen.

  8. #7
    Lieutenant
    Dabei seit
    Jul 2015
    Ort
    Alderaan
    Beiträge
    974

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Ich würde schon gern wissen, warum oder wieso ich z.B. bei Kreditvergabe die und die Zinsen bezahlen muss.. Da gibts nämlich einige Dinge, die da mit einfliessen, die man gar nicht beeinflussen kann oder die völlig anders gewichtet sind, als man denkt.
    Ich kann das bei uns immer schön sehen, wenn diese Kreditangebote der Banken kommen. Da wäre eine genauere Angabe, warum das so ist schon nicht schlecht. Den genauen Algorithmus muss ich gar nicht wissen..
    Meine Spielebüchse: Int Core i5-4570; Asus H87M-E mit be quiet! STRAIGHT POWER10 400W ATX24; 16GB 1600-10 Vengeance LP K2 COR; Sapphire R9 380 OC Dual-X NITRO; LG 29UM67-P

  9. #8
    Fleet Admiral
    Dabei seit
    Dez 2005
    Beiträge
    22.930

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    @Fliz

    Na das ist doch einfach und so viele Faktoren sind das nicht. Bei Krediten gelten unter anderem folgende Punkte:

    - Schufa Einträge
    - Einkommen
    - Liquidität/Sicherheiten
    - Wie viel Kredite/Verträge (Handy usw.) sind am laufen
    - Wohnort
    - Nationalität

    Dazu kommt dass alleine der Fakt dass du Kreditangebote bekommst kann deine Zinsen schon nach oben gehen lassen.
    1950X@H2O | 1080 SC@H2O | X399 Taichi | 32 GB TridentZ 3200/14 | Corsair 540 Air | SS Prime Titanium 750W
    Apple: MacBook Pro 1,1 | iPhone 6 Plus 128 GB | iPad Mini 4 16 GB Wi-Fi | Mac Mini 2012
    [Anleitung] - Deaktivieren der Power LED auf einem Synology NAS

  10. #9
    Vice Admiral
    Dabei seit
    Sep 2004
    Beiträge
    6.595

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von NeoExacun Beitrag anzeigen
    Ganz nette Idee, aber mehrere Jahrzehnte zu spät und heutzutage nicht mehr umsetzbar. Schon bei minder komplexen Algorithmen dürfte eine derartige, für Verbraucher brauchbare Beschreibung so gut wie unmöglich zu erstellen sein. Und da immer mehr Entscheidungs- und Wahlprozesse von "KIs", neuronalen Netzen und ähnlichem ausgeführt werden, dürfte das ganze in Zukunft noch schwerer werden.
    So ist er halt der Verbraucherschutz. Fernab jeder Realität. Als ob die Preise der Lufthansa lediglich von 3 Faktoren abhängen würden, die man dem Verbraucher vermitteln könnte.

    Heute stecken doch überall neuronale Netze hinter den Entscheidungen und die Unternehmen wissen selbst nicht genau wie die Preise entstehen. Jetzt sollen die das noch dem Verbraucher vermitteln?

  11. #10
    Lt. Junior Grade
    Dabei seit
    Jan 2012
    Beiträge
    357

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    @Cool Master

    Da kommen aber auch Sachen wie Demographie des Kreditbeantragenden dazu.
    - Reichtum der Nachbarn
    - Verbrechensrate
    - Freunde des Kreditbeantragenden
    - allgemein das soziale Umfeld.

    etc. pp.
    Das das nicht unbedingt legal ist, ist halt vollkommen egal.
    Alle Daten die vorhanden sind werden genutzt.
    5820K@4GHz@H110i GTX | RX 480 8GB | 32GB RAM | 1TB 850 EVO | Asus Xonar D2X

    Ich akzeptiere nur begründete Meinungen.

  12. #11
    Lt. Junior Grade
    Dabei seit
    Apr 2015
    Beiträge
    256

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von momdiavlo Beitrag anzeigen
    Ist es nicht vielmehr entscheidend WAS der Algorithmus macht und nicht so sehr WIE er funktioniert?
    Nein, die Frage ist eher, welche Eingaben die Ausgabe in welcher Form beeinflussen. Und das dürfte in vielen Fällen unüberschaubar komplex sein, falls es überhaupt bekannt ist.

  13. #12
    Lt. Commander
    Dabei seit
    Okt 2015
    Beiträge
    1.470

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von Draco Nobilis Beitrag anzeigen
    Da kommen aber auch Sachen wie Demographie des Kreditbeantragenden dazu.
    - Freunde des Kreditbeantragenden
    - allgemein das soziale Umfeld.
    Wie hab ich mir die 2 Punkte vorzustellen?


    Ansonsten:
    Offenlegung des Algorithmus ist definitiv nicht machbar, aber was soll der Rest dann bringen?
    Eine Pflicht, die Bewertungskriterien aufzulisten? Könnte man drüber nachdenken, aber da niemals jemand den Algorithmus offenlegen wird, ist das auch mehr auf Vertrauensbasis. Am Ende hat man dann eine Liste mit 6743 Kriterien, die vielleicht intrinsisch interessant, im Endeffekt für einen Verbraucher aber absolut nicht hilfreich sein werden.

  14. #13
    Fleet Admiral
    Dabei seit
    Dez 2005
    Beiträge
    22.930

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    @Draco Nobilis

    Jup so sieht es aus.

    @KlaasKersting

    Es wird bewertet wie das soziale Umfeld da steht.

    Genau deswegen ist es wichtig Datenschutz zu haben und so wenige Daten wie nötig herauszugeben, weil die einfach alle aufgesaugt werden.
    1950X@H2O | 1080 SC@H2O | X399 Taichi | 32 GB TridentZ 3200/14 | Corsair 540 Air | SS Prime Titanium 750W
    Apple: MacBook Pro 1,1 | iPhone 6 Plus 128 GB | iPad Mini 4 16 GB Wi-Fi | Mac Mini 2012
    [Anleitung] - Deaktivieren der Power LED auf einem Synology NAS

  15. #14
    Lt. Commander
    Dabei seit
    Okt 2015
    Beiträge
    1.470

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Schon klar, aber wie soll das funktionieren?
    Meine Bank weiß zwar einiges über mich, aber mein Freundeskreis und sonstiges Umfeld gehören definitiv nicht dazu.
    Die haben weder vor noch während noch nach einer Kreditvergabe irgendwelche Informationen dazu erhalten oder auch nur verlangt.

    In der Zukunft kann das relevant werden, wenn immer mehr Daten (Blick hier natürlich zuerst auf Facebook, langfristig überall hin) vernetzt werden.
    Im bezweifle Stand jetzt, dass das in Deutschland Praxis ist, zumal du dazu ein riesiges Netzwerk an Banken und Versicherern bräuchtest, um nicht nur zu wissen, wie meine Freunde heißen, sondern sie auch finanziell und beruflich irgendwo einzusortieren. Aktuell würde das ohnehin gegen jeglichen Datenschutz verstoßen.
    Geändert von KlaasKersting (08.12.2017 um 12:01 Uhr)

  16. #15
    Fleet Admiral
    Dabei seit
    Dez 2005
    Beiträge
    22.930

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Aber dein Provider kennt sie, Facebook/WhatsApp kennt sie und auch dein Telefon Hersteller wenn die Kontakte in der Wolke sind. Wer glaubt das diese Daten nicht verknüpft werden lebt nicht in der Realität. In den USA ist es mittlerweile sogar legal das dein ISP dein Surfverhalten verkauft.

    Deswegen bevor man etwas auf Facebook oder sonst wo postet sollte man immer im Kopf haben das die Daten weiter gegeben werden können und mit hoher Wahrscheinlichkeit auch passiert.
    1950X@H2O | 1080 SC@H2O | X399 Taichi | 32 GB TridentZ 3200/14 | Corsair 540 Air | SS Prime Titanium 750W
    Apple: MacBook Pro 1,1 | iPhone 6 Plus 128 GB | iPad Mini 4 16 GB Wi-Fi | Mac Mini 2012
    [Anleitung] - Deaktivieren der Power LED auf einem Synology NAS

  17. #16
    Cadet 4th Year
    Dabei seit
    Mai 2013
    Beiträge
    118

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von KlaasKersting Beitrag anzeigen
    Meine Bank weiß zwar einiges über mich, aber mein Freundeskreis und sonstiges Umfeld gehören definitiv nicht dazu.
    Alleine schon wenn Du Freunde oder Verwandte hast deren Adreßbuch im social media bekannt bzw. geflossen ist haben sie infos über Dich. Ob's legal oder illegal ist. Die infos werden woanders verarbeitet und kommen dann "legal" wieder hierhin.
    Es können auch infos von Namesgleichen Deinen score verändern. Sieht man ja auch in den USA wo das hinführt. Bis zum nicht an der Wahl teilnehmen dürfen, aber das ist eher politisch gewollt

  18. #17
    Captain
    Dabei seit
    Mai 2010
    Beiträge
    3.254

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Nutzer haben nur wenig Vertrauen in Algorithmen
    Nein, Nutzer haben wenig Vertrauen in die Menschen die die Algorithmen erstellen / einstellen / beauftragen.

    geht nicht / würde gegen Geschäftsgeheimnis verstoßen / zu kompliziert
    Sry, aber das ist schlicht Blödsinn. Kleiner Rant:

    natürlich müssen Unternehmen offenlegen was sie dem Kunden anbieten, das gewünschte Verhalten eines Alg. gehört da dazu, z.b. ob er gewichtet oder nicht wenn man nach dem niedrigsten Preis sucht, d.h. zählt nur der Preis oder kommen Faktoren wie Auslastung hinzu was darin resultiert dass man nicht den faktisch niedrigsten Preis angezeigt bekommt sondern jenen der auch für die Fluglinie die Auslastung steigert, ein bisschen so als würde Google die Suchergebnisse gewichten, das beste Ergebnis ist dann auf Seite 2 anstatt auf Seite 1 mit all den Werbe-/Partnerlinks.
    Perverser wirds wenn Algs. darauf ausgelegt sind deine Schmerzgrenze auszutesten, ein bisschen so wie in der aktuellen Lootbox Debatte, wie hoch kann der Preis auf Seite 1 gehen bevor du Seite 2 und 3 der Suchergebnisse anklickst usw., alles auf dich personalisiert, d.h. maximale Diskriminierung. Sowas muss offengelegt werden, von mir aus in Marketinggewäsch gepackt.

    Für technische Betriebsgeheimnisse gibts Behörden die prüfen können, die müssen dann eben geschaffen werden und entsprechende Befugnisse erhalten, ganz genau so wie man es bei z.b. Banken macht mit der Bankenaufsicht macht. Da wird einerseits profilaktisch geprüft und auf Anzeigen wegen Missbrauch reagiert.
    Das sind ebenfalls hochsensible Daten die in Datenbanken mit automatischen Kriterien Warnungen hervorrufen (z.b. verdächtige Transaktionen bei Geldwäsche), läuft alles automatisch mit Algs., Missbrauchspotenzial maximal vorhanden.
    Ja, Betriebsgeheimnis hin oder her, da kommt dann die Behörde und prüft mal ob das System so funktioniert wie es soll, inkl. IT, ob es so eingestellt ist wie es soll und sich an die Richtlinien hält, sonst gibts empfindliche Strafen, und das passiert öfter als Bürger 0815 glaubt, wird halt selten öffentlich in der Presse breitgetreten.

    Jedes Unternehmen unterliegt dem Recht, muss also im Notfall bereit sein seine Handlungen nachvollziehbar zu erklären, wenn sie das nicht können ist das deren Problem, nicht das der Gesellschaft.
    Wer einen selbstlernenden Alg. verwendet muss sich dann eben den Aufwand machen die Protokollierung durchzuführen (ja, ist möglich), zu automatisieren oder darauf zu verzichten. Punkt. Das nennt sich Kostenkalkulation. Nicht immer ist das "bessere" Werkzeug kosteneffektiver weil z.b. die Wartung zu teuer ist.

    Es ist doch schlicht Blödsinn anzunehmen unsere Welt würde automatisch besser nur weil wir selbstlernende Algs. einsetzen die wir nur noch unter extremen Aufwand verstehen, wird das jetzt so eine Art "Gott 2.0", ein neuer Glaube dem wir die Welt anvertrauen?
    der Hund hat meine Signatur gefressen

    Prognose: Windows 10 -> Updatecycle of Death
    Realität: 2 Wochen später -> KB3081424

  19. #18
    Lt. Junior Grade
    Dabei seit
    Jul 2011
    Beiträge
    347

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von Cool Master Beitrag anzeigen
    Man stelle sich nur mal vor Google müsste sein Such-Algorithmus öffentlich machen. Da würde sich jede andere Suchmaschine die Finger nach lecken.
    Oh nein! Gut dass das nicht passiert und Google seine quas-Monopolstellung behält! Ist ja so gesund wenn es einige wenige Big-Player gibt die alle Informationen über alle sammeln.

    Zitat Zitat von Cool Master Beitrag anzeigen
    Wenn so eine Regelung kommen würde würde das die Software-Entwicklung um Jahrzehnte verlangsamen.
    Begründung/Belege? Ich würde nämlich eher sagen dass es die Software-Entwicklung um Jahrzehnte nach vorne bewegen würde. Die fundamentalsten Fortschritte in der Produktivität wurden bei der Software-Entwicklung seit jeher dadurch erreicht, dass man auf der Arbeit von anderen aufbaut. Und Monopole auf Wissen bedeuten immer ein Anhalten des Fortschritts.

    Zitat Zitat von Cool Master Beitrag anzeigen
    Erstmal muss man den Bürger/Nutzer aufklären wie er seine Daten schützen kann und ihm klar machen, dass das A und O von Datenschutz die Daten erst gar nicht heraus zu geben ist. Aber alleine daran werden schon 80% scheitern...
    Ok, dann geben wir einfach auf und lassen Konzerne machen was sie wollen.
    Ich bin ein guter Teamplayer, solange ich nicht mit dummen Menschen zusammenarbeiten muss.

  20. #19
    Cadet 3rd Year
    Dabei seit
    Jul 2013
    Beiträge
    56

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Aktuelle auf deep learning basierende Systeme sind so komplex, dass sie selbst für deren Entwickler eine Blackbox darstellen. Anzunehmen man könnte einem normalen Anwender klar machen warum so ein System macht was es macht ist lächerlich.

  21. #20
    Commander
    Dabei seit
    Jan 2004
    Ort
    /root - ich darf das!
    Beiträge
    2.638

    AW: Verbraucherschützer: Algorithmen dürfen für Nutzer keine Black-Box sein

    Zitat Zitat von KlaasKersting Beitrag anzeigen
    Wie hab ich mir die 2 Punkte vorzustellen?
    Wo ist das Problem?
    Allein Facebook und Google wissen teils mehr über das Soziale Umfeld von jemandem als dieser Jemand selbst. An diese Daten kommt man freilich nicht schwer, man kann sie bei den beiden großen "einfach" kaufen. Davon leben die ja schließlich.
    Aber allein diese Tartsache ist den wenigsten Bewußt, wissen? Ja bestimmt, aber bewuss? Definitiv nein.

    Zum eigentlichen Thema:
    Haben wir schon wieder Sommerloch?... oh, moment mal.

    Aber okay, ich ergeben mich, steige auch mal drauf ein:
    Algo offenlegen ist völliger blödsinn. Aber welche Daten(Art) von einem Algo verwertet werden ist dagegen sehrwohl sinvoll.
    Noch sinvoller wäre es auch die Datenquellen nachvollziehbar mit anzugeben.
    Aber alles in allem würde es das "BigData" Equivalent zu den "bösen Bildchen" auf Tabakartikeln sein. Sind "nett anzusehen", bringen aber effektiv gar nichts.

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •  
Forum-Layout: Feste Breite / Flexible Breite