News Desinformation: Russland soll an Wikipedia-Klon für KI-Chatbots arbeiten

[PhiE]

Eine russische Desinformationskampagne soll gezielt auf KI-Chatbots ausgerichtet sein. Nach geleakten Dokumenten arbeitet eine sogenannte Trollfabrik an einem deutschsprachigen Wikipedia-Klon, dessen Inhalte von KI-Systemen als vermeintlich seriöse Quellen übernommen werden könnten.

Zur News: Desinformation: Russland soll an Wikipedia-Klon für KI-Chatbots arbeiten

 

[Atze-Peng]

Nunja. Es ist jetzt nicht so das Wikipedia selber absolut neutral ist. Und das in dem Kontext der weiteren Eskalation alle Seiten Informationen kontrollieren wollen ist auch wenig überraschend.

 

[steirerblut]

Grokipedia? Elon Musk hat bestimmt kein Problem damit seine Resourcen zu teilen!

 

[aluis]

Antworten von Chatbots gerade bei politischen und gesellschaftlich umstrittenen Themen nicht ungeprüft übernommen werden sollten

Das gilt aber ebenso für die echte Wikipedia, genau genommen für alle Quellen/Themen..... Hat man mir im Studium so beigebracht.

 

[NoNameNoHonor]

Das ist in der Tat ein Problem der Large Language Models, denn man müsste die Daten der Trainingsbasis einzeln nach ihrem Wahrheitsgehalt bzw. Richtigkeit zuerst bewerten, und diese Bewertung müsste bei der Antwort auch berücksichtigt werden. Ein grundsätzliches Problem also.

 

[tipmyredhat]

Ich denke es wird Zeit für ein Metapedia:
Zu einem Thema werden die (vermutlich) grundverschiedenen Standpunkte aus allen ...pedias mitsamt der Quellen zusammengefasst und jeder kann dann selbst entscheiden, wem oder ob er vertraut, oder welchem Teilbereich.

Grundsätzlichen Glauben schenken sollte man keiner einzigen dieser Quellen mehr...

 

[Infi]

ich find es etwas erschreckend dass gleich in den ersten 3 posts 2 die normale wikipedia mit staatlicher russischer desinformation gleichsetzen

 

[Kaufmannsladen]

Nunja. Es ist jetzt nicht so das Wikipedia selber absolut neutral ist.

Kannst du das bitte belegen?

 

[Nerdpatrol]

Nunja. Es ist jetzt nicht so das Wikipedia selber absolut neutral ist.

Ganz genau. Wer laut Wikipedia alles "Unternehmer und Philanthrop" ist.. 😄.
Man will einfach im Westen der einzige sein, der Geschichtsdeutung festlegt.

Ich halte das ganze für weitere Panikmache. Dass Russland einen Wikipedia-Klon haben will, ist doch völlig naheliegend, allein schon, um eine eigene Online-Enzyklopädie zu haben, falls hier vom Westen aus gesperrt / blockiert wird.
Die Chinesen geben sich ja auch sehr viel Mühe, alles auch im eigenen Haus zu haben, um nicht von anderen abhängig zu sein - sollte sich die EU mal ein Beispiel dran nehmen..

 

[Piktogramm]

Aller paar Jahre muss es eine neue Welle geben dem Internet Nutzwert zu entziehen. Seo, Scam, Seo, Affiliate Spam, Seo, Social Media, Seo, Scam über Social Media, Seo, ..

Die letzte, LLM-Optimization, die schlicht ausnutzt, dass die LLMs mit allem Druckbetankt werden, in der Hoffnung, dass im Mittel da halbwegs ein Abbild dessen rauskommt, was Menschen als akzeptabel bewerten und dafür Milliarden Geldeinheiten drauf werfen.
Also gibt es jetzt Spam um das statistische Mittel zu verschieben und wahrscheinlich allerhand Optimierung, um interne Wichtungen der LLM-Butzen auszuhebeln.

 

[the_IT_Guy]

Wikipediaski!

Traurig, aber war zu erwarten, nach SEO, GEO und AEO und was weiß ich womit das Web zugemüllt wird.

 

[the_IT_Guy]

Grokipedia? Elon Musk hat bestimmt kein Problem damit seine Resourcen zu teilen!

Treffer versenkt!

 

[mischaef]

@Infi
Erschreckend? Ja! Überraschend? Nein!

 

[Tsu]

Besonders problematisch ist der Ansatz, weil Wikipedia bei vielen Nutzern als verlässliche Quelle gilt

Oof. Habt ihr eine Quelle zu dieser Behauptung?

Ich sehe nämlich sowas: https://de.trustpilot.com/review/www.wikipedia.de

 

[Bright0001]

Ich hab mich durch alle Quellen geklickt - schade, dass die eigentlichen Unterlagen/Ausschnitte nirdgends veröffentlicht werden, damit man selbst prüfen kann, was da drin steht.

Müssen wir wohl einfach mal glauben, dass die Anschuldigung der Desinformation keine Desinformation ist.

Und beim Klon selbst sehe ich nicht das große Problem. Dass Wikipedia

• Grundsätzlich keine neutrale Plattform ist, und
• Von vielen Akteuren, darunter Politikern, Unternehmen und Interessensgruppen belagert wird

sollte mittlerweile keine Überraschung mehr sein.

We find some of the aforementioned political associations embedded in Wikipedia articles popping up in OpenAI’s language models. This is suggestive of the potential for biases in Wikipedia content percolating into widely used AI systems.Wikipedia’s neutral point of view (NPOV) policy aims for articles in Wikipedia to be written in an impartial and unbiased tone. Our results suggest that Wikipedia’s NPOV policy is not achieving its stated goal of political-viewpoint neutrality in Wikipedia articles.

Quelle

Dazu gabs in der Vergangenheit ja durchaus richtige Grabenkämpfe um politische Themen innerhalb der Community, bei denen man sich klar politisch positioniert hat, und entsprechende Ansichten der Gegenseite per Reglement falsch/verboten bzw. negativ zu konnotieren sind.

Kann man machen, nur ist man damit halt keine neutrale Enzyklopädie mehr.

Soll sich die Wikipedia also nun im freien Wettbewerb behaupten, kann ja nur besser werden.

 

[Wolfgang.R-357:]

Das erste Opfer im Krieg ist immer die Wahrheit.

Schon witzig, Putins Regime riecht nach Verzweiflung, es reicht wohl nicht die eigene Bevölkerung zu unterdrücken und zu manipulieren.

In einer Diktatur ist das wohl normal, wenn man keine Achtung vor dem Leben hat, hat man erst recht keine bei anderen Themen.

Wenn du die Wahrheit nicht auf deiner Seite hast, erschaffe Halbwahrheiten und Desinformationen, wiederhole deine Lügen so oft das sie von einigen geglaubt werden, dass das in grenzen funktioniert sieht man zum Beispiel an der Dolchstoßlegende.

 

[aspro]

@Tsu Immerhin nicht viel schlechter als diese dubiose Seite:
https://de.trustpilot.com/review/computerbase.de
/s

 

[nipponpasi]

Ob die Artikel und Kommentare hier bei Computer Base wohl auch in die KI Antworten miteinfliessen? 🤔

Wie kann ich mir dass denn vorstellen?
Die forken wikipedia fuer propaganda und desinformation, aber das originale wikipedia gibt es ja weiterhin.

Warum sollte die KI im gefakten wikipedia und nicht im echten suchen?

 

[KitKat::new()]

Das gilt aber ebenso für die echte Wikipedia, genau genommen für alle Quellen/Themen...

Nicht im selben Maße.
Es sind klare Abstufungen zu machen anstatt Chatbots auf die gleiche Ebene wie Wikipedia, den öffentlich rechtlichen Rundfunk oder lang etablierte wissenschaftliche Journals zu stellen.

Niemand kann und wird je alles bis auf die Substanz überprüfen können, weswegen man nicht darum rum kommt Kompromisse einzugehen, heißt nicht alles bis aufs letzte zu prüfen. Das ist einfach eine Realität, die man anerkennen muss

Deswegen ist es sehr kontraproduktiv, gar fatal, so zu tun als wären alle Quellen bzgl. allen Themen gleich vertrauens(un)würdig und es wäre egal, ob man nun einem Chatbot, der mit Fake News gefüttert wurde, einem Random Blogpost, oder kurartierten Wissensdatenbanken oder professionell journalistischen Quellen vertraut.

 

[the_IT_Guy]

Ich sehe nämlich sowas: https://de.trustpilot.com/review/www.wikipedia.de

Absolut neutrale Bewertung der Wikipedia