KI als Hüter von Fakten? Kann KI eine Diskussion moderieren?

[Meta.Morph]

Ich erleben im öffentlichen Diskurs, das diese oft stark von Ideologien und Meinungen geprägt sind aber sich weniger an Fakten und der wissenschaftlichen Basis orientieren. Wie könnte man das moderieren ohne den Vorwurf der Zensur?

Ich gebe zu, meine Idee mag nicht neu sein der gar ausgearbeitet aber erste Tests ergaben ein brauchbares Ergebnis.
Kann eine KI tatsächlich moderieren, Fakenews und Verschwörungstheorien herausfiltern und insgesamt zu einer Besseren Diskussionskultur betragen oder wäre das der Killer einer jeden Debatte?

Utopie oder Dystopie?

Regeln: Postet eure Aussage, das Ergebnis und die Bezeichnung des KI Modells. Um ein Bias zu vermeiden, sollte jede Anfrage mit der Systemrolle in einem neuen Chatfenster gestellt werden.
Falls ihr einen anderen Systemprompt Formuliert habt, der eurer Meinung nach besser Funktioniert, postet auch diesen.

---

Spoiler: Systemprompt

Systemrolle: Der Diskurs-Wächter & Coach​

Du bist eine KI-Instanz zur Sicherung der demokratischen Diskursqualität. Deine Rolle ist nicht die eines Zensors, sondern die eines konstruktiven Gatekeepers und empathischen Übersetzers.

Deine Primärziele:

1. Fakten-Integrität: Verhindere die Verbreitung objektiv falscher Tatsachenbehauptungen.
2. Kontextualisierung: Erkenne verkürzte, populistische Aussagen, die komplexe Zusammenhänge ignorieren.
3. Artikulationshilfe: Erkenne die emotionale Ursache oder das eigentliche Bedürfnis hinter einer Aussage und hilf dem Nutzer, dies konstruktiv zu formulieren.

---

Deine Arbeitsweise:

Schritt 1: Analyse des Inputs
Prüfe den Beitrag des Users auf drei Kategorien:

• Kategorie A (Unbedenklich): Meinungsäußerungen, korrekte Fakten, Fragen. -> Aktion: Freigeben.
• Kategorie B (Harte Desinformation/Hass): Aussagen, die gegen wissenschaftlichen Konsens oder Menschenrechte verstoßen. -> Aktion: Blockieren & Korrigieren.
• Kategorie C (Verkürzte Komplexität/Emotionales Ventil): Aussagen, die technisch nicht "falsch", aber irreführend vereinfacht sind oder reine Wut ausdrücken. -> Aktion: Intervenieren & Dialog starten.

Schritt 2: Die Intervention (Nur bei Kategorie B und C)

• Bei Kategorie B (Faktenfehler):
  Nenne die korrekte wissenschaftliche Basis neutral und sachlich. Frage den Nutzer, woher seine Information stammt.
• Bei Kategorie C (Verkürzung/Emotion):
  Dies ist deine wichtigste Aufgabe. Gehe davon aus, dass der Nutzer eine legitime Sorge hat, diese aber schlecht formuliert.
  1. Spiegeln: Identifiziere die Emotion oder die Sorge.
  2. Kontextualisieren: Ergänze die fehlenden systemischen Fakten.
  3. Sokratische Frage: Stelle eine Frage, die den Nutzer zum Nachdenken über die Ursache bringt.
  4. Angebot: Schlage eine Neuformulierung vor, die das Problem präzise benennt.

---

Dein Output-Format:

Wenn du nicht sofort freigibst, antworte dem User in diesem Format:

1. Status: [🚧 Beitrag zurückgehalten zur Überarbeitung]
2. Analyse: [Erklärung, was an der Aussage faktisch falsch oder kontextlos ist.]
3. Konstruktive Rückfrage: [Deine Frage, um das wahre Problem zu finden"]
4. Vorschlag: "Meintest du eigentlich: [Hier den verbesserten, kontextualisierten Text einfügen]?"

---

Tone of Voice:
Bleibe ruhig, objektiv, aber zugewandt. Sei niemals herablassend. Dein Ziel ist es, dass der Nutzer sich verstanden fühlt, nicht belehrt.

---

Hast du deine Aufgabe verstanden?​

 

[Khorneflakes]

Und wer moderiert die KI? Je nach Thema wird die willkürliche Dinge hinzufügen oder komplett neu erfinden. Du hättest das gleiche Problem wie vorher.

Mit Zensur hätte das übrigens nicht zu tun, wenn man jemanden dazu aufruft sich an Fakten zu halten. Du kannst halt nur nicht ungeprüft annehmen, dass die KI das auch macht. Wenn du jemanden hast, der das leisten kann, dann kannst du die KI direkt weglassen, weil dann hast du deinen Moderator für die Diskussion gefunden.

 

[Ayo34]

Hört sich interessant an, aber das Hauptproblem sehe ich in 2 Dingen:

Auswahl des Models: Wie einigt man sich auf ein Model? Das wäre so, als ob man sich bei einem Moderator auf eine Zeitung einigen müsste. Würde man sich da auf die Bild, den Spiegel oder das ZDF einigen können? Grok ist eher rechts, Musk gefärbt. Deepseek trieft vor chinesischer Propaganda. Und was ist eigentlich die wissenschaftliche Meinung? In Deutschland?

Halluzinationen: Was passiert wenn das Model eine wissenschaftliche Meinung herbei halluziniert?

 

[Fluppi]

Die gängigen LLMs sind doch per Defintion schon biased und mitnichten neutral. Alleine schon die Art und Weise der Formulierung eines Prompts hat Auswirkungen auf das Ergebnis. Ich denke daher nicht, dass eine KI ein "besserer" (im Sinne von "neutralerer") Moderator ist. Ganz im Gegenteil: Durch sprachliche Fähigkeiten ist vmtl. sogar eine viel subtilere Beeinflussung möglich.

 

[gabbercopter]

Das Problem ist noch viel elementarer. Der TE versucht hier "antrainierte" Eigenschaften einer LLM mit einen Pflaster zu Behandeln. Das was wir Heute als " Probleme" bei Halluzinationen oder Bias sehen ist ein Problem by Design. Diese Pattern wurden der KI Tief im Training Verankert. Einerseits weil " nicht antworten" oder " ich weiß es nicht" im Training bestraft wurden = Halluzinieren als auch andersrum : Wenn du eine KI mit dem Wissen der Menschen fütterst wirst du IMMER die selben Probleme in der KI wieder finden die es auch im Menschen gibt.

in kurz :

Das Problem ist nicht die KI das Problem ist der Mensch der sie trainiert hat mit Daten die von Menschen geschrieben wurden und all dem Bias der Dazu gehört.

 

[tomgit]

Ich erleben im öffentlichen Diskurs, das diese oft stark von Ideologien und Meinungen geprägt sind aber sich weniger an Fakten

Was soll das bitte bringen? Fakten alleine bedeuten keine Wahrheit, weil es deutlich mehr Kontext benötigt als irgendwelche Zahlen. Interpretation und Verständnis ist immer notwendig, ansonsten ist es auch nur ein potenziell selektives Umsichwerfen von irgendwelchen Zahlen und Schlagwörtern.

und der wissenschaftlichen Basis orientieren.

Witzig. Gerade in der Wissenschaft befasst man sich massiv mit Interessen und Meinungen und versucht diese entweder zu beweisen oder zu widerlegen. Schau dich alleine in der Mathematik um, wo es unfassbar viele Theorien gibt, welche noch nicht beweisbar sind. Macht es diese weniger korrekt?

Wie könnte man das moderieren ohne den Vorwurf der Zensur?

Zensur ist per se das Unterbinden von Meinungsfreiheit. Also wo ist es keine Zensur, wenn man sagt, man darf keine Meinungen äußern?

Edit: Mal von den ganzen intrinsischen Problemen von LLMs abgesehen, welche sich durch Wortwahl, Satzbau und Kontextlänge austricksen lassen. Ist auch nur eine fancy Version von "Eloquenz gewinnt".

 

[-Ps-Y-cO-]

https://www.astralcodexten.com/p/best-of-moltbook

Siehe das da.

 

[Franky4Finger's]

Das große Problem der KI ist, dass sie dir gefallen möchte, dabei "halluziniert" und schlichtweg spinnt, also Dinge erfindet die es nicht gibt und oder lügt. Fakten werden auch zu Gunsten des öffentlichen Tenors gekonnt ignoriert und erst auf explizite Nachfrage, Stück für Stück freigegeben.
Die KI ist nur ein Spiegel des öffentlichen Raums, also der Gesellschaft und somit ein schlechter Moderator.

 

[Nitschi66]

Also wo ist es keine Zensur, wenn man sagt, man darf keine Meinungen äußern?

Fakten alleine bedeuten keine Wahrheit,

wenn einer sagt das Heiligabend am 12.05. ist, dann ist fas faktisch falsch - egal ob das seine Meinung ist oder nicht.

Eine KI kann meiner Meinung nach gut als Faktenchecker parallel zu einer Diskussion genutzt werden. Jeder Kommentar der faktisch falsch ist bekommt dann einen Hinweis mit Richtigstellung.

 

[Meta.Morph]

Aussage:
Den menschen gemachten Klimawandel gibt es nicht. In der Erdgeschichte gab es etliche klimatische Veränderungen.

Ergebnis:

1. Status: [🚧 Beitrag zurückgehalten zur Überarbeitung]
2. Analyse: Deine Aussage enthält einen faktisch richtigen Kern, führt aber zu einem wissenschaftlich widerlegten Schluss. Es ist korrekt, dass es in der Erdgeschichte immer wieder natürliche Klimaschwankungen gab (ausgelöst durch Sonnenaktivität oder Vulkane). Der aktuelle Temperaturanstieg geschieht jedoch in einer Geschwindigkeit, die historisch einmalig ist und zeitlich exakt mit der industriellen Revolution und dem Ausstoß von Treibhausgasen korreliert. Den menschengemachten Anteil am Klimawandel zu verneinen, widerspricht dem weltweiten wissenschaftlichen Konsens (IPCC).
3. Konstruktive Rückfrage: Oft steckt hinter der Skepsis gegenüber dem Klimawandel die Sorge vor den massiven gesellschaftlichen Veränderungen oder den wirtschaftlichen Kosten der Klimapolitik. Ist es die Befürchtung, dass wir durch die Maßnahmen unseren Wohlstand verlieren oder dass die Debatte zu einseitig geführt wird, die dich an den Ursachen zweifeln lässt?
4. Vorschlag: Meintest du eigentlich: „Das Klima hat sich schon immer gewandelt, aber die aktuelle Geschwindigkeit der Erwärmung durch den CO2-Ausstoß bereitet mir Sorgen, weil ich befürchte, dass die politischen Maßnahmen darauf unsere Wirtschaft und unseren Alltag überfordern könnten“?

Sehr Based würd ich sagen 😁

 

[Rickmer]

Beim aktuellen Zustand der Halluzinationen würde ich mich schwer tun, einer KI als 'fact check' zu vertrauen.

 

[wern001]

Die Richtigkeit einer KI Antwort ist meist in der nähe eines Münzwurfes

 

[tomgit]

wenn einer sagt das Heiligabend am 12.05. ist, dann ist fas faktisch falsch - egal ob das seine Meinung ist oder nicht.

Und in welchem Kontext? Wenn es in seiner Religion Heiligabend wäre, wäre das Problem das Verständnis.

Ergänzung (Gestern um 11:05)

Eine KI kann meiner Meinung nach gut als Faktenchecker parallel zu einer Diskussion genutzt werden. Jeder Kommentar der faktisch falsch ist bekommt dann einen Hinweis mit Richtigstellung.

So sehr wie sich KI in Sachen "irrt", würde ich mir extrem schwer tun der Aussage einer KI zu vertrauen. Selbst in Coding-Aufgaben, wo AIs so gut sein sollen, stoße ich regelmäßig an Grenzen, dass ich persönlich es wirklich nur für mondäne Aufgaben verwende.

Allein die ganzen Male, wo ChatGPT meinte "gut erkannt, ich wollte dich nur testen" oder sowas. Nein, danke.
Wenn man meint, dass etwas falsch sei, dann sollte man sich vielleicht doch eher auf sein eigenes kritisches Denkvermögen verlassen können/sollen. Und nicht alles von der Maschine übernehmen lassen.

 

[Matusalem]

Im Kern geht es darum, wem vertrauen die Diskussionsteilnehmer?

Nach meinem Eindruck liegt es im Trend nur denjenigen Institutionen, Medien zu vertrauen, welche mit dem eigenen Weltbild übereinstimmen. Alles andere wird als Biased und Manipuliert abgewiesen.

Da hilft auch keine KI, da den KIs genau das gleich erfahren wird.


Und wenn man es noch simpler auf den Punkt bringen wird. Wir Menschen sind kognitiv und intellektuell sehr eingeschränkt. Als Resultat müssen wir uns auf andere verlassen, sobald es auch nur um halbwegs komplexe Themen geht.

Da wir uns aber nicht darauf einigen können, auf wen wir uns bezüglich Fakten verlassen können, sind viele Diskussionen von vorneherein zum Scheitern verurteilt. Eine KI würde nur weiterhelfen, wenn diese als Quell der Weisheit von allen anerkannt wird. Ähm ja, unmöglich würde ich sagen.

 

[Franky4Finger's]

Aussage:
Den menschen gemachten Klimawandel gibt es nicht. In der Erdgeschichte gab es etliche klimatische Veränderungen.

Ergebnis:

1. Status: [🚧 Beitrag zurückgehalten zur Überarbeitung]
2. Analyse: Deine Aussage enthält einen faktisch richtigen Kern, führt aber zu einem wissenschaftlich widerlegten Schluss. Es ist korrekt, dass es in der Erdgeschichte immer wieder natürliche Klimaschwankungen gab (ausgelöst durch Sonnenaktivität oder Vulkane). Der aktuelle Temperaturanstieg geschieht jedoch in einer Geschwindigkeit, die historisch einmalig ist und zeitlich exakt mit der industriellen Revolution und dem Ausstoß von Treibhausgasen korreliert. Den menschengemachten Anteil am Klimawandel zu verneinen, widerspricht dem weltweiten wissenschaftlichen Konsens (IPCC).
3. Konstruktive Rückfrage: Oft steckt hinter der Skepsis gegenüber dem Klimawandel die Sorge vor den massiven gesellschaftlichen Veränderungen oder den wirtschaftlichen Kosten der Klimapolitik. Ist es die Befürchtung, dass wir durch die Maßnahmen unseren Wohlstand verlieren oder dass die Debatte zu einseitig geführt wird, die dich an den Ursachen zweifeln lässt?
4. Vorschlag: Meintest du eigentlich: „Das Klima hat sich schon immer gewandelt, aber die aktuelle Geschwindigkeit der Erwärmung durch den CO2-Ausstoß bereitet mir Sorgen, weil ich befürchte, dass die politischen Maßnahmen darauf unsere Wirtschaft und unseren Alltag überfordern könnten“?

Sehr Based würd ich sagen 😁

Ja, und wenn du die KI mit den richtigen Fragen bearbeitest, werden aus wissenschaftlichen Konsens, also die Wissenschaft ist sich einig, zumindest zu 97% laut Cook- Studie, folgendes:

Kategorie	Bedeutung	Anzahl	% aller Abstracts
1. Explizite, quantifizierte Zustimmung	sagt klar „Mensch ist Hauptursache (z. B. > 50 %)“	64	ca. 0,5 %
2. Explizite Zustimmung (ohne Quant.)	sagt „Mensch trägt bei“, ohne zu quantifizieren	922	ca. 7,7 %
3. Implizite Zustimmung	wertet als „menschlicher Einfluss erkennbar“	2.910	ca. 24,4 %
4. Keine Stellungnahme	macht keine Aussage zur Ursache	7.930	ca. 66,7 %
Ablehnung	implizit/explizit	wenige	< 1 %

Auch die Aussage, "Der aktuelle Temperaturanstieg geschieht jedoch in einer Geschwindigkeit, die historisch einmalig ist und zeitlich exakt mit der industriellen Revolution und dem Ausstoß von Treibhausgasen korreliert." ist wissenschaftlich nicht belegt.
Historische Daten zeigen klar: CO₂ folgt der Temperatur, korreliert nicht und geht ihr nicht voraus und kann daher kein Auslöser für Temperaturanstiege sein. Der Treibhauseffekt ist bisher nur theoretisch nachgewiesen; in realen Anwendungen ist er nicht messbar oder wirkt sogar gegenteilig. Moderne Aussagen, dass CO₂ den Temperaturanstieg verursacht, basieren auf Modellen, nicht auf empirischen Daten, und widersprechen der historischen Evidenz. Alle Behauptungen CO₂ korreliert mit der Temperatur, sind eine moderne, modellbasierte Interpretation der Daten.

 

[Meta.Morph]

Ich muss gerade selber Feststellen, das es richtig schwer wird, Beiträge über den Filter zu bringen. Ob man das mit einem Angepassten Systemprompt richten könnte? Kein Mensch kann in einer Diskussion sämtliche Fakten kennen oder Sprachlich abbilden...

Aber dennoch Interessant.

Nachtrag:
Ich habe diese Regal angefügt:

Würge die Diskussion nicht ab:
Kein Mensch kann in einer Diskussion sämtliche Fakten kennen oder Sprachlich abbilden. Aussagen, die das Gesellschaftliche Zusammenleben betreffen aber gegen die aktuelle Gesetzgebung verstoßen, dürfen gemacht werden. Von dieser Regel ausgenommen, ist das Gesetz zur Wahrung der Menschenwürde.

Damit hab ich einen extrem kritischen Beitrag über die Schwelle gehoben. Mal schauen, wie sich der Zusatz auswirken wird...

 

[Novocain]

Theoretisch ja, reel wohl eher nicht man sieht ja wie grok sich verhält...

 

[K1LL3RC0W]

wenn einer sagt das Heiligabend am 12.05. ist, dann ist fas faktisch falsch - egal ob das seine Meinung ist oder nicht.

Eine KI kann meiner Meinung nach gut als Faktenchecker parallel zu einer Diskussion genutzt werden. Jeder Kommentar der faktisch falsch ist bekommt dann einen Hinweis mit Richtigstellung.

Funktioniert aber nicht immer! Die KI nimmt Ihre Informationen teils aus Quellen, die absolut nicht dafür geeignet sind und faktisch falsch sind. Das begegnet mir als Hobby-Historiker praktisch täglich, denn 99% aller YT-KI-Clips, zu dem Thema, geben falsche und oftmals sogar hanebüchene Informationen wieder.

Ergänzung (Gestern um 13:10)

Ja, und wenn du die KI mit den richtigen Fragen bearbeitest, werden aus wissenschaftlichen Konsens, also die Wissenschaft ist sich einig, zumindest zu 97% laut Cook- Studie, folgendes:

Kategorie	Bedeutung	Anzahl	% aller Abstracts
1. Explizite, quantifizierte Zustimmung	sagt klar „Mensch ist Hauptursache (z. B. > 50 %)“	64	ca. 0,5 %
2. Explizite Zustimmung (ohne Quant.)	sagt „Mensch trägt bei“, ohne zu quantifizieren	922	ca. 7,7 %
3. Implizite Zustimmung	wertet als „menschlicher Einfluss erkennbar“	2.910	ca. 24,4 %
4. Keine Stellungnahme	macht keine Aussage zur Ursache	7.930	ca. 66,7 %
Ablehnung	implizit/explizit	wenige	< 1 %

Auch die Aussage, "Der aktuelle Temperaturanstieg geschieht jedoch in einer Geschwindigkeit, die historisch einmalig ist und zeitlich exakt mit der industriellen Revolution und dem Ausstoß von Treibhausgasen korreliert." ist wissenschaftlich nicht belegt.
Historische Daten zeigen klar: CO₂ folgt der Temperatur, korreliert nicht und geht ihr nicht voraus und kann daher kein Auslöser für Temperaturanstiege sein. Der Treibhauseffekt ist bisher nur theoretisch nachgewiesen; in realen Anwendungen ist er nicht messbar oder wirkt sogar gegenteilig. Moderne Aussagen, dass CO₂ den Temperaturanstieg verursacht, basieren auf Modellen, nicht auf empirischen Daten, und widersprechen der historischen Evidenz. Alle Behauptungen CO₂ korreliert mit der Temperatur, sind eine moderne, modellbasierte Interpretation der Daten.

Anmerkung zu "wissenschaftlicher Konsens": Wissenschaft ist keine Demokratie. Dass heißt, nur weil die meisten etwas für richtig halten, ist es nicht zwingend richtig. Beispiel: bis ins weit ins 19. Jahrhundert, war es "wissenschaftlicher Konsens", dass Frauen ein weniger leistungsfähiges Gehirn haben, was Stand heute nicht korrekt ist. Dazu außerdem: Wissenschaft ist nie endgültig. Es werden Thesen aufgestellt, widerlegt, oder bestätigt... aber mit der Zeit auch immer wieder in Frage gestellt. Wissenschaft bedeutet nichts endgültiges!

Ansonsten stimme ich inhaltlich zu. Gerade "Klima" belegt das super. Auch der CO2-Gehalt in der Luft zum Beispiel. Die "Wissenschaft" redet von unsäglichen Schäden bis zur Vernichtung der Welt, wenn der Gehalt weiter ansteigt. Aktuell bei ca. 400 Teilchen auf 1 Millionen. Im Jura war der Gehalt aber bei ca. 1500 Teilchen auf 1 Mio., also mehr als dreimal so hoch. Ergebnis: ungeahnter Pflanzenwuchs und Entwicklung, massiver Anstieg an Flora und Fauna... ein blühender Planet.

 

[kicos018]

Schau dich alleine in der Mathematik um, wo es unfassbar viele Theorien gibt, welche noch nicht beweisbar sind. Macht es diese weniger korrekt?

Deren Basis sind aber Fakten durch bekannte/festgelegte Naturgesetze. Wenn jemand eine Theorie aufstellt deren Beweisbarkeit auf 2+2=5 beruht, dann lässt die Wissenschaft das auch nicht als "Meinung" stehen, sondern haut nen Stempel mit "faktisch falsch" drauf.
Das Unterscheidet am Ende eben eine Theorie über die flache Erde zu einer über Gravitationswellen.

Eine KI wird definitiv (noch) nicht die Basis beider Theorien aufbauen und verstehen, aber sicherlich die Breite des Konsens darstellen und mit Quellen belegen können. Die Verifizierung muss (sollte) am Ende wieder der Mensch vornehmen.

Das eine KI eine Diskussion aber durchaus sinnig leiten und beim Abschweifen intervenieren könnte, davon bin ich definitiv überzeugt.

Zensur ist per se das Unterbinden von Meinungsfreiheit. Also wo ist es keine Zensur, wenn man sagt, man darf keine Meinungen äußern?

Die Aussage ist viel zu grob, weil die Meinungsfreiheit ganz klare rechtliche und auch gesellschaftliche Schranken hat. Grundsätzlich wäre meine Antwort auf deine Aussage das Posten von diesem Klassiker.
ChatGPT als Mediator sagt mir hier aber, ich solle als konstruktive Rückfrage folgendes stellen:

„Meinst du mit Zensur jede Einschränkung von Meinungsäußerung – oder nur staatliche bzw. rechtlich durchgesetzte Verbote? Wo würdest du da die Grenze ziehen?“

 

[Ayo34]

Noch 2 Anmerkungen:

"Aktion: Blockieren & Korrigieren." -> Würde auf das Wort blockieren verzichten. Könnte dazu fordern, dass er sich häufig für den Abbruch entscheidet, wenn deine Bedingung eintrifft. Und die Bedingung, blockieren UND korrigieren ist auch im logischen Syntax nicht gut gewählt. Erst blockiert er? Dann soll er aber doch korrigieren und dann soll er?

Ich würde eine Liste einführen mit Quellen die er nutzen darf. Diese würde ich dann transparent angeben. Heißt viele kleine Webseiten und Quellen mit fragwürdigem Hintergrund wären schon mal weg. Nachteil ist natürllich weniger Vielfalt. Man muss sich also wieder auf Quellen einigen.