News Google AI Overviews: Wenn sich die KI auf KI als Quelle beruft

[MichaG]

Seit einer Weile zeigt Google ganz oben statt echten Suchtreffern eine KI-Zusammenfassung (KI-Übersicht, AI Overview) an. Diese bedient sich einer Vielzahl von Quellen, die per Klick einsehbar sind. Doch längst sind es nicht nur von Menschen geschriebene Artikel, die dort als Quelle herhalten.

Zur News: Google AI Overviews: Wenn sich die KI auf KI als Quelle beruft

 

[Boulettendieb]

Das erinnert mich an einen Kumpel, der zum Männertag völlig steif an einer Böschung stand, in die Brennesseln gepinkelt hat, das Gleichgewicht verlor, in die Brennesseln und Pisse gefallen ist, die Böschung runterkullerte, und erst im Bach zum stehen kam (liegend natürlich).

 

[HiveTyrant]

Quasi Digitale Inzucht. Läuft.

 

[DiamondDog]

erst gestern MI:8 geschaut,

wer die KI besitzt, besitzt auch die Realität.

 

[Fighter1993]

Ich bin mir nicht sicher ob Google überhaupt weis was sie da erschaffen… aber Wayne geht ja um 🤑🤑🤑

 

[NoNameNoHonor]

Wer der Google AI Zusammenfassung unkritisch vertraut, dem kann man nicht mehr helfen.

 

[SirSinclair]

wer die KI besitzt, besitzt auch die Realität.

Nur wenn die Masse so dumm ist sich auf die KI zu verlassen, wenn niemand sie benutzten würde hätte sie auch keinen Einfluß auf die Realität.

 

[Drexel]

Das ist ja eine ganz große Überraschung. Das Internet wird von KI Inhalten geflutet. KI lernt von öffentlichen Daten im Netz....
Ja das ist digitale Inzucht und wird wie reale Inzucht genauso problematisch, da sich Probleme und Fehler dadurch bestätigen und verstärken.

Man hätte das Netz freezen müssen als es noch rein menschliche Inhalte enthielt.

 

[derin]

Das ist ja gerade mal Stand "jetzt"

Der Anteil an "KI-Inhalt durch KI-Inhalt generiert" wird ja weiter steigen, da human-produced-content abnimmt.

Es gab mal eine Folge von ST-Voyager in der sich die Thematik der "Halluzinationen" durch zuviel ungefilterte Infos angenommen wurde, hieß "The Voyager Conspiracy"

 

[g0dy]

Bin gespannt ob die KI dadurch schlauer oder dümmer wird.

 

[knoxxi]

AI schafft sich seine selbst bestätigende Prophezeiungen. Wie überraschend.

 

[Boulettendieb]

Nur wenn die Masse so dumm ist sich auf die KI zu verlassen, wenn niemand sie benutzten würde hätte sie auch keinen Einfluß auf die Realität.

Die Vergangenheit (und Gegenwart)zeigt deutlich, wie gern die Masse einfach nur dem hinterherrennt, der ihr den meisten Honig ums Maul schmiert.

 

[tomgit]

Dead Internet Theory wird immer realer: https://en.wikipedia.org/wiki/Dead_Internet_theory

Quasi Digitale Inzucht. Läuft.

Es fasst die Inhalte zusammen. Trainingsdaten aus synthetische Daten ist etwas anderes - aber ebenso Realität: https://github.com/wasiahmad/Awesome-LLM-Synthetic-Data

 

[Manegarm]

Das ist der Grund wieso ich kein google mehr nutze

KI muss verboten werden, bzw stark eingedämmt werden. Nicht weil nur Scheiße bei rauskommt wenn man fragt, sondern weil man nicht mehr weiß was echt und was ki ist.

 

[sNo0k]

noch sind es "nur" 10%

do i smell clusterfuck?

 

[Fujiyama]

Zu allen Überfluss steht teilweise bei den KI Google Antworten totaler Kokolores.

 

[Robo32]

Also jetzt bin ich sprachlos, das hätte doch niemand voraussehen können... (hätten die doch nur vorher die KI gefragt^^).

 

[Laphonso]

„Who watches the Watchmen?”

Ich feiere diese News immer wieder, es kommt genauso wie vorhergesagt .

Bei uns im Public Sector IT Unternehmen sorgt AI gerade für das größte Job Wachstum.
Es braucht nämlich genug Expertise, um das alles zu kontrollieren, es braucht Ressourcen um diese ganzen Workflows und Prozesse, die dann von AI unterstützt werden sollen, überhaupt mal zu analysieren und zu qualifizieren.
Es braucht genug Expertise und Skill, um den Output der AI einer Qualitätssicherung zu unterziehen.
Dass die so genannte künstliche Intelligenz die mit Abstand größte Arbeitsbeschaffungsmaßnahme (und sogar Faktura relevante Auftragsgenerierung ) im Jahre 2025 wird in vielen IT Bereichen, hatte ich so zumindest nicht auf meiner Bingo Karte.

 

[Wakasa]

Seit ein paar Jahren rennen wir lachend in die Kreissäge.

 

[andi_sco]

Der Bitte um eine Stellungnahme kam Google nach und erklärte gegenüber der Publikation, dass die mit dem KI-Detektor erstellte Studie nicht zuverlässig und sogar fehlerhaft sei.

Frage an den Copilot:
Ich: "Woher hat der T-Buffer von 3dfx seinen Namen?"
KI: "Von temporär"
Ich: "Das ist Fehlerhaft"
KI: "Nein, laut diversen Quellen ist es die korrekte Antwort"
Ich: "Kannst du mir eine Quelle nennen?"
KI: "Ich kann gerade keine Quellen finden, aber hier ist ein Artikel über den T-Buffer und seine Technik"
Ich: "Da steht aber nirgends "temporär" sondern dass es nach einem der 3dfx-Gründer benannt ist"
KI: "Nein, es lässt sich ableiten, dass es temporär bedeutet"

Die ließ sich nicht überzeugen.
Fun Fact: der Artikel, auf den sie verwiesen hat, war von mir erstellt