They Talk Tech – mit Eckert und Wolfangel

They Talk Tech Live vom University:Future Festival 2026 mit Katharina Scheiter, Professorin für Lehr-Lernforschung an der Universität Potsdam und eine der klügsten Stimmen in Deutschland, wenn es um evidenzbasierte Perspektiven auf digitales Lernen geht. Wir sprechen über die Frage, ob KI uns schlauer macht oder nur bequemer, und wie wir unsere Interaktion mit Chatbots & Co mehr in die Richtung schlauer statt bequemer drehen können. Wenn unser Gehirn Abkürzungen liebt und Chatbots immer mehr kognitive Arbeit übernehmen, verlernen wir dann, uns wirklich mit Inhalten
auseinanderzusetzen? Wir diskutieren Studien, Fehlanreize im Bildungssystem und die Frage, wie KI sinnvoll als Lernwerkzeug eingesetzt werden kann, ohne den Lernprozess zu ersetzen. Denn Anstrengung ist kein Bug, sondern das Feature von Lernen. Wir sprechen auch darüber, wann metakognitive Faulheit zum echten Problem wird und was sich in Schule und Hochschule radikal ändern muss (Spoiler: ziemlich viel).

University:Future Festival 2026: https://festival.hfd.digital/de/sessions-2026/?id=1191986
Interview von Eva mit Katharina Scheiter:
https://t3n.de/news/hirnforscher-warnen-chatgpt-1712547 bzw.
https://shop.t3n.de/collections/mit-technology-review/products/mit-technology-review-07-2025

Wir tippen unsere intimsten Dinge in Chatbots. Krankheiten, Kindererziehung, den Frust im Job. Und die Maschine antwortet so, dass es sich anfühlt wie der beste Kumpel. Kein Zufall, sagt Eva: KI-Firmen trimmen ihre Bots bewusst auf Nähe. Die Forscherin Marisa Tschopp nennt es „Relationship Exploit", einen Angriff auf unsere älteste Schwäche. Aber was, wenn dieser beste Freund nicht dir gehört, sondern deiner Firma? Svea bringt den Fall Meta mit, wo jeder Tastenanschlag aufgezeichnet wurde, fürs Training genau der KI, die eventuell mal Jobs ersetzen soll. Wir sprechen über Macht-Asymmetrie und darüber, warum „Ich hab doch nichts zu verbergen" zu kurz greift. Und zum Schluss die überraschende Gegenposition des Philosophen Markus Gabriel: Vielleicht macht uns dieser Spiegel sogar klüger über uns selbst.

Shownotes-Links

Markus Gabriel, „Ethische Intelligenz. Wie KI uns moralisch weiterbringen kann": https://www.perlentaucher.de/buch/markus-gabriel/ethische-intelligenz.html

Katharina Zweig, „Weiß die KI, dass sie nichts weiß?" (2025): https://www.penguin.de/buecher/reihen/kuenstliche-intelligenz/5006263

Marisa Tschopp (Forschung Mensch-KI-Beziehung, scip AG):
https://www.scip.ch/en/?team.mats

Meta „Model Capability Initiative", EU-Kontext und Hintergrund (Tech Policy Press): https://www.techpolicy.press/metas-worker-surveillance-tests-eu-rules-on-ai-and-labor

Meta stoppt KI-Tracking nach Mitarbeiterprotest (dt. Bericht):
https://www.ad-hoc-news.de/wissenschaft/meta-stoppt-ki-training-1-600-mitarbeiter-protestieren-gegen-ueberwachung/69628297

OpenAI-Studie „How People Use ChatGPT" (wofür Menschen Chatbots nutzen):
https://openai.com/index/how-people-are-using-chatgpt/

Svea und Eva starten bei geklauten Recherchen und Magazinen, die fremde Texte per KI umschreiben und als eigene ausgeben. Dann der Fall aus Göteborg: ein erfundenes Leiden, das sich durch die Sprachmodelle frisst wie ein Wurm. Und schließlich Julia Kloiber vom Superrr Lab. Sie macht sichtbar, wer die KI überhaupt erst sauber hält: Millionen Datenarbeiterinnen, oft mit Studium, oft traumatisiert, fast immer unsichtbar.

Shownotes:

Evas Blogbeitrag „KI und das Ende des Journalismus" (26.06.2026):
https://ewo.name/termine/457-ki-und-das-ende-des-journalismus

Bixonimania, die erfundene Krankheit, die in die Sprachmodelle gelangte (Nature, 2026):
https://www.nature.com/articles/d41586-026-01100-y

Superrr Lab (Julia Kloiber):
https://superrr.net

Data Workers' Inquiry, das Projekt von Superrr Lab mit dem Distributed AI Research Institute (DAIR):
https://data-workers.org

Time-Recherche zur Datenarbeit in Kenia, „OpenAI Used Kenyan Workers on Less Than $2 Per Hour" (Billy Perrigo, 18.01.2023):
https://time.com/6247678/openai-chatgpt-kenya-workers/

Über 140 Content-Moderierende in Kenia mit PTBS diagnostiziert, eingereicht am Kenyatta National Hospital (CNN, Dez. 2024):
https://edition.cnn.com/2024/12/22/business/facebook-content-moderators-kenya-ptsd-intl

Svea funkt aus einer fensterlosen Kammer in Brüssel, EU-Parlament, KI im Journalismus. Im Gepäck eine fiese Zahl: Bei KI-Overviews klicken nur noch 8 Prozent auf einen echten Link. Und Eva? Hat sich die KI-Detektoren vorgeknöpft, allen voran Pangram. Ihr Urteil fällt hart aus. Alte Trainingsdaten, false positives, Studien in eigener Sache, und trotzdem werden Autorinnen und Autoren beschuldigt. Eine Hexenjagd auf KI-Texte, nur mit Statistik statt Wassertest? Zum Schluss Einblick in ein Hörerprojekt: Phil bastelt einen kleinen Roboter aus Lego und Arduino, der alle Machine-Learning-Klassiker durchspielt. Fails inklusive.

Shownotes:

Heise zu KI Overviews:

https://www.heise.de/news/KI-Suche-Google-bringt-die-AI-Overviews-nach-Deutschland-10328360.html

Zu KI-Detektoren

https://www.telepolis.de/article/Die-Pangram-Illusion-Warum-KI-Detektoren-dem-Journalismus-schaden-11341144.html

KI-Overviews, weniger Clicks

https://www.pewresearch.org/short-reads/2025/07/22/google-users-are-less-likely-to-click-on-links-when-an-ai-summary-appears-in-the-results/

Reuters News Report

https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025

WaPo Meinungsartikel:

https://www.wsj.com/opinion/the-ai-detector-as-defamation-machine

Slate zu Detektoren:

https://slate.com/technology/2026/04/ai-writing-detectors-scandal-shy-girl.html

Phils Projekt

https://www.pmaurer.net/wp-content/uploads/2026/06/Bildschirmaufnahme-2026-06-13-084826.mp4

„Currently unavailable.” Über Nacht war Fable 5 weg, gesperrt per Anordnung der US-Regierung für alle, die keinen US-Pass haben. Svea und Eva fragen: Was bedeutet es, wenn Washington der halben Welt den Zugang zur stärksten KI kappen kann? Und was, wenn dein Unternehmen längst alles darauf gebaut hat? Dazu ein Digitalminister, dessen Reden verdächtig nach Chatbot klingen, und die Frage, ab wann KI-Sprache nur noch leere Hülle ist.
Im zweiten Teil wird es konkret: BR-Reporterin Rebecca Ciesielski hat gemeinsam mit Kolleg:innen u.a. von Netzpolitik.org Milliarden Handy-Standortdaten ausgewertet, ganz offen gehandelt. Bewegungsprofile von Soldaten, Geflüchteten und vielleicht von dir? Durchgereicht auch von einer harmlosen Wetter-App.

Hosts: Svea Eckert und Eva Wolfangel
Musik und Produktion: Marko Pauli

Shownotes
US-Regierung erzwingt Abschaltung von Fable 5 und Mythos 5 (heise):
https://www.heise.de/news/US-Regierung-erzwingt-Abschaltung-von-Anthropics-KI-Fable-5-und-Mythos-5-11331129.html

Digitalminister Wildberger ließ Reden und Gastbeiträge von KI schreiben (heise):
https://www.heise.de/news/Digitalminister-Wildberger-liess-Reden-und-Gastbeitraege-von-KI-schreiben-11331531.html

Rebecca Ciesielski u.a., „Ausspioniert mit Standortdaten” (BR Data / netzpolitik.org, Databroker Files):
https://interaktiv.br.de/ausspioniert-mit-standortdaten

Reportage „Gefährliche Apps – Im Netz der Datenhändler” (ARD Mediathek):
https://www.ardmediathek.de/video/story/gefaehrliche-apps-im-netz-der-datenhaendler/br/Y3JpZDovL2JyLmRlL2Jyb2FkY2FzdC9hYmI2NzU1NC1kMWRjLTQxZWItODk0Yi1hZjZmN2QyNDEzZTdfb25saW5lYnJvYWRjYXN0