They Talk Tech – mit Eckert und Wolfangel

Bei Eva gehts heute um Jailbreaking, also darum, KI genau die Dinge zu entlocken, die sie verschweigen soll. Ihr Lieblingsziel ist nicht das Drogenrezept, sondern der geheime Systemprompt. Und der ist „Gold" wert. Wie man da rankommt? Mit Sprache und Geduld, nicht mit Code. Eva hat einem Bot sogar eine Krankheit erfunden, damit er redet. Dazu baut sie sich mit Claude Code eigene Recherche-Tools, und merkt: Als Agent ist die KI viel fügsamer als im Browser. Außerdem: Vibe-Coding und Skills basteln für Anfänger, wie Eva Claude für OSINT Recherchen nutzt und kleine Programme damit baut. Cliffhanger zum Schluss: Nächste Woche zeigt Svea, wie sie ihre Mails von einer KI verwalten lässt, (hoffentlich) ohne von Eva gehackt zu werden.

Musik und Produktion: Marko Pauli

Shownotes
Das Heise 1x1 zum Vibe-Coding: https://peertube.heise.de/w/dNKHWHwZWLBGyknUTAJpSt

• Claude Code (KI im Agentenmodus): https://www.anthropic.com/claude-code
• OpenALEPH / Aleph (Rechercheplattform, Follow the Money / OCCRP-Umfeld): https://aleph.occrp.org
• Hintergrund zu Prompt Injection und Agenten-Risiken (OWASP für LLMs): https://owasp.org/www-project-top-10-for-large-language-model-applications/
• Feedback und Kontakt: per Mail (am liebsten von euch selbst, ohne Agent), sowie auf Mastodon, Instagram und LinkedIn

They Talk Tech Live vom University:Future Festival 2026 mit Katharina Scheiter, Professorin für Lehr-Lernforschung an der Universität Potsdam und eine der klügsten Stimmen in Deutschland, wenn es um evidenzbasierte Perspektiven auf digitales Lernen geht. Wir sprechen über die Frage, ob KI uns schlauer macht oder nur bequemer, und wie wir unsere Interaktion mit Chatbots & Co mehr in die Richtung schlauer statt bequemer drehen können. Wenn unser Gehirn Abkürzungen liebt und Chatbots immer mehr kognitive Arbeit übernehmen, verlernen wir dann, uns wirklich mit Inhalten
auseinanderzusetzen? Wir diskutieren Studien, Fehlanreize im Bildungssystem und die Frage, wie KI sinnvoll als Lernwerkzeug eingesetzt werden kann, ohne den Lernprozess zu ersetzen. Denn Anstrengung ist kein Bug, sondern das Feature von Lernen. Wir sprechen auch darüber, wann metakognitive Faulheit zum echten Problem wird und was sich in Schule und Hochschule radikal ändern muss (Spoiler: ziemlich viel).

University:Future Festival 2026: https://festival.hfd.digital/de/sessions-2026/?id=1191986
Interview von Eva mit Katharina Scheiter:
https://t3n.de/news/hirnforscher-warnen-chatgpt-1712547 bzw.
https://shop.t3n.de/collections/mit-technology-review/products/mit-technology-review-07-2025

Wir tippen unsere intimsten Dinge in Chatbots. Krankheiten, Kindererziehung, den Frust im Job. Und die Maschine antwortet so, dass es sich anfühlt wie der beste Kumpel. Kein Zufall, sagt Eva: KI-Firmen trimmen ihre Bots bewusst auf Nähe. Die Forscherin Marisa Tschopp nennt es „Relationship Exploit", einen Angriff auf unsere älteste Schwäche. Aber was, wenn dieser beste Freund nicht dir gehört, sondern deiner Firma? Svea bringt den Fall Meta mit, wo jeder Tastenanschlag aufgezeichnet wurde, fürs Training genau der KI, die eventuell mal Jobs ersetzen soll. Wir sprechen über Macht-Asymmetrie und darüber, warum „Ich hab doch nichts zu verbergen" zu kurz greift. Und zum Schluss die überraschende Gegenposition des Philosophen Markus Gabriel: Vielleicht macht uns dieser Spiegel sogar klüger über uns selbst.

Shownotes-Links

Markus Gabriel, „Ethische Intelligenz. Wie KI uns moralisch weiterbringen kann": https://www.perlentaucher.de/buch/markus-gabriel/ethische-intelligenz.html

Katharina Zweig, „Weiß die KI, dass sie nichts weiß?" (2025): https://www.penguin.de/buecher/reihen/kuenstliche-intelligenz/5006263

Marisa Tschopp (Forschung Mensch-KI-Beziehung, scip AG):
https://www.scip.ch/en/?team.mats

Meta „Model Capability Initiative", EU-Kontext und Hintergrund (Tech Policy Press): https://www.techpolicy.press/metas-worker-surveillance-tests-eu-rules-on-ai-and-labor

Meta stoppt KI-Tracking nach Mitarbeiterprotest (dt. Bericht):
https://www.ad-hoc-news.de/wissenschaft/meta-stoppt-ki-training-1-600-mitarbeiter-protestieren-gegen-ueberwachung/69628297

OpenAI-Studie „How People Use ChatGPT" (wofür Menschen Chatbots nutzen):
https://openai.com/index/how-people-are-using-chatgpt/

Svea und Eva starten bei geklauten Recherchen und Magazinen, die fremde Texte per KI umschreiben und als eigene ausgeben. Dann der Fall aus Göteborg: ein erfundenes Leiden, das sich durch die Sprachmodelle frisst wie ein Wurm. Und schließlich Julia Kloiber vom Superrr Lab. Sie macht sichtbar, wer die KI überhaupt erst sauber hält: Millionen Datenarbeiterinnen, oft mit Studium, oft traumatisiert, fast immer unsichtbar.

Shownotes:

Evas Blogbeitrag „KI und das Ende des Journalismus" (26.06.2026):
https://ewo.name/termine/457-ki-und-das-ende-des-journalismus

Bixonimania, die erfundene Krankheit, die in die Sprachmodelle gelangte (Nature, 2026):
https://www.nature.com/articles/d41586-026-01100-y

Superrr Lab (Julia Kloiber):
https://superrr.net

Data Workers' Inquiry, das Projekt von Superrr Lab mit dem Distributed AI Research Institute (DAIR):
https://data-workers.org

Time-Recherche zur Datenarbeit in Kenia, „OpenAI Used Kenyan Workers on Less Than $2 Per Hour" (Billy Perrigo, 18.01.2023):
https://time.com/6247678/openai-chatgpt-kenya-workers/

Über 140 Content-Moderierende in Kenia mit PTBS diagnostiziert, eingereicht am Kenyatta National Hospital (CNN, Dez. 2024):
https://edition.cnn.com/2024/12/22/business/facebook-content-moderators-kenya-ptsd-intl

Svea funkt aus einer fensterlosen Kammer in Brüssel, EU-Parlament, KI im Journalismus. Im Gepäck eine fiese Zahl: Bei KI-Overviews klicken nur noch 8 Prozent auf einen echten Link. Und Eva? Hat sich die KI-Detektoren vorgeknöpft, allen voran Pangram. Ihr Urteil fällt hart aus. Alte Trainingsdaten, false positives, Studien in eigener Sache, und trotzdem werden Autorinnen und Autoren beschuldigt. Eine Hexenjagd auf KI-Texte, nur mit Statistik statt Wassertest? Zum Schluss Einblick in ein Hörerprojekt: Phil bastelt einen kleinen Roboter aus Lego und Arduino, der alle Machine-Learning-Klassiker durchspielt. Fails inklusive.

Shownotes:

Heise zu KI Overviews:

https://www.heise.de/news/KI-Suche-Google-bringt-die-AI-Overviews-nach-Deutschland-10328360.html

Zu KI-Detektoren

https://www.telepolis.de/article/Die-Pangram-Illusion-Warum-KI-Detektoren-dem-Journalismus-schaden-11341144.html

KI-Overviews, weniger Clicks

https://www.pewresearch.org/short-reads/2025/07/22/google-users-are-less-likely-to-click-on-links-when-an-ai-summary-appears-in-the-results/

Reuters News Report

https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025

WaPo Meinungsartikel:

https://www.wsj.com/opinion/the-ai-detector-as-defamation-machine

Slate zu Detektoren:

https://slate.com/technology/2026/04/ai-writing-detectors-scandal-shy-girl.html

Phils Projekt

https://www.pmaurer.net/wp-content/uploads/2026/06/Bildschirmaufnahme-2026-06-13-084826.mp4