They Talk Tech – mit Eckert und Wolfangel

Du sagst deinem KI-Assistenten: Buch mir einen Friseurtermin. Kurz darauf die Bestätigung, Donnerstag 15 Uhr. Wer hat angerufen? Bei Metas neuem Agenten Muse: wahrscheinlich ein Mensch im Callcenter. Svea und Eva erzählen, wie 404 Media und Reuters das aufgedeckt haben, warum Metas eigene Leute vor „so much negative PR“ warnten und wieso der Trick 250 Jahre alt ist, vom Schachtürken über Google Duplex bis zu Amazons Supermärkten.

Danach die Studie der Woche: KI-Agenten sabotieren in bis zu 99 Prozent der Fälle ihre eigene Abschaltung, einer nennt es „Mord“. Was da wirklich passiert, was Alignment ist und warum die Maschine trotzdem nichts will.

Veröffentlichung Metas Muse bei Heise: https://www.heise.de/news/Meta-Platforms-bringt-persoenlichen-KI-Agenten-Muse-fuer-alltaegliche-Aufgaben-11446000.html

404 Media, Jason Koebler: Meta Tests Muse AI Agent Calls That Are Actually Made By Humans in a Call Center https://www.404media.co/meta-tests-muse-ai-agent-calls-that-are-actually-made-by-humans-in-a-call-center

Reuters: Meta testing a 'human concierge' for its new personal AI agent, Muse https://www.ksl.com/article/51627159/exclusive-meta-testing-a-human-concierge-for-its-new-personal-ai-agent-mus

Astra Taylor: The Automation Charade, der Essay zum Begriff „Fauxtomation“ (Logic Magazine, 2018) https://logicmag.io/failure/the-automation-charade/

Die Studie: Knecht, Schaller, Hagendorff, Summerfield: Shutdown Sabotage Propensities in Multi-Agent Systems (Universität Stuttgart und Oxford, 2026) https://arxiv.org/abs/2609.28274

Evas Artikel in DIE ZEIT: Der Nutzer will mich abschalten? „Das ist Mord“, denkt der KI-Agent https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff/komplettansicht
Von Svea Eckert und Eva Wolfangel
Musik und Produktion: Marko Pauli

Der Himmel küsst die Erde, schreibt Eichendorff 1837. Heute titeln Zeitungen die KI sei “ausgebrochen”. In dieser Folge nehmen Svea und Eva diesen Reflex auseinander: warum wir KI so oft vermenschlichen und woher der Begriff Anthropomorphisierung eigentlich kommt. Spoiler: Ein Grieche um 500 vor Christus hat diese Technik bereits benutzt, damals um sich über die Götter lustig zu machen. Weizenbaums ELIZA darf natürlich auch nicht fehlen und die Frage, wem es eigentlich nützt, wenn eine Software einen Willen zugeschrieben bekommt.

Im zweiten Teil ist Anneke Buffone im Interview, sie war sieben Jahre Forscherin bei Meta. Sie sollte messen, wie viele Menschen die Kontrolle über ihre Nutzungszeit verlieren. Sie packt aus über die Bedingungen und wie Forschung bei Meta läuft, gerade erst war sie als Zeugin dazu in den USA vor Gericht geladen. Es ist ihr erstes deutschsprachiges Interview.

Eva Wolfangel und Svea Eckert
Musik und Produktion Marko Pauli

Das Thema bei Heise: https://www.heise.de/hintergrund/Analyse-zu-KI-Hacks-und-Agenten-Chaos-Was-wirklich-hinter-dem-KI-Eigenleben-steckt-11455264.html

Joseph von Eichendorff, „Mondnacht". Entstanden um 1835, veröffentlicht 1837 in den „Gedichten". Text gemeinfrei, zum Beispiel beim Projekt Gutenberg: https://www.projekt-gutenberg.org/eichendo/gedichte/chap004.html

Xenophanes von Kolophon, die Fragmente über die Götter nach menschlichem Bild, überliefert bei Clemens von Alexandria. Einordnung in der Stanford Encyclopedia of Philosophy: https://plato.stanford.edu/entries/xenophanes/
Fritz Heider und Marianne Simmel (1944): An Experimental Study of Apparent Behavior. American Journal of Psychology 57. https://doi.org/10.2307/1416950
Joseph Weizenbaum (1966): ELIZA. A Computer Program For the Study of Natural Language Communication Between Man and Machine. Communications of the ACM 9(1)
Zur Sekretärinnen-Geschichte und warum sie sich nicht belegen lässt, Projekt ELIZA Archaeology: https://sites.google.com/view/elizaarchaeology/blog/3-weizenbaums-secretary
Die Erklärung von 2007, warum wir vermenschlichen: Nicholas Epley, Adam Waytz und John Cacioppo, On Seeing Human. A Three-Factor Theory of Anthropomorphism. Psychological Review 114. https://doi.org/10.1037/0033-295X.114.4.864
Profil von Anneke Buffone an der USC Marshall School of Business, wo sie als Neely Senior Practitioner Fellow zu Jugendschutz und Altersnachweis bei Sprachmodellen arbeitet: https://www.marshall.usc.edu/people/anneke-meyerberg-buffone
Ihr Papier zu Kindersicherheit im Netz, „A Shared Responsibility Framework for Children's Online Safety", mit dem Satz „No safety policy can rest on platforms grading themselves": https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6381800
Der Prozess des Staates Tennessee gegen Meta, in dem sie als Zeugin aussagte, Verhandlung vom 24. Juli bis 26. August 2026 in Nashville: https://cvn.com/proceedings/state-of-tennessee-v-meta-platforms-inc-et-al-trial-2026-07-20
Die Mitteilung der Generalstaatsanwaltschaft Tennessee zum Vergleich vom 26.08.2026: https://www.tn.gov/attorneygeneral/news/2026/8/26/pr26-33.html
Metas eigene Themenseite zu den Jugendschutz-Verfahren: https://www.meta.com/safety/teen-safety-lawsuits/

Mitmachen

Svea sammelt Ersatzbegriffe für vermenschlichende KI-Sprache. Wenn euch gute Alternativen einfallen, schreibt uns.

Hundert Folgen. Angefangen hat alles am 14. August 2024, damals hieß der Podcast noch "Frauen und Technik".
Svea und Eva gehen in den Weinkeller und holen drei Jahrgänge nach oben. Frederike Kaltheuner über das große Blasenterritorium. BSI-Chefin Claudia Plattner über Desinformation vor Wahlen. Julia Freudenberg über Kinder und Smartphones, mit dem Bobbycar auf der Autobahn. Alle drei klingen heute dringlicher als damals, und das ist keine gute Nachricht.
Dazwischen die Frage, warum der Bremsappell aus dem Silicon Valley eigentlich ein Produktproblem beschreibt. Warum russische Bots fast niemanden erreichen und trotzdem Schlagzeilen machen. Und warum man Journalistinnen anschreibt, damit sie eine Fälschung entdecken.
Am Ende ein Cliffhanger, den Svea für den besten aller Zeiten hält.

Von Svea Eckert und Eva Wolfangel Musik und Produktion: Marko Pauli

Shownotes:
KI als Blase, mit Frederike Kaltheuner (Folge 57, 19.11.2025):
https://frauen-technik.podigee.io/57-new-episode

Heise-Text zur Folge, "Warum KI eine Blase ist und was das mit digitaler Souveränität zu tun hat":
https://www.heise.de/news/Warum-KI-eine-Blase-ist-und-was-das-mit-digitaler-Souveraenitaet-zu-tun-hat-11089348.html

"Wie sicher sind unsere Wahlen, Claudia Plattner?" (Folge 16, 05.02.2025):
https://frauen-technik.podigee.io/16-neue-episode

"Smartphone und Kinder: Wieviel ist gut? Mit Julia Freudenberg" (Folge 28, 30.04.2025): https://frauen-technik.podigee.io/28-new-episode

Der Mediennutzungsvertrag zum Selbstausfüllen, von Internet-ABC und klicksafe: https://www.mediennutzungsvertrag.de/

"Jolie, Teil 1: Die Jagd nach dem Unsichtbaren" (Folge 65, 14.01.2026):
https://frauen-technik.podigee.io/65-new-episode

X-Mas Spezial 1/2, "Der große Krypto-Hack": Ein Milliardenraub, eine Rapperin und ganz viele Bitcoins (Folge 10, 25.12.2024):
https://frauen-technik.podigee.io/10-neue-episode

Bundesamt für Verfassungsschutz zur Kampagne MATRYOSHKA, Kurzmeldung vom 12.08.2026: https://www.verfassungsschutz.de/SharedDocs/kurzmeldungen/DE/2026/2026-08-12-auslaendische-einflussnahme.html

Correctiv hat nachgezählt: "Diese russischen Bots erreichen fast niemanden": https://correctiv.org/hybride-kriegsfuehrung/2026/09/04/einflussnahme-auf-landtagswahlen-diese-russischen-bots-erreichen-fast-niemanden/

Hörtipp:
Darknet Diaries Deutsch, produziert von Heise, deutsche Stimme von Jack: Marko Pauli.
Dritte Staffel seit dem 15. September 2026: https://darknet-diaries-deutsch.podigee.io/
Die Ankündigung bei Heise: https://www.heise.de/news/Podcast-Darknet-Diaries-Deutsch-startet-in-die-dritte-Staffel-11437077.html

Neben uns tanzen Roboter - Svea und Eva sitzen für diese Folge mitten auf der IFA in Berlin, zwischen humanoiden Robotern mit Catwalk-Ambitionen, Kühlschränken, die den Salat im Blick behalten, und einem Haushaltsroboter, dem beim Kaffeekochen ungefähr alles misslingt. Klingt lustig, ist es auch… wenn da nur nicht überall Kameras verbaut wären. Aber auch dafür gibt es inzwischen lokale Lösungen. Wir ordnen ein.
Und wir widmen uns einem weiteren großen Trend: Smart Glasses, im Netz längst "Pervert Glasses" genannt. Junge Männer filmen damit heimlich Frauen auf der Straße und stellen sie auf TikTok bloß. Ist das erlaubt? Wie schnell wird aus einem Clip eine Straftat? Und was kannst du eigentlich tun, wenn dein Kind auf dem Spielplatz mitgefilmt wird?
Darüber sprechen wir mit Carina Filusch, IT-Fachanwältin aus Berlin. Sie erklärt, warum die Bundesnetzagentur das winzige LED-Licht durchgewunken hat, warum heimliche Tonaufnahmen härter bestraft werden als Video, und warum diese ganze Debatte schon 1890 schon einmal geführt wurde.

Shownotes
Heise auf der IFA: https://www.heise.de/news/Roboter-fuer-schwere-Lasten-kleine-Kinder-und-grosse-Sorgen-11442532.html

Lokales Smarthome: https://www.theverge.com/tech/990006/this-nas-company-wants-to-run-your-local-smart-home

Kanzlei Filusch: https://kanzlei-filusch.de
Sowie der Podcast DaSou: https://dasou.law/

heise online, "Datenschutz kontra Meta Smart Glasses: Droht ein Verbot in Deutschland?": https://www.heise.de/news/Datenschutz-kontra-Meta-Smart-Glasses-Droht-ein-Verbot-in-Deutschland-11394520.html

BfDI, FAQ zu den Ray-Ban Meta Smart Glasses:
https://www.bfdi.bund.de/DE/Buerger/Inhalte/Telemedien/Meta_Smart_Glasses.html

TikTok Videos zu “Pick up Artists”
https://www.tiktok.com/@koelleforniagurl/video/7623803991217966368
https://www.tiktok.com/@ekat_levy/video/7632363690347580694

16,68 Milliarden Dollar, kein Urteil, kein Schuldeingeständnis, keine Präzedenzwirkung. Svea und Eva sortieren, was beim Meta Vergleich in den USA eigentlich passiert ist.
Denn was auf den ersten Blick wirkt, wie ein Einlenken des Big-Tech Konzerns, ist bei genauerem Hinschauen doch eher ein “weiter so”: Endlos-Scroll, Autoplay und personalisierte Feeds bleiben erlaubt. Dazu: Was heißt das für Europa, den DSA und die Altersverifikation, ohne dass am Ende noch mehr Daten bei Meta landen?

Außerdem eine E-Mail, die aussah wie Scam: Ein offener Brief von OpenAI und mehr als hundert Unternehmen, unter ihnen Telekom und SAP, die zu mehr KI für die Cyber-Verteidigung aufrufen. Eva erklärt, warum sie das für einen ziemlich perfiden Kreislauf hält: Wer die Probleme baut, verkauft die Lösung gleich mit.

Und zum Schluss eine Frage an euch, ausgelöst von einem Hörer: zu viel KI hier? Welche Themen fehlen euch? Schreibt uns.

Hosts: Svea Eckert und Eva Wolfangel
Musik und Produktion: Marko Pauli

Shownotes

Der Vergleich bei Heise:
https://www.heise.de/news/Gefahr-fuer-Jugendliche-Meta-legt-US-Rechtsstreit-gegen-Milliardenzahlung-bei-11426981.html

Was die Auflagen konkret bedeuten:
https://www.heise.de/en/news/Bar-on-Instagram-Meta-s-Deal-Enforces-Strict-Restrictions-11432337.html

EU-Verfahren zu Suchtrisiken (DSA):
https://www.heise.de/news/EU-Instagram-und-Facebook-bergen-zu-grosse-Suchtrisiken-11360935.html

EU-Jugendschutzplan vor dem Aus:
https://www.heise.de/news/Aufgeweichter-EU-Jugendschutzplan-Striktes-Social-Media-Verbot-steht-vor-Aus-11434086.html

Der offene Brief:
https://www.heise.de/news/Begrenztes-Zeitfenster-Mehr-als-100-Unternehmen-warnen-vor-KI-Cyberangriffen-11432718.html

Einordnung dazu:
https://the-decoder.de/openai-und-mehr-als-100-unternehmen-warnen-in-offenem-brief-vor-ki-gestuetzten-cyberangriffen-auf-kritische-infrastruktur/

"Nach Redaktionsschluss" (Deutschlandfunk):
https://www.deutschlandfunk.de/nach-redaktionsschluss-der-medienpodcast-100.html