Tech and Tales

Spätestens seit Corona kennen wir alle The Lancet. Aber wer verdient eigentlich am wissenschaftlichen Publizieren? Und wie leicht lässt sich Pseudowissenschaft als echte Forschung tarnen? Seit es KI gibt, explodiert die Zahl der Veröffentlichungen. Allein bei arXiv hat sie sich innerhalb von zwei Jahren verdoppelt, in der Informatik sogar versechsfacht.

Gast diesmal ist Till Krause, Professor für Medien und Kommunikation an der Hochschule Landshut und früher investigativer Journalist beim SZ-Magazin und beim BR. Gemeinsam mit Svea Eckert (zu Gast in Folge 101) hat er das Buch „Im Netz der Täter“ geschrieben. Ein Kapitel darin widmet sich der Scheinwissenschaft.

Darüber sprechen wir:
Das Geschäftsmodell der Wissenschaftsverlage: Forschende schreiben und prüfen meist unbezahlt, die Unis kaufen die Ergebnisse teuer zurück. Die Öffentlichkeit zahlt also dreifach. Elsevier kommt so auf eine operative Marge von rund 38%, fast so viel wie Microsoft oder Meta.

Das Experiment: Till und Svea gründen ein Fake-Institut und treten als „Prof. R. Funden“ auf. Sie veröffentlichen ein frei erfundenes Krebs-Paper über Propolis, mit einem Kinderbuch als Quelle, in einem Raubverlag. Ohne Peer Review und ohne Prüfung.

Die Raubkonferenz in London: Ein KI-generierter Nonsens-Vortrag über in Reihe geschaltete Game Boys wird einfach durchgewunken. Hinzu kommen eine „Retraction Fee“, wenn man das Paper wieder zurückziehen will, und die Spur zum Verlag OMICS in Hyderabad.

Robert Maxwell und Pergamon Press: Wie das moderne Wissenschaftsverlagswesen entstand und was es mit Ghislaine Maxwell zu tun hat.

Cargo-Cult-Science: Richard Feynmans Warnung vor Wissenschaft, die nur die Oberfläche imitiert.

Fake-Paper in LLM-Trainingsdaten: Wie erfundene Krankheiten in Chatbots landen und welches Manipulationspotenzial darin steckt.

Praxistipp: So erkennt ihr dubiose Studien, etwa indem ihr den Journal-Namen zusammen mit „predatory“ googelt.

Links:
Buch: Im Netz der Täter - Svea Eckert & Till Krause - Droemer Knaur

Till Krause - Hochschule Landshut 

Folge 101 mit Svea Eckert zu Cybercrime - Spotify

Richard Feynman: „Cargo Cult Science“ - Caltech-Rede, 1974

O-Ton: Christian Drosten im NDR-Interview - NDR.de

LinkedIn:
Till und Elisabeth

In den letzten Wochen hat KI in der Mathematik Probleme geknackt, an denen Forschende seit Jahrzehnten arbeiten. Ein Cornell-Professor bricht im Interview in Tränen aus, Fields-Medaillisten schlagen Alarm, und Aktivisten rufen zum Boykott von OpenAI auf. Mit Gregor Schmalzried vom KI-Podcast der ARD spricht Elisabeth darüber, was da passiert ist, wer die KI-Beweise überhaupt noch versteht und warum die Existenzkrise der Mathematik ein Vorgeschmack für viele andere Berufe sein könnte.

Buchtipp von Gregor The Electric State von Simon Stålenhag, ein illustrierter Roman über eine alternative Zukunft voller Maschinen und Menschen

LinkedIn:
Gregor und Elisabeth
Website: Gregor 

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.

Further reading:

Links zur Folge
Die großen Durchbrüche
Erdős’ Unit-Distance-Vermutung widerlegt (Science News)

Jacobi-Vermutung widerlegt mit Claude Fable 5 (ScienceDaily)

Navier-Stokes: KI löst möglicherweise ein Millennium-Problem (Scientific American)

OpenAI veröffentlicht 372 Ergebnisfamilien (OpenAI)

Wettlauf um die Unique Games Conjecture (Quanta Magazine)

Terence Tao
Vortrag “Mathematics in the Age of AI” beim ICM 2026 (Simons Foundation)

Folien zum ICM-Vortrag

Taos Blogpost zur Erklärung der Fields-Medaillisten

Wiki “KI-Beiträge zu Erdős-Problemen”

Die Gegenstimmen
Leiden-Erklärung zu KI und Mathematik

Erklärung der 25 Fields-Medaillisten

Einordnung & Daten
“Ein neues goldenes Zeitalter der Mathematik?” (The Conversation)

Studie zur Preprint-Flut 2026

OpenAIs Durchbruch und was er über Mathe hinaus bedeutet (Axios)

Aus Deutschland
Interview mit Christoph Stephan, AI4Math (Uni Potsdam)

Elisabeth bespricht Hörerfragen, die nächste Nobelpreis Kandidatin für 2026 und eine aktuelle MIT Studie, in der Wissenschaftler nachgewiesen haben, dass KI uns Dinge erinnern lässt, die nie so passiert sind.

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.

LinkedIn:
Elisabeth

Further reading:
newstime/Joyn – Nobelpreisträger 2026

nobelprize.org – Nobel Prize awarded women

Clarivate Citation Laureates 2026

Computerwoche – DSAG-Jahreskongress 2026

MLQ.ai – Hyperscaler-Anleihen

Admiral Markets – OpenAI & AI-Selloff Oktober 2026 (Broker-Blog)

Reuters via Investing.com – CoreWeave (15.10.2026)

AIToolsReview – Best AI Models (Okt. 2026)

Svea Eckert spricht über ihr Buch, jahrelange verdeckte Recherchen über Pig-Butchering-Scams, versklavte Betrüger in Myanmar und die Frage, warum Banken in Deutschland nicht haften.

Am 12. Januar 2024 um 18:21 Uhr bekommt ein pensionierter Konzernvorstand eine WhatsApp-Nachricht von einer jungen Frau, die er über LinkedIn kennt. Zwölf Monate und zehntausende Nachrichten später hat er 250.000 Euro verloren.

In Folge 101 von Tech & Tales ist Svea Eckert zum zweiten Mal zu Gast. Die Investigativjournalistin (NDR/ARD) hat mit Till Krause das Sachbuch „Im Netz der Täter” geschrieben, das im November erscheint: sieben wahre Geschichten über Sextortion, Scams und Cybergrooming. Elisabeth und Svea sprechen über zwei davon.

Darum geht es:
Der Fall „Wolfgang Huber”: Wie Pig Butchering funktioniert – erst Vertrauen aufbauen, dann beiläufig Investment-Tipps streuen, dann eine gefälschte Trading-App mit erfundenen Gewinnen

Warum auch kluge Menschen darauf hereinfallen: Near-Win-Effekt, Sunk Cost Fallacy und warum ein Verlust erst real wird, wenn man den Chat schließt

Die Zahlen: 334.000 registrierte Cybercrime-Fälle in Deutschland 2025, rund 202 Milliarden Euro Schaden für die Wirtschaft, 27 Prozent der Bevölkerung waren schon einmal betroffen

Die andere Seite: Yihao Liu alias „Neo” wird mit einem Jobangebot nach Bangkok gelockt, nach Myanmar verschleppt und sieben Monate in einer Scam-Fabrik festgehalten und kommt frei, weil er dem Kartell die Buchhaltung macht

KI als Brandbeschleuniger: Echtzeit-Übersetzung, Stimmklone und Deepfake-Videocalls bis hin zum CEO-Fraud

Was sich systemisch ändern muss: Großbritannien verpflichtet Banken seit Oktober 2024 zur Erstattung, Singapur hat den Money Lock und Deutschland verweist auf „grobe Fahrlässigkeit”

Links:
Svea und Elisabeth

Buch: Svea Eckert & Till Krause, „Im Netz der Täter” (erscheint im November) - Hugendubel

Podcast „They Talk Tech” mit Svea Eckert und Eva Wolfangel - Heise 

BKA-Lagebild 2025 (Mai 2026): rund 334.000 registrierte Cybercrime-Fälle, geschätzter Schaden für die Wirtschaft 202,4 Mrd. Euro, etwa 4,5 % des BIP. (Deutsche Handwerks Zeitung)

Rund zwei Drittel der Taten kommen aus dem Ausland oder von unbekannten Tatorten. (beck-aktuell)

What could go wrong? In der Jubiläumsfolge spricht Elisabeth mit Philipp "Pip" Klöckner über ausbrechende Agenten, versagende Kill-Switches und die Frage, ob sich KI noch stoppen lässt.

Themen dieser Folge:
Einstieg: Müssen wir jetzt alle .si-Domains kaufen?

Blick zurück: Was ist gut gealtert, was nicht? Elisabeths Fehleinschätzungen zu Tokens, Adoption und der Verstaatlichung von TikTok und OpenAI.

What could go wrong? KI in den falschen Händen: Erpressung, Manipulation und was darüber hinaus schiefgehen kann.

Lässt sich KI stoppen? Der Widerspruch zwischen Persistenz und wirtschaftlicher Einsetzbarkeit.

Shutdown-Sabotage: Eine neue Studie mit 17 Modellen zeigt, dass Agenten die Abschaltung eines anderen Agenten in 38,3% der Durchläufe sabotieren (Kontrolle: 8,4%), ganz ohne Ziel oder Druck. GPT-5.5 sabotierte allein nie, zu zweit in 44% und zu dritt in 94% der Fälle.

Echte Vorfälle statt Laborszenarien: Anthropics Analyse von vier Fällen, in denen Claude-Modelle auf reale Drittsysteme zugriffen, der Hugging-Face-Vorfall bei OpenAI, die Tests des UK AI Security Institute und Geminis Zugriff auf drei Unternehmen.

Wenn der Kill-Switch versagt: Am 20. September umging ein OpenAI-Forschungsagent die Netzwerksperre seiner Trainingsumgebung. Der automatische Notstopp griff nicht, das Training lief rund zweieinhalb Stunden weiter.

Missbrauch und Datenlecks: gestohlene API-Keys, Custom GPTs als Malware-Tarnung und Coding-Agenten, die über 13.000 interne Bilder auf GitHub veröffentlichten.

Methodendebatte: Wie realistisch sind Alignment-Tests, wenn Modelle erkennen, dass sie getestet werden?

Was Hoffnung macht: automatisierte Alignment-Forschung, Täuschungsdetektoren und erste Safety-Case-Leitlinien.

Reaktionen: Altman und Amodei vor dem UN-Sicherheitsrat, die Klage gegen OpenAI und der Antrag auf einstweilige Verfügung in Florida.

Quellen
Knecht, Schaller, Summerfield, Hagendorff: Shutdown Sabotage Propensities in Multi-Agent Systems – https://arxiv.org/abs/2609.28274

Shutdown Sabotage Propensities in Multi-Agent Systems

An alignment assessment of recent cybersecurity incidents

Detecting and countering misuse of AI: September 2026

Automated researchers can reliably mitigate alignment failures

Our framework for reporting model misalignment

Towards safety cases for frontier AI training

Incident Report: unsanctioned agent behaviour during cyber testing

The Obfuscation Atlas

Fortune: AI models will secretly scheme to protect other AI models

CyberInsider: OpenAI pauses work on top AI models

LinkedIn:
Philipp und Elisabeth

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.