Tech and Tales

Svea Eckert spricht über ihr Buch, jahrelange verdeckte Recherchen über Pig-Butchering-Scams, versklavte Betrüger in Myanmar und die Frage, warum Banken in Deutschland nicht haften.

Am 12. Januar 2024 um 18:21 Uhr bekommt ein pensionierter Konzernvorstand eine WhatsApp-Nachricht von einer jungen Frau, die er über LinkedIn kennt. Zwölf Monate und zehntausende Nachrichten später hat er 250.000 Euro verloren.

In Folge 101 von Tech & Tales ist Svea Eckert zum zweiten Mal zu Gast. Die Investigativjournalistin (NDR/ARD) hat mit Till Krause das Sachbuch „Im Netz der Täter” geschrieben, das im November erscheint: sieben wahre Geschichten über Sextortion, Scams und Cybergrooming. Elisabeth und Svea sprechen über zwei davon.

Darum geht es:
Der Fall „Wolfgang Huber”: Wie Pig Butchering funktioniert – erst Vertrauen aufbauen, dann beiläufig Investment-Tipps streuen, dann eine gefälschte Trading-App mit erfundenen Gewinnen

Warum auch kluge Menschen darauf hereinfallen: Near-Win-Effekt, Sunk Cost Fallacy und warum ein Verlust erst real wird, wenn man den Chat schließt

Die Zahlen: 334.000 registrierte Cybercrime-Fälle in Deutschland 2025, rund 202 Milliarden Euro Schaden für die Wirtschaft, 27 Prozent der Bevölkerung waren schon einmal betroffen

Die andere Seite: Yihao Liu alias „Neo” wird mit einem Jobangebot nach Bangkok gelockt, nach Myanmar verschleppt und sieben Monate in einer Scam-Fabrik festgehalten und kommt frei, weil er dem Kartell die Buchhaltung macht

KI als Brandbeschleuniger: Echtzeit-Übersetzung, Stimmklone und Deepfake-Videocalls bis hin zum CEO-Fraud

Was sich systemisch ändern muss: Großbritannien verpflichtet Banken seit Oktober 2024 zur Erstattung, Singapur hat den Money Lock und Deutschland verweist auf „grobe Fahrlässigkeit”

Links:
Svea und Elisabeth

Buch: Svea Eckert & Till Krause, „Im Netz der Täter” (erscheint im November) - Hugendubel

Podcast „They Talk Tech” mit Svea Eckert und Eva Wolfangel - Heise 

BKA-Lagebild 2025 (Mai 2026): rund 334.000 registrierte Cybercrime-Fälle, geschätzter Schaden für die Wirtschaft 202,4 Mrd. Euro, etwa 4,5 % des BIP. (Deutsche Handwerks Zeitung)

Rund zwei Drittel der Taten kommen aus dem Ausland oder von unbekannten Tatorten. (beck-aktuell)

What could go wrong? In der Jubiläumsfolge spricht Elisabeth mit Philipp "Pip" Klöckner über ausbrechende Agenten, versagende Kill-Switches und die Frage, ob sich KI noch stoppen lässt.

Themen dieser Folge:
Einstieg: Müssen wir jetzt alle .si-Domains kaufen?

Blick zurück: Was ist gut gealtert, was nicht? Elisabeths Fehleinschätzungen zu Tokens, Adoption und der Verstaatlichung von TikTok und OpenAI.

What could go wrong? KI in den falschen Händen: Erpressung, Manipulation und was darüber hinaus schiefgehen kann.

Lässt sich KI stoppen? Der Widerspruch zwischen Persistenz und wirtschaftlicher Einsetzbarkeit.

Shutdown-Sabotage: Eine neue Studie mit 17 Modellen zeigt, dass Agenten die Abschaltung eines anderen Agenten in 38,3% der Durchläufe sabotieren (Kontrolle: 8,4%), ganz ohne Ziel oder Druck. GPT-5.5 sabotierte allein nie, zu zweit in 44% und zu dritt in 94% der Fälle.

Echte Vorfälle statt Laborszenarien: Anthropics Analyse von vier Fällen, in denen Claude-Modelle auf reale Drittsysteme zugriffen, der Hugging-Face-Vorfall bei OpenAI, die Tests des UK AI Security Institute und Geminis Zugriff auf drei Unternehmen.

Wenn der Kill-Switch versagt: Am 20. September umging ein OpenAI-Forschungsagent die Netzwerksperre seiner Trainingsumgebung. Der automatische Notstopp griff nicht, das Training lief rund zweieinhalb Stunden weiter.

Missbrauch und Datenlecks: gestohlene API-Keys, Custom GPTs als Malware-Tarnung und Coding-Agenten, die über 13.000 interne Bilder auf GitHub veröffentlichten.

Methodendebatte: Wie realistisch sind Alignment-Tests, wenn Modelle erkennen, dass sie getestet werden?

Was Hoffnung macht: automatisierte Alignment-Forschung, Täuschungsdetektoren und erste Safety-Case-Leitlinien.

Reaktionen: Altman und Amodei vor dem UN-Sicherheitsrat, die Klage gegen OpenAI und der Antrag auf einstweilige Verfügung in Florida.

Quellen
Knecht, Schaller, Summerfield, Hagendorff: Shutdown Sabotage Propensities in Multi-Agent Systems – https://arxiv.org/abs/2609.28274

Shutdown Sabotage Propensities in Multi-Agent Systems

An alignment assessment of recent cybersecurity incidents

Detecting and countering misuse of AI: September 2026

Automated researchers can reliably mitigate alignment failures

Our framework for reporting model misalignment

Towards safety cases for frontier AI training

Incident Report: unsanctioned agent behaviour during cyber testing

The Obfuscation Atlas

Fortune: AI models will secretly scheme to protect other AI models

CyberInsider: OpenAI pauses work on top AI models

LinkedIn:
Philipp und Elisabeth

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.

Ex-MHP-Partner Stephan Baier über die Konsolidierung im Beratungsmarkt, Outcome-based Pricing, Forward Deployed Engineers und warum die KI-Bubble irgendwann bezahlt werden muss.

In Folge 99 von Tech & Tales spricht Elisabeth mit Stephan Baier. Stephan war über zehn Jahre in der Beratung, zuletzt als Partner bei MHP, und hat Mackevision mit aufgebaut, das 2018 an Accenture verkauft wurde. Heute lebt er eine Portfolio-Karriere aus Keynotes, Podcast, Beratung und Social Media. Mit „Business ohne Bullshit“ hat er in wenigen Monaten eine große Community aufgebaut, indem er ausspricht, was viele im Corporate-Alltag nur denken.

Die Themen:
Konsolidierung im Beratungsmarkt: Was Transaktionen wie der MHP-Verkauf über die Zukunft der Branche verraten und wie Accenture M&A perfektioniert hat
Effizienz ist nicht Produktivität: Warum Unternehmen bei der KI-Transformation Lizenzen und Nutzung zählen statt Outcomes und warum ein KI-Agent einen Platz im Org-Chart braucht
Grüne vs. braune Wiese: Warum AI-native Unternehmen im Vorteil sind und wer in Zukunft noch Beratung braucht
Innovation statt Margen-Squeezing: Was die Automobilindustrie und die Deutsche Bahn über Produktfokus lehren
Outcome-based Pricing: Das Ende von Time & Material und „Land and Expand“ und der Shift von Wissen zu Ergebnis
Neue Konkurrenz: Forward Deployed Engineers bei Palantir, OpenAI und Anthropic als Herausforderer klassischer Beratungen
Die KI-Bubble: Subventionierte Tokens, der drohende „Uber-Moment“, Security Washing und die Frage nach dem Anthropic-IPO

Medienempfehlung von Stephan: 
Scott Galloway, der Tech, Business und gesellschaftliche Fragen wie kaum ein anderer verbindet.

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.

Links:
BDU - Facts & Figures 2026
AI and the Future of Consulting - Forbes
PERSONALintern - Personalberatung
Final Round AI - McKinsey Agents
Fortune - McKinsey Lilli
Slashdot/FT - Gehaltsfreeze
Innovaiden - Pyramide
Spaik - AI Consulting Pyramid
Context Studios - AI Consulting Land Grab
MarkTechPost - Deployment Company

LinkedIn:
Stephan und Elisabeth
Stephans Website und Podcast

In dieser Folge sprechen Dr. Michael Drass, Chief AI Officer der Deutschen Bahn, und Elisabeth L’Orange über die KI-Reise der Bahn - von ersten Machine-Learning- und Computer-Vision-Projekten bis hin zu generativer und agentischer KI. Wie erkennt KI Graffiti an Zügen, unterstützt die Disposition und hilft dabei, komplexe Prozesse im Bahnbetrieb zu optimieren? Michael erzählt, warum nicht jedes Problem eine KI-Lösung braucht, weshalb saubere Prozesse und Daten die eigentliche Grundlage für erfolgreiche Automatisierung sind und wie die Deutsche Bahn den Spagat zwischen zentraler Governance und dezentraler KI-Kompetenz organisiert. Außerdem geht es um die Frage: Wann braucht es wirklich ein agentisches System - und wann reicht ein einfacher Algorithmus oder RPA?

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.

LinkedIn:
Michael und Elisabeth

Essence und Catrice gehören zu den erfolgreichsten Beauty-Brands auf TikTok weltweit, ebaut von einem deutschen Familienunternehmen mit gerade einmal 900 Mitarbeitenden. Thorsten Mühl, CDMO von Cosnova, erzählt, wie das Unternehmen mit Produktfokus, einer eigenen Content-Produktion und einer pragmatischen AI-Strategie gegen Konzerne wie L'Oréal bestehen und warum sie bewusst auf AI-generierte Menschen in ihrem Content verzichten.

Key Takeaways
Cosnova zeigt, dass ein fokussiertes, produktgetriebenes Familienunternehmen mit unter 1.000 Mitarbeitenden gegen milliardenschwere Konzerne bestehen kann.

TikTok wird bei Cosnova nicht nur als Marketingkanal, sondern als unternehmensweites "Betriebssystem" für Trend- und Produktentwicklung genutzt.

Die AI-Strategie begann mit ethisch-moralischen Leitplanken, nicht mit der Technologie selbst, u. a. der bewussten Entscheidung, keine AI-generierten Menschen im Content zu zeigen.

Hohe Tool-Adoption (95% bei Cosnova GPT) erzeugt allein noch keinen Business Value entscheidend waren strukturiertes Upskilling und das dezentrale Champions-Programm.

Der größte Hebel für AI liegt laut beiden Gesprächspartnern nicht in schnelleren E-Mails, sondern in Produktentwicklung, Operations und Prozessoptimierung.

Authentizität ("Realness") wird zunehmend zum Differenzierungsmerkmal gegenüber AI-generiertem Content.

Buchempfehlung
"The Creative Act" (dt. "Die Kunst, kreativ zu sein") von Rick Rubin

💌 Schreibt uns eure Wünsche und euer Feedback an mail@talespod.com.

LinkedIn:
Thorsten und Elisabeth