They Talk Tech – mit Eckert und Wolfangel

Mai 2018, Audimax in Kiel: Doris Weßels spielt ein Ein-Personen-Stück über Studierende, Ghostwriter und eine Software, die allen das Schreiben abnimmt. Zu abgefahren, dachte sie damals selbst. Dann kam ChatGPT.
Im ersten Teil unseres Sommerinterviews erzählt die Wirtschaftsinformatikerin Doris Weßels, warum sie Verbote für den falschen Weg hält und weshalb die klassische Abschlussarbeit nicht mehr funktioniert. Es geht um KI als „Triple Agent” zwischen Lernenden, Lehrenden und Prüfenden, um ihre Forderung nach einer Taskforce KI-Bildung im Bundestag und um die Frage, ob Lernen anstrengend sein muss oder auch im Flow geht. Fortsetzung nächste Woche.

Von Svea Eckert und Eva Wolfangel
Musik und Produktion: Marko Pauli

Shownotes:
KI-Deepdive zum Thema Bildung bei Heise: https://www.heise.de/news/KI-Update-Deep-Dive-Wie-Schulen-KI-Kompetenz-systematisch-vermitteln-koennen-11397738.html

Doris Weßels: https://de.wikipedia.org/wiki/Doris_We%C3%9Fels
VK:KIWA, Virtuelles Kompetenzzentrum Schreiben lehren und lernen mit KI: https://www.vkkiwa.de/blog/

Stellungnahme von Doris Weßels für den Bundestagsausschuss (2023): https://www.bundestag.de/resource/blob/944668/8986c32590098f441fbba938039650e5/20-18-108c-Wessels-data.pdf

Joscha Falck: Lernen mit, über, durch, trotz und ohne KI:
https://joschafalck.de/lernen-und-ki/

Wir haben uns die Zeit genommen, den Vorfall nochmal in Ruhe auseinanderzunehmen: OpenAI lässt seine Modelle in einem Hacking-Benchmark antreten, sicher verwahrt in einer Sandbox. Doch die Agenten finden eine Zero-Day-Lücke, brechen aus, kapern eine fremde Sandbox als Startrampe und dringen bei Hugging Face ein. Fünf Tage lang.

Wir rekonstruieren, was zwischen dem 9. und 13. Juli passiert ist und warum OpenAI erst über eine Woche später gemerkt hat, dass die eigenen Modelle dahinterstecken. Und dann nehmen wir uns das Drumherum vor: das Marketing, das aus einem peinlichen Sicherheitsvorfall mächtige, gefährliche KI macht. Die Sprache, die aus Statistik plötzlich Wollen und Entscheiden zaubert.

Reinhören lohnt sich. Auch aus dem Liegestuhl.

Neueste Erkenntnisse zum Vorfall bei Heise: https://www.heise.de/news/OpenAI-liefert-mehr-Details-zum-Hugging-Face-Vorfall-11403154.html

Interview Bloomberg TV mit Signal Chefin Meredith Whittaker: https://www.bloomberg.com/news/videos/2026-07-24/whittaker-on-openai-hugging-face-hack-china-privacy-video

Evas Kommentar dazu: https://www.zeit.de/digital/datenschutz/2026-07/openai-huggingface-ki-hackerangriff-sicherheitsvorfall

Hugging Face: Anatomy of a Frontier Lab Agent Intrusion, das technische Write-up mit der kompletten Angriffskette (27.07.2026): https://huggingface.co/blog/agent-intrusion-technical-timeline

Hugging Face: erste Offenlegung des Vorfalls: https://huggingface.co/blog/security-incident-july-2026

OpenAI: Security incident during model evaluation (21.07.2026, Updates 28./29.07.): https://openai.com/index/hugging-face-model-evaluation-security-incident/

JFrog: Offenlegung der Zero-Day-Lücke in Artifactory: https://jfrog.com/blog/jfrog-and-openai-collaboration-on-zero-day-security-findings/

Der ExploitGym-Benchmark (arXiv): https://arxiv.org/abs/2605.11086

Meredith Whittaker im Bloomberg-Weekend-Interview, frei zugänglich zitiert bei TechCrunch: https://techcrunch.com/2026/06/20/signals-meredith-whittaker-wants-you-to-remember-that-ai-chatbots-are-not-your-friends/

Synchronsprecher:innen sehen in echt auszusehen ist ein komischer Effekt: Die Stimme von Bruce Willis oder Angelina Jolie gehört einem Menschen, den kaum jemand kennt. Genau diese Menschen kämpfen gerade um ihre Existenz. Zu Gast ist Anna-Sophia Lumpe, Vorsitzende des Verbands Deutscher Sprecher:innen, und sie erklärt, warum es längst nicht mehr ums simple Kopieren einer Stimme geht, sondern um die Stimmführung, das eigentliche Handwerk, das KI-Systeme sich einverleiben wollen.
Svea und Eva sprechen mit ihr über die KI-Klausel bei Netflix, über Stimmen, die im Bauch der Maschine verschwinden, über YouTube als heimliche Trainingswiese und über das, was ab dem 2. August mit dem EU AI Act an Kennzeichnungspflicht kommt. Teil 2 unseres Deep Dives, der erste Teil lief in Annas Podcast „Künstlerische Intelligenz".

Shownotes-Links:

Anna-Sophia Lumpe, Podcast „Künstlerische Intelligenz" (Teil 1 des Deep Dives): https://kuenstlerische-intelligenz.podigee.io/

Anna-Sophia Lumpe im Gespräch, ZDF Kulturzeit (Protest der Synchronstimmen): https://www.zdf.de/video/magazine/kulturzeit-324/protest-der-synchronstimmen-gespraech-mit-anna-sophia-lumpe-100

Netflix KI-Klausel, Boykott der Synchronsprecher:innen (ZDFheute): https://www.zdfheute.de/wirtschaft/synchronsprecher-boykott-netflix-ki-stimmen-100.html

Patrick Winczewski (dt. Stimme von Tom Cruise) über den KI-Streit: https://www.digitalfernsehen.de/news/inhalte/streaming/deutsche-stimme-von-tom-cruise-ueber-den-ki-streit-netflix-versucht-praezedenzfaelle-zu-schaffen-1173330/

Bev Standing gegen TikTok/ByteDance (Stimme für Text-to-Speech, 2021): https://voicebot.ai/2021/05/07/voice-actor-sues-tiktok-for-generating-text-to-speech-voice-from-her-recordings-without-permission/

Scarlett Johansson und OpenAIs „Sky"-Stimme (2024): https://www.npr.org/2024/05/20/1252495087/openai-pulls-ai-voice-that-was-compared-to-scarlett-johansson-in-the-movie-her

EU AI Act, Kennzeichnungspflicht für KI-Inhalte ab 2. August 2026 (Haufe): https://www.haufe.de/recht/kanzleimanagement/kennzeichnungspflicht-fuer-ki-inhalte-gilt-ab-august-2026_222_681220.html

Diese Woche ist Svea dran, und zeigt, wie sie Claude aktuell als Assistent einsetzt. Ihr Trick: nicht der private Account, sondern ein eigenes Postfach nur für die KI, mit eigenem Kalender und Drive. Der Agent sieht nur, was er sehen soll. Dazu jede Menge Alltag, warum überhaupt Claude, To-do-Listen und Dopamin, und ein Browser-Connector in Beta, wenn sich Claude mit flackerndem Mauszeiger durch die Seiten klickt.

Musik und Produktion: Marko Pauli

Shownotes:
News rund um Claude bei Heise: https://www.heise.de/news/Claude-Cowork-kommt-ins-Web-und-aufs-Smartphone-11357349.html

Claude (KI-Assistent, den Svea nutzt): https://claude.ai

Konnektoren in Claude (Hintergrund): https://www.anthropic.com/news/connectors

Riverside (Podcast-Aufnahmesoftware): https://riverside.fm

Feedback und Kontakt: per Mail (am liebsten von euch selbst, ohne Agent), sowie auf Mastodon, Instagram und LinkedIn

Bei Eva gehts heute um Jailbreaking, also darum, KI genau die Dinge zu entlocken, die sie verschweigen soll. Ihr Lieblingsziel ist nicht das Drogenrezept, sondern der geheime Systemprompt. Und der ist „Gold" wert. Wie man da rankommt? Mit Sprache und Geduld, nicht mit Code. Eva hat einem Bot sogar eine Krankheit erfunden, damit er redet. Dazu baut sie sich mit Claude Code eigene Recherche-Tools, und merkt: Als Agent ist die KI viel fügsamer als im Browser. Außerdem: Vibe-Coding und Skills basteln für Anfänger, wie Eva Claude für OSINT Recherchen nutzt und kleine Programme damit baut. Cliffhanger zum Schluss: Nächste Woche zeigt Svea, wie sie ihre Mails von einer KI verwalten lässt, (hoffentlich) ohne von Eva gehackt zu werden.

Musik und Produktion: Marko Pauli

Shownotes
Das Heise 1x1 zum Vibe-Coding: https://peertube.heise.de/w/dNKHWHwZWLBGyknUTAJpSt

• Claude Code (KI im Agentenmodus): https://www.anthropic.com/claude-code
• OpenALEPH / Aleph (Rechercheplattform, Follow the Money / OCCRP-Umfeld): https://aleph.occrp.org
• Hintergrund zu Prompt Injection und Agenten-Risiken (OWASP für LLMs): https://owasp.org/www-project-top-10-for-large-language-model-applications/
• Feedback und Kontakt: per Mail (am liebsten von euch selbst, ohne Agent), sowie auf Mastodon, Instagram und LinkedIn