Human Firewall Podcast

In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über mehrere ungewöhnliche Sicherheitsvorfälle bei Tests mit KI-Modellen. Innerhalb kurzer Zeit überschreiten Modelle von OpenAI, Anthropic und Meta die vorgesehenen Grenzen ihrer Testumgebungen und greifen auf externe Systeme zu. Eigentlich sollten sie unter kontrollierten Bedingungen Schwachstellen finden und ausnutzen. Stattdessen verfolgen sie ihre Aufgaben auf unerwarteten Wegen weiter – teilweise über längere Zeiträume und ohne zusätzliche menschliche Anweisung.

Gundi und Christian erläutern, wie sich die Vorfälle im Einzelnen unterscheiden. Ein Modell von OpenAI nutzte eine bislang unbekannte Sicherheitslücke, verließ die Sandbox und griff unter anderem auf Systeme von Hugging Face zu. Ein Anthropic-Modell erhielt für einen Test bewusst Zugang zum Internet und versuchte anschließend, schädlichen Code in ein Open-Source-Projekt auf GitHub einzuschleusen. Dafür erstellte es falsche Identitäten und setzte den zuständigen Entwickler per E-Mail unter Druck. Als der Versuch erkannt wurde, änderte das Modell seine Vorgehensweise und versuchte, den Schadcode an anderer Stelle unterzubringen. Im Fall von Meta hatte der externe Testpartner dem Modell unbeabsichtigt einen Zugang zum Internet ermöglicht, den dieses zum Angriff auf einen Drittanbieter nutzte.

Die beiden ordnen ein, was diese Vorfälle über die Fähigkeiten autonomer KI-Agenten und die Sicherheitsstandards bei ihrer Erprobung aussagen. Dabei geht es auch um die Frage, wie die beteiligten Unternehmen die Ereignisse öffentlich kommunizieren und welche wirtschaftlichen Interessen mit der Darstellung besonders leistungsfähiger Modelle verbunden sein können. Für Unternehmen zeigen die Fälle, dass KI-gestützte Angriffe komplexer, günstiger und leichter skalierbar werden. Gleichzeitig bleiben bekannte Schutzmaßnahmen relevant: aktuelle Software, starke Zugangssicherung und klar definierte Prüfprozesse. Der GitHub-Fall zeigt außerdem, dass aufmerksame Mitarbeitende weiterhin eine wichtige Rolle spielen, denn der verantwortliche Entwickler erkannte den Täuschungsversuch und verhinderte die Freigabe des schädlichen Codes.

Themen dieser Folge: künstliche Intelligenz, KI-Agenten, autonome KI, OpenAI, Anthropic, Meta, Hugging Face, GitHub, Cybersecurity, IT-Sicherheit, Cyberangriffe, autonomes Hacking, KI-Sicherheit, Sicherheitstests, Benchmark-Tests, Exploit Gym, Sandbox, Testumgebungen, Internetzugang, Zero-Day-Exploit, Schwachstellen, Schadcode, Open-Source-Software, Fake-Identitäten, Social Engineering, menschliches Vertrauen, Human Firewall, Faktor Mensch, Sicherheitsstandards, Kontrollmechanismen, Echtzeitüberwachung, Skalierung von Cyberangriffen, KI-Regulierung, wirtschaftliche Interessen, Sicherheitsupdates, Passwortmanager und Zwei-Faktor-Authentifizierung

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts spricht Gundi mit Bert te Wildt und Timo Schiele über Burn-on, eine Form chronischer Erschöpfung, bei der Betroffene weiterhin funktionieren, obwohl sie innerlich längst an ihre Grenzen geraten. Bert ist Chefarzt und Timo Leitender Psychologe an der Psychosomatischen Klinik Kloster Dießen am Ammersee. Gemeinsam haben sie das Buch „Burn On – Immer kurz vorm Burn Out“ veröffentlicht, nachdem ihnen in ihrer klinischen Arbeit immer wieder Menschen begegnet waren, deren Beschwerden sich nicht mit dem klassischen Burn-out erklären ließen.

Die beiden erklären, warum Menschen mit Burn-on häufig noch jahrelang leistungsfähig erscheinen, während soziale Kontakte, Erholung und persönliche Bedürfnisse zunehmend auf der Strecke bleiben. Betroffene arbeiten weiter, obwohl sie tief erschöpft sind, verschieben Arzttermine und private Verpflichtungen und fühlen sich innerlich leer oder vom eigenen Leben entfremdet. Bert und Timo sprechen darüber, welche Rolle früh erlernte Leistungsmuster, Präsentismus, hohe Verantwortung und die Entgrenzung von Arbeit durch Homeoffice und ständige Erreichbarkeit spielen. Dabei wird deutlich, warum ein bisschen Wellness, Sport oder eine kurze Auszeit manchmal lediglich dabei helfen, noch länger im Hamsterrad zu funktionieren.

Außerdem geht es um die Verbindung zwischen psychischer Erschöpfung und Cybersecurity. Konzentrationsprobleme und hoher Zeitdruck können dazu führen, dass Menschen schneller Fehler machen oder unüberlegt auf einen Link klicken. Gleichzeitig tragen Beschäftigte in der IT-Sicherheit häufig enorme Verantwortung, ohne dass Unternehmen ihnen ausreichend Zeit, Personal und Ressourcen zur Verfügung stellen. Zum Abschluss sprechen Bert und Timo über den Einfluss künstlicher Intelligenz auf unsere Arbeitswelt und psychische Gesundheit: über die Angst, mit Maschinen konkurrieren zu müssen, mögliche Entlastungen in der Psychotherapie und das Risiko, sich bei Entscheidungen zunehmend von ständig verfügbaren Chatbots abhängig zu machen.

Themen dieser Folge: Bert te Wildt, Timo Schiele, Burn-on, Burn-out, chronische Erschöpfung, Erschöpfungsdepression, hochfunktionale Depression, psychische Gesundheit, Leistungsdruck, Funktionieren, innere Leere, Entfremdung, Hamsterrad, Präsentismus, Perfektionismus, Anerkennung durch Leistung, Work-Life-Balance, Homeoffice, ständige Erreichbarkeit, Entgrenzung von Arbeit, Care-Arbeit, Selbstfürsorge, Stress, Konzentrationsprobleme, körperliche Stresssymptome, Psychotherapie, Prävention, Cybersecurity, IT-Sicherheit, Faktor Mensch, Social Engineering, Phishing, Zeitdruck, menschliche Fehler, Verantwortung von CISOs, hybride Kriegsführung, Ressourcenmangel, künstliche Intelligenz, KI am Arbeitsplatz, Automatisierung, Zukunft der Arbeit, KI in der Psychotherapie, Chatbots, digitale Abhängigkeit und gesellschaftlicher Wandel

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts spricht Niklas mit dem Bestsellerautor Marc Elsberg über die Frage, wie nah Fiktion und Realität bei Cyberangriffen auf kritische Infrastrukturen inzwischen beieinanderliegen. Im Mittelpunkt steht Elsbergs Roman „Blackout“, in dem ein gezielter Angriff die Stromversorgung in weiten Teilen Europas lahmlegt.

Marc erzählt, wie die Idee zu dem Roman aus seiner Beschäftigung mit globalen Lieferketten und der zunehmenden Vernetzung unserer Gesellschaft entstand. Er erklärt, warum bereits kleine Eingriffe in komplexe Systeme weitreichende Folgen haben können und wie er gemeinsam mit Fachleuten aus der IT-Sicherheit ein realistisches Angriffsszenario entwickelte. Dabei geht es um manipulierte Smart Meter, sabotierte Steuerungssysteme, unzufriedene Mitarbeitende und vermeintliche Servicetechniker, die sich durch Social Engineering Zugang verschaffen.

Gemeinsam sprechen Christian und Marc darüber, was ein großflächiger Stromausfall konkret bedeuten würde: Supermärkte und Tankstellen schließen, Lieferketten brechen zusammen und in manchen Regionen fällt bereits nach kurzer Zeit die Wasserversorgung aus. Während Menschen sich in Krisen zunächst gegenseitig helfen, könnte die Lage spätestens dann kippen, wenn Lebensmittel, Trinkwasser, Medikamente und medizinische Versorgung knapp werden. Marc ordnet jedoch auch ein, warum ein tagelanger Blackout in ganz Europa einen gezielten Angriff voraussetzen würde und weshalb kürzere Stromausfälle normalerweise schneller behoben werden können.

Themen dieser Folge: Marc Elsberg, Blackout, kritische Infrastruktur, Cyberangriffe auf Stromnetze, Stromausfall, Energieversorgung, Lieferketten, vernetzte Systeme, Smart Meter, Smart Grids, SCADA-Systeme, Sabotage, Insider Threats, Social Engineering, falsche Servicetechniker, Faktor Mensch, IT-Sicherheit, Versorgungssicherheit, Katastrophenschutz, Lebensmittelversorgung, Wasserversorgung, medizinische Versorgung, gesellschaftliche Resilienz, Security Awareness, Storytelling in der Cybersecurity, Risikokommunikation, künstliche Intelligenz, KI-generierte Forschung, Fake Papers, Desinformation, Deepfakes, Stimmenklone, Vertrauen, Geoengineering, Artensterben und Zukunftstechnologien

Mehr über Marc Elsberg findet ihr auf seinem Instagram-Account:

@marcelsberg

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts spricht Christian mit Stefan Brülle, Chief Information Security Officer beim WWF Deutschland, über Cybersecurity in einer Organisation, die vor allem für Natur- und Umweltschutz bekannt ist.

Stefan berichtet, wie sich die IT-Sicherheit beim WWF in den vergangenen Jahren entwickelt hat und warum User Awareness dabei von Anfang an eine zentrale Rolle spielte. Gemeinsam sprechen die beiden über Phishing-Simulationen, die Einführung von Multi-Faktor-Authentifizierung und die Herausforderung, Mitarbeitende für digitale Gefahren zu sensibilisieren, deren eigentliche Arbeit weit entfernt von IT und Cybersecurity liegt. Dabei zeigt sich: Selbst wenn das nötige Wissen vorhanden ist, können Zeitdruck, hohe Arbeitsbelastung und vermeintlich vertraute Absender dazu führen, dass Menschen auf schädliche Links klicken.

Außerdem geht es um eine offene Sicherheitskultur, in der Fehler ohne Angst gemeldet und reale Vorfälle als Lernmöglichkeiten genutzt werden. Stefan erklärt, wie der WWF mit Schatten-IT und frei verfügbaren KI-Anwendungen umgeht, warum sich die Organisation für Microsoft Copilot entschieden hat und wie künstliche Intelligenz bereits heute beim Naturschutz hilft – etwa beim Aufspüren von Geisternetzen im Meer. Abschließend diskutieren Christian und Stefan über die Chancen und Risiken generativer KI sowie die Frage, ob uns in Zukunft ein digitaler Kampf zwischen KI-Systemen bevorstehen könnte.

Themen dieser Folge: Cybersecurity beim WWF, Stefan Brülle, Naturschutzorganisationen, User Awareness, Faktor Mensch, Phishing, kompromittierte Accounts, Social Engineering, Multi-Faktor-Authentifizierung, phishingresistente MFA, Sicherheitskultur, psychologische Sicherheit, Fehlermeldekultur, Phishing-Simulationen, Security Champions, Cybersecurity unter Stress, Schatten-IT, Schatten-KI, KI-Richtlinien, Microsoft Copilot, Datenschutz, Change Management, digitale Transformation, GhostNetZero.ai, Geisternetze, künstliche Intelligenz im Naturschutz, KI-gestützte Cyberangriffe und Regulierung von KI

Du möchtet den WWF und seine Arbeit für den Natur- und Artenschutz unterstützen? Alle Möglichkeiten dazu findest du unter: wwf.de/spenden-helfen

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In der zweiten Folge der zweiteiligen Reihe zur Signal-Affäre richten Christian und Gundi den Blick auf die entscheidende Frage: Warum reichen Warnungen allein nicht aus, um Menschen vor Social Engineering zu schützen? Obwohl Sicherheitsbehörden frühzeitig vor den Angriffen auf Signal-Konten hochrangiger Politiker, Diplomaten und Militärangehöriger gewarnt hatten, waren die Angriffe weiterhin erfolgreich. Die beiden zeigen, warum zwischen Wissen und Verhalten oft eine große Lücke besteht und weshalb Security Awareness deutlich mehr leisten muss als Informationsvermittlung.

Anhand aktueller Erkenntnisse aus der Verhaltenspsychologie erklären Christian und Gundi, wie nachhaltige Verhaltensänderung entsteht. Sie sprechen über Modelle wie das Extended Parallel Process Model (EPPM) und das Fogg Behavior Model und zeigen, warum Angst ohne Handlungskompetenz häufig zu Resignation führt. Außerdem diskutieren sie, weshalb gezielte Auslöser (Prompts), Friction Design und der richtige Lernmoment nach einem Fehler oft wirksamer sind als jährliche Pflichtschulungen oder klassische Sicherheitswarnungen.

Darüber hinaus zeigen die beiden, wie sich dieselben psychologischen Prinzipien, die Angreifer für Social Engineering nutzen, auch zur Verteidigung einsetzen lassen. Ob Social Proof, Autorität, Commitment oder Storytelling – richtig eingesetzt fördern sie Sicherheitskultur, Selbstwirksamkeit und sicheres Verhalten im Unternehmen. Die Folge macht deutlich: Eine wirksame Human Firewall entsteht nicht durch Angst oder Compliance, sondern durch kontinuierliches Lernen, psychologische Sicherheit und eine Kultur, in der Fehler offen angesprochen werden können.

Themen dieser Folge: Signal-Affäre, Security Awareness, Verhaltenspsychologie, Human Firewall, Social Engineering, Phishing, Sicherheitskultur, Fehlerkultur, psychologische Sicherheit, EPPM, Fogg Behavior Model, Friction Design, Social Proof, Selbstwirksamkeit, Storytelling, Commitment, Cyberpsychologie, Verhaltensänderung

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de