Human Firewall Podcast

In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über Alert Fatigue – die zunehmende Gewöhnung an Sicherheitswarnungen, durch die wichtige Hinweise irgendwann nicht mehr bewusst wahrgenommen werden. Gelbe Warnleisten über E-Mails, wiederkehrende Pop-ups oder zahlreiche Sicherheitsabfragen sollen Beschäftigte schützen, können bei zu häufiger und undifferenzierter Verwendung jedoch das Gegenteil bewirken. Warnungen werden zum Hintergrundrauschen, Entscheidungen zunehmend automatisch getroffen und Meldungen reflexartig bestätigt oder weggeklickt.

Gundi und Christian erläutern die psychologischen Mechanismen hinter dieser Alarmmüdigkeit. Bei der Habituation blendet das Gehirn wiederkehrende Reize aus, wenn diese über längere Zeit keine erkennbaren Konsequenzen haben. Gleichzeitig führt Decision Fatigue dazu, dass die Qualität von Entscheidungen sinkt, wenn Menschen immer wieder ähnliche Abwägungen treffen müssen. Hinzu kommt der sogenannte Cry-Wolf-Effekt: Produziert ein System zu viele Fehlalarme, verliert es an Glaubwürdigkeit und auch echte Bedrohungen werden nicht mehr ernst genommen. Das betrifft sowohl Beschäftigte im Arbeitsalltag als auch Security Operations Center, in denen täglich große Mengen an Alerts geprüft werden müssen. Alert Fatigue ist deshalb kein Zeichen unaufmerksamer Mitarbeitender, sondern häufig ein Konstruktionsproblem der eingesetzten Systeme.

Die beiden erklären, wie Unternehmen Alert Fatigue reduzieren können. Warnungen sollten kontextbezogen, klar priorisiert und nur dann eingesetzt werden, wenn tatsächlich eine Handlung erforderlich ist. Variierende, sogenannte polymorphe Warnungen können verhindern, dass sich das Gehirn zu schnell an ihr Erscheinungsbild gewöhnt. Number Matching unterbricht automatische Bestätigungen bei MFA-Anfragen, indem eine angezeigte Zahl aktiv mit der Authenticator-App abgeglichen werden muss. Zusätzlichen Schutz bieten phishingresistente Verfahren wie FIDO2, Sicherheitsschlüssel und Passkeys. Auch Phishing-Simulationen können dazu beitragen, abstrakte Warnungen mit konkreten Erfahrungen zu verbinden. Entscheidend ist, Sicherheitssysteme so zu gestalten, dass sie mit der menschlichen Aufmerksamkeit arbeiten – und nicht gegen sie.

Themen dieser Folge: Alert Fatigue, Alarmmüdigkeit, Warnmüdigkeit, Sicherheitswarnungen, Cybersecurity, IT-Sicherheit, Faktor Mensch, Human Firewall, Habituation, Gewöhnungseffekt, Decision Fatigue, Entscheidungsmüdigkeit, Cry-Wolf-Effekt, Fehlalarme, False Positives, Hintergrundrauschen, Sicherheitsentscheidungen, Security Operations Center, Alerts, Incidents, Multi-Faktor-Authentifizierung, MFA, MFA Fatigue, Push Bombing, Prompt Bombing, Uber-Hack, Lapsus$, ShinyHunters, Voice Phishing, Vishing, Social Engineering, künstliche Intelligenz, KI-Agenten, IT-Support-Betrug, polymorphe Warnungen, kontextbezogene Warnungen, Friction Design, Number Matching, Authenticator-App, FIDO2, Sicherheitsschlüssel, Passkeys und Phishing-Simulationen

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian mit Dr. Judith Nink über ihre Arbeit beim Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Frage, wie Staat und Wirtschaft gemeinsam für mehr Cybersicherheit sorgen können. Judith leitet beim BSI den Fachbereich Cybersicherheit bei Unternehmen und bildet eine Schnittstelle zwischen Behörde, Ministerium und Wirtschaft. Sie erzählt, wie sich ihre Arbeit seit dem Wechsel zum BSI verändert hat, warum ihr Team bewusst interdisziplinär aufgestellt ist und weshalb das BSI nicht nur als Aufsichtsbehörde verstanden werden möchte. Statt ausschließlich Vorgaben zu machen, setzt die Behörde auf Austausch, Hilfestellungen und die Zusammenarbeit mit Unternehmen, Verbänden und anderen Institutionen.

Ein Schwerpunkt der Folge ist die Umsetzung von NIS2. Judith erklärt, welche Unternehmen von den neuen Anforderungen betroffen sind, wie der aktuelle Registrierungsprozess läuft und warum die Vorgaben auch für Unternehmen relevant sein können, die formal nicht unmittelbar unter NIS2 fallen. Über Lieferketten und Anforderungen von Geschäftspartnern wirken die Sicherheitsstandards deutlich weiter. Außerdem geht es um die Verantwortung der Geschäftsführung: Risikomanagement und die Umsetzung von Sicherheitsmaßnahmen sind Managementaufgaben. Gundi, Christian und Judith sprechen darüber, wie entsprechende Schulungen aussehen können, warum es dabei keine einheitliche Lösung für jedes Unternehmen gibt und wie Audits und praktische Orientierungshilfen zukünftig dabei helfen können, den eigenen Sicherheitsstand besser einzuschätzen.

Darüber hinaus geht es um die grundsätzliche Cybersicherheitslage in Deutschland und die Frage, wie Unternehmen auch mit begrenzten Ressourcen sinnvoll anfangen können. Judith sieht vor allem bei kleinen und mittleren Unternehmen noch Bedarf an bezahlbaren und praktikablen Sicherheitslösungen und spricht über digitale Souveränität, europäische Anbieter und das notwendige Vertrauen in Technologien und Dienstleister. Gleichzeitig warnt sie vor einer zunehmend angespannten Bedrohungslage: Die Zahl der Angreifer steigt und Unternehmen müssen damit rechnen, früher oder später selbst betroffen zu sein. Ihr wichtigster praktischer Rat lautet deshalb, nicht auf die perfekte Sicherheitsarchitektur zu warten, sondern anzufangen – zunächst mit einer Risikoanalyse und vor allem mit einem funktionierenden Notfallplan, damit im Ernstfall klar ist, wer informiert wird und welche Schritte als Erstes folgen.

Hier geht es zum Buch: Das neue IT-Sicherheitsrecht":

https://www.nomos-shop.de/de/p/das-neue-it-sicherheitsrecht-gr-978-3-7560-0995-4

Hier geht es zur IT-Notfallkarte vom BSI:

https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Unternehmen-allgemein/IT-Notfallkarte/it-notfallkarte_node.html

Themen dieser Folge: Dr. Judith Nink, BSI, Bundesamt für Sicherheit in der Informationstechnik, Cybersicherheit, Cybersecurity, IT-Sicherheit, NIS2, NIS2-Richtlinie, Cybersicherheit in der Wirtschaft, Wirtschaft und Behörden, Aufsicht, Kooperation, Unternehmen, KMU, kritische Infrastrukturen, KRITIS, Resilienz, Cyberresilienz, Risikomanagement, Geschäftsführung, Managementverantwortung, Haftung, Geschäftsleitungsschulungen, Audits, Registrierungspflicht, Lieferketten, Supply Chain, Cyber-Risiko-Check, Notfallplan, Incident Response, Cyberangriffe, Bedrohungslage, digitale Souveränität, europäische Sicherheitslösungen, Security Services, Vertrauen, Zero Trust, Kommunikation, Allianz für Cybersicherheit, Cyber Resilience Act, Security by Design, Human Firewall

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über mehrere ungewöhnliche Sicherheitsvorfälle bei Tests mit KI-Modellen. Innerhalb kurzer Zeit überschreiten Modelle von OpenAI, Anthropic und Meta die vorgesehenen Grenzen ihrer Testumgebungen und greifen auf externe Systeme zu. Eigentlich sollten sie unter kontrollierten Bedingungen Schwachstellen finden und ausnutzen. Stattdessen verfolgen sie ihre Aufgaben auf unerwarteten Wegen weiter – teilweise über längere Zeiträume und ohne zusätzliche menschliche Anweisung.

Gundi und Christian erläutern, wie sich die Vorfälle im Einzelnen unterscheiden. Ein Modell von OpenAI nutzte eine bislang unbekannte Sicherheitslücke, verließ die Sandbox und griff unter anderem auf Systeme von Hugging Face zu. Ein Anthropic-Modell erhielt für einen Test bewusst Zugang zum Internet und versuchte anschließend, schädlichen Code in ein Open-Source-Projekt auf GitHub einzuschleusen. Dafür erstellte es falsche Identitäten und setzte den zuständigen Entwickler per E-Mail unter Druck. Als der Versuch erkannt wurde, änderte das Modell seine Vorgehensweise und versuchte, den Schadcode an anderer Stelle unterzubringen. Im Fall von Meta hatte der externe Testpartner dem Modell unbeabsichtigt einen Zugang zum Internet ermöglicht, den dieses zum Angriff auf einen Drittanbieter nutzte.

Die beiden ordnen ein, was diese Vorfälle über die Fähigkeiten autonomer KI-Agenten und die Sicherheitsstandards bei ihrer Erprobung aussagen. Dabei geht es auch um die Frage, wie die beteiligten Unternehmen die Ereignisse öffentlich kommunizieren und welche wirtschaftlichen Interessen mit der Darstellung besonders leistungsfähiger Modelle verbunden sein können. Für Unternehmen zeigen die Fälle, dass KI-gestützte Angriffe komplexer, günstiger und leichter skalierbar werden. Gleichzeitig bleiben bekannte Schutzmaßnahmen relevant: aktuelle Software, starke Zugangssicherung und klar definierte Prüfprozesse. Der GitHub-Fall zeigt außerdem, dass aufmerksame Mitarbeitende weiterhin eine wichtige Rolle spielen, denn der verantwortliche Entwickler erkannte den Täuschungsversuch und verhinderte die Freigabe des schädlichen Codes.

Themen dieser Folge: künstliche Intelligenz, KI-Agenten, autonome KI, OpenAI, Anthropic, Meta, Hugging Face, GitHub, Cybersecurity, IT-Sicherheit, Cyberangriffe, autonomes Hacking, KI-Sicherheit, Sicherheitstests, Benchmark-Tests, Exploit Gym, Sandbox, Testumgebungen, Internetzugang, Zero-Day-Exploit, Schwachstellen, Schadcode, Open-Source-Software, Fake-Identitäten, Social Engineering, menschliches Vertrauen, Human Firewall, Faktor Mensch, Sicherheitsstandards, Kontrollmechanismen, Echtzeitüberwachung, Skalierung von Cyberangriffen, KI-Regulierung, wirtschaftliche Interessen, Sicherheitsupdates, Passwortmanager und Zwei-Faktor-Authentifizierung

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts spricht Gundi mit Bert te Wildt und Timo Schiele über Burn-on, eine Form chronischer Erschöpfung, bei der Betroffene weiterhin funktionieren, obwohl sie innerlich längst an ihre Grenzen geraten. Bert ist Chefarzt und Timo Leitender Psychologe an der Psychosomatischen Klinik Kloster Dießen am Ammersee. Gemeinsam haben sie das Buch „Burn On – Immer kurz vorm Burn Out“ veröffentlicht, nachdem ihnen in ihrer klinischen Arbeit immer wieder Menschen begegnet waren, deren Beschwerden sich nicht mit dem klassischen Burn-out erklären ließen.

Die beiden erklären, warum Menschen mit Burn-on häufig noch jahrelang leistungsfähig erscheinen, während soziale Kontakte, Erholung und persönliche Bedürfnisse zunehmend auf der Strecke bleiben. Betroffene arbeiten weiter, obwohl sie tief erschöpft sind, verschieben Arzttermine und private Verpflichtungen und fühlen sich innerlich leer oder vom eigenen Leben entfremdet. Bert und Timo sprechen darüber, welche Rolle früh erlernte Leistungsmuster, Präsentismus, hohe Verantwortung und die Entgrenzung von Arbeit durch Homeoffice und ständige Erreichbarkeit spielen. Dabei wird deutlich, warum ein bisschen Wellness, Sport oder eine kurze Auszeit manchmal lediglich dabei helfen, noch länger im Hamsterrad zu funktionieren.

Außerdem geht es um die Verbindung zwischen psychischer Erschöpfung und Cybersecurity. Konzentrationsprobleme und hoher Zeitdruck können dazu führen, dass Menschen schneller Fehler machen oder unüberlegt auf einen Link klicken. Gleichzeitig tragen Beschäftigte in der IT-Sicherheit häufig enorme Verantwortung, ohne dass Unternehmen ihnen ausreichend Zeit, Personal und Ressourcen zur Verfügung stellen. Zum Abschluss sprechen Bert und Timo über den Einfluss künstlicher Intelligenz auf unsere Arbeitswelt und psychische Gesundheit: über die Angst, mit Maschinen konkurrieren zu müssen, mögliche Entlastungen in der Psychotherapie und das Risiko, sich bei Entscheidungen zunehmend von ständig verfügbaren Chatbots abhängig zu machen.

Themen dieser Folge: Bert te Wildt, Timo Schiele, Burn-on, Burn-out, chronische Erschöpfung, Erschöpfungsdepression, hochfunktionale Depression, psychische Gesundheit, Leistungsdruck, Funktionieren, innere Leere, Entfremdung, Hamsterrad, Präsentismus, Perfektionismus, Anerkennung durch Leistung, Work-Life-Balance, Homeoffice, ständige Erreichbarkeit, Entgrenzung von Arbeit, Care-Arbeit, Selbstfürsorge, Stress, Konzentrationsprobleme, körperliche Stresssymptome, Psychotherapie, Prävention, Cybersecurity, IT-Sicherheit, Faktor Mensch, Social Engineering, Phishing, Zeitdruck, menschliche Fehler, Verantwortung von CISOs, hybride Kriegsführung, Ressourcenmangel, künstliche Intelligenz, KI am Arbeitsplatz, Automatisierung, Zukunft der Arbeit, KI in der Psychotherapie, Chatbots, digitale Abhängigkeit und gesellschaftlicher Wandel

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

In dieser Folge des Human Firewall Podcasts spricht Niklas mit dem Bestsellerautor Marc Elsberg über die Frage, wie nah Fiktion und Realität bei Cyberangriffen auf kritische Infrastrukturen inzwischen beieinanderliegen. Im Mittelpunkt steht Elsbergs Roman „Blackout“, in dem ein gezielter Angriff die Stromversorgung in weiten Teilen Europas lahmlegt.

Marc erzählt, wie die Idee zu dem Roman aus seiner Beschäftigung mit globalen Lieferketten und der zunehmenden Vernetzung unserer Gesellschaft entstand. Er erklärt, warum bereits kleine Eingriffe in komplexe Systeme weitreichende Folgen haben können und wie er gemeinsam mit Fachleuten aus der IT-Sicherheit ein realistisches Angriffsszenario entwickelte. Dabei geht es um manipulierte Smart Meter, sabotierte Steuerungssysteme, unzufriedene Mitarbeitende und vermeintliche Servicetechniker, die sich durch Social Engineering Zugang verschaffen.

Gemeinsam sprechen Christian und Marc darüber, was ein großflächiger Stromausfall konkret bedeuten würde: Supermärkte und Tankstellen schließen, Lieferketten brechen zusammen und in manchen Regionen fällt bereits nach kurzer Zeit die Wasserversorgung aus. Während Menschen sich in Krisen zunächst gegenseitig helfen, könnte die Lage spätestens dann kippen, wenn Lebensmittel, Trinkwasser, Medikamente und medizinische Versorgung knapp werden. Marc ordnet jedoch auch ein, warum ein tagelanger Blackout in ganz Europa einen gezielten Angriff voraussetzen würde und weshalb kürzere Stromausfälle normalerweise schneller behoben werden können.

Themen dieser Folge: Marc Elsberg, Blackout, kritische Infrastruktur, Cyberangriffe auf Stromnetze, Stromausfall, Energieversorgung, Lieferketten, vernetzte Systeme, Smart Meter, Smart Grids, SCADA-Systeme, Sabotage, Insider Threats, Social Engineering, falsche Servicetechniker, Faktor Mensch, IT-Sicherheit, Versorgungssicherheit, Katastrophenschutz, Lebensmittelversorgung, Wasserversorgung, medizinische Versorgung, gesellschaftliche Resilienz, Security Awareness, Storytelling in der Cybersecurity, Risikokommunikation, künstliche Intelligenz, KI-generierte Forschung, Fake Papers, Desinformation, Deepfakes, Stimmenklone, Vertrauen, Geoengineering, Artensterben und Zukunftstechnologien

Mehr über Marc Elsberg findet ihr auf seinem Instagram-Account:

@marcelsberg

Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de