House of Nerds

Cyberangriffe auf Kliniken werden häufiger. Unser Gast Markus Willing nimmt uns mit ins Krankenhaus und berichtet, wie so ein Angriff praktisch aussehen kann, und wie unterschiedlich schwer einzelne Bereiche getroffen sein können - digitale hochspezialisierte vernetzte Geräte sehr viel stärker als andere Bereiche, wo man sich zur Not auch mit Zettel und Stift behelfen kann. Wer dann noch die Handschrift lesen kann, ist klar im Vorteil! Markus verrät uns auch, welcher IT-Ausfall das medizinische Personal am härtesten trifft: Die gute alte Telefonanlage! Denn wenn schnelle mündliche Kommunikation übers Telefon wegfällt, kostet das wertvolle Zeit. Damit sich Kliniken auf einen solchen Ernstfall vorbereiten können, haben Markus Willing und sein Team ein Planspiel entwickelt, in welchem Krankenhäuser praktisch testen können, wie gut ihre Notfallpläne im Fall eines Angriffs funktionieren würden.

Shownotes:
Mehr zur Cyberkrisensimulation für Krankenhäuser: https://www.sit.fraunhofer.de/krankenhaus-cyber-krisensimulation/

Eine Reise planen lassen, personalisierte Newsletter erstellen oder eine Flut von Bewerbungen schonmal vorsortieren: KI-Agenten sollen Menschen im Beruf und im Privaten unterstützen. Ist autonome KI also das nächste große Ding im Bereich künstliche Intelligenz? Darüber sprechen wir mit Inna Vogel, sie ist AI Consultant bei Capgemini Invent und eine ehemalige Kollegin vom Fraunhofer SIT. Was ist eigentlich eine autonome KI im Gegensatz zu generativer KI? Was können die digitalen Helferlein, was (noch) nicht? Und wie riskant ist ihr Einsatz? Inna berichtet von KI-Agenten-Fails, wenn autonome Systeme übereifrig komplette Mailpostfächer oder Datenbestände löschen oder in eine Endlosschleife geraten, dadurch unendlich viele Tokens verbrauchen und horrende Kosten verursachen. Inna erklärt, worauf man beim Einsatz achten sollte, um solche Fails zu vermeiden. Außerdem sprechen wir darüber, wie die EU-KI-Verordnung den Einsatz reguliert - und welche Bereiche gar nicht von der KI-VO betroffen sind. Zum Schluss macht uns Inna Mut, denn sie sagt, dass KI zwar Jobs übernehmen wird, aber es werden auch neue Jobs entstehen - und sie verrät, wo. Und auf absehbare Zeit wird der "human in the loop" nicht verzichtbar sein.

Shownotes:
Paper "Agents of Chaos": https://arxiv.org/abs/2602.20021

Für diese Spezialfolge war Host Oliver wieder unterwegs und hat Florian Schütz getroffen, den Direktor des Schweizer Bundesamts für Cybersicherheit BACS. Gemeinsam sprechen sie darüber, wie sich der Schweizer Ansatz in der Cybersicherheit von dem Deutschlands unterscheidet – und warum die Schweiz aufgrund ihrer Größe häufig agiler und pragmatischer handeln kann. Der BACS-Direktor geht einen etwas anderen Ansatz als das deutsche BSI: Schweizer Firmen und Organisationen sollen in erster Linie dazu befähigt werden, sich selbst zu schützen - und macht das an einem plastischen Beispiel deutlich: "Das ist in etwa so, als würde man auch mal beim Fußgängerstreifen über eine rote Ampel laufen und dabei das Risiko selbst kalkulieren", erklärt er. Im Gespräch erläutert er auch, warum er sich über Angriffe freut, so lange sie erfolglos sind, und wie das BACS mit Angreifer-Infrastrukturen umgeht, die in der Schweiz sitzen. Zum Abschluss hat Florian Schütz noch eine klare Botschaft: "Keine Angst vor Cybersicherheit" - die Digitalisierung bietet so viele Chancen, das sollte man risikobewusst angehen. Dabei hilft es, über Cybervorfälle einen transparenten Austausch zu haben."

Deepfakes fluten das Internet. Inzwischen kann jeder und jede mit einem Internetzugang innerhalb von Sekunden Videos, Bilder oder Audiodateien von einer KI-Anwendung erstellen, für harmlose Witze-Videos und groteske Stunts, aber auch für Mobbing, Desinformationskampagnen, Betrugsmaschen. Prof. Martin Steinebach, Experte für IT-Forensik am Fraunhofer SIT, gibt uns im House of Nerds ein Update: Was ist der aktuelle Stand der Technik, welche technischen Verfahren gibt es, um Deepfakes zu generieren? "Sherlock" Steinebach gibt uns außerdem Tipps, welche Möglichkeiten man auch ohne technische Hilfsmittel hat, um Deepfakes zu erkennen - Spoiler: Diese sind sehr begrenzt. Wir sprechen auch mit Martin darüber, wie man transparent mit dem Einsatz von KI-Dateien arbeiten kann, um Vertrauen nicht zu verspielen.

SHOWNOTES:

Infoseite Deepfakes: https://www.sit.fraunhofer.de/deepfakes/
Projekt VAMPIR - Forschung gegen Deepfakes: https://www.sit.fraunhofer.de/de/presse/details/news-article/show/forschung-gegen-deepfakes/

Kontakt: podcast@sit.fraunhofer.de

In dieser Spezialfolge sind unsere Hosts unterwegs, um Claudia Plattner zu treffen, die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI). Im HoN-Kurzinterview spricht sie über Deutschland auf dem Weg zur Cybernation, was noch fehlt, um eine solche zu werden, und was man sich überhaupt darunter vorstellen kann. Kurz gesagt: Die Cybernation geht uns alle an! Von Unternehmen über Behörden bis hin zu den einzelnen Menschen - wir alle müssen etwas dafür tun, dass Deutschland cybersicherer wird. Denn Deutschland ist ein attraktives Ziel, sagt Claudia Plattner: "Es macht Spaß, uns anzugreifen." Deshalb müssten wir es in einer gesamtgesellschaftlichen Anstrengung schaffen, auf allen Ebenen ein höheres Schutzniveau zu erreichen, sagt Claudia Plattner.

Shownotes:

FAZ-Artikel zur Cybernation: https://www.faz.net/premium/digitalwirtschaft/wie-deutschland-zur-cybernation-wird-18795464.html

Informationen zur Cybernation des BSI: https://www.bsi.bund.de/DE/Das-BSI/Cybernation/cybernation_node.html

House of Nerds mit Claudia Plattner: https://house-of-nerds.podigee.io/15-new-episode