Digitalgespräch

Plötzlich das eigene Gesicht wie lebensecht auf Bildern zu sehen, die fiktive Situationen zeigen, oder die eigenen Stimme Sätze sagen zu hören, die man nie gesprochen hat: Diese Vorstellung ist beunruhigend. Mit generativer KI können inzwischen spielend leicht täuschend echte Medieninhalte erzeugt werden, die reale Personen in erfundene Kontexte setzen. In der Öffentlichkeit haben vor allem böswillige Deepfakes viel Aufmerksamkeit erregt, denn die Empörung über den Missbrauch generativer KI ist groß: Der Ausdruck Deepfakes wird verbunden mit Betrug, Manipulation der Öffentlichkeit, und pornografischen oder intimen Darstellungen ohne Einverständnis der abgebildeten Personen. Dieselbe Technologie kann freilich auch für vergleichsweise harmlose Zwecke eingesetzt werden: In Kunst und Kultur wird mit den neuen Möglichkeiten experimentiert, geschützt von der Kunstfreiheit und mit Freude gerade an dem, was vom Realen, Erwartbaren abweicht und nicht „Fake“ im Sinne von Täuschung sein soll. Und in der schnellen, wirtschaftlich orientierten Produktion von Bild- und Tonmaterialien für Werbung oder in der Unterhaltungsindustrie führen KI-Technologien nicht nur zu Zeitersparnis und neuen Workflows, sondern eröffnen auch einen potentiellen Markt für Persönlichkeitsmerkmale, die als Grundlage für KI-generierte Inhalte dienen – auch über den Tod der Menschen hinaus, deren Erscheinung diese Inhalte nachempfinden. Sind diese Fälle eine Herausforderung für Recht und Justiz?

Viktoria Kraetzig ist Privatdozentin für Bürgerliches Recht, Wirtschaftsrecht und Informationsrecht an der Goethe-Universität Frankfurt am Main und befasst sich als Juristin unter anderem intensiv mit Fragen zu Urheber- und Medienrecht. Im Digitalgespräch erklärt die Expertin, wie die Rechtswissenschaften das Phänomen „Deepfakes“ fassen und ob die bestehenden Instrumente ausreichen, um es in seiner Bedrohlichkeit einzuhegen. Sie beschreibt, welche Rechtsgüter von der Diskussion um Deepfake-Technologien berührt werden und welche Fragen unter Juristen strittig sind. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Kraetzig, worin sich die neuen KI-generierten Bilder von den bisherigen Beispielen aus Werbung oder Satire unterscheiden, welche Rolle Geschmack und persönliche Schmerzgrenzen spielen – und warum die Rechtsdurchsetzung in digitalen Räumen an ihre Grenzen kommt.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-074-viktoria-kraetzig

Zu einem Bericht über das Urteil des Landgerichts Berlin über die Nachbildung einer Synchronstimme mittels KI bei heise online: https://www.heise.de/news/Persoenlichkeitsrecht-Synchronstimme-ist-vor-KI-Nachahmung-geschuetzt-10623565.html

Zu einem Bericht über das Hirschhausen-Urteil auf der Webseite des WDR: https://presse.wdr.de/plounge/wdr/unternehmen/2025/03/20250328_hirschhausen_urteil.html

Zu Viktoria Kraetzigs Profil auf der Webseite der Goethe-Universität: https://www.jura.uni-frankfurt.de/122384174/ContentPage_122384174

Spätestens, seit 60 deutschsprachige Hochschulen im Frühjahr 2025 gemeinsam ihren Austritt aus dem Sozialen Netzwerk X verkündeten, ist offiziell: Für wissenschaftliche Einrichtungen fordert der Umgang mit sozialen Medien eine permanente Prüfung und Reflexion der Ziele und des Selbstverständnisses, mit dem Social Media Teil der Kommunikationsstrategien von Hochschulen integriert ist. Die Plattformen bieten schnellen Zugang zu potentiell breiten Öffentlichkeiten und direktem Austausch mit ganz unterschiedlichen Zielgruppen, ermöglichen individuelle Präsentationsformen, erzeugen ein Gefühl von Nahbarkeit und machen die Vielfalt der Themen sichtbar, für die Hochschulen stehen. Freilich wissen wir von viel diskutierten negativen Aspekte Sozialer Medien – von Hatespeech und Shitstorms über Falschdarstellungen und Algorithmen, die Emotionalisierung statt Sachlichkeit belohnen. All das scheint nicht nur besonders schlecht zu den Ansprüchen guter Wissenschaftskommunikation zu passen, es schreckt Wissenschaftler:innen auch ab, ihre Forschung in unseriösen Umgebungen zu präsentieren und sich persönlichen Anfeindungen auszusetzen. Solange Social Media als unverzichtbarer Kommunikationskanal auch für Wissenschaft gilt, bewegt sich Hochschulkommunikation in diesem Spannungsfeld.

Dr. Patrick Honecker ist Chief Communication Officer oder CCO an der Technischen Universität Darmstadt. Im Digitalgespräch schildert der Experte für Wissenschaftskommunikation und Kommunikationsstrategie, welche Bedeutung Social Media für die Öffentlichkeitsarbeit von Hochschulen wie auch die interne Kommunikation hat, und welche wissenschaftsspezifischen Üblichkeiten wie auch Regeln dabei auf die Logiken Sozialer Medien treffen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Honecker, wie sich wissenschaftliche Einrichtungen angesichts problematischer Effekte in und durch Social Media verhalten können – und welche Folgen der Einsatz von KI in der Öffentlichkeitsarbeit auch auf Social Media haben könnte.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-073-patrick-honecker/

Link zur Webseite des Scicomm-Supports, der Wissenschaftler:innen berät, die bei ihrer Wissenschaftskommunikation digitalen Angriffen ausgesetzt sind: https://scicomm-support.de/

Link zur Social Media-Netiquette der Technischen Universität Darmstadt: https://download.hrz.tu-darmstadt.de/media/DezIF/Netiquette-TU-Darmstadt.pdf

Die KI-Verordnung oder der „AI Act“ der EU, tritt seit Beginn 2025 sukzessive in Kraft und reguliert schon heute die Entwicklung und den Einsatz von KI-Systemen, die in Europa zum Einsatz kommen sollen. Mit dem umfangreichen Regelwerk stellt sich der Gesetzgeber einer großen Herausforderung: Die Wirkung von KI-Technologien, die über Staatsgrenzen hinweg massive Transformationen provozieren, soll in demokratischen Prozessen soweit beherrscht werden, dass große Risiken identifiziert und vermieden werden können. Dabei wird mitgedacht, dass sich der Gegenstand KI fortlaufen entwickelt und nicht losgelöst von seinem Anwendungskontext betrachtet oder bewertet werden kann. In der Praxis heißt das auch, dass sich sowohl Entwickler als auch Anwender von KI-Systemen auf neue Pflichten einstellen und verstehen lernen müssen, KI-Systeme nicht nur sinnvoll einzusetzen, sondern sie hinsichtlich ihrer Risiken im konkreten Einzelfall zu bewerten. Auch fordert der AI-Act explizit, bei Nutzerinnen und Nutzern spezifische KI-Kompetenz zu entwickeln. Dass neue Regulierung immer auch neuen Aufwand bedeutet, den Unternehmen, Behörden und Zivilgesellschaft nun betreiben müssen, ist klar. Dazu, dass das in der Breite gelingt, kann auch die Wissenschaft einen Beitrag leisten.

Domenik Wendt ist Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt University of Applied Sciences und ausgewiesener Experte für das Recht der KI und den AI Act im Besonderen. Im Digitalgespräch erklärt er, was wesentliche Kernelemente des AI Acts sind und welche schon heute gelten. Er beschreibt, wie sich Unternehmen und Behörden aufstellen, um die Forderungen der EU umzusetzen, und welche Unterstützung es gibt, die KI-Verordnung zu verstehen und im eigenen Kontext zu befolgen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Wendt, wie Regulation und Kompetenzaufbau ineinandergreifen, wie es möglich ist, dass der AI Act zwar gewisse Anwendungen ganz verbietet und andere streng reguliert, aber dennoch mehr Raum für Innovation und Entwicklung zulässt, als manche vielleicht befürchten – und ob der AI Act in der Lage ist, auch angesichts tiefgreifender gesellschaftlicher Wirkungen von KI-Systemen Risiken zu reduzieren und Schaden abzuwenden.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-072-domenik-wendt

Link zum Digitalgespräch Folge 48 "Der AI Act der EU: Wie er zustande kam und wie er KI reguliert" mit Domenik Wendt : https://zevedi.de/digitalgespraech-048-domenik-wendt/

Link zum KI-Service Desk der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki.html

Link zum Hinweispapier „KI-Kompetenzen nach Artikel 4 KI-Verordnung“ der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/_functions/Hinweispapier.pdf?__blob=publicationFile&v=2

Link zum Paper „KI-Kompetenzanforderungen nach Art. 4 AI Act. – Juristische Analyse und praxisorientierte Maßnahmen“ unter Beteiligung der Frankfurt University of Applied Sciences: https://zenodo.org/records/17407983

Mit dem AI Act versucht der europäische Gesetzgeber einen schwierigen Balance-Akt: Einerseits ist effektive Regulierung hochriskanter, in der Entwicklung befindlicher Technologien nötig, die bereits heute gravierende gesellschaftliche Effekte zeitigen. Andererseits soll Europa an den Chancen ebendieser technologischen Entwicklung teilhaben, also nicht einfach bremsen, sondern gestalten. Ein Instrument dieser regulativen Innovationsförderung sollen KI-Reallabore oder „Sandboxes“ sein: Sie sind als besondere Testumgebungen für KI-Produkte kurz vor der Marktreife konzipiert, als behördliche Anlaufstelle und Unterstützung für Unternehmen und Startups – und auch als Lernfelder für die beaufsichtigenden Behörden, die ihre Verwaltungsprozesse an den unscharfen Gegenstand „KI“ anpassen müssen. Gelernt werden soll im und durch das Reallabor also einerseits, wie man KI-Anwendungen so designen kann, dass die Sicherheitsanforderungen des AI Act erfüllt werden, aber auch, wie man entsprechende Prüfkriterien klug in Verwaltungsprozessen abbilden sollte. Keine leichte Aufgabe für die EU-Mitgliedsstaaten, denen nicht viel Zeit bleibt, erste „AI Sandboxes“ zu realisieren: Am 2. August 2026 müssen diese neuartigen Behördentypen zumindest formal existieren und ins Arbeiten gekommen sein.

Johannes Buchheim ist Professor für Öffentliches Recht und das Recht der Digitalisierung an der Philipps-Universität Marburg. Im Digitalgespräch erklärt der Experte für Verwaltungsrecht und Fragen der Rechtsordnung in der digitalen Gesellschaft, welche Funktion die KI-Reallabore bei der Umsetzung des AI Act einnehmen und welche Maßnahmen die EU dafür von ihren Mitgliedern fordert. Er beschreibt, welche Formen von KI-Reallaboren für unterschiedliche konkrete Technologien denkbar wären, wer sich mit der Entwicklung dieser öffentlichen Einrichtungen befasst, und was sich politische Entscheidungsträger davon erhoffen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Buchheim, welche Vorstellungen, Erwartungen und Befürchtungen bei den beteiligten Akteuren mitschwingen könnten, wie die Rahmenbedingungen für KI-Reallabore zu den Anforderungen von Wirtschaftsunternehmen im Wettbewerb passen, ob und wenn ja unter welchen Voraussetzungen die Teilnahme an Reallaboren für KI-Entwickler attraktiv ist – und wie mit Transparenz und Informationspflichten eine kritische Öffentlichkeit hergestellt werden muss, um diese Form staatlich finanzierter Ertüchtigung potentiell hochriskanter Technologien demokratisch zu legitimieren.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-071-johannes-buchheim

Link zu Informationen zu KI-Reallaboren auf der Webseite der Bundesnetzagentur: https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/5_Innovationen/start.html

Das eBike ist wesentliches Element der Verkehrswende und vor allem für viele Pendler:innen eine echte Alternative zum Auto. Freilich sind E-Bikes deutlich teurer in der Anschaffung als ein klassisches Fahrrad. Kein Wunder also, dass die erste digitale Anwendung für das E-Bike dem Diebstahlschutz diente. Aber mit Bewegungs- und Sensordaten lässt sich rund ums Fahrrad – auch das ohne Motor – noch viel mehr machen. Vermessen lassen sich im Prinzip alle möglichen Parameter, sowohl des Fahrzeugs als auch des radelnden Menschen, und in einer zunehmend digitalen Umgebung kann man das Bike auch als vernetztes Gerät im Internet of Things denken. Automatisierung im Straßenverkehr ist dabei ein wichtiges Stichwort. Und: Jenseits ihres Nutzens für individuellen Komfort bei hinreichender persönlicher Begeisterung für digitale Tools und Gadgets, sind aussagekräftige Daten aus dem Radverkehr auch von hohem Wert für die Verkehrsplanung einerseits – und die Entwicklung innovativer Geschäftsmodelle andererseits.

Rainer de Mey ist Chief Digital Officer beim eBike-Hersteller Riese & Müller, einem Unternehmen mit Erfahrung in der Digitalisierung für das Radfahren. Im Digitalgespräch beschreibt der Experte, welche digitalen Anwendungen heute für das Rad zur Verfügung stehen, wie sich die Bedürfnisse der sehr verschiedenen Gruppen von Radler:innen entwickeln, welche Daten fürs digitalisierte Radfahren erhoben werden und wie sie von wem genutzt werden können. De Mey erklärt, welche Grenzen kleinen und mittleren Unternehmen in Sachen digitaler Entwicklung gesetzt sind, und welche Bedarfe bei Kund:innen in Zukunft zu erwarten sein könnten. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert de Mey auch, wo Digitalisierung am Fahrrad sinnvoll ist und wo eher Spielerei, was nötig sein wird, um Fahrraddaten für Stadtplanung und Verkehrssicherheit zu nutzen – und ob dabei der gänzlich undigitale Drahtesel bald auf der Strecke bleibt.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-070-rainer-de-mey

Link zur Webseite des LOEWE Schwerpunkts _DyNaMo_ der Universität Kassel: https://www.uni-kassel.de/forschung/dynamo.html

Link zur Webseite des Datenportals „Radverkehr in Deutschland“, über das eine Ausgründung der Technischen Universität Dresden Verkehrsdaten aus den STADTRADELN-Kampagnen bereitstellt: https://www.radverkehr-in-deutschland.de/