Autonomie & Algorithmen

Beim Stichwort "Entwicklungszusammenarbeit" haben viele von uns Bilder im Kopf, wie im Globalen Süden Schulen oder Brunnen gebaut werden. Doch moderne Entwicklungszusammenarbeit setzt zunehmend auf digitale Tools und Künstliche Intelligenz. So kann KI zum Beispiel dabei helfen, kleinbäuerliche Landwirtschaft zu unterstützen oder digitale Technologien für bislang unterrepräsentierte Sprachen verfügbar zu machen. Aber wie kann der Einsatz von KI gelingen, ohne bestehende Ungleichheiten zu verstärken?

In dieser Folge sprechen wir über zwei Projekte der vom Bundesministerium für wirtschaftliche Zusammenarbeit und Entwicklung geförderten Initiative FAIR Forward: Zum einen geht es um den Aufbau hochwertiger Sprachdatensätze für sogenannte Low-Resource-Sprachen und die Frage, wie diese fair lizenziert werden können. Denn nur so können die Gemeinschaften, die die Daten bereitstellen, auch davon profitieren. Zum anderen schauen wir auf eine KI-Anwendung für die Landwirtschaft in Indien, die Kleinbäuer:innen dabei unterstützt, Schädlingsbefall frühzeitig zu erkennen und den Einsatz von Pestiziden zu reduzieren. Außerdem diskutieren wir, warum Entwicklungszusammenarbeit ohne lokale Partner:innen nicht funktionieren kann, welche Rolle Open Source spielt und weshalb hochwertige Daten oft wichtiger sind als möglichst große Datensätze.

+++

Kathleen Ziemann und Philipp Olbrich arbeiten bei der Gesellschaft für Internationale Zusammenarbeit (GIZ). Kathleen ist Co-Lead von FAIR Forward, Philipp ist dort Berater mit dem Schwerpunkt Künstliche Intelligenz.

+++

Linkliste
BMZ (2025). Laut und deutlich: Open Source für Indiens Sprachenvielfalt.
Deutsche Gesellschaft für Internationale Zusammenarbeit (2023). Creating community-driven
datasets: Insights from Mozilla Common Voice activities in East Africa.
Dalmia et al. (2020). Pest Management In Cotton Farms: An AI-System Case Study from the Global South. KDD '20: Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining.
FAIR Forward auf GitHub: Catalog of Open Source AI Datasets, Models & AI Systems.
Mozilla Common Voice
NOODL-Lizenz: Licensing African Datasets.
Lokaler Partner: Prof. Prasanta Kumar Ghosh am Indian Institute of Science
Lokaler Partner: Wadhwani AI
+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!
Unsere E-Mail-Adresse: autonomie-algorithmen@lists.techfak.uni-bielefeld.de
Unser Bluesky-Profil: https://bsky.app/profile/auto-algo.bsky.social
Unser Kontaktformular: https://autonomie-algorithmen.letscast.fm/feedback
+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.
Redaktionelle Unterstützung: Ingrid Rogalski.
Postproduktion: Ingrid Rogalski und Lena Ackermann.
Musik: Almut Schwacke.
Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.

Aufzählungen mit drei Elementen, "delve into", "nicht nur... sondern auch": Manche Texte klingen verdächtig so, als wären sie von einem großen Sprachmodell geschrieben worden. Aber wie kann man nachweisen, dass ein Text tatsächlich aus der Feder von ChatGPT und Co. stammt? KI-Detektoren versprechen, KI-generierte Texte zu erkennen. Doch wie funktionieren sie eigentlich? Und wie zuverlässig sind sie wirklich?

In dieser kompakten Folge sprechen wir darüber, wie Detektoren KI-generierte Texte erkennen sollen, warum sie dabei auch von Menschen geschriebene Texte fälschlicherweise verdächtigen und weshalb schon kleine Änderungen an einem Text die Zuverlässigkeit eines Detektors stark beeinflussen können. Außerdem beleuchten wir, was das für Bereiche wie Schule und Universität bedeutet, in denen die Eigenleistung von Menschen bewertet werden soll.

+++

Lukas Gehring promoviert in der Arbeitsgruppe Wissensrepräsentation und Maschinelles Lernen an der Universität Bielefeld und ist Mitglied der KI-Akademie OWL. Dort forscht er zu KI-geschriebenen Texten im Bildungsbereich.

+++

Linkliste
Demo "Wer hat das geschrieben?" auf der Website der KI-Akademie OWL
Demo "Detektor austricksen" auf der Website der KI-Akademie OWL
Gehring (2025). KI-Text Detektoren im (Hochschul-)Bildungsbereich. Wie gut sind sie wirklich?. Vortrag im Rahmen der BI.teach.talks.
Gehring & Paaßen (2025). Assessing LLM Text Detection in Educational Contexts: Does Human Contribution Affect Detection?. arXiv.
Gostmann & Hildermeier (2026). KI prüft KI – und scheitert? Über Bias-Effekte und Verzerrungen in KI‑Detektoren. Beitrag im Blog des Hochschulforum Digitalisierung.
+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!
Unsere E-Mail-Adresse: autonomie-algorithmen@lists.techfak.uni-bielefeld.de
Unser Bluesky-Profil: https://bsky.app/profile/auto-algo.bsky.social
Unser Kontaktformular: https://autonomie-algorithmen.letscast.fm/feedback
+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.
Redaktionelle Unterstützung: Ingrid Rogalski.
Postproduktion: Ingrid Rogalski und Lena Ackermann.
Musik: Almut Schwacke.
Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.

Im Zusammenhang mit sozialen Medien wird immer wieder die Frage diskutiert, inwiefern Plattformen und Algorithmen uns in "Filterblasen", "Echokammern" oder "Rabbit Holes" einsperren. Doch wie stark beeinflussen die Empfehlungsalgorithmen der großen Plattformen tatsächlich, welche Inhalte wir auf YouTube, TikTok oder X sehen?

In dieser Live-Folge, aufgenommen vor Publikum in der Wissenswerkstadt Bielefeld im Rahmen der GENIALE, sprechen wir darüber, wie Empfehlungsalgorithmen funktionieren, was die Forschung über Filterblasen und Echokammern weiß und warum sich viele verbreitete Annahmen empirisch nur teilweise bestätigen lassen. Außerdem geht es um den Einfluss sozialer Medien auf politische Meinungsbildung – und darum, dass Wahlen nicht allein auf TikTok entschieden werden. Unsere Gesprächspartnerin Merja Mahrt plädiert viel mehr für ein differenziertes Bild, das auch das individuelle Mediennutzungsverhalten und die Lebensumstände der Nutzenden einbezieht.

+++

Merja Mahrt ist Privatdozentin an der Freien Universität Berlin und forscht am Weizenbaum-Institut zu digitaler Kommunikation, Mediennutzung und den gesellschaftlichen Auswirkungen digitaler Plattformen. In ihrer Forschung beschäftigt sie sich unter anderem mit Filterblasen, Echokammern und digitaler Fragmentierung.

+++

Linkliste
Autonomie & Algorithmen (2026). Hate Speech im Internet: KI und Content Moderation.
Chen et al. (2023). Subscriptions and external links help drive resentful users to alternative and extremist YouTube channels. Science Advances.
Hickey et al. (2024). X under Musk’s leadership: Substantial hate and no reduction in inauthentic activity. PLoS ONE.
Mahrt (2025). Digitale Demokratie. Lenken soziale Medien die Meinungsbildung?. Weizenbaum-Institut.
Mahrt (2025). Meinungsbildung und soziale Medien. Weizenbaum-Institut / Berliner Landeszentrale für politische Bildung.
Mahrt (2019). Beyond Filter Bubbles and Echo Chambers: The Integrative Potential of the Internet. Digital
Communication Research, 5.
Pariser (2014). Filter Bubble. Wie wir im Internet entmündigt werden. Hanser.
Pariser (2011). Beware online "filter bubbles". TED Talk.
Robertson et al. (2023). Negativity drives online news consumption. Nature Human Behaviour.
Ross Arguedas et al. (2022). Echo chambers, filter bubbles, and polarisation: a literature review. Reuters Institute for the Study of Journalism.
Sunstein (2001). Republic.com. Princeton University Press.
Sunstein (2017). #Republic. Princeton University Press.
+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!
Unsere E-Mail-Adresse: autonomie-algorithmen@lists.techfak.uni-bielefeld.de
Unser Bluesky-Profil: https://bsky.app/profile/auto-algo.bsky.social
Unser Kontaktformular: https://autonomie-algorithmen.letscast.fm/feedback
+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.
Redaktionelle Unterstützung: Ingrid Rogalski.
Postproduktion: Ingrid Rogalski und Lena Ackermann.
Musik: Almut Schwacke.
Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.

Hassrede im Internet ist für viele Menschen Teil des digitalen Alltags geworden. Sie begegnet uns in Kommentarspalten sozialer Medien – mal ganz offen, mal versteckt hinter Emojis, Zahlenkombinationen und sogenannten Dog Whistles. Doch was genau ist Hate Speech? Warum ist ihre Erkennung so schwierig? Und welche Rolle kann Künstliche Intelligenz dabei spielen, Online-Communitys zu schützen?

In dieser Folge sprechen wir darüber, wie Community-Manager:innen mit Hassrede umgehen, warum Kontext bei der Bewertung von Sprache entscheidend ist und weshalb automatisierte Moderation trotz großer Fortschritte noch an ihre Grenzen stößt. Zudem geht es um die Dynamiken sozialer Plattformen, die Verbreitung von Hass durch Algorithmen und die Frage, wie KI-Systeme Menschen bei der Content Moderation sinnvoll unterstützen können, ohne dabei wichtige Stimmen zu unterdrücken.

+++

Daniel Brockmeier betreut als Community- und Social-Media-Manager diverse Online-Communitys. Die Moderation von Hate Speech und Shitstorms gehört zu seiner täglichen Arbeit. In seinem Philosophie-Podcast "Privatsprache" beschäftigt Daniel sich ebenfalls mit KI-Themen.

Sina Zarrieß erforscht als Professorin für Computerlinguistik an der Universität Bielefeld Methoden des maschinellen Lernens zur Analyse von Sprache. Sie ist Principal Investigator im Projekt "Sail", in dem es um nachhaltige intelligente soziotechnische Systeme geht, sowie im SFB 1646 "Sprachliche Kreativität in der Kommunikation".

+++

Linkliste
Alacam, Hoeken & Zarrieß (2024). Eyes Don’t Lie: Subjective Hate Annotation and Detection with Gaze. Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing.
Hoeken, Zarrieß & Alacam (2023). Identifying Slurs and Lexical Hate Speech via Light-Weight Dimension Projection in Embedding Space. Proceedings of the 13th Workshop on Computational Approaches to Subjectivity, Sentiment, & Social Media Analysis.
Worteinbettung (Wikipedia)
+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!
Unsere E-Mail-Adresse: autonomie-algorithmen@lists.techfak.uni-bielefeld.de
Unser Bluesky-Profil: https://bsky.app/profile/auto-algo.bsky.social
Unser Kontaktformular: https://autonomie-algorithmen.letscast.fm/feedback
+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.
Redaktionelle Unterstützung: Ingrid Rogalski.
Postproduktion: Ingrid Rogalski und Lena Ackermann.
Musik: Almut Schwacke.
Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.

Diese Folge ist Teil des Adventskalenders #WissPodWeihnacht von wissenschaftspodcasts.de.

Weihnachtsgeschenke können wir mit einem Klick online bestellen – aber damit das Geschenk den Weg unter den Tannenbaum findet, braucht es komplexe Logistikprozesse. Methoden der künstlichen Intelligenz können dabei helfen, Auftragsmengen vorherzusagen, Routen zu optimieren und Abläufe zu automatisieren. Gleichzeitig stellen sich die Fragen, wo klassische mathematische Modelle sinnvoller sind und wie sich die Arbeit der Menschen in der Logistik durch KI verändert. Genau darüber sprechen wir heute mit Alexander Krooß!

+++

Alexander Krooß ist wissenschaftlicher Mitarbeiter in der Abteilung Intralogistik- und IT-Planung des Fraunhofer-Instituts für Materialfluss und Logistik (IML) in Dortmund, wo er zu Einsatzmöglichkeiten der künstlichen Intelligenz in der Intralogistik forscht sowie im Rahmen von Industrieprojekten berät.

+++

Linkliste
Murrenhoff, Friedrich & Witthaut (2021). Künstliche Intelligenz in der Logistik.
+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!
Unsere E-Mail-Adresse: autonomie-algorithmen@lists.techfak.uni-bielefeld.de
Unser Bluesky-Profil: https://bsky.app/profile/auto-algo.bsky.social
Unser Kontaktformular: https://autonomie-algorithmen.letscast.fm/feedback
+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.
Redaktionelle Unterstützung: Ingrid Rogalski.
Postproduktion: Ingrid Rogalski und Lena Ackermann.
Musik: Almut Schwacke.
Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.