Digitale Anomalien

Im Jahr 2011 zieht die Familie Arnold in ein Farmhaus bei Potwin in Kansas. Doch von Anfang an erhält sie immer wieder Besuch von Polizisten, FBI-Agenten und wütenden Fremden. Die Leute waren auf der Suche nach gestohlenen Fahrzeugen, vermissten Kindern und Internetbetrügern.

Die Familie hat damit nichts zu tun und kann sich das alles nicht erklären. Fünf Jahre lang dauert es an, bis die Journalistin Kashmir Hill im Jahr 2016 schließlich die Ursache findet: Die Datenbank des Geolokalisierungsanbieters MaxMind hatte Millionen IP-Adressen genau diesem Vorgarten zugeordnet, und zwar den Koordinaten 38.0000, -97.0000.

In dieser Folge schauen wir uns an, was es mit IP-Geolokalisierung auf sich hat, warum eine IP-Adresse gar keinen konkreten Ort kennt und wie aus einer groben Schätzung eine Hausadresse entstehen konnte. Die Geschichte ist auch ein gutes Beispiel für gutes bzw. schlechtes Design von Schnittstellen und den damit verbundenen Erwartungshaltungen.

Sprecher & Produktion: Wolfgang Schoch
Musik: BACKPLATE von https://josephmcdade.com

In Broward County versuchte eine 18-Jährige, ein Kinderfahrrad und einen Roller zu stehlen. Ein 41-Jähriger, der bereits wegen bewaffneten Raubs im Gefängnis saß, stiehlt Werkzeug im Wert von ähnlich viel Geld. Für beide wird durch die Software COMPAS ein Score berechnet, der das individuelle Rückfallrisiko angeben soll. Die junge Frau erhält eine 8, der Mann eine 3.

Zwei Jahre später wurde die junge Frau nicht erneut angeklagt, der Mann saß wegen eines Einbruchs acht Jahre im Gefängnis.

In einer großen Recherche von ProPublica wird COMPAS im Jahr 2016 vorgeworfen, rassistische Vorurteile zu reproduzieren und nicht alle Menschen gleich fair zu behandeln. In dieser Folge schauen wir uns das System und die Vorwürfe genauer an. Dabei stellt sich die Frage, was Fairness überhaupt ist und wie fair ein Algorithmus sein kann, dessen Rechenweg ein Geschäftsgeheimnis ist.

---
Sprecher & Produktion: Wolfgang Schoch
Musik: BACKPLATE von https://josephmcdade.com

Im Frühjahr 2015 entdeckte Boeing im Labor einen Fehler in der Boeing 787: Nach 248 Tagen Dauerbetrieb lief in den Steuergeräten der Generatoren ein Zähler über und die gesamte Wechselstromversorgung fiel aus. Die US-Luftfahrtbehörde FAA reagierte darauf mit einer verbindlichen Vorschrift. Demnach muss der Dreamliner spätestens alle 120 Tage komplett stromlos geschaltet werden. Zwei Jahre später traf es den Airbus A350, diesmal lag die Grenze bei 149 Stunden. Das mag kurios klingen, ist aber sicher.

Diese Folge erklärt, warum Software überhaupt Neustarts benötigt: Es werden Zählerüberläufe wie der berühmte 49,7-Tage-Bug von Windows 95, Speicherlecks und aus dem Ruder laufende Caches thematisiert. Vom Bluescreen bei Bill Gates' Windows-98-Präsentation auf der COMDEX 1998 über Rolling Restarts im Serverbetrieb bis hin zur Frage, wie die Luftfahrt mit bekannten Fehlern umgeht, wird alles thematisiert. Dabei spielen Lufttüchtigkeitsanweisungen, feste Fristen und eine Checkliste eine Rolle, die 1935 nach dem Absturz des Boeing Model 299 zum Standard wurde. Und es wird erläutert, warum ein Update am Flugzeug nicht mit einem Klick auf “Jetzt installieren” vergleichbar ist.

---
Sprecher & Produktion: Wolfgang Schoch
Musik: BACKPLATE von https://josephmcdade.com

Am 31. Mai 2020 wird um 23:46 Uhr an einer Straßenkreuzung in Chicago ein Schuss abgefeuert. Ein akustisches Überwachungssystem namens "ShotSpotter" stuft den Knall zunächst mit einer Sicherheit von 98 Prozent als Feuerwerk ein. 44 Sekunden später stuft ein bis heute anonymer Mitarbeiter das Ereignis als Schuss ein. Ein Mann namens Michael Williams saß daraufhin elf Monate wegen Mordes in Untersuchungshaft, bis die Staatsanwaltschaft ihre eigenen Beweise zurückzog. Im März 2026 zahlt ihm die Stadt Chicago 500.000 Dollar Schadensersatz.

In dieser Folge wird erklärt, wie ShotSpotter Schüsse per Multilateration auf wenige Meter genau orten soll. Zudem wird erläutert, warum am Ende der Algorithmus, der Mitarbeiter und die Staatsanwaltschaft drei verschiedene Geschichten über denselben Alarm erzählen und weshalb die vielzitierte Manipulationsschlagzeile von damals so nicht stimmt. Es geht um Fehlalarme, Automation Bias und die Frage, was ein akustisches Beweismittel vor Gericht wirklich wert ist.

Sprecher & Produktion: Wolfgang Schoch
Musik: BACKPLATE von https://josephmcdade.com

Im April 2011 wurde auf Amazon ein Buch über Fruchtfliegen für 23.698.655,93 Dollar zum Verkauf angeboten. Zusätzlich fielen 3,99 Dollar Versandkosten an. Dahinter steckte weder ein Scherz noch ein Tippfehler, sondern zwei Repricing-Algorithmen, die sich gegenseitig Tag für Tag nach oben schaukelten. Der Biologe Michael Eisen hat diese Preisspirale rekonstruiert und seine Ergebnisse in seinem Blog veröffentlicht.

Die automatische Bepreisung von Artikeln ist auf Marktplätzen wie Amazon zunehmend der Standard. Diese Folge erklärt, wie diese Technik funktioniert und warum unabhängige Algorithmen auch ohne Absprachen das gleiche Ergebnis wie ein Kartell erzeugen können. Neben dem Beispiel mit dem Fliegenbuch werden preisbildende Algorithmen auch in anderen Bereichen eingesetzt. Ein Beispiel ist die Festlegung von Mietpreisen, was aktuell in einer Klage gegen den Anbieter RealPage gemündet hat. Dessen Software hat die Mietpreise in einigen US-Städten maßgeblich mitbestimmt.
---
Sprecher & Produktion: Wolfgang Schoch
Musik: BACKPLATE von https://josephmcdade.com