Knowledge Science - Alles über KI, ML und NLP

Send us Fan Mail
Wir sprechen über die Rückkehr von Knowledge Science, das neue Format mit Grundlagen- und Gästefolgen sowie die Arbeit des Forschungsinstituts COAI zu menschlicher Handlungsfähigkeit, Threat Modeling und Evaluation. Dabei diskutieren wir, wie KI die Lern- und Denkprozesse beeinflussen kann und welche Sicherheitsmaßnahmen für KI-Agenten wichtig sind. Zum Abschluss geht es um die Grenzen heutiger Evaluationen und darum, wie Tests Risiken von Modellen, Agententeams und ihren Einsatzumgebungen erfassen können, ohne Menschen zu gefährden.
0:06 Neustart für Knowledge Science
4:21 Neues Podcast-Konzept mit Gästen
8:48 Co.AI: Menschliche Handlungsfähigkeit bewahren
14:51 KI nutzen, ohne Kompetenzen abzugeben
16:35 Kontrollverlust und Risiken autonomer Agenten
18:27 KI als Spiegel der Gesellschaft
21:34 Wie Agenten Sicherheitslücken ausnutzen
26:28 Risiken eindämmen durch sichere Umgebungen
28:19 Unabhängige Prüfungen und KI-Sicherheit
31:33 Forschung zu Evaluation und Agententeams
34:13 Sicherheitstests ohne reale Versuchspersonen
35:09 Der menschliche Faktor in der KI-Sicherheit
Knowledge Science, COAI, menschliche Handlungsfähigkeit, Threat Modeling, Evaluation, KI-Agenten, Lernprozesse, Denkprozesse, Sicherheitsmaßnahmen, Risikobewertung

Support the show

Send us Fan Mail
Kann man einem Sprachmodell beim Denken zusehen? In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon über ein faszinierendes Anthropic-Paper, das einen „Global Workspace" in großen Sprachmodellen nachweist – einen internen Arbeitsbereich, in dem komplexe Denkschritte ablaufen, lange bevor ein Wort ausgegeben wird. Mit der sogenannten J-Lens lassen sich diese latenten Gedanken sichtbar machen, manipulieren und sogar kausal verändern: Wer „Spinne" im Gedankenraum gegen „Elefant" tauscht, bekommt statt acht Beinen plötzlich vier. Außerdem: ein Blick auf die turbulente Modelllandschaft rund um Claude Fable, GPT 5.6 Sol & Co. – und warum agentische Systeme ohne mehrstufige Sicherheitsmechanismen zum Risiko werden.
Support the show

Send us Fan Mail
Rückblick auf zwei intensive Wochen: Zuerst auf die erste AI Transparency Conference mit über 100 Teilnehmenden aus aller Welt – von mechanistischer Interpretierbarkeit über Multi-Agenten-Reinforcement-Learning bis zur Frage, warum Sprachmodelle alles andere als neutral urteilen. Und dann der Paukenschlag: Anthropics Fable 5 wird per nationaler Sicherheitsanordnung binnen Stunden für alle Nicht-US-Bürger abgeschaltet. Sigurd Schacht und Carsten Lanquillon sprechen über Steering-Vektoren, Fusion-Architekturen und die unbequeme Frage, wie souverän Europa eigentlich ist, wenn der Zugang zu kritischer KI-Infrastruktur jederzeit entzogen werden 
Support the show

Send us Fan Mail
Was passiert eigentlich, nachdem wir alles automatisiert haben? Sigurd Schacht und Carsten Lanquillon nehmen sich den  Blogbeitrag von Dan Shipper (Every) vor und diskutieren seine steile These: Die Zukunft menschlicher Arbeit sieht rosiger aus als gedacht – wir brauchen sogar mehr Menschen. Von einem Startup, das in zwei Jahren von 2 auf 30 Mitarbeitende wuchs, über den Unterschied zwischen „Embedded AIs" und echter Mensch-KI-Kollaboration bis zur „Human-Sandwich-Pipeline": Warum bleibt der Mensch unverzichtbar, wenn der Rahmen sich ändert? Und was bedeutet „AI-Slop" wirklich – schlechte Ergebnisse oder einfach zu viel Gleichförmigkeit? Eine Folge über Framing, lebenslanges Lernen und das unterschätzte „Never-Skilling"-Problem.
Support the show

Send us Fan Mail
In dieser Folge widmen sich Sigurd Schacht und Carsten Lanquillon einem brandaktuellen Paper aus dem Mai 2026: den Natural Language Autoencoders. Während klassische Sparse Autoencoder Aktivierungen über Umwege in Konzepte übersetzen, gehen diese neuen Modelle einen radikal anderen Weg – sie verbalisieren Aktivierungen direkt in natürlicher Sprache. Die beiden diskutieren, wie Activation Verbalizer und Activation Reconstructor zusammenspielen, warum ein „Warmstart" beim Training nötig ist, welche Stärken die Methode für Interpretability bietet – und wo ihre fundamentalen Grenzen liegen. Eine Folge für alle, die verstehen wollen, wie wir KI-Modellen in den Kopf schauen können (und warum das schwieriger ist, als es klingt).
Support the show