KI - kurz und informativ, Klartext "to Go" in unter 5 Minuten

Felix Anderegg, Head of Technology and Innovation bei HR Campus AG, spricht mit mir über Künstliche Intelligenz im Human Resources und wie sie KI in ihrer Softwareentwicklung für HR-Prozessdigitalisierung einsetzen.
Als spannendes Beispiel schauen wir uns ein KI-unterstütztes Travel Expense Tool an, das Belege per OCR (Object Character Recognition) einliest, automatisiert kategorisiert und zuordnet usw.
Ganz zentral in unserem Gespräch ist die Frage, welche Rolle der Mensch in Zukunft wieder einnehmen wird.
Ausserdem sprechen wir über diese Themen:
automatisiertes Recruiting, CV-Checks und Co.,
wie KI-Transformation bei HR Campus abläuft,
wie KI-gestützte Softwareentwicklung im HR-Bereich abläuft.

Schau gerne auch auf der neuen Website zum Podcast vorbei:
⁠⁠⁠⁠https://podcast.pyucation.de⁠⁠⁠
Dort findest du eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet.

Der häufigste Fehler bei der Kalkulation von KI-Projekten ist in Kosten pro Monat zu rechnen statt in Kosten pro Vorgang.
Ein Pilotbetrieb mit zwanzig Nutzern sagt euch nichts darüber, was das System kostet, wenn es tatsächlich im Einsatz ist. Bei KI steigen die laufenden Kosten nämlich mit der Nutzung.
In dieser Folge von „KI kurz und informativ" gehe ich die klassische TCO-Formel durch und zeige am Beispiel eines Schwimmbads, welche Posten sich bei KI-Systemen anders verhalten als bei jeder anderen Software.
Meine These ist: Die Kostenarten sind nicht neu, aber ihr bestimmt nicht mehr, wann sie anfallen.
Bspw. kennt ihr den Preis eines Vorgangs erst, nachdem er passiert ist. Ein Modell verschlechtert sich lautlos, ohne Fehlermeldung. Und den Termin für die nächste Migration setzt oft euer Anbieter (wie zuletzt bei der Abschaltung der OpenAI Assistants API).

Themen dieser Folge:
TCO-Formel und was sie bei KI-Systemen nicht abbildet
Kosten pro Vorgang statt Kosten pro Monat
Model Drift und Data Drift

Schau gerne auch auf der neuen Website zum Podcast vorbei:
⁠⁠⁠https://podcast.pyucation.de⁠⁠
Dort findest du eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet.

Link zum Google Paper:
D. Sculley et al., „Hidden Technical Debt in Machine Learning Systems"
https://proceedings.neurips.cc/paper/2015/file/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf

Mixture of Experts (MoE) steckt inzwischen hinter fast jedem grossen Sprachmodell, weil diese Architektur Rechenkosten spart. Es erklärt ausserdem, warum bei modernen Modellen plötzlich zwei Parameterzahlen angegeben werden.
DeepSeek-V3 zum Beispiel hat 671 Milliarden Parameter, nutzt pro Token aber nur 37 Milliarden davon.

Wie diese Architektur funktioniert, was ein Router in einem Sprachmodell macht und wie die sogenannten Experten im Training entstehen, erkläre ich in dieser Folge.

Wir schauen uns auch, wie immer, Probleme dieser Architektur an, z.B. warum Modelle dadurch schneller, aber nicht kleiner werden.

Themen dieser Folge:
Router und Experten: Wie MoE die Rechenlast aufteilt
Gesamtparameter vs. aktive Parameter
Probleme wie Load Balancing

Schau gerne auch auf der neuen Website zum Podcast vorbei:
⁠⁠https://podcast.pyucation.de⁠
Dort findest du eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet.

Wie lernt ein Machine-Learning-Modell eigentlich? Hinter dem „Lernen" steckt keine Magie, sondern mathematische Optimierung. Und die funktioniert nach einem Prinzip, das ihr aus dem Alltag kennt.
Ich erkläre anhand anschaulicher Beispiele, was eine Kostenfunktion ist, was Parameter eines Modells sind und wie beides zusammen dafür sorgt, dass ein Modell besser wird.
Die Folge über Optimierungsalgorithmen wie Gradient Descent wird auf diese Folge aufbauen.

Themen dieser Folge:
• Was mathematische Optimierung ist und warum sie die Grundlage jedes ML-Modells bildet
• Kostenfunktion und Parameter
• Lineare Regression: Optimierung mit nur zwei Parametern
• Warum es Optimierungsalgorithmen wie Gradient Descent braucht

Schau gerne auch auf der neuen Website zum Podcast vorbei:
⁠https://podcast.pyucation.de
Dort findest du eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet.

Folge zu Neuronalen Netzen und wie sie lernen:
https://open.spotify.com/episode/1vu4mSvU9YpJs0mZdTwTbC?si=mKhjhhkySjO13raaPw8RiA

Heute gibt es wieder ein Quiz zu den letzten 15 Folgen. Dabei schauen wir uns diese Themen an:
​Fine Tuning (im Vergleich zu RAG)
​Reasoning-Modelle
​Der AI Five Layer Cake
​KI-Regulatorik und der EU AI Act
​Kennzeichnungspflicht und Synth ID
​Quantisierung und Speicherbedarf von LLMs

Bist du inzwischen ein Experte? Schreib gerne in die Kommentare, wie viele Fragen du richtig beantworten konntest!

Schau gerne auch auf der neuen Website zum Podcast vorbei:
https://podcast.pyucation.de

Dort findest du eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet.