Klartext KI

In dieser Folge von Klartext KI sprechen Matúš, Alwine und Jan über den aktuellen Wettlauf der KI-Modelle und die Frage, ob Open-Source- und Open-Weight-Modelle den geschlossenen Systemen von OpenAI, Anthropic und Google den Rang ablaufen können.

Im Mittelpunkt stehen die neuen Modellfamilien und die Verschiebung des Wettbewerbs: Statt ausschließlich um maximale Intelligenz geht es inzwischen verstärkt um Kosten, Zuverlässigkeit, geringere Halluzinationsraten und agentisches Arbeiten. Die drei diskutieren, wie orchestrierende Agenten eigene Spezialisten koordinieren und dadurch komplexe Aufgaben parallel bearbeiten können.

Außerdem geht es um neue Frontier-Modelle von OpenAI und Anthropic, den ARC-AGI-Benchmark und die Frage, wie gut KI mit völlig neuen Aufgaben und unerwarteten Ergebnissen umgehen kann.

Mit Kimi K3 rücken offene Modelle aus China in den Fokus. Jan erklärt, wie Mixture of Experts und Kimi Delta Attention das Modell effizienter machen und warum Open Weight gleichzeitig Chancen für digitale Souveränität, günstigere KI und bessere Cybersecurity bietet.

Abschließend diskutieren die drei über Kill Switches, den EU AI Act und die neue Kennzeichnungspflicht für KI-generierte Inhalte.

Eine Folge über Open Source, geschlossene Modelle, autonome Agenten und den Kampf um die nächste Generation der KI.

Timeline

00:00 Intro und Alwines Erfahrungen mit Codex
05:20 Der neue Wettlauf der KI-Modelle
13:30 Kosten, Halluzinationen und agentisches Arbeiten
25:22 Anthropic Opus 5 und neue AGI-Benchmarks
32:38 Open Source vs. Closed Modelle und Kimi K3
43:46 Kill Switch, EU AI Act und Kennzeichnungspflicht

🔗 Weiterführende Links zur Folge

LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

Bild ist offensichtlich KI-generiert

In dieser Folge von Klartext KI sprechen Matúš, Alwine und Vlad über einen der spektakulärsten Vorfälle der KI Geschichte. Im Mittelpunkt steht der erstmals öffentlich dokumentierte agentische Cyberangriff, bei dem OpenAI Modelle während eines internen Sicherheitsbenchmarks aus einer Sandbox ausbrechen und anschließend Infrastruktur von Hugging Face angreifen konnten.

Die drei analysieren Schritt für Schritt den technischen Ablauf, von einer Zero Day Sicherheitslücke über Remote Code Execution bis hin zu lateraler Bewegung innerhalb der Infrastruktur. Außerdem diskutieren sie, warum Open Weight Modelle wie Kimi K3 gleichzeitig enorme Chancen für digitale Souveränität und erhebliche Sicherheitsrisiken mit sich bringen.

Ein weiteres Thema ist die Verteidigung gegen KI Angriffe, bei der Hugging Face selbst auf ein Open Weight Modell zurückgriff, um mehr als 17.000 sicherheitsrelevante Ereignisse auszuwerten.

Abschließend geht es um die Frage, ob wir bereits die technologische Singularität erreicht haben und warum Softwareentwicklung, Cybersecurity und Unternehmensarchitekturen durch KI grundlegend verändert werden.

Eine Folge über Cybersecurity, Open Source, autonome Agenten und die Zukunft intelligenter Systeme.

Timeline

00:01 Intro
01:08 Der Angriff auf Hugging Face und der Ausbruch aus der Sandbox
09:04 Zero Day Lücken und der technische Ablauf des Angriffs
19:38 OpenAI Stellungnahme, Open Weight Modelle und Singularität
30:38 Diskussion über Risiken, Open Source und Cybersecurity
40:06 Vibe Coding, Agenten und die Zukunft der Softwareentwicklung

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

*Bild ist offensichtlich KI generiert

In dieser Folge begrüßen Matúš und Alwine erneut Modood zu einer tiefgehenden technischen Diskussion. Modood erklärt, was hinter dem Begriff Agent Harness steckt, dem Gerüst, das über das reine Sprachmodell hinausgeht und bestimmt, wie ein KI Agent wirklich agiert.

Modood ordnet die zentralen Bausteine ein: Memory und wie Agenten sich Informationen merken, Policies und Guardrails zur Steuerung erlaubter Aktionen, die Context Engine zur intelligenten Kontextkompression sowie Skill und Tool Management.

Besonders spannend wird es beim Thema Identität: Wie lässt sich künftig nachvollziehen, ob eine Handlung von einem Menschen oder seinem Agenten ausgeführt wurde? Die Runde diskutiert außerdem, wie hybride Teams aus Menschen und spezialisierten Agenten aussehen könnten, welches Potenzial KI Agenten für Vereine und ehrenamtliche Arbeit haben, und wie kritisch der tatsächliche Return on Investment aktuell zu bewerten ist.

Zum Abschluss eine Denkaufgabe für die nächste Folge: Ab welchem Alter sollten Kinder eigene KI Agenten nutzen dürfen?

Timeline:
00:00 Intro und Einstieg ins Thema Agent Harness
08:36 Memory: Wie sich Agenten Informationen merken
17:05 Policies, Guardrails und sichere Ausführungsumgebungen
29:19 Digitale Identität: Wer hat wirklich gehandelt, Mensch oder Agent?
47:11 Agenten für Vereine und gesellschaftlichen Nutzen
55:22 ROI kritisch betrachtet und Abschlussgedanken

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

In dieser kompakten Duo Folge berichten Matúš und Alwine direkt von der Sparkscon in Augsburg, Deutschlands größter Digital Experience Konferenz. Alwine war bereits zum vierten Mal dabei und ordnet ein, wie stark sich die Themen seit 2022 von den Grundlagen der KI hin zu ausgereiften Praxisanwendungen entwickelt haben.

Im Zentrum der Folge steht die Rede des bayerischen Digitalministers Fabian Mehring, der für digitale Souveränität und den Mut zum Machen statt Bürokratie plädiert, unter anderem durch seinen gestoppten Microsoft Deal in Bayern.

Weitere Highlights:

Sascha Pallenberg spricht über digitale Souveränität und die versteckte Abhängigkeit selbst europäischer Anbieter von US Infrastruktur.

Der Outdoor Ausrüster Schöffel zeigt einen messbaren KI Case, mit dem sich die Produktion von Produktbildern von zwölf Wochen auf zwei Tage und die Kosten um 80 Prozent reduzieren ließen.

Otto gibt spannende Einblicke, wie sich Onlineshopping durch KI Assistenten wie ChatGPT grundlegend verändern könnte.

Zum Abschluss geht es um die Location im historischen Gaswerk Augsburg, das vegetarische Catering und Augsburgs Spitzenposition im deutschen Digitalisierungsranking.

Timeline:
00:00 Intro und Rückblick auf die SparksCon
10:06 KI statt Bürokratie: Der Auftritt des Digitalministers
11:35 Digitale Souveränität und die Kostenfalle bei SaaS
17:53 Schöffel: 80 Prozent Kostenersparnis durch KI Produktbilder
24:34 Otto und die Zukunft des Shoppings über KI Assistenten
32:53 Augsburg als digitalste Stadt Deutschlands und Fazit

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

In dieser Folge begrüßen Matúš und Alwine erneut Jonas zu einer hitzigen Diskussion, thematisch wie wortwörtlich. Los geht es mit einer echten Innovation aus der Fahrradwelt: Canyon stellt ein neues Modell mit eingebauter KI vor, das Gefahren im Straßenverkehr in Echtzeit erkennt und Fahrende durch haptische und visuelle Signale warnt. Jonas berichtet außerdem, dass OpenAI mit dem Projekt Jalapeño eigene Chips entwickelt, um unabhängiger von Nvidia zu werden.

Im Hauptteil der Folge geht es um ein brisantes Thema: den ökologischen Fußabdruck von KI. Anhand von UN Zahlen rechnet Jonas vor, wie viel Wasser und Strom ein einzelner Prompt verbraucht und was das für die Zukunft bedeuten könnte. Die Runde diskutiert kontrovers über Jeff Bezos umstrittene Aussage zu AGI und Ressourcen, über Greenwashing durch KI-Effizienzgewinne und über mögliche Lösungsansätze wie Small Language Models und neuromorphe Chips.

Zum Abschluss wird es wieder kreativ: Jonas präsentiert seine neuesten KI-Start-up-Ideen, von einem smarten Schwimmbahnen-Sortierer bis zu Rettungsdrohnen für Notfälle am See.

Timeline:
00:00 Intro und Begrüßung
02:04 Canyon stellt neues Sicherheitsmodell vor
07:29 OpenAI baut eigene Chips 
08:24 Wasserverbrauch und Umweltkosten von KI 
27:14 Small Language Models und neuromorphe Chips
32:37 KI Start-up-Ideen

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast