Klartext KI

In dieser Folge von Klartext KI sprechen Matúš, Alwine und Vlad über einen der spektakulärsten Vorfälle der KI Geschichte. Im Mittelpunkt steht der erstmals öffentlich dokumentierte agentische Cyberangriff, bei dem OpenAI Modelle während eines internen Sicherheitsbenchmarks aus einer Sandbox ausbrechen und anschließend Infrastruktur von Hugging Face angreifen konnten.

Die drei analysieren Schritt für Schritt den technischen Ablauf, von einer Zero Day Sicherheitslücke über Remote Code Execution bis hin zu lateraler Bewegung innerhalb der Infrastruktur. Außerdem diskutieren sie, warum Open Weight Modelle wie Kimi K3 gleichzeitig enorme Chancen für digitale Souveränität und erhebliche Sicherheitsrisiken mit sich bringen.

Ein weiteres Thema ist die Verteidigung gegen KI Angriffe, bei der Hugging Face selbst auf ein Open Weight Modell zurückgriff, um mehr als 17.000 sicherheitsrelevante Ereignisse auszuwerten.

Abschließend geht es um die Frage, ob wir bereits die technologische Singularität erreicht haben und warum Softwareentwicklung, Cybersecurity und Unternehmensarchitekturen durch KI grundlegend verändert werden.

Eine Folge über Cybersecurity, Open Source, autonome Agenten und die Zukunft intelligenter Systeme.

Timeline

00:01 Intro
01:08 Der Angriff auf Hugging Face und der Ausbruch aus der Sandbox
09:04 Zero Day Lücken und der technische Ablauf des Angriffs
19:38 OpenAI Stellungnahme, Open Weight Modelle und Singularität
30:38 Diskussion über Risiken, Open Source und Cybersecurity
40:06 Vibe Coding, Agenten und die Zukunft der Softwareentwicklung

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

*Bild ist offensichtlich KI generiert

In dieser Folge begrüßen Matúš und Alwine erneut Modood zu einer tiefgehenden technischen Diskussion. Modood erklärt, was hinter dem Begriff Agent Harness steckt, dem Gerüst, das über das reine Sprachmodell hinausgeht und bestimmt, wie ein KI Agent wirklich agiert.

Modood ordnet die zentralen Bausteine ein: Memory und wie Agenten sich Informationen merken, Policies und Guardrails zur Steuerung erlaubter Aktionen, die Context Engine zur intelligenten Kontextkompression sowie Skill und Tool Management.

Besonders spannend wird es beim Thema Identität: Wie lässt sich künftig nachvollziehen, ob eine Handlung von einem Menschen oder seinem Agenten ausgeführt wurde? Die Runde diskutiert außerdem, wie hybride Teams aus Menschen und spezialisierten Agenten aussehen könnten, welches Potenzial KI Agenten für Vereine und ehrenamtliche Arbeit haben, und wie kritisch der tatsächliche Return on Investment aktuell zu bewerten ist.

Zum Abschluss eine Denkaufgabe für die nächste Folge: Ab welchem Alter sollten Kinder eigene KI Agenten nutzen dürfen?

Timeline:
00:00 Intro und Einstieg ins Thema Agent Harness
08:36 Memory: Wie sich Agenten Informationen merken
17:05 Policies, Guardrails und sichere Ausführungsumgebungen
29:19 Digitale Identität: Wer hat wirklich gehandelt, Mensch oder Agent?
47:11 Agenten für Vereine und gesellschaftlichen Nutzen
55:22 ROI kritisch betrachtet und Abschlussgedanken

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

In dieser kompakten Duo Folge berichten Matúš und Alwine direkt von der Sparkscon in Augsburg, Deutschlands größter Digital Experience Konferenz. Alwine war bereits zum vierten Mal dabei und ordnet ein, wie stark sich die Themen seit 2022 von den Grundlagen der KI hin zu ausgereiften Praxisanwendungen entwickelt haben.

Im Zentrum der Folge steht die Rede des bayerischen Digitalministers Fabian Mehring, der für digitale Souveränität und den Mut zum Machen statt Bürokratie plädiert, unter anderem durch seinen gestoppten Microsoft Deal in Bayern.

Weitere Highlights:

Sascha Pallenberg spricht über digitale Souveränität und die versteckte Abhängigkeit selbst europäischer Anbieter von US Infrastruktur.

Der Outdoor Ausrüster Schöffel zeigt einen messbaren KI Case, mit dem sich die Produktion von Produktbildern von zwölf Wochen auf zwei Tage und die Kosten um 80 Prozent reduzieren ließen.

Otto gibt spannende Einblicke, wie sich Onlineshopping durch KI Assistenten wie ChatGPT grundlegend verändern könnte.

Zum Abschluss geht es um die Location im historischen Gaswerk Augsburg, das vegetarische Catering und Augsburgs Spitzenposition im deutschen Digitalisierungsranking.

Timeline:
00:00 Intro und Rückblick auf die SparksCon
10:06 KI statt Bürokratie: Der Auftritt des Digitalministers
11:35 Digitale Souveränität und die Kostenfalle bei SaaS
17:53 Schöffel: 80 Prozent Kostenersparnis durch KI Produktbilder
24:34 Otto und die Zukunft des Shoppings über KI Assistenten
32:53 Augsburg als digitalste Stadt Deutschlands und Fazit

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

In dieser Folge begrüßen Matúš und Alwine erneut Jonas zu einer hitzigen Diskussion, thematisch wie wortwörtlich. Los geht es mit einer echten Innovation aus der Fahrradwelt: Canyon stellt ein neues Modell mit eingebauter KI vor, das Gefahren im Straßenverkehr in Echtzeit erkennt und Fahrende durch haptische und visuelle Signale warnt. Jonas berichtet außerdem, dass OpenAI mit dem Projekt Jalapeño eigene Chips entwickelt, um unabhängiger von Nvidia zu werden.

Im Hauptteil der Folge geht es um ein brisantes Thema: den ökologischen Fußabdruck von KI. Anhand von UN Zahlen rechnet Jonas vor, wie viel Wasser und Strom ein einzelner Prompt verbraucht und was das für die Zukunft bedeuten könnte. Die Runde diskutiert kontrovers über Jeff Bezos umstrittene Aussage zu AGI und Ressourcen, über Greenwashing durch KI-Effizienzgewinne und über mögliche Lösungsansätze wie Small Language Models und neuromorphe Chips.

Zum Abschluss wird es wieder kreativ: Jonas präsentiert seine neuesten KI-Start-up-Ideen, von einem smarten Schwimmbahnen-Sortierer bis zu Rettungsdrohnen für Notfälle am See.

Timeline:
00:00 Intro und Begrüßung
02:04 Canyon stellt neues Sicherheitsmodell vor
07:29 OpenAI baut eigene Chips 
08:24 Wasserverbrauch und Umweltkosten von KI 
27:14 Small Language Models und neuromorphe Chips
32:37 KI Start-up-Ideen

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast

In dieser Folge von Klartext KI sprechen Matúš und Alwine gemeinsam mit Jan, KI-Berater und Stammgast der Runde, über die Marktdynamik rund um künstliche Intelligenz.

Jan nimmt die zehn wertvollsten Unternehmen der Welt nach Marktkapitalisierung unter die Lupe. Neun von zehn haben im weiteren Sinne mit KI zu tun, nur Saudi Aramco fällt heraus. Nvidia führt nicht wirklich überraschend die Liste an, gefolgt von Apple, Alphabet und Microsoft, wobei Letzteres deutlich unter seinem Höchststand liegt, unter anderem wegen ausbleibender Aufträge europäischer Behörden.

Anschließend nimmt Jan die Runde mit auf einen ausführlichen Deep Dive in die Geschichte von Nvidia. Von der Beinahe-Pleite durch einen gescheiterten Sega-Auftrag über die riskante CUDA-Wette 2006 bis zum Alex-Net-Durchbruch 2012, der die moderne Deep-Learning-Ära einleitete. Jan erklärt anschaulich den Unterschied zwischen CPU und GPU anhand des Bildes von Sternekoch und 10.000 Hilfsköchen und ordnet ein, warum Nvidias Burggraben aus Hardware, Software-Standard und Netzwerktechnologie so schwer zu knacken ist.

Zum Abschluss diskutiert die Runde, ob Konkurrenten wie AMD, Google mit eigenen TPUs oder neue Player aus Quantencomputing Nvidias Spitzenposition gefährden könnten.

Timeline:
00:01 Intro & Begrüßung
02:01 Matúš' Hobbyprojekt: der Digital Organization Twin
05:26 Die zehn wertvollsten Unternehmen der Welt
17:15 Deep Dive: die Geschichte von Nvidia und Jensen Huang
27:16 GPU vs CPU: warum Nvidia so schwer einzuholen ist
40:05 Burggraben und Zukunft: wer könnte Nvidia gefährden

🔗 Weiterführende Links zur Folge
LinkedIn: https://www.linkedin.com/company/klartext-ki-der-podcast