KI - kurz und informativ, Klartext "to Go" in unter 5 Minuten

Mehr als die Steckdose der Republik: KI-Rechenzentren, grüner Strom und Gesundheitsdaten.
Kann ein kleines Bundesland zum Vorbild für digitale Souveränität werden? Interview mit Minister Dr. Wolfgang Blank.
Es geht um die entscheidende Frage: Wer behält im KI-Stack die Wertschöpfung?
Mecklenburg-Vorpommern hat vieles, was KI-Infrastruktur braucht: grünen Strom im Überfluss, mittlerweile die niedrigsten Netzentgelte Deutschlands, grosse Flächen und mit dem Seekabel C-Lion1 in Rostock eine leistungsstarke Datenanbindung nach Nordeuropa. Laut Bitkom-Studie 2025 punktet das Land vor allem bei Stromnetz und Fläche. Bei der installierten Rechenleistung ist es allerdings noch Schlusslicht.

Wir sprechen darüber, warum MV nicht nur Energie liefern, sondern auch digitale Dienstleistungen und ein wirtschaftliches Ökosystem ansiedeln will und damit im „Five Layer Cake" von der Energie- bis zur Anwendungsebene aufsteigen möchte.
Ausserdem schauen wir uns die SHIP-Studie mit ihren einzigartigen Gesundheitsdatensätzen an, sprechen über den Digital Health Hub bis zur Frage, wie sich damit Startups anlocken lassen. Und warum echte Innovation nicht nur Technologie bedeutet, sondern auch neue Prozesse und Arbeitsweisen.

Kimi K3 von Moonshot AI ist gerade in aller Munde. Ein Open-Weight-Modell mit 2,8 Billionen Parametern, das mit den besten Modellen aus den USA mithalten will. Aber wie installiert man eigentlich ein solches Modell selbst?
In dieser Folge nehmen wir Kimi K3 als Aufhänger, um den kompletten Prozess zu erklären: Was unterscheidet ein Open-Weight-Modell von proprietären Systemen wie ChatGPT oder Claude? Warum könnt ihr Kimi K3 selbst trotz Quantisierung nicht auf eurem Laptop laufen lassen und welche kleineren, alltagstauglichen Modelle funktionieren stattdessen?
Ich erkläre euch Hugging Face als zentrale Anlaufstelle für Open-Weight-Modelle, erkläre die wichtigsten Dateiformate GGUF und Safetensors, und stellen die drei populärsten Tools für den lokalen Betrieb vor: Ollama, LM Studio und Open WebUI.
Diese Folge baut auf unseren vorherigen Episoden zu Quantisierung und Speicherarten (VRAM, RAM, Unified Memory) auf und liefert den praktischen Einstieg zum Selbermachen.
Themen: Kimi K3, Moonshot AI, Open-Weight-Modelle, Hugging Face, GGUF, Ollama, LM Studio, lokale LLMs, KI selbst hosten
Links:
- Erklärung GGUF: https://huggingface.co/docs/hub/gguf
- Erklärung Safe Tensors:
https://huggingface.co/docs/safetensors/index
- Kimi K3 auf Hugging Face: https://huggingface.co/moonshotai/Kimi-K3
- Open WebUI: https://docs.openwebui.com/
- Ollama: https://ollama.com/
- LM Studio: https://lmstudio.ai/

Sollte euer Unternehmen KI-Modelle selbst hosten oder aus der Cloud mieten. Und was hat der US Cloud Act damit zu tun?
In dieser Folge von "KI kurz und informativ" schliessen wir unsere Mini-Serie zu Hardware und Hosting von KI-Modellen ab. Wir vergleichen On-Premise-Betrieb und Cloud-Computing anhand der vier klassischen Abwägungspunkte: Kosten, Kontrolle, Skalierung und Beschaffung.
Ausserdem schauen wir uns an, warum ein Serverstandort in Frankfurt oder Amsterdam allein noch keine Garantie für europäisches Recht ist und was der US CLOUD Act damit zu tun hat. Neben den vier genannten Kriterien ist Datensouveränität ebenso eine zentrale Grösse, die sich schwer in Geld bemessen lässt.

Diese Folge baut auf unseren letzten beiden Episoden zu Quantisierung und Speicherarten (VRAM, RAM, Unified Memory).

Quellen:
- Microsoft kann keine Datensouveränität garantieren: https://www.forbes.com/sites/emmawoollacott/2025/07/22/microsoft-cant-keep-eu-data-safe-from-us-authorities/
- US Cloud Act: https://www.digital-chiefs.de/eu-tech-sovereignty-paket-cloud-souveraenitaet-vorstand-cloud-act-dach/
- Hyperscaler Marktanteile: https://www.itreseller.ch/Artikel/104615/Hyperscaler-Kapazitaet_hat_sich_mehr_als_vervierfacht.html (ältere Zahlen aus Jan. 2026)

Speicher ist nicht gleich Speicher. Wie viel Arbeitsspeicher braucht ein LLM wirklich? Warum reicht es nicht aus, einfach mehr "Speicher zu kaufen"?
In dieser Folge von "KI kurz und informativ" schauen wir uns die drei physischen Speicherebenen im PC oder Server an: VRAM (Grafikkarte), RAM (Arbeitsspeicher) und Massenspeicher (SSD/HDD). Ausserdem erklären wir, was Apple mit seinen M-Chips und dem sog. "Unified Memory" anders macht als klassiche Windows-PCs mit dedizierter Grafikkarte, warum die aktuellen RAM-Preissteigerungen direkt mit dem KI-Boom zusammenhängen, und wieso Kontextlänge (KV-Cache) und Nutzerzahl (Concurrency) den Speicherbedarf in der Praxis zusätzlich in die Höhe treiben.

Diese Folge baut auf unserer letzten Episode zu Quantisierung auf und bereitet den Boden für die nächste Folge: Cloud vs. On-Premise-Hosting von KI-Modellen aus Business-Sicht.

Quellen:
Apple M7 im Tapeout: https://www.heise.de/news/M-Chips-M7-mit-bis-zu-1-5-TByte-und-warum-Apple-den-M6-ueberspringt-11362052.html

Large Language Models (LLMs) wie GPT auf dem eigenen PC oder Smartphone laufen lassen? Ja, das geht!
Quantisierung ist eine Schlüsseltechnik, mit der das funktioniert. Damit können riesige KI-Modelle drastisch verkleinern lassen, ohne dabei komplett auf Qualität zu verzichten.
Du erfährst in der Folge:
Warum LLMs so viel Speicherplatz brauchen (und was FP32, FP16 und INT8 damit zu tun haben).
Wie Quantisierung den Speicherbedarf eines Modells
reduziert.
Was die Vor- und Nachteile sind und wie du dank Quantisierung, ein LLM theoretisch lokal auf deinem PC, Mac oder Home-Server betreiben könntest.