Podlodka Podcast

Подписка на облачного кодинг-агента стоит не так уж дорого. Зачем тогда покупать GPU и запускать модель самому? Вместе с Иваном Опариным из Wildberries разбираемся, какие локальные модели уже годятся для агентной разработки, где они уступают облачным, сколько стоит железо под них и как настраивать их под свою кодовую базу.

А самое главное – дадим подробный гайд по тому, как решить свою первую задачу с помощью агента на локальной модели, и по тому, как внедрить их в свою ежедневную работу.

Хочешь стать главным экспертом по AI в своей команде? Один из лучших способов – перенимать опыт у тех, кто уже внедряет AI и набивает шишки на практике. Вступай в Podlodka AI Engineers Club – закрытое сообщество 800 инженеров c еженедельными воркшопами, активным чатом и огромной базой знаний.
https://podlodka.ai

Реклама. ИП Толстая, ИНН 507503278104, erid: 2SDnjdsfbtg

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!

Telegram-чат: https://t.me/podlodka
Telegram-канал: https://t.me/podlodkanews
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Стас Цыганов, Егор Толстой

Полезные ссылки:

Чат «ИИнтузиаст»
https://t.me/+H3uHM51jCg5mZjAy

Канал «ИИнтузиаст»
https://t.me/byurrer_ru

«Фарш не провернуть» — канал Алексея Фатеева о локальных моделях и инференсе
https://t.me/fuckup_files

«Локальный максимум» — материалы о локальных LLM, инференсе и GPU
https://alesha.pro/

Qwen3.8-27B — основная модель, которую обсуждаем в выпуске
https://huggingface.co/Qwen/Qwen3.8-27B

Qwen3.8-27B — GGUF-квантизации от Unsloth
https://huggingface.co/unsloth/Qwen3.8-27B-GGUF

Qwen3.8-Flash-Next
https://huggingface.co/Qwen/Qwen3.8-Flash-Next

GLM-5.3-Flash
https://huggingface.co/zai-org/GLM-5.3-Flash

DeepSeek V4.1 Flash
https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017

Gemma — документация семейства моделей Google
https://ai.google.dev/gemma/docs/core

Unsloth — динамические квантизации моделей
https://unsloth.ai/blog/dynamic-v2

llama.cpp — движок для запуска локальных моделей
https://github.com/ggml-org/llama.cpp

vLLM
https://github.com/vllm-project/vllm

SGLang
https://github.com/sgl-project/sglang

DS4 / DwarfStar — inference-движок от создателя Redis
https://github.com/antirez/ds4

DeepInfer — inference-движок DeepSeek
https://github.com/deepseek-ai/DeepInfer

Mirai
https://trymirai.com/

Uzu — inference-движок Mirai
https://github.com/trymirai/uzu

Coinbase — кейс дообучения Qwen3.5-9B для выявления фрода
https://www.coinbase.com/blog/part-three-owning-intelligence-series

Cross-Model KV Cache Transfer — исследование переноса KV-кэша между моделями
https://arxiv.org/abs/2608.03893

Экспериментальная реализация переноса KV-кэша на vLLM от Алексея Фатеева
https://github.com/alesha-pro/vllm-cross-model-kv

Mostik — передача внутренних состояний между большой и маленькой моделями
https://mostik.ai/read-more

Microsoft — локальные модели и инструменты в Windows и GitHub Copilot
https://commandline.microsoft.com/local-models-sandboxed-tools-github-windows/

Microsoft — гибридный AI в Windows
https://blogs.windows.com/windowsexperience/2026/10/07/building-windows-for-hybrid-intelligence/

Гибридный инференс с клиент-серверным разнесением prefill и decode: архитектура и экономика для клиентов с унифицированной памятью
https://github.com/relux-works/hybrid-inference-paper

Андрей Карпати — о разрыве между использованием чат-ботов и продвинутых агентских систем
https://x.com/karpathy/status/2109361546505966046

Эссе инженера DeepSeek об автоматизации своей работы и открытом интеллекте
https://mp.weixin.qq.com/s/zk0KxuLzhmMJ4LPYW_OHMA

Английский пересказ эссе инженера DeepSeek и перевод в комментариях
https://www.lesswrong.com/posts/o8roRrdisBAjngHJN/a-summary-of-a-viral-chinese-essay-on-what-a-deepseek-kernel

500 выпусков и девять с половиной лет разговоров про IT – пора проверить, какие из наших убеждений ещё работают. Собрались полным составом, похвастались навайбкоженными проектами и обсудили, как AI изменил нашу собственную работу. Отдельно поспорили о судьбе инди-хакинга: как меняется создание собственных продуктов, когда код можно поручить агенту, и стоит ли ждать волны независимых разработчиков?

А дальше зарубились про будущее разработки. Есть ли ещё смысл в кроссплатформе, насколько хорошо нужно знать стек, на котором пишет агент, и что посоветовать человеку, который только собирается войти в IT? Местами тревожно, местами смешно. Для тех, кто уже пишет код с AI или пытается понять, чему теперь учиться. Спасибо, что слушаете нас все эти годы!

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!

Telegram-чат: https://t.me/podlodka
Telegram-канал: https://t.me/podlodkanews
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Егор Толстой, Катя Петрова, Евгений Кателла, Стас Цыганов, Анна Симонова, Андрей Смирнов

Рассказать AI о своих переживаниях бывает проще, чем записаться к психологу: он терпеливо выслушает даже в три часа ночи и, кажется, неплохо вас поймёт. Но достаточно ли этого, чтобы стало лучше? В этом выпуске вместе с Натальей Кисельниковой разбираемся, что исследования говорят об эффективности такой помощи, с какими запросами AI может справиться, а в каких случаях на него точно не стоит полагаться. А ещё заглянем по другую сторону терапии: как сами специалисты используют AI в своей практике и как это меняет работу психотерапевта.
Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!

Telegram-чат: https://t.me/podlodka
Telegram-канал: https://t.me/podlodkanews
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Аня Симонова, Катя Петрова

Полезные ссылки:

Нейросети для решения психологических проблем: 31 промт от практикующих психологов
https://alpinabook.ru/catalog/book-neyroseti-dlya-resheniya-psikhologicheskikh-problem/?srsltid=AU7gw4WNvm75fmgoyIno8bQOvQVxt1GPx7_GzhORhgGv9BlXTiazrL0Y

Use of Generative AI for Mental Health Advice Among US Adolescents and Young Adults
https://jamanetwork.com/journals/jamanetworkopen/fullarticle/10.1001/jamanetworkopen.2025.42281

Zao-Sanders, The 2025 Top-100 Gen AI Use Case Report (Filtered / HBR)
https://filtered.com/wp-content/uploads/2026/05/The-2025-Top-100-Gen-AI-Use-Case-Report.pdf

TechCrunch: People use AI for companionship much less than we’re led to think (об отчёте Anthropic)
https://techcrunch.com/2025/06/26/people-use-ai-for-companionship-much-less-than-were-led-to-think/

Gizmodo: OpenAI, How People Use ChatGPT (NBER w34255)
https://gizmodo.com/openai-how-people-use-chatgpt-2000658906

Li et al., 2023, npj Digital Medicine (DOAJ)
https://doaj.org/article/f17df3045e7249698659f7fcaae4adad

He et al., 2023, JMIR
https://www.jmir.org/2023/1/e43862

MIT Technology Review о Therabot
https://www.technologyreview.com/2025/03/28/1114001/the-first-trial-of-generative-ai-therapy-shows-it-might-help-with-depression/

Dartmouth о Therabot
https://tto.dartmouth.edu/news/2025/03/first-therapy-chatbot-trial-yields-mental-health-benefits

Moore et al., 2025, Stanford
https://spirals.stanford.edu/research/llm-therapists

Darcy et al., 2021, JMIR Formative Research
https://formative.jmir.org/2021/5/e27868/

Neuroscience News о Hatch et al., 2025
https://neurosciencenews.com/ai-chatgpt-psychotherapy-28415/

Тема стартапов неисчерпаема, и в этот раз мы сосредоточились на самой нервной и драматичной её части — фандрейзинге. Аня Коган, CEO Fitwise и руководитель разработки OpenCV.ai, поделилась искренней историей о том, как она поднимала раунд. Обсудили процесс поиска инвесторов и подготовки питч-дека, разницу в мышлении инвесторов и фаундеров, психологию отказов и то, как AI меняет весь венчурный ландшафт.
Спойлер: теперь не только идея ничего не стоит, но и реализацией впечатлить сложновато, а вот раскрученная ферма TikTok-аккаунтов вполне может стать весомым аргументом для инвестора. За остальными инсайтами — скорее включайте выпуск!

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!

Telegram-чат: https://t.me/podlodka
Telegram-канал: https://t.me/podlodkanews
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Катя Петрова, Аня Симонова

Полезные ссылки:
Сайт Fitwise
https://www.thefitwise.com/

Заказная разработка переживает сложные времена: проектов меньше, клиенты экономят, а AI заставляет пересматривать модель работы. В первой части говорим с Денисом Германенко, СЕО CleverPumpkin. Он рассказывает, что происходит с рынком мобильной разработки в России, какие проекты еще отдают подрядчикам и за что им готовы платить.

Во второй части обсуждаем те же перемены с Ириной Назаровой, CEO Evil Martians, специализирующихся на аутсорсе для стартапов в США: кому достается выгода от ускорения разработки, как изменились найм и размер команд, и кто будет переписывать завайбкоженные проекты.

Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!

Telegram-чат: https://t.me/podlodka
Telegram-канал: https://t.me/podlodkanews
Twitter-аккаунт: https://twitter.com/PodcastPodlodka

Ведущие в выпуске:
Егор Толстой, Катя Петрова

Полезные ссылки от Дениса:

Telegram-канал Промежуточный Этаж
https://t.me/Intermediate_floor

Сайт CleverPumpkin
https://cleverpumpkin.ru/

Проект Локатура
https://lokatura.com/

Полезные ссылки от Ирины:

Сайт Evil Martians
https://lokatura.comevilmartians.com/

AnyCable
https://anycable.io/

SF Ruby
https://sfruby.com/

Twitter Ирины
https://x.com/inazarova

LinkedIn Ирины
https://www.linkedin.com/in/nonconstant/

Полезная рассылка
https://irinanazarova.substack.com/