Si en los últimos episodios te he hablado de las bondades de Open Web UI, hoy vamos a ensuciarnos las manos (de forma figurada, claro) para exprimir esta herramienta al máximo. No se trata solo de instalar un contenedor y ver qué pasa; se trata de convertir a tu inteligencia artificial en un asistente que realmente te conoce y tiene "superpoderes" gracias a herramientas personalizadas.
Seguro que te ha pasado alguna vez: estás hablando con una IA y, de repente, parece que se le ha olvidado lo que le dijiste hace cinco minutos. Esto es lo que conocemos como el problema de la ventana de contexto. Los modelos tienen un límite de información que pueden procesar a la vez. En este episodio, te muestro cómo Open Web UI gestiona la memoria para que el asistente recuerde quién eres, cuáles son tus aficiones y hasta tus lenguajes de programación preferidos. Es fascinante ver cómo, tras una búsqueda en GitHub o en redes sociales, la IA es capaz de guardar esos detalles en su "cerebro" local para usarlos más adelante.
Pero lo que de verdad me ha volado la cabeza es la posibilidad de crear herramientas (Tools). Imagina que necesitas calcular la distancia exacta entre dos ciudades para planificar una ruta de entrenamiento. Normalmente, la IA haría una búsqueda web más o menos precisa, pero ¿y si le pudiéramos enseñar a usar un script de Python específico para eso? En el podcast te cuento cómo la propia IA es capaz de programar su propia herramienta, dándote el código y las instrucciones para que la integres en tu interfaz. ¡Es el sueño de cualquier amante de la automatización!
Además, tocamos un tema fundamental en los tiempos que corren: la privacidad y el coste. Las grandes tecnológicas se están dando cuenta de que mantener estos modelos cuesta una fortuna y ya estamos empezando a ver cómo suben cuotas o limitan el uso. Al trabajar en local, no solo te ahorras suscripciones, sino que te aseguras de que tus datos no salen de tu casa. Es soberanía tecnológica en estado puro.
Lo que vamos a tratar en este episodio:
00:00:00 - Introducción: Exprimiendo Open Web UI
00:00:45 - Presentándome a mi propia IA local
00:01:38 - La importancia de la memoria y el contexto en los LLM
00:02:11 - Herramientas de búsqueda: ¿Qué sabe internet de Atareao?
00:04:37 - Guardando información relevante en la memoria (RAG)
00:05:04 - Consultas en tiempo real: El tiempo y el pronóstico
00:06:20 - Ahorrando tokens: La importancia de ser conciso
00:07:24 - Planificando un entrenamiento basado en datos meteorológicos
00:10:02 - Cálculos de distancia y búsquedas web inteligentes
00:11:54 - Crea tus propias herramientas (Tools) con Python
00:14:32 - Configuración de herramientas personalizadas paso a paso
00:16:12 - Integración de APIs externas (Nominatim) en local
00:17:18 - Poniendo a prueba la memoria a largo plazo de la IA
00:19:53 - Análisis de perfil de GitHub y lenguajes preferidos
00:21:55 - Privacidad y ahorro: El fin de las subvenciones de las grandes Big Tech
00:23:44 - De Google AI Studio a Open Web UI: El flujo de trabajo
00:24:45 - Conclusiones y adelanto del próximo episodio: ¡Open Code!
Te cuento también mi flujo de trabajo actual, cómo he pasado de herramientas en la nube como Google AI Studio a tenerlo todo bajo mi control con Open Web UI. Y ojo, que esto es solo el principio. En el próximo episodio abandonaremos un poco la interfaz de chat para meternos de lleno en Open Code, buscando siempre esa independencia tecnológica que tanto nos gusta.
Más información y enlaces en las notas del episodio
🌐 Aquí lo puedes encontrar todo 👉 https://atareao.es
✈️ Telegram (el grupo) 👉 https://t.me/atareao_con_linux
✈️ Telegram (el canal) 👉 https://t.me/canal_atareao
🦣 Mastodon 👉 https://mastodon.social/@atareao
🐦 Twitter 👉 https://twitter.com/atareao
🐙 GitHub 👉 https://github.com/atareao
Deutschland