Imagina tener un asistente de inteligencia artificial que no escucha tus conversaciones, no almacena tus datos y funciona incluso sin Internet. No es ciencia ficción. Hoy ya puedes instalar en tu móvil o en tu ordenador un modelo de lenguaje que responda a tus preguntas, analice tus archivos o te ayude a redactar un correo, sin que nada de eso salga de tu dispositivo. Esto no es ChatGPT. Es algo más privado, más lento, más limitado, pero también más tuyo.
La rebelión de la IA local
La mayoría de los usuarios de inteligencia artificial recurren a servicios en la nube como los conocidos modelos de grandes tecnológicas. Es cómodo, rápido y potente. Pero todo tiene un precio. Cada consulta que haces viaja a servidores remotos, donde se procesa, se guarda y, en muchos casos, se utiliza para entrenar otros modelos. La privacidad se convierte en una moneda de cambio silenciosa.
Ante este escenario, un movimiento creciente de desarrolladores y usuarios está apostando por la IA local. Aplicaciones y programas que permiten descargar e instalar modelos de lenguaje directamente en tu dispositivo. No necesitas conexión constante, tus datos no salen de tu teléfono o portátil y, sobre todo, tienes control total sobre lo que haces y lo que compartes. Es, en esencia, tener tu propio ChatGPT sin depender de nadie.
Claro, no es perfecto. Los modelos locales son menos potentes. Tienen menos conocimiento, responden más despacio y a veces se equivocan más. Pero la diferencia no está en el rendimiento, sino en el propósito. Aquí no se trata de tener la IA más avanzada del mercado, sino la más cercana, la que responde a tus normas.
IA en el móvil pequeños cerebros, grandes posibilidades
El teléfono es el dispositivo más personal que muchos llevamos encima. Y ahora también puede ser el centro de una revolución discreta. Aplicaciones como PocketPal AI, disponible para Android e iOS, ofrecen acceso directo a Hugging Face, el principal repositorio de modelos de IA de código abierto. Desde la app puedes descargar cualquier modelo compatible, sin salir del móvil. Todo es gratuito y de código abierto.
MNN Chat, exclusiva para Android, va un paso más allá. Ofrece soporte multimodal, lo que significa que puedes enviarle no solo texto, sino también imágenes o audios. Además, incluye modelos capaces de generar imágenes o responder con texto, todo en modo offline. Y aunque los archivos pesan, la app viene con un catálogo integrado que facilita la descarga y selección de modelos.
Para usuarios de Apple, Private LLM es una opción premium. Cuesta unos 5 dólares, con pago único, y ofrece más de 60 modelos cuidadosamente seleccionados. Está optimizada para funcionar en iPhone, iPad y Mac, y aprovecha la potencia de los chips Apple Silicon. También incluye integración con Siri y Atajos, y permite compartir la compra con la familia. Usa cuantización avanzada, una técnica que reduce el tamaño del modelo sin perder demasiado rendimiento.
Google no se queda atrás. Su aplicación AI Edge Gallery, también para Android, permite instalar modelos locales para tareas como analizar imágenes, transcribir audio o mantener conversaciones. Es un proyecto en desarrollo, así que puede fallar, pero muestra el interés del gigante tecnológico por llevar la IA al dispositivo, no solo a la nube.
Locally AI, otra app para el ecosistema Apple, busca replicar la experiencia de ChatGPT pero de forma completamente local. Ofrece modelos de lenguaje y visión, modo de voz y personalización de prompts. Al igual que otras, se integra con Siri y Atajos, y está optimizada para Apple Silicon, lo que mejora notablemente su rendimiento.
AnythingLLM, en su versión móvil para Android, destaca por su modo de agente. Este agente puede, por defecto, hacer búsquedas en la web, leer páginas, interactuar con otras apps e incluso usar tu ubicación. Es una funcionalidad potente, aunque requiere permisos. También permite conectarse a modelos en la nube, sacrificando privacidad para ganar capacidad. Pero la opción local sigue estando ahí, como refugio.
SmolChat es más sencilla, pero no menos útil. Diseñada para Android, tiene una interfaz adaptada al sistema y muchas opciones de personalización. Una característica curiosa puedes fijar chats favoritos en la pantalla de inicio como accesos directos, como si fueran apps independientes.
En el ordenador, la IA se pone seria
En el escritorio, el panorama cambia. El hardware es más potente, el espacio de almacenamiento mayor y las herramientas más avanzadas. Aquí entran en juego aplicaciones como Ollama, una de las más populares. Disponible para Windows, macOS y Linux, es gratuita y de código abierto. Tiene una interfaz de chat con historial, permite arrastrar archivos como PDFs o imágenes y cuenta con un buscador integrado de modelos, con varias versiones disponibles para cada uno.
Jan, con más de cinco millones de descargas, permite no solo añadir modelos de código abierto, sino también conectar servicios como ChatGPT o Claude. Ofrece conectores para Gmail, Amazon, YouTube, Google Drive y otros servicios. Y están desarrollando un sistema de memorias, donde el asistente puede recordar cosas sobre ti, pero almacenadas localmente. La IA que te conoce, sin que nadie más lo sepa.
LM Studio, también de código abierto, ofrece una interfaz gráfica unificada para buscar, descargar y ejecutar modelos. Puedes usarlos dentro de la app o como servidor local compatible con la API de OpenAI. Descarga directamente desde Hugging Face, con filtros que ayudan a encontrar el modelo adecuado según tamaño, compatibilidad o tipo de tarea.
GPT4All es otra opción para ordenadores. Es de pago, aunque ofrece una prueba gratuita con tokens limitados. Funciona tanto en CPU como en GPU, lo que lo hace accesible para muchos equipos. El proyecto está enfocado a usuarios que quieren probar IA local sin depender de grandes servidores.
AnythingLLM en su versión de escritorio es más ambiciosa. Es de código abierto y permite chatear con documentos, ejecutar agentes de IA y gestionar tareas. Tiene un modo agéntico que puede actuar por ti, siguiendo instrucciones y usando herramientas. Aunque está pensada para funcionar localmente, ofrece suscripciones para usarla desde la nube en ordenadores menos potentes. Su arquitectura se basa en tres componentes que trabajan juntos, con un fuerte enfoque en privacidad y personalización.
Msty Studio, dirigida a usuarios avanzados, permite trabajar con modelos locales mediante Ollama, llama.cpp o MLX, además de conectar con proveedores en la nube. Permite integrar APIs, crear flujos de trabajo y organizar "stacks de conocimiento". Está diseñada para mantener los datos sensibles bajo tu control. La herramienta para quien no quiere ceder ni un byte de información.
Y luego está Llama.cpp, un programa de código abierto pensado para ejecutar en equipos domésticos cualquier modelo basado en LLaMa de Meta. Puede funcionar en CPU o GPU, pero es un poco más complejo de configurar. No es para todos, pero para quienes saben lo que hacen, es una puerta directa a la IA local más pura.
¿Por qué esta revolución pasa desapercibida?
Es curioso. Mientras las grandes tecnológicas anuncian cada nueva versión de sus modelos con bombo y platillo, este movimiento de IA local avanza en silencio. Sin marketing, sin influencers, sin millones de usuarios. Pero está ahí. Y crece.
Quizá porque no promete cambiar el mundo, sino simplemente devolvernos el control. No es la IA más rápida, ni la más brillante. Es la más discreta. La que no juzga, no registra, no vende. Es la que responde en tu teléfono cuando no hay señal, la que analiza tu contrato en el tren sin que nadie lo sepa.
Y aunque hoy estos modelos sean menos capaces, la brecha se acorta. Cada día hay más optimización, mejores técnicas de cuantización, más modelos pequeños pero eficientes. La IA local no va a reemplazar a la IA en la nube, pero sí a coexistir con ella. Y quizás, con el tiempo, se convierta en la opción por defecto para quienes valoran la privacidad.
Porque al final, no se trata solo de tecnología. Se trata de confianza. De saber que, cuando preguntas, no estás siendo escuchado por una empresa, sino ayudado por un programa que vive en tu dispositivo. Y eso, aunque suene modesto, es un pequeño acto de resistencia en la era de los datos.