Cuando la IA generativa se dio a conocer entre el gran público, para popularizarse tomó la acertada decisión de ofrecerse como un servicio gratuito. No es nada nuevo. Tenemos los ejemplos de Spotify, Canva, Slack, Dropbox o Duolingo, entre otros. Y, precisamente, se volvieron populares porque eran gratuitos. Aunque si quieres sacarles partido, tienes que pagar por ellos. Con la IA sucede igual. Pero, en este caso, hay alternativas más económicas como montar una IA local en tu propio PC.
Tras años de inteligencia artificial entre nosotros, hemos vivido modas y tendencias muy curiosas. Por ejemplo, el tokenmaxxing, fenómeno que consistió en hacer un uso intensivo de la IA en sus versiones de pago, lo que generó unos gastos excesivos para muchas empresas que pretendían utilizar el consumo de tokens como una forma de medir la productividad de sus empleados.
Pero no todo es negativo. Hemos asistido a la evolución de la IA, que se ha vuelto más proactiva y autónoma gracias a los agentes inteligentes. Y a la competencia china, que ha obligado a las empresas estadounidenses a innovar y no acomodarse con sus modelos de IA. Incluso los fabricantes de hardware, como NVIDIA, han tenido que adaptarse a la demanda de máquinas capaces de ejecutar esta tecnología.
Y enlazando con esto, se está produciendo una dura competencia entre los modelos de IA locales, que puedes instalar tú mismo, y los modelos que operan en servidores externos y que pueden ser gratuitos, de entrada, pero costar mucho dinero en entornos de desarrollo y empresas. Los ordenadores actuales, e incluso los teléfonos móviles, tienen chips suficientemente potentes para instalar y ejecutar IA sin depender de los servidores de OpenAI, Anthropic, Google, Microsoft o Amazon. Y sin obedecer a sus reglas.
Ventajas de montar una IA local en PC
El fenómeno no es nuevo. Durante años nos hemos acostumbrado a almacenar archivos, fotografías, videos y datos en servidores externos. Internet se basa en ello. Una red que une ordenadores, servidores y toda clase de dispositivos entre sí para compartir e intercambiar contenidos, datos o servicios. Sin embargo, la seguridad y la privacidad se han convertido en aspectos importantes para millones de usuarios de Internet. Y con los ordenadores y las conexiones actuales, cualquier tiene la posibilidad de poner en marcha su propio servidor. Lo mismo sucede con la inteligencia artificial.
Estas son las principales ventajas para montar una IA local en PC:
- Privacidad y control sobre tus datos y archivos. Los documentos, conversaciones y consultas permanecen en tu ordenador o dispositivo. Importante para empresas y particulares que realizan consultas personales, laborales, legales, médicas o financieras.
- Personalización y capacidad de decisión. Al instalar tú mismo la IA, puedes configurarla con los parámetros que necesites, más allá de la configuración ofrecida por su empresa propietaria. Además, existe una gran cantidad de modelos de IA de código abierto disponibles para que cualquiera pueda instalarlos en un dispositivo compatible.
- No necesitas conectarte a Internet. Los modelos de IA locales no necesitan acceso a Internet, salvo para buscar información actual. Muy útil en entornos con mala conexión o con redes restringidas. Y una manera de evitar ataques externos como la inyección de prompts.
- Menos sorpresas en tu factura. Un problema del uso intensivo de la IA en muchas empresas es que se consumen tokens sin conocer de antemano el coste final en la factura. Con una IA local esto no sucede. No hay cuotas de API, ni límites asociados a una suscripción de pago.
- Menor latencia. Con un equipo suficientemente potente, la IA local puede desempeñar sus funciones a toda máquina. Y evitar problemas de latencia derivados de trabajar en modo intensivo con IA hospedada en servidores externos.
Inconvenientes de la IA local frente a la IA en la nube
Como es habitual, no todo son ventajas si decides montar una IA local en tu PC. Como vamos a ver, también existen algunas limitaciones o inconvenientes. Si los tenemos asumidos, nada te impide ponerte en marcha y configurar tu propia IA local.
- Menor capacidad. Los modelos de IA locales suelen ser más pequeños. Esto afecta a razonamientos complejos o análisis masivos de datos.
- Limitaciones del hardware. Los centros de datos con servidores están preparados para trabajar en condiciones de altísima demanda. Un PC casero actual puede competir con esos servidores, pero, tarde o temprano, saldrá perdiendo por falta de RAM, capacidad de GPU y NPU o por limitaciones de almacenamiento.
- Mantenimiento de la IA local. Usar un servicio en la nube implica que el cuidado y mantenimiento corre a cargo del propietario. Si instalas una IA local, serás tú quien deba actualizar el software, mantener la máquina en buen funcionamiento, etc.
- Información actualizada. Si te decides por una IA local sin acceso a Internet, perderás la parte de la IA que te permite encontrar datos e información actualizados o actuales. Pero la mayoría de modelos de IA local permiten buscar online.
Requisitos para montar una IA local en PC
Aunque montar una IA local en un PC no es tan simple como pudiera parecer, gracias a ciertas aplicaciones ese proceso es más sencillo. Y al alcance de cualquier tipo de usuario. Desde investigadores, analistas de datos y desarrolladores hasta curiosos, entusiastas o usuarios domésticos. Tanto si quieres poner en marcha varios agentes de IA autónomos como si tan solo quieres un asistente de IA que responda a tus dudas y automatice alguna tarea de vez en cuando.
Simplificando, para configurar una IA local en un ordenador, necesitas:
- Un PC o Mac que cumpla con los requisitos necesarios.
- Una aplicación que haga de intermediaria.
- Un modelo de IA para instalar en modo local.
¿Qué requisitos debe cumplir ese PC o Mac? Eso dependerá del tamaño y capacidad del modelo de IA que vas a instalar. Las aplicaciones que luego mencionaremos recomiendan estas especificaciones:
- Chip o CPU Apple Silicon (Mac), ARM o x64 (PC).
- RAM: se recomienda 16 GB o más. 8 GB limita a modelos más pequeños.
- GPU: al menos 4 GB de VRAM.
- Espacio de almacenamiento: los modelos de IA pequeños ocupan entre 2 y 8 GB (3B-7B de parámetros). Los modelos medianos (de 13B a 34B de parámetros), pueden llegar a ocupar 35 GB por modelo. Los modelos grandes (más 70B de parámetros), pueden ocupar entre 40 y 70 GB. Modelos especializados como los modelos para imagen, pueden ocupar entre 7 y 13 GB por modelo.
Qué app elegir para instalar tu propia IA
Una vez contamos con el hardware necesario, ahora toca elegir la aplicación que se encargará de gran parte del trabajo. Estas aplicaciones ofrecen una interfaz para interactuar con el modelo de IA o modelos que instales. Y, al mismo tiempo, te ofrecen varios modelos a elegir para instalar e incluso conectar con las APIs de modelos de IA en la nube o con aplicaciones de terceros para realizar tareas más complejas. Estas son las apps más populares:
Todas ellas son gratuitas. Y, la mayoría, de código abierto. Algunas ofrecen servicios adicionales de pago, aunque si solo buscas montar una IA local en PC, con la versión gratuita tienes suficiente. Cada una tiene sus peculiaridades, pero tienen en común que sirven para sustituir ChatGPT, Gemini, Claude, Claude Cowork o Claude Code, ya que desde una sola app puedes elegir qué modelos de IA quieres, instalarlos y, a continuación, interactuar con ellos. Y el proceso es fácil e intuitivo.
Para terminar, ¿qué modelo de IA elegir? Hay mucha variedad para elegir. Pero esa variedad puede volverse en tu contra. ¿Por dónde empezar? Tu elección dependerá de la capacidad de tu ordenador. Puedes empezar con un modelo sencillo e ir escalando a modelos más complejos. Como verás, hay modelos genéricos y otros especializados en tareas como visión, imagen, audio o razonamiento. A continuación, la lista de modelos de Ia compatibles con las aplicaciones recomendadas:
- Modelos compatibles con LM Studio.
- Modelos compatibles con Ollama.
- Modelos compatibles con Open WebUI.
- Modelos compatibles con GPT4All.
- Modelos compatibles con Jan.
- Modelos compatibles con AnythingLLM.
Si te ha gustado este artículo y quieres recibir más contenido sobre innovación y tecnología directamente en tu correo, suscríbete a nuestra newsletter y mantente siempre actualizado. No somos de los que llenan tu bandeja, solo compartimos los lunes.
