Cómo ejecutar IA en local: Ollama y LM Studio paso a paso

¿Cómo ejecutar IA en local? Lo más sencillo es usar Ollama o LM Studio: instalamos el programa, descargamos un modelo open-weight y conversamos con él sin internet y sin suscripción. Ollama es un solo comando en la terminal; LM Studio es una aplicación con ventanas y un buscador de modelos. Para empezar basta con un ordenador con unos 8 GB de memoria libre en la tarjeta gráfica o un Mac con Apple Silicon.

¿Para qué ejecutar IA en local?

Salen nuevos modelos open-weight casi cada semana. Algunos son gigantes como Reflection Beam (MoE 501B), que no vamos a mover en un equipo doméstico, pero también hay versiones más pequeñas y modelos de tipo «Flash» que cada vez con más frecuencia caben en un portátil normal.

Qué ganamos:

1. Privacidad. Los prompts y los archivos no salen de nuestro ordenador.
2. Sin límites ni facturas. Solo pagamos la luz (y el desgaste del equipo).
3. Funciona sin conexión. Una vez descargado el modelo, no hace falta internet.
4. API local. Podemos conectar nuestros propios scripts y herramientas al modelo en localhost, igual que a una API en la nube.

Hay un problema: un modelo local es tan bueno como lo permita nuestro hardware. Los modelos más potentes de la nube siguen fuera del alcance de una GPU doméstica.

¿Qué hardware hace falta?

Lo más importante es la memoria: la VRAM de la tarjeta gráfica o la memoria unificada en el Mac.

• Ollama, en su guía de inicio oficial, recomienda 8 GB de VRAM libre (o de memoria unificada en el Mac) para el modelo de ejemplo, cuya descarga ocupa unos 7,2 GB. Con menos VRAM, Ollama usará la RAM normal, pero las respuestas serán más lentas. Una ventana de contexto más grande también consume más memoria.
• LM Studio, según sus requisitos del sistema, necesita en Mac Apple Silicon (M1–M4) y macOS 14 o posterior, con 16 GB de RAM recomendados (con 8 GB también arranca, pero solo con modelos más pequeños). En Windows recomienda 16 GB de RAM y al menos 4 GB de VRAM, y el procesador x64 debe admitir AVX2. En Linux exige Ubuntu 20.04 o posterior.

La regla de oro: el archivo del modelo tiene que caber en memoria con margen para el contexto. Los tamaños aparecen en la biblioteca de modelos; por ejemplo, Gemma 4 en Ollama tiene variantes de unos 4,6 GB (e2b) a unos 20 GB (31b).

¿Cómo ejecutar IA en local con Ollama?

Ollama es un programa gratuito y de código abierto (licencia MIT, repositorio en GitHub). Funciona en macOS, Windows y Linux, y por dentro tiene un servidor que gestiona los modelos en segundo plano.

1. Instalación. En macOS descargamos la aplicación desde la web de Ollama. En Linux basta con un comando:

curl -fsSL https://ollama.com/install.sh | sh

En Windows, en PowerShell:

irm https://ollama.com/install.ps1 | iex

2. El primer modelo. En la terminal ejecutamos:

ollama run gemma4:e2b

Ollama descarga el modelo por su cuenta y abre un chat. La conversación se termina con /bye. En Linux, si el servidor no está en marcha, hay que iniciarlo primero con ollama serve.

3. Gestión de modelos. Algunos comandos de la documentación de la CLI que resultan útiles desde el primer día:

ollama pull gemma4   # descargar un modelo sin ejecutarlo
ollama ls            # lista de modelos descargados
ollama ps            # modelos en ejecución ahora mismo
ollama stop gemma4   # detener un modelo
ollama rm gemma4     # borrar un modelo del disco

Curiosamente, Ollama también puede lanzar herramientas de programación sobre un modelo local. El comando ollama launch claude arranca Claude Code, y ollama launch claude --model qwen3.5 lo hace con el modelo que elijamos. En Mac, la aplicación de Ollama tiene además una pestaña Apps para conectar los modelos a la aplicación de Claude o a ChatGPT Desktop (en este último caso, solo en modo Codex).

¿Cómo ejecutar IA en local con LM Studio?

LM Studio es una aplicación de escritorio para quienes prefieren hacer clic antes que escribir en la terminal. Tiene chat, buscador de modelos de Hugging Face, soporte para MCP y un servidor de API local. Según sus condiciones de licencia, está disponible para uso personal y para uso interno en la empresa, aunque algunas funciones pueden ser de pago.

1. Instalación. Descargamos el instalador desde la web de LM Studio y abrimos la aplicación.
2. Descarga del modelo. Abrimos la pestaña Discover (⌘ + 2 en Mac, Ctrl + 2 en Windows y Linux) y escribimos un nombre, por ejemplo «gemma» o «qwen». También se puede pegar un enlace de Hugging Face.
3. Elección de la variante. Nombres como Q4_K_M o Q8 indican la llamada cuantización: el modelo es más pequeño a cambio de algo de calidad. La documentación aconseja elegir una variante de 4 bits o superior si el hardware lo permite.
4. Chat. Cargamos el modelo y escribimos como en cualquier chat de IA.

LM Studio tiene también su propia CLI, lms, que se instala junto con la aplicación (basta con abrirla una vez). Según la documentación de la CLI, lo mismo se puede hacer desde la terminal:

lms get llama-3.1-8b          # descargar un modelo
lms ls                        # lista de modelos en disco
lms chat my-model             # chat en la terminal
lms server start              # iniciar el servidor de API local

¿Ollama o LM Studio?

En el fondo, los dos programas hacen lo mismo; cambia la forma de trabajar.

	Ollama	LM Studio
Uso	terminal (más una aplicación sencilla)	aplicación con ventanas (más la CLI lms)
Licencia	código abierto (MIT)	propietaria, para uso personal e interno en la empresa
Búsqueda de modelos	biblioteca en ollama.com	buscador de Hugging Face en la aplicación
API local	http://localhost:11434/v1/	http://localhost:1234/v1

Si nos gusta la terminal o queremos conectar el modelo a scripts y agentes, lo más sencillo es empezar con Ollama. Si preferimos primero explorar y comparar modelos, LM Studio resulta más cómodo.

¿Cómo conectar un modelo local a tu propio código?

Los dos programas ofrecen una API compatible con OpenAI, así que basta con cambiar la dirección en la biblioteca openai de siempre. Un ejemplo de la documentación de Ollama:

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1/",
    api_key="ollama",  # la biblioteca la exige, Ollama la ignora
)

reply = client.chat.completions.create(
    model="gpt-oss:20b",
    messages=[{"role": "user", "content": "Give me a one-line fun fact."}],
)
print(reply.choices[0].message.content)

En LM Studio, el servidor se activa con el interruptor Start server de la pestaña Developer o con lms server start. En los ejemplos de la documentación, el servidor funciona en el puerto 1234 (http://localhost:1234/v1) y admite, entre otros, /v1/chat/completions, /v1/responses y /v1/embeddings.

Esto abre la puerta a cosas más interesantes que un chat: agentes locales, búsquedas en nuestras propias notas o probar nuevos modelos open-weight el mismo día de su lanzamiento, como MiniMax M3.1 Flash. Y quien quiera ver cómo se sirven estos modelos en producción encontrará más en el artículo sobre DeepSeek DeepInfer.

Preguntas frecuentes

¿La IA local es gratis?

Ollama es gratuito y de código abierto. LM Studio está disponible para uso personal e interno en la empresa, aunque según sus condiciones algunas funciones pueden ser de pago. Los modelos open-weight se descargan gratis, pero cada uno tiene su propia licencia, que conviene revisar.

¿Se puede ejecutar IA en local sin tarjeta gráfica?

Sí, pero más despacio. Sin VRAM, Ollama usa la RAM normal. En ese caso lo mejor es elegir un modelo pequeño, por ejemplo gemma4:e2b.

¿Cuánta memoria necesita un modelo local?

Más o menos lo que pesa el archivo del modelo, más un margen para el contexto. Para el modelo de ejemplo de la guía de inicio de Ollama (unos 7,2 GB) se recomiendan 8 GB de VRAM libre.

¿Un modelo local funciona sin internet?

Sí. Internet solo hace falta para descargar el programa y el modelo.