# Instrucciones para el agente: llama.cpp: ejecuta GLM-5.1 cuantizado en tu infraestructura

Pega este texto a tu agente (Claude Code, Codex, OpenCode, Hermes o el que uses) y dile «ayúdame a montarlo». Son los pasos para ponerlo en marcha; el porqué de cada pieza está en la guía completa.

- Dificultad: avanzado
- Proyecto: https://github.com/ggml-org/llama.cpp (licencia MIT)
- Guía completa: https://lab.wisd.ai/hub/llama-cpp-glm-51

---

## Para el agente: cómo acompañar al usuario

1. Pregunta primero para qué lo quiere. Si su objetivo no necesita algún paso, sáltalo.
2. Antes de instalar, comprueba lo que ya tiene (versiones, claves, sistema operativo).
3. Avanza un paso cada vez: explica en una frase qué vas a hacer y deja que el usuario lo ejecute o lo apruebe.
4. Tras cada paso, comprueba que funcionó antes de seguir. Si falla, para y explica el error.
5. No inventes comandos ni opciones: si la documentación del proyecto contradice estos pasos, manda la documentación.
6. Al terminar, haz una prueba real con el objetivo del usuario y dile dónde profundizar.

---

## Pasos de configuración

### Paso 1: dimensiona el equipo

Lee [la receta de GLM-5.1](https://unsloth.ai/docs/models/glm-5.1). Comprueba el tamaño de la cuantización y la memoria libre antes de descargar. Esta secuencia es la ruta Linux/CUDA de esa guía; no la uses como receta de macOS. Comprueba que Git y el toolkit de CUDA están instalados: la lista de paquetes del paso siguiente no los instala. CMake requiere ≥3.14 según el CMakeLists.txt del motor.

### Paso 2: compila llama.cpp

En un equipo de pruebas con permisos de administración, la guía documenta:

```bash
apt-get update
apt-get install pciutils build-essential cmake curl libcurl4-openssl-dev -y
git clone https://github.com/ggml-org/llama.cpp
cmake llama.cpp -B llama.cpp/build     -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j --clean-first --target llama-cli llama-mtmd-cli llama-server llama-gguf-split
cp llama.cpp/build/bin/llama-* llama.cpp
```

### Paso 3: ejecuta el ejemplo de uso general

Desde el directorio padre de `llama.cpp`, el ejemplo oficial descarga el modelo y lo inicia:

```bash
export LLAMA_CACHE="unsloth/GLM-5.1-GGUF"
./llama.cpp/llama-cli     -hf unsloth/GLM-5.1-GGUF:UD-IQ2_M     --ctx-size 16384     --temp 0.7     --top-p 1.0
```

## Comprobación

Confirma que carga la cuantización elegida y responde a una pregunta de prueba. Registra el equipo, contexto y cuantización utilizados antes de comparar tiempos. Para HTTP sigue el bloque `llama-server` de la receta y comprueba la respuesta del cliente antes de conectarlo a un agente.

## Si algo falla

Si la compilación CUDA falla, revisa la herramienta CUDA y la guía de compilación de llama.cpp para tu plataforma. Si falta memoria, vuelve a dimensionar el modelo: no atribuyas a la API un problema de carga local. Comprueba que las partes del GGUF corresponden a la misma cuantización.