Qué es
DwarfStar, alojado en antirez/ds4, es un motor nativo de inferencia para una selección de modelos grandes. Incluye herramientas de conversación, servidor HTTP y agente de programación.
Para qué te sirve
- Cuando dispones de un Mac con mucha memoria y quieres probar inferencia propia.
- Cuando necesitas evaluar llamadas a herramientas con un modelo ejecutado en tu hardware.
Cómo funciona
El proyecto integra carga de pesos, formato del prompt, caché de contexto y ejecución del agente. Utiliza sus propios archivos GGUF; no es un ejecutor general para cualquier modelo de ese formato.
Antes de empezar
Elige la guía de Metal, CUDA o Strix Halo correspondiente. Los modelos y el contexto consumen memoria y disco; comprueba el dimensionamiento antes de descargar. La licencia del motor no sustituye la de los pesos.
Límites y alternativas
El autor lo considera beta y el soporte de modelos cambia. Frente a llama.cpp, prioriza un conjunto más estrecho de modelos y configuraciones. Dimensiona el equipo para el modelo y el contexto que vayas a ejecutar.
Recursos
- Repo en GitHub - 24105 estrellas; licencia MIT.
- README e instalación - fuente de los pasos y requisitos.
- Licencia del repositorio - consulta su alcance antes de reutilizar el código.
- Historial de cambios - último commit comprobado: 2026-10-21; revisión del recurso: 2026-10-26.