# OpenMythos: experimenta con transformers de profundidad recurrente

> Estudia una arquitectura experimental con bloques recurrentes y expertos dispersos mediante código PyTorch.

Verificado el 26 oct 2026.

## Qué es

OpenMythos es una implementación teórica e independiente de una arquitectura de transformer recurrente. El propio README declara que no está afiliada a Anthropic y se basa en investigación pública y especulación.

## Para qué te sirve

- Cuando investigas cómo variar la profundidad de cómputo sin añadir una capa distinta por paso.
- Cuando quieres inspeccionar una implementación de bloques recurrentes, atención y expertos dispersos.

## Cómo funciona

El diseño separa preludio, bloque recurrente y salida. La configuración controla iteraciones y componentes de atención y MoE; el ejemplo del README construye un modelo pequeño con entradas de prueba.

## Antes de empezar

Necesitas Python ≥3.10 y <4.0 con pip, y PyTorch con los recursos adecuados para el experimento. Flash Attention es opcional y exige CUDA y herramientas de compilación. Instalar el paquete no aporta por sí solo un modelo entrenado de calidad.

## Límites y alternativas

No es código filtrado de Claude ni prueba de su arquitectura. Tampoco demuestra equivalencia de rendimiento con un modelo comercial. Frente a usar un modelo ya entrenado, es material para experimentar e investigar.

## Recursos

- [Repo en GitHub](https://github.com/kyegomez/OpenMythos) - 14908 estrellas; licencia MIT.
- [README e instalación](https://github.com/kyegomez/OpenMythos#readme) - fuente de los pasos y requisitos.
- [Licencia del repositorio](https://github.com/kyegomez/OpenMythos/blob/main/LICENSE) - consulta su alcance antes de reutilizar el código.
- [Historial de cambios](https://github.com/kyegomez/OpenMythos/commits/HEAD) - último commit comprobado: 2026-05-23; revisión del recurso: 2026-10-26.