Explora los 9 artículos de esta serie open source. A hands-on series for learning small language-model training from tokenizer to serving.
Punto de partida
Un resumen basado en fuentes sobre el modelo de 64M, el entrenamiento PyTorch y una ruta reproducible de aprendizaje.
Ruta de lectura
01 → 09
Un resumen basado en fuentes sobre el modelo de 64M, el entrenamiento PyTorch y una ruta reproducible de aprendizaje.
Valida primero inferencia, después pretraining/SFT, API compatible con OpenAI y evaluación con datos retenidos.
Guía de Python/PyTorch, entrenamiento single- y multi-GPU, checkpoints, servicio y evaluación.
Traza el modelo PyTorch, los datos JSONL, Pretrain/SFT/RL, evaluación, checkpoints, API y WebUI.
Sigue un fixture pequeño por tokenizer, forward PyTorch, entrenamiento, reanudación y API OpenAI.
Mide datos, VRAM, etapas, calidad, latencia y coste total con una fixture reproducible.
Gobierna lineage, artefactos, API OpenAI-compatible, tool calls, secretos, monitoreo y recuperación.
Compara aprendizaje desde cero, fine-tuning de modelos mayores, runtimes, APIs y notebooks.
Manifiestos, fixtures, evaluation cards, lineage de checkpoints, servicio seguro y visualización accesible.
