Course Plan

Fundamentos de Transformers

Course Plan

Route

Unidad	Archivo	Formato de artefacto	Duración estimada	Titulo	Tipo de experiencia	Promesa	Evidencia
1	source/units/unit-1.ipynb	notebook	15 minutos	Presentacion del curso	conceptual-clarity	Ubicar motivacion, alcance y mapa general de la ruta.	Audio y mapa de ruta revisados.
2	source/units/unit-2.ipynb	notebook	45 minutos	El problema de modelar secuencias	conceptual-clarity	Formular el lenguaje como secuencia discreta y objetivo autoregresivo.	Explicacion de prediccion del siguiente token.
3	source/units/unit-3.ipynb	notebook	60 minutos	Tokens, vocabulario y batches	guided-practice	Construir tokenizacion simple, vocabulario, codificacion y pares x/y.	Vocabulario y batches verificados.
4	source/units/unit-4.ipynb	notebook	60 minutos	Embeddings y geometria de tokens	guided-practice	Interpretar embeddings como tabla entrenable y geometria aprendida.	Visualizacion o comparacion de embeddings.
5	source/units/unit-5.ipynb	notebook	45 minutos	Posicion y orden en secuencias	guided-practice	Motivar informacion posicional para preservar orden en secuencias.	Ejemplos de orden y posicion interpretados.
6	source/units/unit-6.ipynb	notebook	60 minutos	Tensores del Transformer	guided-practice	Manipular formas tensoriales usadas por atencion y proyecciones.	Shapes de tensores explicados.
7	source/units/unit-7.ipynb	notebook	45 minutos	Atencion como mezcla ponderada	conceptual-clarity	Entender atencion como combinacion ponderada de informacion disponible.	Pesos de atencion y mezcla interpretados.
8	source/units/unit-8.ipynb	notebook	60 minutos	Queries, Keys y Values	guided-practice	Construir la lectura consulta-comparacion-contenido de la atencion.	Q/K/V explicados con tensores.
9	source/units/unit-9.ipynb	notebook	60 minutos	Self-attention matricial	guided-practice	Derivar y ejecutar scaled dot-product attention.	Matrices de atencion calculadas.
10	source/units/unit-10.ipynb	notebook	60 minutos	Atencion causal	guided-practice	Aplicar mascara triangular y conectar atencion con prediccion autoregresiva.	Mascara causal y logits futuros justificados.
11	source/units/unit-11.ipynb	notebook	75 minutos	Multi-head attention	guided-practice	Implementar division en cabezas, atencion paralela, concatenacion y proyeccion.	Cabezas y proyeccion final verificadas.
12	source/units/unit-12.ipynb	notebook	60 minutos	Residuales, LayerNorm y MLP	conceptual-clarity	Explicar residuales, normalizacion y MLP por posicion.	Bloques residuales y normalizacion interpretados.
13	source/units/unit-13.ipynb	notebook	75 minutos	Bloque Transformer decoder	project-builder	Integrar atencion causal multi-head, MLP, LayerNorm y residuales en un bloque reutilizable.	Bloque decoder implementado.
14	source/units/unit-14.ipynb	notebook	90 minutos	Mini-GPT desde cero	project-builder	Construir un mini modelo autoregresivo con embeddings, bloques decoder y lm_head.	Mini modelo instanciado y explicado.
15	source/units/unit-15.ipynb	notebook	90 minutos	Entrenamiento autoregresivo	project-builder	Entrenar con cross-entropy, estimar validacion y reconocer sobreajuste.	Curvas o metricas de entrenamiento analizadas.
16	source/units/unit-16.ipynb	notebook	75 minutos	Generacion, interpretacion y limites	conceptual-clarity	Comparar estrategias de generacion y sus limites interpretativos.	Salidas generadas y limites documentados.
17	source/units/unit-17.ipynb	notebook	120 minutos	Proyecto final	project-builder	Definir una entrega integradora con implementacion, experimentos, visualizaciones y analisis critico.	Proyecto reproducible con defensa tecnica.

Publication Strategy

For HTML export, source/units/unit-N.ipynb is the canonical publication source. The derived chapters should preserve the notebook route, technical distinctions, warnings, exercises, code evidence and limitations without introducing new claims or turning the course into a tool-use tutorial.