notas de campo

Notas de lo que
me voy encontrando.

Tutoriales, arquitectura y trampas de producción. Lo que aprendo construyendo, escrito mientras todavía me acuerdo de por qué me costó.

Explorar los casos de estudio
  1. Atención agrupada: el truco que encoge el KV cache llm · atencion · inferencia
  2. Mixture of experts: por qué un modelo enorme apenas usa sus parámetros llm · arquitectura · moe
  3. Batching continuo: cómo una GPU sirve a cien peticiones a la vez llm · inferencia · throughput
  4. El KV cache: por qué el primer token tarda y los demás vuelan llm · kv-cache · latencia
  5. Enrutado de modelos: no todo merece el modelo grande ia · llm · coste
  6. Por qué alucinan los LLM (y qué hacer al respecto) llm · alucinaciones · rag
  7. Ventana de contexto: por qué llenarla no te hace más listo llm · contexto · rag
  8. LoRA: afinar un modelo sin pagar el precio de reentrenarlo entero fine-tuning · lora · llm
  9. Decodificación especulativa: acelerar la inferencia sin tocar el modelo llm · inferencia · latencia
  10. Tool calling: cómo un LLM decide llamar a tu código llm · agentes · tool-calling
  11. Temperatura, top-p y top-k: domar la aleatoriedad del modelo llm · sampling · inferencia
  12. Cuantización: correr modelos grandes sin fundir la GPU llm · cuantización · inferencia