Embeddings Matryoshka: recorta dimensiones sin perder el hilo
Guardas vectores de 3072 dimensiones cuando 256 te bastarían. Así se recorta el coste sin romper la búsqueda.
embeddingsragia
notas de campo
Blog
Pensamientos, tutoriales y experiencias sobre desarrollo web, arquitectura e ingeniería.
Enrutado de modelos: no todo merece el modelo grande
La mitad de tus peticiones no necesitan el modelo caro. El truco está en saber cuáles antes de gastar.
iallmcostearquitectura
Caché en RAG: cómo recortar la factura de tokens a la mitad
El mismo contexto, viajando una y otra vez. Ahí está tu factura, y ahí está la palanca.
iaragrendimiento
Streaming de respuestas de un LLM: la UX que cambia todo
El modelo tarda lo mismo, pero la espera se siente la mitad. Ese es todo el truco.
iallmux
Vector databases: cuándo las necesitas de verdad
La respuesta honesta casi nunca es 'ya'. Aquí está la línea que sí la cruza.
iaragbases-de-datos
Evaluar un LLM en serio: por qué 'a mí me funciona' no basta
Sin un conjunto de evaluación, cada cambio de prompt es una apuesta a ciegas.
iallmevaluación
Prompt engineering que sí escala: del prompt mágico al sistema
Un prompt que funciona en tu pantalla no es un sistema. Es un accidente que aún no se ha roto.
iallmprompting
8 agentes para que Claude Code no se pierda entre sesiones
Lo que me llevé del harness de Anthropic y cómo lo aterricé en mi propio pipeline.
iaagentesclaude-code
Embeddings explicados sin matemáticas (pero con criterio)
Si entiendes esto, entiendes por qué tu buscador semántico acierta o falla.
iaembeddingsnlp
RAG en producción: por qué tu chatbot alucina y cómo evitarlo
El problema casi nunca es el modelo. Es lo que le das de comer.
iaragllm
