Texto a SQL en producción: por qué la demo funciona y el piloto no
Los modelos ya escriben SQL válido. El problema es que una consulta puede ejecutarse sin error y devolver el número equivocado con toda la confianza del mundo.
llmdatosarquitectura
notas de campo
Blog
Pensamientos, tutoriales y experiencias sobre desarrollo web, arquitectura e ingeniería.
Recuperación visual de documentos: cuando dejas de extraer texto del PDF
Tu pipeline de RAG pierde información en el parser, no en el modelo. Incrustar la página como imagen elimina ese paso, y trae una factura de almacenamiento que conviene mirar antes.
ragmultimodalembeddings
Destilación de modelos: cómo un modelo pequeño aprende del grande
El modelo grande acierta pero te arruina; el pequeño es barato pero falla. La destilación es el puente, y tiene más letra pequeña de la que cuentan.
llmdestilacióncostes
Permisos en RAG: el filtro que nadie pone hasta que es tarde
Un índice vectorial no sabe quién pregunta. Si no se lo dices tú, tu buscador interno se convierte en una fuga de datos con buena redacción.
ragseguridadarquitectura
Parsear PDFs para RAG: el eslabón que casi nadie mide
Ajustas el chunking, cambias el reranker, subes el recall. Y el corpus sigue roto desde la primera línea, porque el PDF nunca fue texto.
ragingestapdf
Cómo se testea el código que llama a un LLM
No puedes comparar la salida con una cadena esperada. Casi todo lo que rodea a esa salida sí es determinista, y ahí es donde viven tus bugs.
testingllmpython
HNSW frente a IVF: afinar el índice antes de cambiar de base de datos vectorial
Tu recuperación no falla por el modelo de embeddings; falla porque el índice descarta candidatos en silencio y nadie mide cuántos.
ragbases-de-datosembeddings
Observabilidad de agentes: tu traza se rompe justo donde importa
Un span de 14 segundos llamado POST /v1/messages no es observabilidad. Cómo OpenTelemetry abre la caja negra del agente y qué parte de la especificación puedes usar ya.
ia-generativaagentesobservabilidadopentelemetry
Observabilidad de un LLM: tus logs no ven el fallo
Un 500 se detecta solo; una respuesta mediocre devuelve 200 OK y nadie se entera. La traza es la unidad que sirve.
llmobservabilidadproduccion
DPO frente a RLHF: alinear un modelo sin aprendizaje por refuerzo
El aprendizaje por refuerzo nunca fue imprescindible para alinear un LLM; DPO lo sustituye por una pérdida de clasificación y dos modelos en memoria.
llmfine-tuningalineamiento
Recuperación contextual: el chunk que se olvidó de dónde venía
Trocear un documento tira a la basura el contexto que hace recuperable cada chunk; recupéralo antes de indexar.
ragrecuperaciónembeddings
Cuantización de embeddings: reducir el índice 32 veces sin perder recall
Tu base vectorial no crece por los documentos, crece por los float32. Aquí está el recorte que casi nadie aplica.
embeddingsragvector-databases
