Pensamientos, tutoriales y experiencias sobre desarrollo web, arquitectura e ingeniería.
Tu pipeline de RAG pierde información en el parser, no en el modelo. Incrustar la página como imagen elimina ese paso, y trae una factura de almacenamiento que conviene mirar antes.
Un índice vectorial no sabe quién pregunta. Si no se lo dices tú, tu buscador interno se convierte en una fuga de datos con buena redacción.
Ajustas el chunking, cambias el reranker, subes el recall. Y el corpus sigue roto desde la primera línea, porque el PDF nunca fue texto.
Tu recuperación no falla por el modelo de embeddings; falla porque el índice descarta candidatos en silencio y nadie mide cuántos.
Trocear un documento tira a la basura el contexto que hace recuperable cada chunk; recupéralo antes de indexar.
Tu base vectorial no crece por los documentos, crece por los float32. Aquí está el recorte que casi nadie aplica.
Comprimir un documento en un vector pierde información. La interacción tardía la conserva, y a veces vale el coste.
Tu usuario no pregunta como está escrito tu corpus; arregla la consulta antes de recuperar.
Guardas vectores de 3072 dimensiones cuando 256 te bastarían. Así se recorta el coste sin romper la búsqueda.
El RAG por similitud responde bien a lo que vive en un párrafo. Se pierde cuando la respuesta está repartida entre documentos.
Buscar una vez y rezar aguanta en la demo; en producción el sistema tiene que saber volver a buscar.
Una alucinación no es un fallo que parchear: es el comportamiento por defecto de un modelo entrenado para continuar, no para saber.
