Pensamientos, tutoriales y experiencias sobre desarrollo web, arquitectura e ingeniería.
Tu pipeline de RAG pierde información en el parser, no en el modelo. Incrustar la página como imagen elimina ese paso, y trae una factura de almacenamiento que conviene mirar antes.
Tu recuperación no falla por el modelo de embeddings; falla porque el índice descarta candidatos en silencio y nadie mide cuántos.
Trocear un documento tira a la basura el contexto que hace recuperable cada chunk; recupéralo antes de indexar.
Tu base vectorial no crece por los documentos, crece por los float32. Aquí está el recorte que casi nadie aplica.
Comprimir un documento en un vector pierde información. La interacción tardía la conserva, y a veces vale el coste.
Guardas vectores de 3072 dimensiones cuando 256 te bastarían. Así se recorta el coste sin romper la búsqueda.
La búsqueda semántica entiende el sentido pero se pierde con un código de error o un nombre propio. Notas de campo sobre juntar BM25 y vectores sin montar un frankenstein.
Casi todos los fallos de recuperación no son culpa del embedding, sino de cómo troceaste el texto. Notas de campo para partir documentos sin romper el sentido.
Si entiendes esto, entiendes por qué tu buscador semántico acierta o falla.
