RAG modular: ¿Pueden los modelos de razonamiento reemplazar los pipelines de recuperación tradicionales?
kapa.ai experimentó con un sistema modular de Generación Aumentada por Recuperación (RAG) impulsado por modelos de razonamiento para simplificar su asistente de IA y reducir la necesidad de ajuste manual de parámetros. Utilizando el modelo o3-mini, descubrieron que, si bien hubo ganancias modestas en la generación de código, el sistema no superó a los pipelines RAG tradicionales en tareas de recuperación principales, como la calidad de recuperación de información y la extracción de conocimiento. El experimento reveló una falacia "razonamiento ≠ experiencia": los modelos de razonamiento carecen de experiencia práctica con las herramientas de recuperación y necesitan estrategias de aviso mejoradas o pre-entrenamiento para utilizarlas eficazmente. La conclusión es que el RAG modular basado en razonamiento no es actualmente superior al RAG tradicional dentro de restricciones de tiempo razonables, pero su flexibilidad y escalabilidad siguen siendo atractivas.