LLMs: Enciclopedias con Pérdida de Información

Los modelos de lenguaje grandes (LLMs) son como enciclopedias con pérdida de información; contienen una gran cantidad de información, pero esta información se comprime, lo que lleva a la pérdida de datos. La clave está en discernir qué preguntas los LLMs pueden responder eficazmente frente a aquellas en las que la pérdida de información afecta significativamente a la precisión. Por ejemplo, pedir a un LLM que cree un esqueleto de proyecto Zephyr con configuraciones específicas es una pregunta 'sin pérdida' que requiere detalles precisos, con lo que los LLMs tienen dificultades. La solución es proporcionar un ejemplo correcto, permitiendo que el LLM opere con base en hechos existentes, en lugar de depender de detalles potencialmente faltantes en su base de conocimiento.