LLMs: Enciclopédias com Perda de Informação

Os modelos de linguagem grandes (LLMs) são como enciclopédias com perda de informação; eles contêm uma vasta quantidade de informação, mas essa informação é compactada, levando à perda de dados. A chave é discernir quais perguntas os LLMs podem responder efetivamente versus aquelas em que a perda de informação afeta significativamente a precisão. Por exemplo, pedir a um LLM para criar um esqueleto de projeto Zephyr com configurações específicas é uma pergunta 'sem perda' que requer detalhes precisos, com o que os LLMs têm dificuldades. A solução é fornecer um exemplo correto, permitindo que o LLM opere com base em fatos existentes, em vez de depender de detalhes potencialmente ausentes em seu banco de conhecimento.