LLMs em 2024: Um Ano de Avanços e Desafios

2024 testemunhou uma evolução notável em modelos de linguagem amplos (LLMs). Várias organizações superaram o desempenho do GPT-4, levando a um aumento dramático da eficiência, permitindo até mesmo a execução de LLMs em laptops pessoais. Os modelos multimodais tornaram-se comuns, com recursos de voz e vídeo emergindo. A geração de aplicativos baseada em prompts tornou-se uma commodity, mas o acesso universal aos modelos de alta qualidade durou apenas alguns meses. Embora os 'agentes' permanecessem evasivos, a importância da avaliação tornou-se primordial. A biblioteca MLX da Apple se destacou, contrastando com os recursos decepcionantes da 'Apple Intelligence'. Os modelos de dimensionamento de inferência surgiram, reduzindo custos e melhorando o impacto ambiental, mas também levantando preocupações sobre as consequências ambientais de novas infraestruturas. Dados de treinamento sintéticos provaram ser altamente eficazes, mas a usabilidade de LLM permaneceu desafiadora, a distribuição do conhecimento permaneceu desigual e são necessárias avaliações críticas melhores.