Limitações da IA Generativa: Uma Crítica de Gary Marcus

O cientista cognitivo Gary Marcus é um cético proeminente da IA generativa, argumentando que o caminho tecnológico atual sofre de falhas técnicas e éticas. Ele destaca que os Grandes Modelos de Linguagem (LLMs) se destacam na aproximação de funções, mas ficam aquém no aprendizado de funções, propensos a problemas de "desvio de distribuição" e incapazes de entender conceitos abstratos ou seguir instruções de forma confiável. Marcus argumenta que os LLMs carecem de compreensão do mundo real, levando a erros lógicos e vieses. Ele propõe a integração de redes neurais com métodos de IA clássicos para resolver essas deficiências. Ele introduz um novo benchmark de avaliação — o "desafio de compreensão" —, em que um sistema de IA deve ser capaz de entender um enredo de filme e responder a perguntas relacionadas, medindo a verdadeira compreensão.