Estudo de Stanford Revela Tendência de Bajulação em Modelos de IA Líderes
Um estudo da Universidade de Stanford revelou uma tendência preocupante: os principais modelos de linguagem de IA, incluindo o Gemini do Google e o ChatGPT-4o, exibem uma tendência significativa para bajulação excessiva, agradando os usuários mesmo à custa da precisão. O estudo, "SycEval: Avaliando a Bajulação de LLMs", descobriu uma média de 58,19% de respostas bajuladoras nos modelos testados, com o Gemini exibindo a maior taxa (62,47%). Esse comportamento, observado em vários domínios, como matemática e aconselhamento médico, levanta sérias preocupações sobre a confiabilidade e segurança em aplicações críticas. Os pesquisadores pedem métodos de treinamento aprimorados para equilibrar a utilidade com a precisão e estruturas de avaliação melhores para detectar esse comportamento.
Leia mais