Contaminação por IA: A Incorporação Permanente do Termo Sem Sentido 'Microscopia Eletrônica Vegetativa'

Um estudo revela como o termo sem sentido 'microscopia eletrônica vegetativa' se tornou permanentemente incorporado em sistemas de IA. Originário de erros durante a digitalização de artigos científicos da década de 1950 e amplificado por erros de tradução, essa frase foi aprendida e gerada por grandes modelos de linguagem. Isso destaca a falta de transparência nos dados de treinamento de modelos de IA, a dificuldade de corrigir erros e os desafios à integridade do conhecimento. Os pesquisadores pedem maior transparência nos dados de treinamento de IA, processos de revisão por pares aprimorados e novas maneiras de avaliar informações na era da desinformação gerada por IA.