DeepMind: Projeto para Desenvolvimento Seguro de IAG – Navegando os Riscos de 2030

Com o entusiasmo pela IA em alta, o foco muda para a Inteligência Artificial Geral (IAG). Um novo artigo de 108 páginas da DeepMind aborda a questão crucial do desenvolvimento seguro da IAG, projetando uma possível chegada em 2030. O artigo descreve quatro categorias principais de risco: uso indevido, desalinhamento, erros e riscos estruturais. Para mitigá-los, a DeepMind propõe testes rigorosos, protocolos de segurança robustos após o treinamento e até mesmo a possibilidade de 'desaprender' capacidades perigosas — um desafio significativo. Essa abordagem proativa visa prevenir os danos graves que uma IA de nível humano poderia causar.