DeepMind: Plan para el Desarrollo Seguro de IAG – Navegando los Riesgos de 2030

Con el entusiasmo por la IA en su punto máximo, el enfoque se desplaza a la Inteligencia Artificial General (IAG). Un nuevo artículo de 108 páginas de DeepMind aborda la cuestión crucial del desarrollo seguro de la IAG, proyectando una posible llegada en 2030. El artículo describe cuatro categorías principales de riesgo: mal uso, desalineación, errores y riesgos estructurales. Para mitigarlos, DeepMind propone pruebas rigurosas, protocolos de seguridad robustos después del entrenamiento e incluso la posibilidad de 'desaprender' capacidades peligrosas —un desafío significativo. Este enfoque proactivo tiene como objetivo prevenir los daños graves que una IA de nivel humano podría causar.