Los LLM alucinan paquetes de software inexistentes: Una vulnerabilidad en la cadena de suministro

Los investigadores han descubierto una preocupante vulnerabilidad en los grandes modelos de lenguaje (LLM): la alucinación de paquetes de software inexistentes durante la generación de código. Esto no es aleatorio; se generan repetidamente nombres específicos de paquetes inexistentes, creando un patrón repetible. Los atacantes podrían explotar esto publicando malware con estos nombres alucinados, esperando a que los desarrolladores los accedan, lanzando así un ataque a la cadena de suministro. Los LLM de código abierto mostraron una tasa mayor de esta “alucinación de paquetes” que los modelos comerciales, y el código Python mostró menos instancias que el JavaScript.