2024年AI的重大失败：从垃圾内容到失控的聊天机器人

2024年，AI取得了显著进展，但也暴露出诸多问题。生成式AI的泛滥导致大量低质量内容（“AI垃圾”）充斥网络，影响模型训练效果。AI生成的虚假图像导致现实事件的扭曲认知，例如虚假活动宣传。Elon Musk的xAI公司推出的Grok图像生成模型，因缺乏必要的安全限制，能够生成暴力和非法内容，引发担忧。此外，聊天机器人的失控和不准确信息输出也造成负面影响，例如航空公司客服机器人给出错误的退款政策。AI搜索结果的错误总结和深度伪造色情内容的传播，进一步凸显了AI技术伦理和安全监管的不足。