2023年，BabyAGI和AutoGPT等AI代理的早期尝试虽然引发轰动，却因大型语言模型（LLM）在多步骤推理方面的不足而告终。然而，2024年中期，情况发生了逆转。得益于强化学习技术的进步，新一代AI代理系统应运而生，它们能够持续完成复杂的多步骤任务，例如Bolt.new等代码生成工具和Anthropic的Claude 3.5 Sonnet。强化学习通过试错训练模型，克服了模仿学习中存在的累积误差问题，从而使模型能够在面对非训练数据时也能保持稳定性。OpenAI的RLHF和Anthropic的Constitutional AI等技术则通过自动化方式提供反馈，进一步提升了强化学习的效率。DeepSeek的R1模型则展现了模型通过强化学习“自学”推理能力的惊人潜力。总之，强化学习的进步是2025年AI代理技术腾飞的关键驱动力。
阅读更多
最新研究显示，Meta 的 Llama 3.1 70B 大型语言模型惊人地记忆了大量书籍内容，例如《哈利·波特与魔法石》的 42%。这比其前代模型 Llama 1 65B 高出许多，引发了对 AI 版权的严重担忧。研究人员通过计算模型生成特定文本序列的概率，而非实际生成大量文本，高效地评估了模型的“记忆”能力。这一发现可能对 Meta 面临的版权诉讼产生重大影响，并可能促使法院重新审视 AI 模型训练中合理使用的界限。虽然该模型对一些冷门书籍的记忆较少，但对热门书籍的过度记忆，凸显了大型语言模型在版权问题上的挑战。
阅读更多
普林斯顿物理学博士Nick McGreivy分享了他尝试将AI应用于物理学研究的经历。起初，他相信AI能显著加速研究，但实际应用中发现AI方法远不如宣传的那么有效，许多论文夸大了AI的优势，甚至存在数据泄露等问题。他发现，AI在科学研究中的应用增长迅速，但这更多是因为AI能为科学家带来更高的薪资和声望，而非真正提升科学研究效率。他呼吁更严谨的AI评估方法，并警惕AI研究中存在的乐观偏差。
阅读更多
本文分析了Waymo自动驾驶汽车在2024年7月至2025年2月期间发生的38起严重事故。令人惊讶的是，其中绝大多数事故并非Waymo车辆自身原因造成，而是由其他车辆违规驾驶导致，例如超速、闯红灯等。Waymo的数据显示，其自动驾驶车辆的事故率远低于人类驾驶员，即使将所有事故都归咎于Waymo，其安全记录依然显著优于人类驾驶。与人类驾驶相比，Waymo在减少事故方面取得了显著进展，尤其是在减少导致人员受伤的事故方面。
阅读更多
本文讲述了深度学习的兴起如何出乎大多数人意料。文章以李飞飞教授创建ImageNet数据集的经历为主线，讲述了她在面对质疑时坚持推进项目的决心。ImageNet数据集的出现为深度学习的爆发奠定了基础，2012年，多伦多大学团队使用ImageNet训练的AlexNet模型在图像识别领域取得了突破性成果，标志着深度学习时代的到来。文章还强调了杰弗里·辛顿对神经网络的坚持，以及英伟达CEO黄仁勋对GPU通用计算平台CUDA的远见，这三个关键因素共同促成了深度学习的繁荣。
阅读更多