2024年大型语言模型：突破与挑战并存

2024年大型语言模型（LLM）领域发展迅猛，GPT-4的性能被多个机构超越，模型运行效率大幅提升，甚至可在个人笔记本电脑上运行。多模态模型成为主流，语音和视频功能也开始出现。基于提示的应用生成已成为商品，但最佳模型的普遍访问仅持续了几个月。虽然“智能体”尚未真正实现，但评估的重要性日益凸显。苹果的MLX库表现出色，但其“Apple Intelligence”功能令人失望。推理缩放模型兴起，降低了运行成本并提升了环境效益，但也带来了新的基础设施建设带来的环境问题。合成训练数据效果显著，但LLM的使用难度依然很高，知识分布不均，且需要更多批判性评价。