大型语言模型与国际象棋的奇怪现象

2024-11-14

本文探讨了大型语言模型(LLM)在国际象棋中表现的奇怪现象。作者通过实验发现,一年前被认为可以达到高级业余水平的LLM,如今除了gpt-3.5-turbo-instruct外,其他模型的表现都非常糟糕,即使是参数量更大的模型也无法胜任。作者提出了四种可能的解释:指令微调破坏了基础模型的棋力、GPT-3.5-instruct接受了更多棋局训练、不同的Transformer架构导致差异、不同类型数据之间的“竞争”。文章最后还讨论了输入提示中空格对模型性能的影响以及分词器的作用。

阅读更多
未分类

真正的数据壁垒是数十亿年的进化

2024-10-09

这篇文章探讨了人工智能领域中的“数据壁垒”问题。作者认为,仅仅依靠视觉数据或算法进步不足以克服数据壁垒,因为人类智能的根源在于数十亿年的进化过程中积累的海量信息,这些信息不仅包含在DNA中,还体现在细胞的物理结构和功能中。人类的学习算法是经过漫长的自然选择优化而来的,其复杂性和效率远超目前的AI系统。

阅读更多
未分类 数据壁垒

为什么建议不起作用?

2024-07-30

这篇文章探讨了为什么人们常常不听取建议。作者从多个角度分析了原因,包括建议本身的质量、接受建议者的个人情况、建议的可行性以及人们寻求建议的动机等。作者认为,即使是好的建议,也可能因为各种原因而被忽视。

阅读更多
未分类

Thoughts on seed oil - DYNOMIGHT INTERNET NEWSLETTER

2024-04-18

Dynomight 博客上的这篇文章重点介绍了食用油的类型,特别关注种子油的潜在危害。文章围绕一个假设展开,即精炼种子油在现代饮食中大量消费,对健康有害,并可能导致炎症、体重增加和其他健康问题。作者提供了科学研究和专家的观点来支持这一说法。文章还建议使用传统的烹饪油,如橄榄油、黄油和猪油,作为更健康的替代品。

阅读更多
未分类