OpenAI向美国政府展示“Strawberry”模型，并计划将其应用于ChatGPT
OpenAI正在开发代号为“Strawberry”的新人工智能模型，该模型推理速度较慢，成本较高，但能够解决复杂问题且不易产生错误信息。OpenAI已向美国政府官员展示了“Strawberry”。该模型主要用于为其下一代大型语言模型“Orion”生成高质量的训练数据，但也可能在今年秋季以聊天机器人的形式应用于ChatGPT。
阅读更多超级婴儿：拼凑基因的未来
本文探讨了利用基因技术创造“超级婴儿”的可能性，分析了当前的技术瓶颈和未来方向。作者首先介绍了多基因评分在预测个体特征方面的应用，然后探讨了胚胎选择、迭代胚胎选择和体外诱导减数分裂等技术在筛选和创造具有特定基因特征胚胎方面的潜力。文章还讨论了体外配子发生、基因编辑、超级SOX因子以及表观遗传印记等技术挑战，强调了在伦理和安全性得到充分保障之前，这些技术不能用于创造“超级婴儿”。
阅读更多LessWrong网站用户niplav的快速思考
本文是LessWrong网站用户niplav的快速思考合集，内容涵盖了多个主题，包括人工智能、伦理学、认知科学、政治学等。niplav对这些主题提出了许多有趣且发人深省的观点和问题，引发了其他用户的讨论和思考。
阅读更多Transformer 的残差流如何表征信念状态几何
本文探讨了 Transformer 在进行下一词预测训练时所构建的计算结构。研究表明，这种结构是由数据生成过程中隐藏状态的信念更新元动力学决定的。作者使用隐藏马尔可夫模型 (HMM) 来表征训练数据，并引入了混合状态表示 (MSP) 的概念来描述信念更新的元动力学。实验结果表明，Transformer 的残差流激活可以线性地表征 MSP 的几何结构，这意味着 Transformer 不仅学习了世界模型，还学习了同步到该模型的计算结构。
阅读更多Simeon_c的简短思考
本文讨论了Daniel Kokotajlo因未在离开OpenAI之前签署保密协议而损失了大量资金，以及是否应该奖励这种行为以鼓励未来的安全人员不签署保密协议。文章还讨论了西方民主国家是否应该采取行动阻止俄罗斯和中国的战争准备，以及如何对AI风险相关概念进行分类以降低AI威胁建模的维数。
阅读更多第三次: 一种更好的工作方式
文章介绍了一种名为“第三次”的时间管理方法，主张工作一段时间后休息对应三分之一的时间。这种方法比传统的番茄工作法更加灵活，能够适应不同的工作节奏和突发事件，并鼓励高质量的专注工作和充分休息。文章详细介绍了“第三次”方法的具体步骤，包括如何处理中断、安排午休和晚餐时间，以及根据不同工作类型调整休息时间比例等。
阅读更多如何成为业余通晓多语言者
本文作者分享了成为业余通晓多语言者的经验和方法。作者认为，能够理解和参与以目标语言进行的日常对话是判断是否掌握一门语言的关键。作者推荐使用Memrise等应用程序进行学习，并建议专注于基本语法和常用词汇。作者还强调了持续学习的重要性，建议通过观看电视节目、阅读书籍、收听播客和与母语人士交流来提高语言能力。
阅读更多