大型语言模型并非世界模型:一个反直觉的论点

2025-08-13

本文作者通过多个例子论证大型语言模型(LLM)并非真正理解世界,而只是擅长预测文本序列。作者以国际象棋、图像混合模式和Python多线程编程为例,指出LLM虽然能生成看似合理的答案,但却缺乏对底层逻辑和规则的理解。即使在被反复纠正后,LLM仍然难以掌握基本概念。作者认为,LLM的成功更多依赖于工程努力,而非对世界的真正理解,并预测未来机器学习领域将出现关于“世界模型”的突破,从而真正实现通用人工智能。

阅读更多
AI

C++ thread_local 的性能陷阱:0 + 0 > 0?

2025-02-17
C++ thread_local 的性能陷阱:0 + 0 > 0?

本文深入探讨了 C++ 中 thread_local 变量的性能问题。作者通过分析汇编代码,揭示了 thread_local 变量在不同场景下的性能差异,特别是带有构造函数的 thread_local 变量以及在共享库中的使用,其性能开销远超预期。作者发现,即使简单的访问操作,也可能因构造函数的调用、共享库的动态加载等因素,导致性能急剧下降。文章最后总结了性能优化建议,并探讨了未来改进方向,希望能帮助开发者规避 thread_local 的性能陷阱。

阅读更多
开发 thread_local

一位工程师的Forth编程之旅:从迷恋到放弃

2024-12-28

本文讲述了一位工程师学习和使用Forth编程语言的经历。作者最初被Forth的简洁性和可扩展性所吸引,深入研究了pForth的源代码,惊叹于其编译时自修改代码的能力。然而,在实际项目中,作者发现Forth更适合数值计算,难以胜任文本处理等任务。在设计一个自定义硬件的嵌入式系统时,作者利用Forth设计了该系统的CPU指令集,但最终发现使用C语言更高效,放弃了Forth。作者认为,Forth适合追求极致效率的极简主义者,而他自己更倾向于务实,选择更广泛使用的编程语言。

阅读更多
开发

Ctrl-C 分析法

2024-09-03

文章介绍了一种简单但有效的代码性能分析方法:Ctrl-C 分析法。作者承认,虽然专业的分析工具更为强大,但在面对许多实际问题时,Ctrl-C 分析法简单易用,无需复杂配置,且能快速定位问题。文章列举了使用 Ctrl-C 分析法解决 JSON 解析缓慢和链接器问题的例子,并探讨了 Ctrl-C 分析法与其他分析工具的优缺点。

阅读更多
41
未分类 调试技巧

无能管理的优势

2024-07-06

文章以讽刺的口吻,探讨了无能管理在某些情况下带来的意外好处。作者指出,由于缺乏明确目标和绩效压力,无能管理反而可以促进员工自发优化和减少代码臃肿。相比之下,追求效率和目标导向的管理方式可能导致资源浪费、代码膨胀和员工为绩效考核而制造不必要的工作。

阅读更多
62
未分类

SIMD < SIMT < SMT:NVIDIA GPU 中的并行机制

2024-06-11

本文深入探讨了 NVIDIA GPU 中的并行编程模型 SIMT,将其与 SIMD 和 SMT 进行比较。文章首先阐述了 SIMT 的三个关键特性:单指令多寄存器集、单指令多地址和单指令多流路径,这些特性使得 SIMT 比 SIMD 更灵活。随后,文章分析了 SIMT 和 SMT 在高延迟指令处理上的差异,指出 SIMT 依靠大量线程和高吞吐量来掩盖高延迟,而 SMT 则采用上下文切换。最后,文章总结了 SIMT 在低占用率、流分歧和同步选项上的局限性,并肯定了 SIMT 作为一种独特高效的并行架构的价值。

阅读更多
63
未分类 SIMT

The state of AI for hand-drawn animation inbetweening

2024-04-19

此网站文章探讨了人工智能在手绘动画中的应用,特别是在补间动画中的应用。文章回顾了该领域的最新进展,包括使用人工智能生成真实感的面部表情和身体动作,以及使用人工智能优化工作流程。文章还讨论了人工智能在该领域的未来潜力,指出人工智能可以帮助动画师创建更逼真、更高效的动画。

阅读更多
52
未分类