电子表格就是你所需的一切
2024-06-09
本文介绍了一个名为“电子表格就是你所需的一切”的项目,该项目将nanoGPT管道打包到一个电子表格中,以可视化GPT的工作原理。该项目基于Andrej Karpathy的nanoGPT结构,包含约85000个参数,使用户能够交互式地配置和理解transformer的内部机制,包括嵌入层、规范化、自注意力、投影、MLP、softmax和logits。该项目提供了两种电子表格文件:“无权重”和“随机权重”,分别显示了清晰的参数值和随机生成的参数值,方便用户理解数据流和参数影响。
53
未分类
nanoGPT