基于WebGL2的GPT-2浏览器端推理演示

这是一个令人惊叹的项目，它将GPT-2小型模型（1.17亿参数）的完整前向传播过程搬上了浏览器端的WebGL2。通过巧妙地利用WebGL2着色器在GPU上进行计算，并使用js-tiktoken进行BPE分词（无需WASM），该项目实现了在浏览器中直接运行GPT-2模型。开发者提供了Python脚本下载预训练权重，并使用Vite构建前端，支持热模块替换。这是一个将先进AI模型带入浏览器端的绝佳案例，展现了Web技术的前沿能力。