Caten:基于多面体编译器和轻量级IR的深度学习编译器

2024-12-10

Caten是一个实验性的深度学习编译器,旨在结合tinygrad的简洁性和TVM的灵活性。目前仍处于早期开发阶段,支持一些模型,例如GPT2,并可以通过环境变量控制编译设置。Caten的目标是支持广泛的模型,包括图像处理、文本生成和视觉语言模型,并计划在IR成熟后进一步提升性能。该项目欢迎贡献,例如添加新的激活函数、矩阵运算、错误报告、测试以及核心编译器组件的重构等。