Prime Intellect 推出 INTELLECT-1：首个 100 亿参数模型的去中心化训练
2024-10-12
%20(1).png)
Prime Intellect 推出了 INTELLECT-1，这是第一个 100 亿参数模型的去中心化训练，任何人都可以贡献计算资源并参与其中。INTELLECT-1 基于 Llama-3 架构，将在 Hugging Face 的高质量开源数据集 Fineweb-Edu 上进行训练。Prime Intellect 还发布了 Prime，这是一个新的去中心化训练框架，支持容错训练、动态上下线计算资源，并优化了跨全球分布式 GPU 网络的通信和路由。
阅读更多
未分类