Modelo de IA de 1 bit gigante da Microsoft: Desempenho impressionante, compatibilidade limitada
2025-04-17
Pesquisadores da Microsoft revelaram o BitNet b1.58 2B4T, um modelo de IA de 1 bit inovador com 2 bilhões de parâmetros. Treinado em um conjunto de dados massivo, ele supera modelos comparáveis da Meta, Google e Alibaba em benchmarks como GSM8K e PIQA, com o dobro da velocidade e uso de memória significativamente menor. Surpreendentemente, ele roda em CPUs, incluindo o Apple M2. No entanto, sua dependência na estrutura personalizada bitnet.cpp da Microsoft, atualmente incompatível com GPUs, limita sua adoção ampla. Embora promissor para dispositivos com recursos limitados, a compatibilidade permanece um grande obstáculo.
IA
IA de 1 bit