마이크로소프트의 거대한 1비트 AI 모델: 놀라운 성능, 하지만 호환성 문제

마이크로소프트 연구원들은 20억 개의 매개변수를 가진 획기적인 1비트 AI 모델인 BitNet b1.58 2B4T를 발표했습니다. 방대한 데이터 세트로 훈련되었으며, GSM8K 및 PIQA와 같은 벤치마크에서 Meta, Google, 알리바바의 유사한 모델을 능가하며 속도는 두 배, 메모리 사용량은 훨씬 적습니다. 놀랍게도 Apple M2를 포함한 CPU에서 작동합니다. 그러나 현재 GPU와 호환되지 않는 마이크로소프트의 맞춤형 프레임워크인 bitnet.cpp에 의존하기 때문에 광범위한 채택에는 제한이 있습니다. 자원이 제한된 장치에는 유망하지만 호환성은 여전히 큰 과제입니다.