Microsofts riesiges 1-Bit-KI-Modell: Beeindruckende Leistung, eingeschränkte Kompatibilität

Forscher von Microsoft haben BitNet b1.58 2B4T vorgestellt, ein bahnbrechendes 2-Milliarden-Parameter-KI-Modell mit 1 Bit. Trainiert auf einem riesigen Datensatz, übertrifft es vergleichbare Modelle von Meta, Google und Alibaba bei Benchmarks wie GSM8K und PIQA mit doppelter Geschwindigkeit und deutlich geringerem Speicherverbrauch. Überraschenderweise läuft es auf CPUs, einschließlich Apples M2. Allerdings schränkt seine Abhängigkeit von Microsofts eigenem Framework bitnet.cpp, das derzeit nicht mit GPUs kompatibel ist, die breite Akzeptanz ein. Obwohl vielversprechend für ressourcenbeschränkte Geräte, bleibt die Kompatibilität ein großes Problem.