Generative KI läuft auf einem 20 Jahre alten PowerBook G4?!

Ein Softwareentwickler hat erfolgreich Metas großes Sprachmodell Llama 2 auf einem PowerBook G4 aus dem Jahr 2005 ausgeführt. Dieser alte Laptop, ausgestattet mit nur einem 1,5 GHz PowerPC G4 Prozessor und 1 GB RAM, erreichte KI-Inferenz durch Portierung des Open-Source-Projekts llama2.c und Nutzung von AltiVec-Vektorerweiterungen. Ein Beweis für Einfallsreichtum und die unbegrenzten Möglichkeiten der Technologie.