IA générative sur un PowerBook G4 de 20 ans ?! Incroyable !

Un ingénieur logiciel a réussi à exécuter le grand modèle linguistique Llama 2 de Meta sur un PowerBook G4 de 2005. Ce vieil ordinateur portable, équipé seulement d'un processeur PowerPC G4 de 1,5 GHz et de 1 Go de RAM, a réussi l'inférence IA en important le projet open-source llama2.c et en utilisant les extensions vectorielles AltiVec. Une preuve de l'ingéniosité et des possibilités infinies de la technologie.