llama.cpp ultra-rapide sur les GPU Intel avec IPEX-LLM
2025-03-06
Ce guide montre comment exécuter llama.cpp directement sur les GPU Intel à l'aide du package zip portable et d'IPEX-LLM, éliminant ainsi le besoin d'installations manuelles. Il a été vérifié sur les processeurs Intel Core Ultra, les processeurs Core de 11e à 14e génération et les GPU Intel Arc A/B-Series. Le guide détaille le téléchargement, l'extraction, la configuration des variables d'environnement et des exemples d'exécution, offrant des instructions personnalisées pour les configurations multi-GPU et les différents systèmes d'exploitation (Windows et Linux). Cela permet une exécution fluide des grands modèles de langage sur le matériel Intel.
Développement