Guide de construction d'une configuration d'inférence IA Deepseek sur bare-metal
2025-02-01
Ce guide détaille la construction d'un environnement d'inférence IA Deepseek sur bare-metal. Utilisant un système AMD EPYC Rome avec 512 Go de RAM, il atteint 4,25 à 3,5 TPS. Le guide couvre la sélection du matériel, l'installation du système d'exploitation (Ubuntu 24.04), la configuration d'Ollama et d'OpenWebUI, les paramètres du BIOS et les instructions en ligne de commande. Bien que complexe, il est gratifiant pour les passionnés de technologie.