Construyendo una estación de trabajo personal de IA económica: Una odisea de hardware

Cansado de los costosos servicios de IA en la nube y la posible censura, el autor se embarcó en una aventura para construir una computadora personal de IA rentable. El artículo detalla el proceso de ensamblaje de un sistema utilizando una estación de trabajo HP Z440 de segunda mano, dos GPU Nvidia Tesla P40 usadas (48 GB de VRAM en total) y otros componentes necesarios, todo por alrededor de € 1700. La construcción presentó numerosos desafíos, incluyendo la refrigeración de la GPU y la compatibilidad de la fuente de alimentación, que el autor documenta y resuelve meticulosamente. Las pruebas de referencia demuestran la capacidad del sistema para ejecutar LLMs de tamaño medio sin problemas, proporcionando un control total sobre los modelos de IA.