La apuesta de Fly.io a las GPU: Un informe post mortem

Fly.io intentó integrar GPUs en su nube pública, con el objetivo de proporcionar a los usuarios capacidades de inferencia de IA/ML. Sin embargo, el proyecto finalmente fracasó. Se destacan varias razones clave: la abrumadora preferencia de los desarrolladores por las API de LLM en lugar de las GPU, las limitaciones de soporte de controladores de Nvidia que perjudican la rentabilidad y la flexibilidad, y las importantes preocupaciones sobre seguridad y costos de hardware. A pesar del fracaso, Fly.io obtuvo valiosas lecciones, enfatizando la importancia de realizar investigaciones de mercado exhaustivas antes de realizar inversiones a gran escala.