Descubriendo la Profunda Conexión entre la Estimación de Máxima Verosimilitud y las Funciones de Pérdida
Este artículo profundiza en la relación intrínseca entre la Estimación de Máxima Verosimilitud (EMV) y las funciones de pérdida comúnmente utilizadas. Comenzando con los fundamentos de la EMV, el autor explica meticulosamente su estrecha conexión con la divergencia KL. El artículo luego usa el Error Cuadrático Medio (ECM) y la Entropía Cruzada como ejemplos, demostrando cómo estas funciones se derivan naturalmente de la EMV en lugar de ser elegidas arbitrariamente. Al asumir distribuciones de datos (por ejemplo, Gaussiana para regresión lineal, Bernoulli para regresión logística), maximizar la función de verosimilitud mediante la EMV conduce directamente a las funciones de pérdida ECM y Entropía Cruzada. Esto proporciona una vía clara para comprender los fundamentos teóricos de las funciones de pérdida, yendo más allá de la mera intuición.
Leer más