A Conexão Profunda entre Estimação de Máxima Verossimilhança e Funções de Perda

2024-12-15

Este artigo mergulha na relação intrínseca entre a Estimação de Máxima Verossimilhança (EMV) e as funções de perda comumente usadas. Começando com os fundamentos da EMV, o autor explica meticulosamente sua estreita conexão com a divergência KL. O artigo então usa o Erro Quadrático Médio (EQM) e a Entropia Cruzada como exemplos, demonstrando como essas funções são derivadas naturalmente da EMV, em vez de serem escolhidas arbitrariamente. Ao assumir distribuições de dados (por exemplo, Gaussiana para regressão linear, Bernoulli para regressão logística), maximizar a função de verossimilhança por meio da EMV leva diretamente às funções de perda EQM e Entropia Cruzada. Isso fornece um caminho claro para entender os fundamentos teóricos das funções de perda, indo além da mera intuição.