贝叶斯神经网络

本文介绍了贝叶斯神经网络，它通过学习神经网络权重的概率分布来缓解过拟合问题，尤其是在小数据集上。与传统神经网络训练寻找最佳权重点估计不同，贝叶斯方法计算权重的后验分布，并通过后验预测分布进行概率预测。由于精确推理计算成本高，文章介绍了近似推理方法，包括蒙特卡洛方法和变分推理。重点介绍了随机变分推理，它修改标准神经网络训练算法，通过优化证据下界来近似后验分布。