科学機械学習における自動微分の数値不安定性
2025-09-18
科学機械学習(SciML)は、勾配ベースの最適化のために自動微分(AD)に大きく依存しています。しかし、この講演では、特に常微分方程式(ODE)と偏微分方程式(PDE)への適用におけるADの数値的な安定性と堅牢性に関する課題を明らかにします。JaxとPyTorchの例を用いて、単純な線形ODEにおいてさえ、ADの不正確さが60%以上の大きな誤差につながる可能性があることを示します。講演者は、これらの問題に対処するためにJulia SciMLライブラリに実装された非標準的な修正と、必要なエンジニアリング上のトレードオフについて説明します。