科学機械学習における自動微分の数値不安定性

2025-09-18
科学機械学習における自動微分の数値不安定性

科学機械学習(SciML)は、勾配ベースの最適化のために自動微分(AD)に大きく依存しています。しかし、この講演では、特に常微分方程式(ODE)と偏微分方程式(PDE)への適用におけるADの数値的な安定性と堅牢性に関する課題を明らかにします。JaxとPyTorchの例を用いて、単純な線形ODEにおいてさえ、ADの不正確さが60%以上の大きな誤差につながる可能性があることを示します。講演者は、これらの問題に対処するためにJulia SciMLライブラリに実装された非標準的な修正と、必要なエンジニアリング上のトレードオフについて説明します。

続きを読む

陽解法と陰解法によるODEソルバー:安定性、堅牢性、および実際的な意味

2025-09-16
陽解法と陰解法によるODEソルバー:安定性、堅牢性、および実際的な意味

この記事では、陽解法と陰解法による常微分方程式(ODE)ソルバーの長所と短所を詳しく調べます。陰解法は一般的に優れた安定性からより堅牢であると考えられていますが、著者は、特に振動を維持する必要がある問題に対しては、陽解法が好ましい場合もあると主張しています。線形ODEの解析、安定領域の概念、そして冷却モデルや振動系などの現実世界の例を通して、この記事ではさまざまなシナリオにおける両手法の性能を示しています。そして、適切なソルバーを選択するには、包括的なアプローチではなく、問題に対するニュアンスのある理解が必要であることを強調しています。

続きを読む