らんだむな記憶

blogというものを体験してみようか!的なー

PyTorchでのEarly Stoppingの実装

deep-learning-v2-pytorch/cifar10_cnn_augmentation.ipynb at master · udacity/deep-learning-v2-pytorch · GitHub
ここでは validation loss が下がる時のみパラメータを保存している。ふと Early Stopping は自前で書くのだろうかと思ったので調べた。どうやら例えば、公式の ignite にあるignite/early_stopping.py at master · pytorch/ignite · GitHubが使えそうだ。
・・・がどうやら ignite 的なもの(フレームワーク)は色々あるようでPyTorch 三国志(Ignite・Catalyst・Lightning) - Qiitaを見るとある意味で自由な世界なんだなぁと思う。
他のフレームワークを含め、比較の記事には8 Creators and Core Contributors Talk About Their Model Training Libraries From PyTorch Ecosystem | Neptune's blogもある。

まぁ、以前にはEarly Stopping in PyTorch - vision - PyTorch Forumsとかで議論されていたのだろう。