Contrastive Learning

2020年超盛り上がり！自己教師あり学習の最前線まとめ！ - Qiita

こういうのが最近のトレンドで存在すると。

• With a Little Help from My Friends: Nearest-Neighbor Contrastive Learning of Visual Representations (NNCLR)
• Unsupervised Learning of Visual Features by Contrasting Cluster Assignments (SwAV)

と言った論文があるらしい。自己教師あり学習みたいな感じや教師なし学習が注目されているけど、やはりアノテーションコストが高くてやってられないんだろうな・・・。