[DMQA Open Seminar] Self-Supervised Learning

지도학습 방법론은 대부분의 문제 상황에서 우수한 성능을 보여주고 있는 좋은 학습 방법이지만 실제로 현장에서 쏟아져 나오고 있는 데이터는 상당 부분 레이블링 작업이 되어 있지 않다. 따라서 기존 지도학습 기반의 방법에 적용하기에는 시간과 비용이 많이 들게 된다. 이를 해결하기 위해 self-supervised learning 방법이 활발히 연구중이다. 또한, 불과 몇 년전만 하더라도 pretext task를 잘 정의하여 입력 이미지의 특징을 잘 추출하고 downstream task로 넘어가는 방식이었다면 최근에는 contrastive learning 방식으로 이미지 내의 특징을 추출하도록 한다. 더 나아가 pretext task로 invariant representation(PIRL)을 학습하는 형태로도 연구되고 있다. 이번 세미나는 주요 self-supervised learning 알고리즘들을 설명하고 여러 산업군에 어떤식으로 적용되는지 확인하고자 한다.
참고문헌 :
1. He, Kaiming, et al. "Momentum contrast for unsupervised visual representation learning." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020.
2. Misra, Ishan, and Laurens van der Maaten. "Self-supervised learning of pretext-invariant representations." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020.
3. Wu, Zhirong, et al. "Unsupervised feature learning via non-parametric instance discrimination." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2018.

[@YeeYes]

너무좋네요 감사합니다.

[@user-sh6lg3tr7r]

너무 좋은 자료 감사합니다 ㅠㅠ Self Supervised 이해하는데 도움 많이 되었습니다

[@user-yu5qs4ct2b]

감사합니다.

[@pychan4410]

잘 보았습니다. 감사합니다.

[@user-yu5qs4ct2b]

도움이 되셨다니 다행입니다. 감사합니다!

[@hermeskim11]

감사합니다

[@user-yu5qs4ct2b]

감사합니다!

[@0hong575]

소리가 조금 작은거 같아요.

[@user-yu5qs4ct2b]

좀 좋은 마이크를 사용해야 할 것 같네요...

[@EdgeTPU]

중간 중간에 너무 끊기네요... ㅠㅠ