Author: 허 재연
[ICLR 2022] Understanding Dimensional Collapse In Contrastive Self-Supervised Learning
안녕하세요. 허재연입니다. 이번 주차 세미나에서 Self-Supervised Learning의 collapse 문제에 대한 언급이 있었는데요, 이에 관심이 생겨 관련 논문을 읽어보게 되었습니다. 제목에서 알 수 있다시피 contrastive learning의…
[CVPR 2021] Instance Localization for Self-supervised Detection Pretraining
안녕하세요, 허재연입니다. 중간고사를 마무리하고 오랜만에 논문을 읽어보았는데, 논문 읽기를 쉰 지 얼마나 되었다고 눈에 잘 안 들어오네요. 기말고사 기간이 다가오기 전에 이번 학기 목표를 달성하기…
[CVPR 2021] Dense Contrastive Learning for Self-Supervised Visual Pre-Training
안녕하세요. 허재연입니다. 이번에 다룰 논문은 Self-Supervised Learning 논문이며, 그 중에서도 Contrastive Learning에 속합니다. 요즘 pedestrian detection에 SSL을 어떻게 적용해볼 수 있을까 고민하고 있는데, 관련해서 찾아보다…
[IROS 2021] SSTN: Self-Supervised Domain Adaptation Thermal Object Detection for Autonomous Driving
안녕하세요. 허재연입니다. 오늘은 Self-Supervised Learning 논문을 들고 왔습니다. 이전부터 Multispectral Pedetrian Detection에 Contrastive Learning을 활용하면 효과가 있지 않을까 하는 막연한 생각을 가지고 있었는데, 이 논문이…
[제안서 작업 후기]
안녕하세요. 허재연입니다. 이번 2월은 한달 내내 제안서 작업에 매진했었습니다. 이전부터 제안서 작업이 힘들다고 들었었는데, 직접 해보니 (제가 메인으로 작성하지 않는데도)많이 어려웠습니다. 어떤 일들을 했고 어떤…
[NeurIPS 2021] Revisiting the Calibration of Modern Neural Networks
안녕하세요, 허재연입니다. 오랜만에 Model Calibration 논문을 가져왔습니다. Model Calibration 문제를 이전에 한번 다룬 적이 있었는데, Confidence값을 이용한 Active Learning의 정확한 uncertainty를 측정하기 위해서는 calibration에 대한…
[PR-L 2023] Jigsaw-ViT: Learning jigsaw puzzles in vision transformer
안녕하세요, 허재연입니다. 오늘은 Representation Learning 논문을 들고 왔습니다. 사실 representation learning이라 함은 pretext task나 adversarial learning, contrastive learning 등 사전학습을 거쳐서 모델이 데이터에 대한 일반적인…
[NeurIPS 2022] Active Learning Helps Pretrained Models Learn the Intended Task
안녕하세요. 허재연입니다. 평소처럼 Active Learning 논문을 가지고 왔습니다. 평소에 Active Learning과 Self-supervised learning을 결합시킨 방법론은 없을까 막연하게 궁금했었는데 관련 논문이 있어 읽어보게 되었습니다. Active Learning의…
[ECCV 2016] Unsupervised Learning of Visual Representations by Solving Jigsaw Puzzles
안녕하세요, 허재연입니다. 오랜만에 Representation Learning 논문을 들고 왔습니다. Representation Learning은 data 부족 및 학습 비용 절감을 해결하고자 하는 방법 중 하나로, self-supervised learning, unsupervised learning의…
[ICML 2017] On Calibration of Modern Neural Networks
안녕하세요, 허재연입니다. 이번에는 model calibration을 다룬 논문을 들고 왔습니다. Active Learning의 confidence 관련 논문을 읽다 calibration 관련 이해가 필요하겠다 싶어 읽어본 논문인데, 인용 수도 많고(약…
최신 댓글