Author: 허 재연
[CVPR 2021] Propagate Yourself: Exploring Pixel-Level Consistency for Unsupervised Visual Representation Learning
안녕하세요, 허재연입니다. 이번에 다룰 논문은 Microsoft Research Asia에서 작성하여 CVPR2021에 게재된 논문으로, 현재 약 420회 인용되었습니다. 기존의 SimCLR, MoCo 등 Contrastive Learning 계열 Self-Supervised Learning…
[ICCV 2019] Rethinking ImageNet Pre-Training
안녕하세요. 허재연입니다. 요즘 KAIST PD dataset만을 가지고 어떻게 하면 detection의 가중치 초기화를 잘 할 수 있을지 고민하고 있습니다. 아무래도 KAIST 데이터셋의 크기가 ImageNet과 비교하면 상당히…
2024년 상반기 회고
안녕하세요. 허재연입니다. 24년이 밝은지 얼마 되지 않은 것 같은데, 벌써 여름이네요. 시간이 너무 빠르게 지나갑니다. 지난 한 학기는 학부생으로는 마지막 학기였습니다. 8학기간의 학부 과정을 잘…
[NeurIPS 2020] Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
안녕하세요. 허재연입니다. 한동안 계속 Self-Supervised Learning쪽 논문을 읽고 있습니다. 이번에 다룰 논문도 image data의 visual feature를 어떻게 unsupervised방법으로 학습할 지를 다룬 visual representation learning 분야…
[NeurIPS 2021] Aligning Pretraining for Detection via Object-Level Contrastive Learning
안녕하세요. 허재연입니다. 이번에는 object detection을 위한 self-supervised learning(SSL) 방법을 다룬 논문을 들고 왔습니다. NeurIPS 2021에서 spotlight를 받은 논문이며, Microsoft Research Asia 연구원들이 작성한 논문입니다. 기존의…
[ICML 2021 spotlight] Barlow Twins: Self-Supervised Learning via Redundancy Reduction
안녕하세요, 허재연입니다. 어쩌다 보니 2주 연속 페이스북, 그것도 얀 르쿤 교수팀의 논문을 읽게 되었네요. 오늘 다룰 논문은 얀 르쿤 교수를 포함하여 NYU 및 Facebook 연구진들이…
[ICLR 2022] Understanding Dimensional Collapse In Contrastive Self-Supervised Learning
안녕하세요. 허재연입니다. 이번 주차 세미나에서 Self-Supervised Learning의 collapse 문제에 대한 언급이 있었는데요, 이에 관심이 생겨 관련 논문을 읽어보게 되었습니다. 제목에서 알 수 있다시피 contrastive learning의…
[CVPR 2021] Instance Localization for Self-supervised Detection Pretraining
안녕하세요, 허재연입니다. 중간고사를 마무리하고 오랜만에 논문을 읽어보았는데, 논문 읽기를 쉰 지 얼마나 되었다고 눈에 잘 안 들어오네요. 기말고사 기간이 다가오기 전에 이번 학기 목표를 달성하기…
[CVPR 2021] Dense Contrastive Learning for Self-Supervised Visual Pre-Training
안녕하세요. 허재연입니다. 이번에 다룰 논문은 Self-Supervised Learning 논문이며, 그 중에서도 Contrastive Learning에 속합니다. 요즘 pedestrian detection에 SSL을 어떻게 적용해볼 수 있을까 고민하고 있는데, 관련해서 찾아보다…
[IROS 2021] SSTN: Self-Supervised Domain Adaptation Thermal Object Detection for Autonomous Driving
안녕하세요. 허재연입니다. 오늘은 Self-Supervised Learning 논문을 들고 왔습니다. 이전부터 Multispectral Pedetrian Detection에 Contrastive Learning을 활용하면 효과가 있지 않을까 하는 막연한 생각을 가지고 있었는데, 이 논문이…
안녕하세요 성준님. 좋은 리뷰 감사합니다. Definition 2.1에서 G와 G'을 정의하는 부분이 잘 이해가 가지 않아 질문드립니다. 제가 이해하기로 G는 backward…