Author: 황 유진
[WACV2022]Hierarchical Proxy-based Loss for Deep Metric Learning
요약:해당 논문은 classification 구조를 갖는 task에서 class간 Hierarchical 구조를 고려할 수 있도록 설계된 Deep metric learning 방법론입니다. 배경 소개: Deep Metric Learning(DML)이란 convolutional neural networks를…
Boosting Contrastive Self-Supervised Learning with False Negative Cancellation
요약: 본 논문은 self-supervised의 발전을 이끈 contrastive learning의 positive, negative pair의 구성에서 False Negative의 존재에 대해 집중한 논문이다. Introduction: False negative 란 그림에서 보는 repel…
[ICLR2020]Revisiting Self-Training for Neural Sequence Generation
기존 Self-Training의 경우 classification task에 주로 사용되었으며 비교적 복잡한 sequence generation tasks(예. machine transflation)는 target space의 구성적 특징으로 그 효과가 명확하지 않았다. 본 논문에서는 self-training이…
Barlow Twins: Self-Supervised Learning via Redundancy Reduction
소개 [arXiv] Self-supervised learning은 collapsing solution 해결책으로 수렴하는 문제를 가지고 있습니다. collapsing solution의 발생 경위는 다음과 같습니다. 데이터 x를 모델의 입력으로 하여 이에 적합하게 라벨링 된…
Exploring Simple Siamese Representation Learning
°•°• 요약 •°•° siamese network의 collapsing solution 수렴을 막는 요인은 stop-gradient 다. °•°• 소개 •°•° 많은 self-learning 방법이 siamese network를 이용한다. 그리고 이러한 방법론은 주로…
Bootstrap Your Own Latent A New Approach to Self-Supervised Learning
요약self-supervised image representation learning 을 위한 새로운 접근법으로 제안하는 Bootstrap Your Own Latent (BYOL) 를 소개하는 논문이다. Neural Information Processing Systems에 2020년 공개된 논문으로 당시에…
Emerging Properties in Self-Supervised Vision Transformers
요약 본 논문은 Vision Transformers의 특성을 self-supervised 학습 방식을 통해 보이며, 최종적으로 그들이 제안하는 새로운 self-supervised method인 self-distillation with no labels(DINO)를 소개하는 논문입니다. introduction 본…
동시적인 비디오 검색 및 정렬 기법, (10-2021-0173248), 출원 완료
동시적인 비디오 검색 및 정렬 기법 (출원중, 2022.02.24 기준) 출원번호: 10-2021-0173248
Learning from Noisy Data with Robust Representation Learning
요약:본 논문은 모델의 representation 능력을 강인하게 하여 noise가 포함된 데이터에서 학습을 진행할 수 있도록한다. Introduction 기존의 DNNs은 noise에 민감하였다. 또한 real world data는 주로 noise가…
[ICCV2021]Semi-Supervised Active Learning with Temporal Output Discrepancy
요약:본 논문은 모델의 시간에 따른 학습 정도(TOD)를 이용하여 uncertainty를 측정하는 Active Learning 방법론이다. Image Classification과 Segmentation task에서 SRAAL보다 높은 성능을 보인다. 1. Introduction & Relate…
최신 댓글