이번 CVPR2021 workshop “Frontiers of Monocular 3D Perception” 에 참여하여 운좋게도 Semi-supervised 부문에서 상을 받게되었습니다. 그와 관련된 참가기를 작성해보겠습니다
1학기 내내 PatchNetVLAD를 이용한 Colorization 연구를 진행하며 실험이 매번 실패하며 회의감을 느끼고 있던 중 교수님께서 CVPR challenge가 상금도 챙겨주니 도전하며 refresh 해보는게 어떠냐고 제안을 해주셔서 모든 관련 실험을 접고 Challenge에 힘을 쏟게 되었습니다.
이 대회는 semi와 self로 분야가 나눠져 있는데 기존에 전 self-supervised 관련 논문들을 사용했었어서 self supervised 로 모든 실험을 진행했었습니다. 이 대회에서 제공하는 DDAD dataset이 제안되면서 같이 제안된 PackNet을 baseline으로 잡고 성능 원복하는데까지 3일 정도 걸렸던 것 같습니다. 언제나 이러한 baseline을 잡는 것이 어렵고 중요한 일 같습니다. 그래도 이번에는 baseline을 잡을 때 꽤 코드적으로 간편하게 분석적으로 잡아 놔서 다양한 실험을 돌리기는 편했습니다. 베이스를 잡고 이제 나만의 방법론을 구상하던 중에 교수님께서 Gradient Boosting과 유사한 형태의 새로은 Generator를 제안해주셨고 그것을 제가 이해한 방향으로 제작해서 성능을 보았습니다.
validation에서 새로 설계한 Network(GBNet)가 제 생각에는 굉장한 성능향상을 보였기 때문에 리더보드에 Test 제출해보았습니다. 하지만 Test를 제출하기 위해 형식을 맞추기 위한 과정을 생각보다 어려웠으며 심지어 제출 횟수도 당시에는 총 3번을 제한되어 있었기 때문에 validation set을 제출해보며 ( 얘도 15번으로 제안되어 있었음 ;; ) 옳은 제출 방식을 찾았습니다. 이걸 찾는데 만 하루 정도 걸렸던 것 같습니다. 제출 마감 기한에 맞춰서 시도했더라면 정말 식은 땀 흘렸을 것 같습니다.
그렇게 GBNet의 내부 파라미터를 바꿔가면서 가장 좋은 성능을 self-supervised에 제출을 해보았고 더이상 성능향상을 위해 할 것이 없어서 동일한 모델로 semi-supervised에 적용하는 것을 마감이틀정도 남았을때 해봤습니다. semi에 동일하게 적용한 결과 베이스 성능과 매우 유사한 성능을 보이고 성능향상을 보이지 않았기 때문에 Public으로 바꾸지 않았지만 최종적으로 저의 Private성능이 가장 좋은 성능을 보였기 때문에 1등을 할 수 있게 되었습니다.
대 코로나 시대로 인해서 매우 운좋게도 1등을 할 수 있게 되어서 처음에는 뭔가 창피한 결과로 생각을 했지만, 발표영상을 준비하면서 다시 저의 대회 결과에 대해 생각해보니 남들에게 자랑스럽게 이야기 해도 되는 결과라 다시 생각하게 되었습니다. 누구도 도전하지 않았던 것에 대한 reward를 받은 것이라 생각합니다. self-supervised 에 도전한 사람들 모두 semi에도 도전할 수 있었지만 도전하지 않은( 사실 도전하지 않은 것인지 도전을 했지만 성능이 나오지 않은 것인지는 모름) 분야에 전 도전을 했기 때문에 상을 받을 수 있었다고 생각합니다. 시도 하지 않으면 바뀌는 것은 없다. 이번 대회를 통해서 얻은 큰 교훈인 것 같습니다. 많은 도전에 대해서 주저하지 말고 시도해보는 사람이 될 수 있도록 노력하겠습니다.
끝으로 저에게 대회에 도전할수 있는 기회와 방법론에 대한 모티브를 주신 교수님께 큰 감사함을 전하며 마치도록 하겠습니다. 다음에는 더욱 큰 대회에서 좋은 결과를 얻을 수 있는 사람이 되도록 하겠습니다.
지도교수로서 본 챌린지를 지켜보았던 생각을 적어봅니다.
우리 연구실 학생들 개개인을 보고 있노라면, 서로들 가지고 있는 장점이 다릅니다. 평소 제가 바라보던 대찬군의 경우 다른 학생에 비해 손이 빠르다는 무기를 가지고 있었죠. 그런데 아쉽게도 본인은 이런 점이 본인의 장점을 발휘하는 아이템인 것을 모르고 있는 듯 했습니다. 매번 지도하는 학생들에게 자신의 장점을 살리고 단점을 보완하면서 독립된 연구자로 성장할 것을 요청하지만, 아마도 귀에 들리지 않는 듯 했습니다.
그리하여, 연구자에게 있어 성공적인 연구보다 실패하는 연구가 많다는 점을 온전히 이해하지 못하던 대찬군에게…어쩌면 살짝 자신의 단점 때문에 많이 다운되어 있던 대찬군에게…. 본인의 장점을 제대로 느끼도록 해주고 싶었습니다.
그리하여 CVPR 챌린지를 권하였고, 제가 아는 대찬군이라면 상금이 그의 눈을 더욱 빛나게 할 것이라 생각했기에, 주제도 잘 맞고 상금도 걸려있는 챌린지를 권하게 되었습니다.
그가 꼭 1등을 하지 않아도 좋았습니다. 그가 챌린지를 통해 본인의 장점을 깨닫기를 바랬습니다. 재미있게 즐기면서 말이죠. 챌린지를 위해 기말고사 기간을 포함하여 한 달을 사용한 것 같네요.
제가 아는 대찬군은 전체 기간 중 기말고사 시험기간이 있었다 하더라도, 해당 챌린지에 즐기면서 참여했을 것이라 생각합니다. 그게 제가 아는 대찬군입니다.
제가 아는 대찬군은 CVPR 챌린지에 참여하면서 우수한 연구자들이 참여할 것을 알고 있었을 겁니다만, 전혀 기죽지 않았을 겁니다. 그게 제가 아는 대찬군입니다.
이런 그의 도전 정신이, 이런 그의 대범함이,,, 본 챌린지의 1등과 3등이라는 영광을 안겨줬을 것이라 생각합니다.
참, 이석주 박사가 지나가면서 이야기 하더군요. 생각보다 어려워서,,, 모두가 다 private 일 수 도 있다구요.
듣고 보니… 그럴수 있겠다 싶습니다. 하나같이 베이스라인이 높아서 그 베이스라인을 넘지 못해 private인 상황…
아무도 알 수 없으나 조심스럽게 한표 던집니다.
아무튼! 지도교수 입장에서 이번 챌린지의 의미는 이러합니다.
제가 지도하는 학생들이 연구라는 산을 넘을 때, 때론 힘들고 때론 마음 어렵겠지만 소확행하는 연구실 생활을 했으면 좋겠습니다.
제가 지도하는 학생들이 그런 소확행의 기회가 찾아 왔을 때, 기회를 기회로 살릴 수 있는 연구원들이 되었으면 좋겠습니다.
그리고 마지막으로, 우리의 대찬군이 이러한 챌린지를 통해 실력을 높여, 훗날 캐글 챌린지 분야 그랜드마스터로 우뚝 서 대한민국 대표선수가 되는 날을 기대해 봅니다.
감사합니다 🙂