네 안녕하세요. KCCV 학회 참관 후기를 작성하도록 하겠습니다.
1. 두번째 KCCV 참석
작년 KCCV에 이어 이번이 두번째 KCCV 학회 참석입니다.
작년 학회때는 oral session, poster 등의 발표를 들었을 때 ‘저게 무슨 소리지..’ 라는 느낌을 매우 많이 받았었는데 올해는 이러한 느낌을 거의 받지 않은 것으로 보아 확실히 작년에 비해 제가 조금은 성장을 했나 봅니다.
그런데 올해의 발표는 작년 대비 발표되는 논문들의 주제나 느낌이 확연히 달랐습니다. 아래에서 언급을 드리긴 하겠지만 작년에는 depth estimation, object detection 등의 우리에게 익숙한 단일 task 를 수행하는 논문들이 꽤나 있었던 거 같은데, 올해는 완전히 다른 방향의 논문들이 발표되고 있더라구요.
1년이라는 짧고도 긴 시간동안 연구의 trend가 확 바뀐 게 느껴짐과 동시에, 내가 이런 발 빠른 연구 흐름의 변화에 맞춰서 연구를 잘 진행할 수 있을지에 대한 걱정도 조금들더군요 ㅎㅎ.
2. 올해의 Trend?
작년과 올해 모두 KCCV 학회를 참석해보니 연구의 흐름이 이렇게 빨리 바뀐다는 것을 몸소 실감하게 되었습니다. 올해 학회에서 자주 보고 들었던 키워드들은 아래와 같습니다.
Multi-modal, CLIP, 3D reconstruction, Self-Supervised, contrastive, video,,
2.1. Multi-Modal (Image-Text)
우선 가장 눈에 띄었던 점인데 많은 연구들에서 단일 Image 도메인만을 사용하는 것이 아닌 text 혹은 또 다른 domain을 함께 사용해서 연구를 진행한다는 점이였습니다. 해당 연구들은 OpenAI 에서 발표한 CLIP 모델을 통해 Image와 Text를 동일한 space로 보내서 representation을 진행할 수 있기 때문에 CLIP 모델의 등장 이후 많은 파생 연구들이 등장한 거 같습니다. 마치 Kaiming He 박사님의 Masked Autoencoder (MAE) 이후 수 많은 연구들이 MAE 를 기반으로 파생하여 논문을 하나씩 챙겨가는 느낌이랄까요. 그런데 MAE와는 달리 Image 외의 다른 modality를 연구에 함께 사용한다는 점에서 발전 가능성이 훨씬 무궁무진 하다고 생각됩니다.
그런데 또 다른 한편으로 생각되는 점이 있는데 과연 자율주행 상황, 혹은 좀 더 application 관점에서 image-text 가 매칭되는 pair datatset을 잘 구할 수 있을까? 라는 의문점입니다. 제가 학회에서 본 Image-text 를 함께 사용하는 연구들이 사용하는 dataset은 매우 간단한 dataset이였습니다. 가령 호랑이 옆에 원숭이가 있는 image가 있다면, 이에 매칭되는 text는 ‘The monkey is next to the tiger’ 입니다. 사실 이렇게 단순한 이미지라면 image를 명확하게 설명할 수 있는 text가 존재할테지만, 제가 조금 더 관심을 가지는 application적인 관점에서는 image에 해당하는 text를 명확하게 matching하기란 쉽지 않을 것입니다.
이러한 고민을 하다 보니 3일차 Invited Talk 세션 중 Multi-modal을 주로 연구하시는 최윤재 교수님의 말씀이 떠오르더군요. 교수님께서 주로 다루시는 헬스케어 데이터의 경우 image-text 데이터에서 둘 사이의 ‘constraint’ 가 명확하다고 말씀해 주셨습니다. 가령 골절 이미지가 주어진다면, 이에 매칭되는 text는 “뼈가 골절되었습니다” 라고 하는 명확한 constraint가 존재하는 것이죠. 박사님은 해당 case를 언급하시면서, general한 경우에서는 이렇게 특정 constraint로 명확하게 pair를 이루기는 조금 어렵지 않을까~ 라며 조심스럽게 어느정도의 한계가 있을 것이라 말씀을 해 주셨습니다.
2.2. 3D Reconstruction & Self-Supervised
또한 3D reconstruction과 관련된 논문들도 꽤나 많이 발표되었습니다. 그 중 제 기억에 남는 발표들의 공통점을 살펴보자면 집 내부에서 찍은 사진들을 통해 집 내부를 reconstruction 한다던가, 혹은 사람의 몸통, 머리, 다리 등의 부위들을 통해 사람 신체를 reconstruction 하는 연구들도 존재했습니다. 그런데 여기다가 CLIP 모델을 통해 text 정보까지 함께 사용하더군요. 허허,,, 정말 대단한 거 같습니다.
또한 self-supervised 관련 연구들도 많이 있었습니다. Large scale labeled dataset이 부족하다는 문제는 사실 이전에도 계속 제기되고 있었던 문제인지라 올해 KCCV에 급격하게 등장한 건 아니긴 합니다만, 아무래도 제가 현재 self-supervised 상황에서의 연구를 진행하고 있기 때문에 조금 더 눈여겨 본 거 같습니다.
3. 기억에 남는 말씀
그리고 3일차 Invited Talk 중 서울대학교 주한별 교수님께서 해 주신 말씀이 매우 인상깊었습니다.
“생각을 Top-Down 으로 하라” 라는 말씀이셨습니다.
가령 특정 논문을 읽고 ‘아~ 이게 좀 문제가 있어 보이네? 이런 연구를 진행해볼까?’ 라는 생각을 한다면 그 생각은 이미 누구나 다 하는 생각이라고 합니다.
그러므로 이렇게 Bottom-Up 방식으로 사고를 하지 말고, 나만의 큰 목표와 방향성을 잡고 Top-Down 방식으로 하나씩 해결해 나가는 방향으로 연구를 진행해보라고 하는 말씀이셨습니다.
그리고 이 과정에서 잡은 목표가 너무 크고 터무니 없을지라도 목표를 향해 나아가는 과정에서 분명히 배우는 점이 있고, 훌륭한 연구를 진행할 수 있기 때문에 Top-Down 식의 생각이 매우매우 중요하다고 강조하셨습니다.
또한 어떤 연사분께서 말씀을 해 주셨는지는 까먹었지만 (죄송합니다ㅠ) 논문, 실적을 위한 연구는 좋은 연구가 아니고, 실용적이고 실제적인 문제를 풀기 위한 연구를 하고 논문을 써야 한다고 하셨습니다. 사실 저도 백번이고 공감하는 말이긴 합니다. 하지만 학생의 입장에서 논문과 실적은 떼어놓을 수 없는 관계인지라 이 말씀을 실제로 100% 실현하기는 너무 이상적인 목표치가 아닌가 라는 생각이 들기도 하네요 ㅎㅎ.
4. 결론, 그리고 다짐
저는 성격, 그리고 MBTI 스타일 상 사람들과 교류하는 것을 그렇게 즐기지는 않는 편입니다. 그런 제가 학회에 와 보니 ‘교류와 소통’ 이라는 것이 정말정말 중요하다는 것을 알게 되었습니다. 그 소통이 대외적인 소통 뿐만 아니라 연구실 내 연구원들 사이에서의 소통일지라도 말이죠.
수능, 고시 공부는 그냥 독서실에서 밤 새면서 하루종일 혼자 공부하면 그것이 능사입니다. 하지만 지금 제가 스스로 결론을 내리고 있는 연구라는 것은 혼자 끙끙 앓으면서 혼자 모든 고민과 공부를 진행하는 것이 아닌듯합니다. 이것은 KCCV 학회에서 발표된 많은 훌륭한 논문들을 보고 느꼈습니다. 하나의 논문에 적용되는 모든 지식들은 혼자서 모든 내용들을 알기엔 너무나도 방대합니다. 그렇기에 많은 연구자들은 코웍을 진행하죠. 또한 제가 Domain Adaptation 관련 포스터 발표를 진행하시는 공동 1저자분과 말씀을 나눠보니, 사실 이 분은 DA를 연구하시는 분이 아닌데 다른 공동 1저자 분과 연구 관련된 discussion을 밥 먹으면서, 커피 마시면서 하다 보니 자연스럽게 논문작성 과정에 참여하게 되셨다고 합니다.
말이 조금 엇나간 거 같기도 한데 아무튼 제가 드리고 싶은 말씀은 소통이 정말 중요한 거 같다는 것입니다. ㅎ
그리고 또 느낀점은 신정민 연구원의 학회 참석기 일부와도 겹칠 수 있는데, 좋은 학회 논문을 쓰는 연구실들이 계속해서 좋은 학회 논문을 쓴다는 점입니다. 물론 그들이 더 많은 포닥, 박사들에게 연구 방향성을 제시받을 수도 있긴 하겠지만은, 이 보다도 CVPR, ICCV, ECCV 등 우수 학회에 많이 참석하면서 습득한 견문과 최신 트렌드들을 자신들의 연구에 잘 녹여내고 끊임없이 트렌디한 연구를 진행하고자 한 결과라고 생각합니다. 이 말의 결론은,,, 우리도 우수 학회에 도전해보고 학회에 참석해서 견문을 넓히자! 입니다.
이번 KCCV 학회가 학부생 딱지를 달고 참석하는 마지막 학회가 되겠네요. 내년 KCCV, 혹은 타 학회에는 석사생 딱지와 함께 발표자 역할로 참석하고자 하는 목표를 세우며 후기를 마치도록 하겠습니다.
이렇게 훌륭한 학회에 참석할 수 있는 기회를 마련해주신 교수님께 감사의 말씀 드립니다!
