저는 해당 글을 하반기 계획을 위주로 작성할 예정입니다
# 연구 주제
현재는 베이지안 딥러닝을 공부중입니다.
CVPR 참관기에서 다뤘듯이 저는 인공지능의 해석가능성/개입가능성에 관심이 있고, 최근 진행했던 분야인 Active Learning의Uncertainty를 정의하는 과정에서 베이지안 딥러닝에 대해 이해할 필요를 느껴서 관심을 가져보고 있습니다.
베이지안 딥러닝이란 기존에 파라미터를 학습하는 결정적 딥러닝과 다르게, 파라미터일 가능성이 있는 분포를 학습하는 방법론으로서, 해석이 결정적 딥러닝보다 단순하지만 추론시간이 오래걸려 많이 사용되지 않았던 방법론입니다.
해당 단점은 앞으로 1) 연산 속도가 개선되면 극복할 수 있는 단점이지 않을까 라는 생각이 있었고, 두번째로는 이번 CVPR 포스터 논문으로 엔디비아에서 연구한 비교적 2)적은 연산량로 pre-train 모델을 베이지안 모델로 바꾸는 연구가 보여준 비전인데, 해당 분야의 연구가 지속되면 현재 연구가 활발한 파운데이션 모델 등의 성능발전 효과를 활용할 수 있지 않을까 하는 생각입니다. 마지막은 3) 해석가능성/개입가능성 자체의 비전입니다. 컴퓨터 다음의 매체로는 휴대폰/엑스박스와 같은 개인화기기라는 전망이 많습니다. 대표적으로 애플 비전이 시동을 걸고있다고 생각합니다. 개인화기기의 안전과 편의성을 위해서 Causality/Intervenability/Explainable 등의 속성은 더욱 중요해질 것이라 생각합니다.
하지만 위험성으로는 다수의 연구가 XAI/Causuality 수준이 Human Level 에 초점되고 있다는 점입니다. 사실 기술의 활용 관점에서 Human level 정도로만 분석/개입이 가능해진다면, 해당 기술은 시장에서 이미 주목하며 해당 분야의 연구가 어느정도 끝났다고 인식될 수 있습니다. 이러한 점은 확률적 해석 가능성(?,정확한 용어를 모르겠습니다) 연구가 앞으로도 빛을 받지 못할수도 있다는 위험성을 남겨놓는 것 같습니다.(저도 가능하다면 human level/probability level의 연구 흐름을 모두 따라가려 합니다) 물론 이 또한 제 식견이 부족해 함부러 연구분야를 폄하하는것일 수 있습니다. 해당 위험성에 대해 이견이 있으신 분은 꼭 댓글을 남겨주시길 바랍니다.
해당 분야에 관심있는 분은 댓글에 남겨주시길 바랍니다 ^.^ 같이 공부 해요 ^오^
# 연구 계획
베이지안 딥러닝을 활용한 연구는 내년쯤을 생각하고 있습니다. 올해는 우선 가능하다면 다른 주제를 생각해보려 하는데,,,,,, 우선 베이지안 딥러닝 기초지식을 최대한 빠르게 훑어본 다음, 연구의 흐름을 따라가면서 올해 논문작업을 위해서는 Active Learning for Object Detection 을 진행하는게 이상적일 것 같습니다…
하지만 베이지안 딥러닝의 기초 내용을 따라가는 것이 생각보다 늦어지고 있어서, 해당 계획은 보류 중에 있습니다. 더 늦어진다면 베이지안 딥러닝 활용 연구를 위해 해당 분야 베이스라인 구축이 우선될 것 같습니다.
# 상반기 회고
는 작성 했었는데요, 아마 보신분은 보셨을수도 있을 것 같습니다 ^.^ 보지말라고 써놨는데..
상반기는 (제생각엔) 개인적인 내용의 비중이 매우 커, 이후에 준비가 되면 공유하도록 하겠습니다.
이상입니다.
# 상반기 회고@제안서
많은 연구원이 상반기 제안서 작업에 대해 작성하셔서, 따라 작성합니다.
사실 제안서 작업….에 대한 기억이 많이 없습니다. 그냥..하는거지…뭐…🥴 하는 마음으로 주로 작업을 해서 ^매우 나쁜 자세 입니다^
제 석사 졸업까지 함께했던 다크데이터 과제의 제안서를 기반으로 앞으로 여러분이 제안작업시 참고해야할 점을 말씀드리겠습니다. 먼저 연구분야 관련입니다: 저는 감사하게도 Active Learning 이라는 연구분야와 함께하게 되었습니다. XAI 등 관심분야와 결이 비슷한 편이였기에 연구와 과제를 병행하는데 큰 어려움이 없었습니다. 그러니 여러분도 제안작업을 하게 될 때, 관심분야와 결이 비슷한 기술로 해당 과제를 해결할 수 있는지 확인을 먼저 해보시길 바랍니다.
다음으로는 참고자료 입니다: 저희 연구실은 이제 참고할 수 있는 기존 제안서 작업파일이 꽤 있습니다. 해당 자료를 참고한다면, 제안서 작업 시 큰 도움이 될 수 있을 것 같습니다. 언제 한번 구글 드라이브나 나스에 정리를 해놓으면 좋을 것 같네요. (@랩장님해줘..)
사실 제안서 작업에서 위의 모든 내용은 다수의 연구원이 이미 알고 있는 내용일 것입니다.
모두 제안 작업의 꿀팁이 있다면 공유해주시길 바랍니다 ^.^
감사합니다
