우리학교 대학원 인공지능학과 연구진이 프랑스 파리에서 열린 컴퓨터 비전∙딥러닝 분야 국제 학술대회에서 연구 성과를 발표하고 글로벌 전문가들과 최신 연구 동향에 대한 견해를 나눴다. 

'IEEE/CVF 국제컴퓨터비전학술대회(IEEE/CVF International Conference on Computer Vision, ICCV)' 학회는 지난 2일부터 6일까지 프랑스 파리에서 열렸다. 컴퓨터 비전과 딥러닝 분야 최우수 학술대회(CVPR/ICCV/ECCV) 중 하나인 'ICCV'에는 올해 총 8088여편의 논문이 제출됐고, 그 중 2115편(26.15%)이 채택됐다. 

우리학교 대학원 인공지능학과 황원준 교수 연구팀은 딥러닝 알고리즘 경량화를 위한 지식 증류 원천 기술을 제안했다. 황 교수 연구팀은 딥러닝 알고리즘 경량화를 위한 복수 선생 네트워크 기반의 지식 증류 기법의 새로운 방법론을 제안하여 성능 감소를 막으면서 경량화를 수행할 수 있는 새로운 원천 기술을 발표했다. 

해당 논문의 제목은 "온라인 역할 변경을 통한 그룹 기반 지식 증류 기법 연구(ORC: Network Group-based Knowledge Distillation using Online Role Change)"이다. 논문에는 우리 학교 황원준 교수(인공지능학과)와 인공지능학과 소속인 최준용 연구원, 조현 박사, 정석화 연구원이 참여했다. 

기존 지식 증류 방식의 한계를 벗어나기 위해 복수 선생 네트워크를 구성하여 학생 네트워크에게 중요 지식을 전달할 수 있었으나 복수 선생 네트워크에 잘못된 지식이 존재할 경우 학생 네트워크의 학습에 방해가 될 수 있다. 연구팀은 이러한 한계를 극복하기 위해서 학습 중 실시간으로 선생 네트워크 그룹에서 학습에 방해가 되는 네트워크는 학생 네트워크 그룹으로 강등 시키고 학생 네트워크 중에 우수한 네트워크는 승진 시키는 'Online Role Change(ORC)' 기법을 제안했다. 

연구팀은 ORC 기반의 지식 증류 기법을 활용하여 딥러닝 네트워크 경량화시 성능 열화를 극복했고 ImageNet DB를 이용한 경량화 실험에서 기존 방법론에 비해서 좋은 성능 우위를 달성할 수 있었다. 연구팀이 제안한 경량화 기법은 최근 좋은 성능을 보여주고 있는 딥러닝 기반 알고리즘을 경량화하여 다양한 실시간 응용처에 적용할 수 있기 때문에 딥러닝 기술의 상용화에 기여할 수 있을 것으로 기대된다. 

한편, 이번 학술대회의 일환으로 진행된 'ICCV CVAMD 2023' 워크숍에서는 아주대 유종빈 교수 연구팀이 총 23개 팀 중에 4위를 기록해 입상했다.

유종빈 교수 연구팀의 논문은 '다중 레이블 Long-tailed 데이터 학습을 위한 강력한 비대칭 손실함수(Robust Asymmetric Loss for Multi-Label Long-Tailed Learning)'로, 학습데이터의 클래스가 불균형한 환경에서도 잘 동작하는 학습 기법인 'obust Asymmetric Loss(RAL)'의 내용을 담고있다. 연구팀은 박원기(소프트웨어학과), 석사과정 박인혁(인공지능학과), 석박통합과정 김성은(인공지능학과), 유종빈 교수(소프트웨어학과)로 구성됐다.

논문에서는 다중 레이블과 Long-tailed 분포를 가지는 의료이미지 학습데이터에서도 인공지능이 강인하게 학습될 수 있는 손실함수를 제안했다. 의료이미지는 질병에 따라 학습데이터의 분포가 상이한 문제가 있어 희귀질환의 경우 데이터가 매우 부족하기 때문에 희귀질환을 잘 인식하는 인공지능을 학습하는 것이 매우 어려운 일이다. 이러한 문제를 해결하기 위해 연구팀은 다양한 하이퍼파라미터 설정에 강인한 비대칭 손실함수를 제안했다.

이번 연구는 질병 별로 학습데이터가 불균형한 의료 인공지능분야에서 널리 활용 될 수 있을 것으로 기대된다.

#위 사진 설명 : 우리 학교 인공지능학과 황원준 교수, 최준용 연구원, 조현 박사, 정석화 연구원

#대표사진 출처_ ICCV2023 (thecvf.com)

왼쪽부터 석사과정 박인혁 학생, 소프트웨어학과 유종빈 교수, 소프트웨어학과 박원기 학생