대학소식

POSTECH 이남훈 교수, 한국인공지능학회 최우수논문상 수상

2023-12-13 509

인공지능대학원 · 컴퓨터공학과 이남훈 교수 · 컴퓨터공학과 통합과정 신성빈 씨 · 인공지능대학원 석사과정 이동엽 씨가 최근 ‘2023 한국인공지능학회 추계학술대회’에서 최우수논문상을 받았다.

과모수화된 신경망(overparameterized neural network)은 심층 학습 모델의 매개변수가 실제로 필요한 것보다 더 많은 상태를 나타낸다. 이 신경망을 활용하면 훈련된 데이터를 예측하기는 쉽지만 새로운 데이터에 대해 정확한 예측 가능 여부는 불투명하다.

연구팀은 연구를 통해 딥러닝 최적화 알고리즘 중 하나인 SAM*1(첨예도 인식 최소화)이 과모수화된 신경망을 학습할 때 여러 이점과 잠재력이 있음을 확인했다. 이 연구는 실제로 대규모 모델을 학습시킬 때 SAM이 유리함을 시사한다. (논문명 : The Effects of Overparameterization on Sharpness-aware Minimization: An Empirical and Theoretical Analysis)

연구를 이끈 이남훈 교수는 영국 옥스포드 대에서 박사 학위를 받았으며, 지난 2021년 POSTECH에 부임했다. 이 교수는 기계 학습과 심층 학습, 최적화 분야 연구를 통해 대규모 인공지능 학습 분야에서 다양한 문제들을 해결하고 있다.

한편, 한국인공지능학회는 올해 채택한 60여 편 논문 중 우수성과 독창성, 완성도 등을 평가해 최우수논문 2편과 우수논문 2편을 선정했다.


1. SAM(Sharpness-aware Minimization)
신경망을 훈련시킬 때 모델의 손실 함수의 ‘날카로운 정도(sharpness)’를 고려해 최적화를 수행하는 알고리즘이다. ‘날카로운 정도’는 손실 함수 최소값이 얼마나 급격하게 변하는지를 나타낸다.