서강대학교 전자공학과

강석주 교수 연구팀, 인공지능 모델 경량화 기술로 세계 최우수 인공지능 학회 ‘NeurIPS 2026’ 논문 2편 채택

▲ (왼쪽 상단부터) 강석주 교수, 양진철 석박통합과정, 최재민 석사과정, 임나현 석사과정, 정윤성 석사과정, Matti Zinke 석사과정, 유현우 석박통합과정

전자공학과 강석주 교수 연구팀의 Vision Transformer와 Monocular Depth Estimation 모델 경량화를 주제로 한 논문 2편이 세계 최우수 인공지능 학회인 ‘Neural Information Processing Systems, NeurIPS 2026’에 채택되었다. 1987년부터 시작된 NeurIPS는 인공지능 및 머신러닝 분야의 발전을 선도해온 세계 최고 권위의 국제 학술대회로, 오는 12월 6일부터 12월 13일까지 호주 시드니, 미국 애틀랜타와 프랑스 파리에서 개최될 예정이다.

이번 연구에는 강석주 교수 연구팀의 양진철 석박통합과정 (제1저자), 최재민 석사과정 (제1저자), 임나현 석사과정 (공동 1저자), 정윤성 석사과정 (공동 1저자), Matti Zinke 석사과정 (공동 1저자), 유현우 석박통합과정 (공동 1저자)이 참여하였다.

첫 번째 논문 제목은 ‘Post-Training Quantization with Gradient-Projected Fisher Approximation for Vision Transformers’으로, Vision Transformer를 저비트로 양자화하는 과정에서 발생하는 성능 저하를 줄이기 위한 GPFA-Q를 제안하였다.

본 논문에서 제안한 방법은 크게 두 가지이다. 첫 번째 방법인 Gradient-Projected Reconstruction (GPR)은 블록 단위의 양자화 오차를 손실 함수의 기울기 방향으로 투영하여 차원 간 상호작용을 반영한다. 이 과정에서 곡률 행렬을 직접 구성하거나 역행렬을 계산하지 않는다. 두 번째 방법은 연속적인 최적화 과정과 실제 추론에 사용되는 이산 양자화 값 사이의 차이를 줄이는 Soft Grid Rounding (SGR)이다. 두 방법을 결합한 GPFA-Q는 선행 연구에서 충분히 반영하지 못했던 차원 간 상호작용과 행렬 역산의 수치적 불안정성, 최적화와 추론 간 불일치를 줄여 저비트 양자화 성능을 개선한다. 이를 통해 모델을 메모리와 연산 자원이 제한된 엣지 기기에서도 고성능 비전 AI 모델을 효율적으로 구동할 수 있다. 본 연구는 추가 학습 없이 대형 AI 모델을 작고 가볍게 만드는 경량화 기술로서, 향후 온디바이스 AI 확산에 기여할 것으로 기대된다.

이번 연구에 참여한 양진철 학생은 “연구 성과를 인정받게 되어 기쁘고 함께 연구해 주신 교수님과 연구실 동료들에게 감사드립니다. 앞으로도 AI 모델이 다양한 환경에서 효율적으로 동작할 수 있도록 경량화 연구에 더욱 매진하겠습니다.”라고 소감을 전했다.

 ‣제안하는 GPFA-Q 프레임워크

두 번째 논문 제목은 ‘SPA-Q: Structure-Preserving Adaptive Post-Training Quantization for Monocular Depth Estimation’이며, Monocular Depth Estimation 모델 특화 quantization 프레임워크를 제안하였다. 연구팀은 기존 양자화 방법이 Query와 Key를 각각 양자화하는 과정에서 두 정보의 상호작용으로 만들어지는 attention 분포를 보존하지 못하고, 양자화 오차가 여러 층에 누적되면서 중간 특징의 분포가 달라지는 문제를 지적하였다.

본 논문에서는 Query와 Key의 상호작용에 따른 attention 분포가 원본 모델의 분포와 가까워지도록 KL divergence를 최소화해 양자화 파라미터를 정하는 Attention-Preserving Calibration (APC)을 제안하였다. 또한 학습 가능한 채널별 변환을 적용하여 양자화된 중간 특징의 분포를 원본 모델에 맞추는 Channel-Wise Distribution Alignment (CWDA)를 제안하였다. 본 연구의 의미는 기존의 범용 양자화 방식에서 한 단계 나아가, 깊이 추정 모델의 attention 구조와 특징 분포를 함께 고려하는 양자화 프레임워크를 제시했다는 데 있다. 이를 통해 모델 경량화에서도 단순한 수치 오차 최소화뿐 아니라, 해당 모델의 예측에 중요한 내부 정보가 어떻게 유지되는지를 고려할 필요성을 보여주었다. 제안한 SPA-Q는 단안 깊이 추정의 정확도를 높이면서 모델 크기와 연산량을 줄여, 메모리나 연산 자원이 제한된 환경에서 자율주행·로보틱스 등 주변 환경의 거리와 구조 파악이 중요한 분야에 깊이 추정 모델을 효율적으로 적용하는 데 기여할 것으로 기대된다.

이번 연구에 참여한 최재민 학생은 “연구 방향을 함께 고민하며 도움을 준 연구실 동료과 늘 믿어주시고 지지해주신 교수님 덕분에 좋은 결과를 얻을 수 있었습니다. 이번 성과에 안주하지 않고, 더 크고 복잡한 AI 모델로 연구를 확장해 나가겠습니다.”라고 소감을 전했다.

  ‣제안하는 SPA-Q 프레임워크

 ‣기존 방법론과 제안 방법론에 대한 정성적 비교 결과

‣논문정보

1. Post-Training Quantization with Gradient-Projected Fisher Approximation for Vision Transformers

양진철, 최재민, 임나현, 정윤성, Matti Zinke, 유현우, 현봉준 (삼성전자), 손교민 (삼성전자), 강석주

2. SPA-Q: Structure-Preserving Adaptive Post-Training Quantization for Monocular Depth Estimation

최재민, 양진철, 임나현, 정윤성, Matti Zinke, 유현우, 강석주

‣기타 정보: 본 연구는 과학기술정보통신부 및 정보통신기획평가원의 대학ICT연구센터사업의 연구결과 및 차세대지능형반도체기술개발 사업의 연구결과임.