대한산업공학회지 2021 · 1저자 · 2021.12
일관성 정규화를 적용한 멀티모달 한국어 감정인식
01배경 및 목표
- 음성 기반 감정인식의 성능을 높이기 위해 외부 음성인식 모듈을 결합한 멀티모달 프레임워크를 연구했습니다.
- 실제 환경에서는 음성인식이 틀릴 수 있으므로, 인식 오류에도 견고한 학습 방법이 필요했습니다.
02기여 내용
멀티모달 프레임워크와 견고한 학습
- 음성과 STT 텍스트를 함께 쓰는 멀티모달 감정인식 구조 설계 (BERT, Wav2vec 2.0)
- 정답 텍스트 경로와 STT 경로의 예측 분포를 일치시키는 Consistency Regularization 손실 설계
03기술 스택
- 프레임워크 · 플랫폼
- PyTorch, Fairseq, Hydra
- 방법론
- Multi-modal Learning, Self-supervised Learning, Consistency Regularization
04성과
- 대한산업공학회지 47(6) 게재 (1저자), 코드 공개
- 대한산업공학회 석사논문경진대회 최우수상 (2021.11)