← 포트폴리오로

대한산업공학회지 2021 · 1저자 · 2021.12

일관성 정규화를 적용한 멀티모달 한국어 감정인식

역할 · 1저자 · 모델 설계, 실험, 논문 작성

01배경 및 목표

  • 음성 기반 감정인식의 성능을 높이기 위해 외부 음성인식 모듈을 결합한 멀티모달 프레임워크를 연구했습니다.
  • 실제 환경에서는 음성인식이 틀릴 수 있으므로, 인식 오류에도 견고한 학습 방법이 필요했습니다.

02기여 내용

멀티모달 프레임워크와 견고한 학습
  1. 음성과 STT 텍스트를 함께 쓰는 멀티모달 감정인식 구조 설계 (BERT, Wav2vec 2.0)
  2. 정답 텍스트 경로와 STT 경로의 예측 분포를 일치시키는 Consistency Regularization 손실 설계

03기술 스택

프레임워크 · 플랫폼
PyTorch, Fairseq, Hydra
방법론
Multi-modal Learning, Self-supervised Learning, Consistency Regularization

04성과

  • 대한산업공학회지 47(6) 게재 (1저자), 코드 공개
  • 대한산업공학회 석사논문경진대회 최우수상 (2021.11)

05참고 자료