딥페이크 탐지 모델의 검증 방법론 불일치에 따른 성능 편향 분석 연구

On the Performance Biases Arising from Inconsistencies in Evaluation Methodologies of Deepfake Detection Models

발행

2024

소속·발행

연세대학교

출처

국내 KCI

DOI

10.13089/JKIISC.2024.34.5.885

원문등록

2024-10-29

원문

원문 보기 ↗

개념

키워드

Deepfake Detection, Evaluation Methodology, Performance Bias, Deepfake Dataset, Deepfake Detection, Evaluation Methodology, Performance Bias, Deepfake Dataset

초록

생성형 AI 기술이 정교해짐에 따라 빈번해지는 악의적 딥페이크 사용에 대응하기 위해 딥페이크 탐지 모델 연구가 활발히 진행되고 있다. 딥페이크 탐지 모델의 성능 평가는 학습 데이터셋 선택, 데이터셋 전처리, 학습 방법, 평가 데이터셋 선택 과정을 순차적으로 거친다. 하지만 기존 딥페이크 탐지 연구들은 각 단계마다 임의로 검증 방법론을 선택하여 논문에서의 성능이 표준화된 환경에서는 재현되지 않는 성능 평향 문제가 발생한다. 본 논문에서는 기존 딥페이크 탐지 연구의 검증 방법론을 분석하여 성능 평가의 신뢰성 저하 원인을 파악한다. 나아가 표준화된 환경에서의 실험을 통해 탐지 모델의 절대적 성능 비교에 어려움이 있음을 보여준다. 본 연구의 실험 결과는 탐지 성능 평가 신뢰성 제고와 절대적 성능 비교를 위해서는 통일된 검증 방법론이 필요함을 제시한다.

같은 개념의 다른 논문

이 개념이 나오는 강연