딥페이크 음성의 위협 및 대응 연구 동향

Research Trends on Threats and Countermeasures to DeepFake Voices

발행

2024

소속·발행

숭실대학교

출처

국내 KCI

DOI

10.13089/JKIISC.2024.34.6.1567

원문등록

2024-12-27

원문

원문 보기 ↗

개념

키워드

AI Voice, DeepFake Audio, DeepFake Voice Detection, Watermark, AI Voice, DeepFake Audio, DeepFake Voice Detection, Watermark

초록

최근 딥러닝기반 생성형 모델들의 급격한 발전으로 인해 AI (Artificial Intelligence) 합성 음성 모델들도 사람이 합성 음성과 사람 음성을 구분하기 어려울 정도로 빠르게 발전하였고 이를 이용한 다양한 음성 생성 서비스들도 등장하였다. 그러나 이러한 최신 AI 기술을 악용하는 보이스 피싱과 투자 사기, 선거 가짜 뉴스 등이 등장하면서 AI 합성 음성을 악용하는 딥페이크 (DeepFake) 음성이 새로운 실질적 위협으로 떠 오르고 있다. 이러한 새로운 위협에 맞춰 본 논문에서는 각 국가별 법적 대응책과 이를 실현하기 위한 탐지 기술들을 상세히 분석하고 현재의 기술 수준을 알아 본다. 또한 이러한 AI 합성 음성 탐지를 우회하는 적대적 공격과 이에 대한 대응책도 소개한다. 마지막으로 실시간으로 제공되는 영상 및 음성 컨텐츠의 AI 생성 여부를 표시하는 실시간 워터마크 기술을 분석하여 AI 합성 음성을 탐지하고 표시하는 전체 대응 기술들을 소개한다.

같은 개념의 다른 논문

이 개념이 나오는 강연