딥페이크와 증거재판주의 - 딥페이크 생성·탐지와 디지털 증거에 관한 이해를 바탕으로
Deepfakes and Criminal Evidence - With a Focus on the Understanding of Deepfake Generation, Detection, and Digital Evidence
- 발행
- 2025 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 특허법원 판사
- 출처
- 국내 KCI
- DOI
- 10.22825/juris.2025.1.72.008
- 원문
- 원문 보기 ↗
개념
키워드
인공지능, 생성형 인공지능, 딥페이크, 디지털 증거, 딥페이크 위작 주장, 자유심증주의, 증거재판주의, 증거능력, 감정, AI, artificial intelligence, deepfake, digital evidence, deepfake defense, principle of evidence, admissibility, expert evidence
초록
딥러닝(Deep Learning) 기반의 생성형 인공지능은 외견상 실제와 잘 구별되지 않는 수많은 영상, 이미지, 오디오, 소위 딥페이크를 만들어내고 있다. 이는 전통적으로 강력한 증명력을 부여받아 온 영상 증거 등에 대한 신뢰를 흔들 수 있다. 판사로서는 딥페이크로 증거를 위작하였다는 주장이 제기되는 이상, 그 증거능력 및 증명력을 판단하기 어려워질 것이고, 영상 증거 등의 진정성을 증명하기 위하여 과도한 시간과 자원이 소요될 수도 있다.
 2014년 생성적 적대 신경망(Generative Adversarial Network) 이래로 영상 등을 생성하는 모델은 크게 발전하였다. 얼굴 교체에 있어서 처음에는 교체하려는 사람 한 쌍마다 별도로 모델을 훈련해야 하였으나, 현재 이러한 훈련 없이 소수, 심지어 한 장의 사진만으로 얼굴을 교체할 수 있다. 사실상 육안으로는 진위를 파악하기 상당히 어려운 고화질의 얼굴 교체가 가능해졌고, 심지어 텍스트 프롬프트만으로 영상을 제작하는 Sora 등도 등장하였다. 오픈 소스, 상용 딥페이크 모델도 등장하여 일반인들도 이를 쉽게 접하게 되었다.
 그러나 딥페이크 탐지 모델은 ① 전이 가능성(훈련에 사용되지 않은 데이터에 성능을 보이는지), ② 해석 가능성(탐지 모델이 왜 해당 결과를 도출했는지를 설명할 수 있는지), ③ 강건성(실제 환경에서 볼 수 있는 압축, 사후 처리, 변형 등이 부가되어도 일관된 탐지 능력을 유지하는지) 등에서 높은 성과를 보이지 못하였다. 인간은 탐지 정확도가 높아야 70%대에 머물 뿐인데도 실제보다 자신이 딥페이크를 잘 탐지한다고 생각한다. 이러한 편견으로 사법에서 딥페이크를 실제로 오인하여 유죄판결을 할 때 발생할 위험성은 대단히 크다.
 이미 미국 법원은 특정 증거가 딥페이크로 위작되었다는 주장을 심리한 바 있다. 미국 법원은 증거가 딥페이크 기술로 조작된 것일 수 있다고 주장한 사례에서 ‘구체적인 근거를 제시하지 않고 단순히 딥페이크로 조작되었을 가능성을 제기하는 것만으로는 증거능력을 배척할 수 없다.’는 입장을 견지하였다. 연방증거규칙의 개정도 논의되어, 딥페이크 위작 주장이 제기된 경우 판사가 이를 판단하게 하거나 증명력이 예단보다 우위에 있어야 증거로 채택하는 방안 등이 논의되고 있다. 이는 배심원을 딥페이크로 제작되었을 가능성이 있는 영상 증거 등의 무분별한 노출로부터 방어하면서도, 무분별하게 딥페이크 위작 주장이