생성형 AI 딥페이크 영상과 인격권 보호를 위한 워터마크 규제에 관한 연구
A Study of Watermark Regulation for the Protection of Personality Rights against Generative AI Deepfake Videos
- 발행
- 2026 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 중앙대학교
- 출처
- 국내 KCI
- DOI
- 10.22853/caujls.2026.50.1.37
- 원문
- 원문 보기 ↗
개념
키워드
생성형 인공지능, 딥페이크, 인격권, 워터마크, 인공지능기본법, EU AI Act, generative artificial intelligence, deepfake, personality rights, watermark, Framework Act On The Development Of Artificial Intelligence And The Creation Of A Foundation For Trust, EU AI Act
초록
본 논문은 생성형 인공지능 기술의 비약적 발전으로 인한 딥페이크 영상의 확산이 초상권, 성명권, 명예권, 프라이버시권, 성적 자기결정권, 퍼블리시티권 등 인격권 전반에 걸쳐 구조적·복합적 침해를 야기하고 있다는 문제의식에서 출발한다. 생성형 AI, 특히 GAN과 확산 모델을 기반으로 한 딥페이크 기술은 적은 양의 데이터로도 실존 인물과 거의 구별이 불가능한 영상과 음성을 합성할 수 있으며, 플랫폼을 통한 초고속·무한 복제 유통 구조와 결합되어 피해의 불가역성, 책임 귀속의 곤란성, 이른바 ‘거짓말쟁이의 배당’에 따른 사회적 신뢰 붕괴라는 새로운 위험을 초래한다. 이러한 상황에서 형사처벌과 민사상 손해배상과 같은 사후적 구제수단만으로는 실효적인 인격권 보호가 곤란하므로, 생성 단계에서부터 투명성과 식별 가능성을 확보하기 위한 워터마크 표시 의무화가 중요한 규제 수단으로 부상하고 있다.
 이에 본 논문은 먼저 생성형 AI 딥페이크 영상 기술의 개념과 특성을 분석하고, 실존 인물을 대상으로 한 합성 영상이 어떠한 방식으로 인격권을 침해하는지를 유형화함으로써, 딥페이크 인격권 침해의 구조적 특수성을 규명한다. 다음으로 2026년 시행된 우리나라 인공지능기본법을 중심으로, EU AI Act, 미국 연방·주 단위 규제, 중국의 심층합성 규제 등 국내외 법제를 비교·검토하여 워터마크 표시 의무가 국제적으로 생성형 AI 규율의 핵심 축이자 표준적 규범으로 정착하고 있음을 밝힌다. 아울러 워터마크 의무화가 헌법상 표현의 자유·예술의 자유와 인격권 보호 간의 긴장 관계 속에서 어떠한 조건하에 비례성과 헌법적 정당성을 확보할 수 있는지, 그리고 의무 이행 주체·책임 배분, 기술적 우회 가능성·오탐지·스푸핑 등 기술적 한계, ‘허위 안전감’에 따른 역효과 등 법적·기술적 쟁점을 비판적으로 검토한다.
 마지막으로 본 논문은 인격권 보호 중심의 위험 기반 차등 표시 기준 도입, 생성–유통–소비 전 단계에 걸친 다층적 거버넌스와 플랫폼 책임 강화, C2PA 등 국제 기술 표준에 기반한 명시적·암묵적 이중 식별 체계 구축, 그리고 국제 사법 공조 및 데이터 공유를 통한 국경 간 집행력 제고 등을 통합하는 입법적·기술적 개선 방안을 제시한다. 이를 통해 워터마크를 단일·완결적 해법이 아닌, 다른 규범·제도·기술과 결합될 때 실효성을 가지는 인격권 보호의 핵심적 인프라, 곧 인공지능 시대의 ‘디지털 안전벨트’로 재구성하는 것