논문 146편

본 논문은 과학기술정보통신부의 ‘사람중심 AI 윤리 원칙’을 출발점으로, 딥페이크에 특화된 ‘CITRA; Consent & Dignity(동의 및 존엄성), Integrity(정직성/맥락보존), Traceability(추적 가능성), Risk & Proportionality(위험 및 비례성), Accountability & Remedy(책임 및 구제책)’디자인 가이드라인을 제안한다. 미국‧유럽‧일본의 규범·표준·자율 가이드를 비교 참조하고, EU의 AI Act/DSA, 미국의 NIST AI 위험관리 프레임워크 및 생성형 AI 프로파일, 일본 정부 지침, C2PA(Content Credentials), PAI 권고를 근거로 동의, 라벨링/경고, 출처성, 위험등급, 책임/구제 요구를 교차 분석하였다. 그 결과, 제작–유통–표시 단계의 위험을 CITRA 축으로 재구성하고, 라벨의 가시성·지속성·기계가독성, C2PA 기반 프로비넌스, 고위험 맥락의 비례 통제, 신고–삭제–복구–지원(SLA) 등 실천적 최소 준수선을 도출하였다. 본 연구는 교육·산업·공공 현장에서 즉시 적용 가능한 핵심 체크포인트와 단계적 도입 청사진을 제시한다.

In this era of technological advancements, the rise of AI and deepfakes have become a threat to educational integrity. Hyper realistic synthetic videos and advanced machine learning techniques have the potential to manipulate and distort academic integrity. As online learning and distance learning b

Deepfake technology, once primarily associated with political disinformation and entertainment, is now being weaponized in schools as a new and insidious form of cyberbullying, posing significant risks to student safety and well-being. Unlike traditional bullying, deepfakes allow for the creation of

AI 생성 콘텐츠, 특히 딥페이크 영상과 가짜 뉴스로 인한 정보 왜곡 문제에 대응하기 위해 메타데이터 및 전자서명을 사용한 영상 진위 검증 시스템을 제안한다. 원본 영상으로부터 세그먼트 단위 해시와 Merkle root를 생성하고, 이를 핵심 메타데이터와 암호학적 해시를 결합하여 신뢰 키로 서명한 뒤 검증 서버에 저장한다. 영상 재생 시 사용자 인터페이스를 통해 위조 여부를 실시간 확인할 수 있다. 실험 결과, 실제 딥페이크 사례 환경에서 판별 정확도를 약 21.5% 포인트 향상시키고 반응시간을 평균 1.6초 ± 0.4 단축하였다. 또한 ROC-AUC는 0.641로 나타나 무작위 수준을 유의하게 상회하였다. 이러한 결과는 제안 체계가 무결성 보장을 넘어 사용자 신뢰를 강화하고, 딥페이크 대응 및 안전한 영상 정보 유통 구조를 위한 기반 인프라로서 의의를 가진다.

딥페이크 기술은 인공지능과 딥러닝을 활용하여 이미지, 음성, 영상 등을 조작하는 기술로, 정치적 선전, 금융 사기, 여론 조작 등 사회적 위험을 초래할 수 있다. 그러나 현재 한국의 대응은 디지털 성범죄 예방이나 선거 개입 방지 등의 협소한 범위에 집중되어 있어, 다양한 유형으로 확산되고 있는 딥페이크 허위정보의 폐해를 충분히 포괄하지 못하고 있다. 이에 본 연구는 딥페이크 기반의 허위정보, 특히 가짜뉴스에 대응하기 위한 주요 선진국의 정책을 법적․기술적․사회적 관점에서 비교․분석하고, 이를 바탕으로 한국의 실효성 있는 정책 보완 방향을 제시하는 것을 목표로 한다. 연구 결과, 주요 국가들은 플랫폼 운영자에게 딥페이크 콘텐츠 탐지 및 삭제 의무를 부과하고, 인공지능 기반 검증 기술을 활용해 허위정보 확산을 방지하는 것으로 나타났다. 반면, 한국은 개별적인 규제에 의존하고 있어 보다 포괄적인 법적 대응 체계 마련과 기술적 보완이 필요한 상황이다. 이에 본 연구는 딥페이크 허위정보의 범위 및 플랫폼 책임 명확화, 법적․제도적 지원을 통한 인공지능 탐지 기술 강화, 미디어 리터러시 교육 확대 및 시민 주도의 허위정보 모니터링 시스템 구축을 제안한다. 이를 통해 한국이 딥페이크 기반 허위정보 확산을 효과적으로 방지하고 신뢰할 수 있는 디지털 정보 환경을 조성하는 데 필요한 정책적 시사점을 제공하는 데 연구의 의의를 둔다.

This paper proposes a model using a two-stream network to extract both global and local spatial forgery features in deepfake videos and learn temporal forgery features across frames. The spatial detection model is based on EfficientNet, and the temporal detection model is based on ViT. Spatial features are divided into two streams to extract global and local features separately, while two ViTs are used to effectively learn temporal features, making the temporal part also two-stream. This achieved an average 9.4% improvement in detection accuracy compared to existing deepfake detection models, and through Grad-CAM, we visually confirmed the regions that significantly influenced the determination of deepfakes, demonstrating the model's effective detection capabilities.

최근 AI 음성 합성 기술의 발전과 보이스 클로닝 서비스의 확산으로 인해 오디오 딥페이크 위협이 증가하고 있으며, 이를 탐지하기 위한 실시간 대응 기술의 필요성이 대두되고 있다. 본 연구에서는 모바일 기기에서 외부 어플리케이션의 스트리밍 오디오를 실시간으로 캡처하고 딥페이크 여부를 탐지하는 어플리케이션을 구현하였다. 컴퓨팅 자원이 제한된 모바일 환경에서도 안정적인 성능을 제공하기 위해 사전 학습된 경량화된 AI 모델을 적용하고, 탐지 성능 향상과 실시간 응답성을 확보하기 위해 VAD(Voice Activity Detection)와 이동 평균(moving average) 기반 후처리 기법을 결합하였다. 또한 실시간 처리와 정확도 간의 균형을 고려하여 다양한 입력 길이 조건에서 성능을 측정하고, 실시간성과 신뢰도 측면에서 균형 잡힌 결과를 제공하는 구성을 도출하였다. 실험 결과, 제안한 어플리케이션은 2.1초의 입력 길이와 후처리 조합에서 Fake 탐지 정확도 64%, Real 탐지 정확도 89%를 기록하며, 실시간성과 탐지 성능을 동시에 충족할 수 있는 가능성을 입증하였다. 이를 통해 제안한 시스템은 모바일 기반 실시간 오디오 딥페이크 탐지에 실용적인 가능성을 입증하였다. 향후 연구에서는 다양한 환경 조건에서의 안정적인 탐지 성능 확보와 함께, 통화 보안, 음성 인증, 화상회의 등 다양한 응용 분야로의 확장 가능성을 고려한 실증적 연구가 필요하다.

본 논문은 가상 세계의 가상과 가상성에 대한 철학적 고찰로, 디지털 시대의 심각한 사회적 문제로 판단되는 딥페이크 성범죄에 대하여 분석한다. 딥페이크 기술은 허위와 조작을 통해 가상의 이미지를 만들어내며, 독립적인 정체성을 가지는 동시에 현실을 왜곡하고 대체하는 잠재력을 지닌다. 이러한 기술은 사실과 거짓의 경계를 모호하게 만들고 사회적, 윤리적 혼란을 초래하므로 보다 본질적이고 책임감 있는 성찰을 위해 심화된 철학적 논의가 필요하다. 따라서 본 연구는 가상성의 본질을 재조명함으로써, 가상을 실재로 규정하여 디지털 미디어 범죄의 심각성을 더욱 무겁게 받아들여야 함을 제안한다. 가상은 고중세에 잠재성과 현실화의 관계를 통해 논의됐으나, 현대 디지털 환경에서 그 의미가 축소되었다. 일부 구축된 철학적 논의에서, 가상은 현실화하는 힘으로 정의되기도 하지만 그 존재론적 지위에 관한 기술이 부족하다. 반면, 메를로-퐁티의 ‘키아즘’ 개념은 신체와 세계의 교차 관계에서 가상이 생성되는 과정과 가상에 대한 독립적이고 역동적인 실재성을 기술해 준다. 여기서 가상성은 잠재적인 경험의 근원성으로, 실재를 끊임없이 생성하고 변형시키는 내재적 운동이다. 한편, 보드리야르의 시뮬라시옹 이론은 이미지가 모방의 자격을 넘어서 원본이 되는 과정을 기술해준다. 이것은 딥페이크 이미지가 원본과의 연관성을 상실하고 초현실적 실재로 작동하는 과정을 조명함으로써, 딥페이크 기술이 사회적 위험성을 심화시키는 양상을 드러내 줄 것이다.
 결론적으로, 본 논문은 가상의 존재론적 지위를 인정함으로써 딥페이크 범죄의 실존적 파장을 주지하여, 가상 미디어 범죄에 대한 사회적 경각심을 높이는 데 기여하고자 한다. 이는 디지털 시대에 가상과 실재의 관계를 재정립하여, 특히 기술적 조작이 만들어낸 왜곡된 현실에 관한 비판적 인식을 높임으로써 새로운 사회적 태도를 정립하려는 시도이다.

인공지능기술을 활용한 정치 캠페인 활동이 점차 증가함에 따라 국내에서도 ‘AI 윤석열’과 ‘AI 이재명’ 등 생성형 AI 기반의 딥페이크(deepfake)를 활용한 정치 캠페인이 등장하였다. 본 연구는 전통적 온라인 정치광고에 비해 AI 정치광고가 가지는 설득적 효과를 검토하고, 이를 기반으로 AI 정치 콘텐츠를 제작하고 활용하는 데 있어 효과적인 방안을 제언하고자 한다. 이에 본 연구는 생성형 AI 광고의 설득적 기제를 조사하였다. 정치적 설득의 핵심 기제라고 볼 수 있는 정치인 ‘진정성’ 지각을 매개로, AI 정치광고의 시청이 (1) 메시지 신뢰도, (2) 정치인 호감도, (3) 광고 탐색 및 공유 의도에 미치는 영향을 탐색하였다. 구체적으로, AI 정치인 진정성 지각에 영향을 미칠 수 있는 요인으로 (a) 메시지 소구 유형, (b) 정치인-수용자 간 정치적 성향 일치 여부, (c) 지각된 영상의 기술적 품질 지각을 검토하고, 이들 요인에 의해 AI 광고의 설득적 효과가 조절되는지의 여부를 탐색하였다. 전국 단위의 할당표집을 통해 모집한 800명의 성인을 대상으로 2 (영상 유형: 실제 vs. AI) × 2 (메시지 소구 유형: 이성 vs. 감성) × 2 (정치적 성향 일치 여부: 일치 vs. 불일치) × 2 (정치인 유형: 이재명 vs. 나경원) 피험자 간 설계의 실험을 수행한 결과, 첫째, 이성 및 감성적 소구 메시지 간에는 AI 광고와 실제 광고 간의 진정성 인식 및 설득적 효과의 차이가 없었다. 정치적 성향 일치 여부 또한 AI 광고의 진정성 인식 및 설득적 효과를 조절하지 않았다. 반면, 지각된 기술적 품질에서는 유의한 조절 효과가 확인되었는데, 영상의 기술적 품질 인식이 높을수록, AI 광고에서(실제 촬영 광고 대비) 정치인 진정성 지각이 낮아지며, 이를 통해 메시지 신뢰도, 정치인 호감도, 광고 탐색 및공유 의도가 각각 감소될 수 있음을 확인하였다. 이 같은 연구 결과를 바탕으로, AI 정치 콘텐츠 활용에 대한 학술 및 실무적 함의를 논하였다.

인공지능의 발전은 의료, 교육, 금융 등 다양한 분야에서 혁신을 가져와 우리의 삶을 더욱 편리하게 만들었으며, 삶의 질을 크게 향상시켰다. 이러한 기술 발전은 사회적 및 경제적 성장에도 기여하고 있다. 그러나 AI 기술이 항상 긍정적인 결과만을 가져오는 것은 아니다. 기술이 발전하면서 새로운 범죄 유형과 부작용이 발생하고 있으며, 그중 딥페이크 기술이 큰 주목을 받고 있다. 딥페이크 기술은 인공지능을 이용해 인간의 이미지와 음성을 합성하는 기술로, 원래는 창의적 목적으로 개발되었으나, 최근 들어 성범죄, 허위 정보 유포, 금융 사기 등 다양한 범죄에 악용되고 있다. 특히 딥페이크 성범죄는 피해자의 동의 없이 성적 콘텐츠를 생성·유포해 피해자의 명예와 사생활을 심각하게 침해한다. 이러한 범죄는 피해자의 인격과 권리를 위협하며, 피해자에게 큰 심리적·사회적 고통을 초래한다. 이에 따라 여러 국가에서 딥페이크 성범죄에 대한 처벌 강화 요구가 커지고 있으며, 한국에서도 관련 범죄 수사가 증가함에 따라 법적 대응이 중요해지고 있다. 본 연구에서는 국내외 딥페이크 성범죄에 대한 처벌 제도와 대응을 분석하고, 입법적 노력의 필요성을 제언한다.

인터넷의 발전에 따라 여러 신종 디지털 성범죄가 출몰하고, 청소년의 딥페이크성범죄가 심각한 사회적 문제로 대두되었다. 본 연구의 목적은 청소년 딥페이크 성범죄의 현황을 분석하고, 청소년을 위한 적합한 대응책을 제시하는 것이다. 사회적공분으로 인해 제기된 가해 청소년 처벌강화 주장의 효과를 고찰함으로써 처벌은청소년 딥페이크 성범죄의 근본적 대응책이 될 수 없음을 밝혔다. 이를 바탕으로여기서는 학교·가정·사회의 다각적 차원에서의 예방적 교육과 가해 청소년에 대한맞춤형 교육방안, 회복적 사법적 대응 방안을 제안하였다. 우선 학교의 교육적 차원에서는 연령대에 맞춘 체계적인 성·젠더 교육의 일환으로서 ‘포괄적 성교육’의전면적 시행이 요구된다. 특히, 딥페이크 성범죄 맞춤 교육과 체험형 미디어 리터러시 교육을 통하여 딥페이크 성범죄의 수법과 고유의 특성을 이해시키고 그 위험성을 체감하게 하는 과정이 필요하다. 다음으로 부모 대상 교육 프로그램을 발굴하고 운영함으로써 가정에서의 디지털 성범죄 도움 기관에 대한 인식을 높이고 건전한 인터넷 이용 환경을 조성하게 한다. 이와 함께 사회적 차원에서는 인터넷이나SNS를 통하여 청소년이 친숙함을 느낄 수 있는 공익광고 및 캠페인을 시행하여야한다. 이로써 딥페이크 성범죄에 대한 초기 대처의 중요성과 디지털 범죄의 심각성에 관한 인식의 제고가 가능할 것이다. 그리고 가해 청소년에 대한 교육을 강화하여 청소년의 성인지 능력과 자기 통제력, 공감 능력을 갖출 수 있도록 가정과 사회가 선도하는 제도의 구축이 필요하다. 무엇보다도 국가와 사회에는 가해 청소년의처벌강화가 답이라는 징벌적 사고에서 벗어나, 회복적 사법 원리를 기반으로 청소년 교육과 선도를 통한 예방에의 집중이 근본적·실효적 대응이라는 인식의 전환이요구된다.

딥페이크 기술의 발전은 성범죄의 양상을 변화시키고 있으며, 이에 대한 형법적 대응이 중요한 사회적 과제가 되고 있다. 본 논문은 딥페이크 성범죄를 형법적으로 어떻게규율해야 하는지를 법익론적 관점에서 검토하고, 현행 법제의 한계를 분석하여 보다 효과적인 형법적 대응 방안을 모색하였다.
 우선, 딥페이크 성범죄가 단순한 명예훼손이나 사생활 침해에 국한되지 않고, 피해자의 성적 자기결정권 및 인격권을 본질적으로 침해하는 범죄라는 점을 규명하였다. 기존성범죄와 달리 신체적 접촉이 없음에도 피해자는 극심한 심리적·사회적 피해를 입으며, 이는 기존 형법이 보호하고자 하는 법익과도 깊은 관련이 있음을 밝혔다.
 또한, 현행 법제가 딥페이크 성범죄를 규율하기 위해 신설된 조항을 포함하고 있으나, 책임주의 및 구성요건 명확성 원칙과 충돌할 가능성이 있다는 점을 문제로 지적하였다.
 특히, 단순 소지·시청 행위까지 처벌하는 규정이 형법의 최후수단성 원칙과 비례성 원칙에 위배될 소지가 있으며, 이에 대한 법적 개선이 필요함을 논의하였다.
 더불어, 본 논문은 청소년 가해자 문제 및 형법적 예방책의 필요성을 강조하였다. 딥페이크 성범죄 가해자 중 청소년 비율이 높은 현실을 고려할 때, 단순한 형사처벌만으로는문제를 해결하기 어려우며, 예방적·교육적 접근이 병행되어야 한다는 점을 제시하였다.
 결론적으로, 딥페이크 성범죄는 성적 자기결정권 및 인격권을 침해하는 새로운 유형의 범죄로서, 이를 규율하기 위한 형법적 대응이 필수적이다. 본 논문은 형법적 보호법익을 재확립하고, 피해자 보호와 형벌 남용 방지 간의 균형을 맞춘 입법적 대안을 마련하는 것이 필요하다는 점을 강조하였다.

인공지능 기술의 급속한 발전은 개인적 및 사회적으로 다양한 편리함을 제공하였다. 다른 한편으로 심각한 사회적인 문제점들을 표출하고 있다. 그 대표적인 사례는 생성형 인공지능 기술의 한 종류에 해당하는 딥페이크 기술을 악용한 심각한 범죄행위를 일으키는 것이다. 이러한 범죄행위는 시간이 갈수록 점점 더 심각한 수준으로 증가하고 있으며, 범죄 피해 대상자의 경계가 명확하지 않다는 점에서 문제가 되고 있다. 20대 젊은 층에 의해 저질러지는 범죄행위가 매우 빈번하지는 않으나 범죄행위가 발생한다면 피해자의 삶에 돌이킬 수 없는 피해와 심각한 심리적 고통을 초래한다. 본 연구는 딥페이크 기술에 대한 대학생들의 지식수준과 사용 경험, 이 기술의 사회적 영향에 대한 인식, 관련 범죄행위의 심각성에 대한 이해, 그리고 윤리교육의 필요성에 대한 인식조사 및 분석을 한다. 분석된 결과를 반영하여 범죄행위 예방을 위한 몇 가지 윤리교육 방안을 제시하고자 한다.

최근 몇 년 동안 소년범죄에 대한 강력한 대응이 우리 사회의 주요 이슈로 떠올랐다. 그런데 새로 문제되고 있는 딥페이크 성범죄의 경우, 미성년자-그중에서도 나이가 어린 촉법 소년들이-단순한 호기심에서 범죄를 저지르는 사례가 상당수 차지한다. 이러한 경우 기존의 폭력･절도 중심의 소년범죄에 비해서도 범죄에 대한 인식 부족과 낮은 처벌 가능성이 더 크게 작용하기 때문에 대응을 위한 논의를 새롭게 할 필요가 있다.
 즉 이러한 사건들에는 보호처분 등 소년법상의 특례를 보다 적극적으로 활용할 필요가 있는데 소년법은 형사소송법과 달리 수사에 해당하는 조사절차에 대한 규정이 제대로 정비되어 있지 않아 향후 많은 문제가 예상된다.
 본고는 이러한 관점에서 제22대 국회에서 발의된 입법안을 중심으로 검토하였다. 이와 관련 일본에서는 이미 2007년 소년법을 개정하여 촉법소년의 조사에 관한 규정을 정비하였기에 많은 시사점을 제공하고 있다.
 소년범죄가 점점 더 심각해지고 있는 상황을 고려하면 더 이상 관련 논의를 미룰 수는 없으며 오히려 문제는 촉법소년에 대한 조사에서 발생할 수 있는 부작용을 어떻게 최소화할 것인지가 될 것이다.

본 연구는 판결문을 바탕으로 딥페이크 성범죄의 양상을 젠더적 관점에서 분석하였다. 1심 판결문 152건을 검토하여 가해자·피해자의 특성, 범죄 행위, 재판 결과를 살펴보았다. 연구 결과, 가해자는 159명이나 다수의 ‘성명불상’ 가해자가 존재해 수사에서 충분히 고려되지 않았다는 점이 확인되었다. 피해자의 98.7%가 여성이었고, 주로 지인(40.25%)이나 연예인(25.78%)을 대상으로 하여 디지털 젠더폭력에서의 ‘친밀성’ 범주가 확장되었다고 보았다. 범죄행위로는 피해자의 SNS·카카오톡 프로필 사진을 이용한 이미지 수집이 많았으며, 합성물 제작의 56.60%는 가해자가 직접 수행했다. 합성물은 피해자의 얼굴과 신체를 조작하거나 모욕적인 문구, 개인정보를 포함하는 형태로 여성 혐오적 특성을 보였다. 가해자의 18.24%는 텔레그램 운영자로 범죄 네트워크를 형성했으나, 판결문에서 범죄단체조직죄가 적용되지 않아 법적 대응이 미흡했다. 전체 가해자의 88.68%가 성폭력처벌법을 적용받았고, 47.17%가 집행유예를 선고받았다. 본 연구는 딥페이크 성범죄의 실태를 실증적으로 분석하고 법적 대응의 한계를 지적하며, 향후 법적 대응 강화를 위해 페미니스트 범죄학적 논의가 필요하다고 보았다

최근 생성형 인공지능을 이용한 딥페이크는 타인의 얼굴과 목소리를 사용하기만 하는 것에 그치지 않고, 타인의 얼굴과 목소리를 이용해 그가 실제 한 적도 없는 행위를 한 것처럼 허위로 꾸밈으로써 상당한 사회문제를 야기하고 있다.
 얼굴과 목소리는 인격을 구성하는 중요 요소라 할 수 있으나, 형법은 아직까지 얼굴과 목소리를 독자적 법익으로 보호하고 있지는 않다. 물론 현재 문제되고 있는 ‘딥페이크 사건’ 대부분은 타인의 얼굴과 목소리를 무단으로 사용해 왜곡된 이미지를 창출하고, 그렇게 왜곡된 이미지를 이용함으로써 다른 법익을 침해하는 양상으로 전개되는 모습을 보이며, 이는 현행법 체계에 어렵지 않게 포섭된다. 다만 현행 법체계에 포섭되지 않는 행위양상도 충분히 예상해 볼 수 있으므로, 본 글에서는 딥페이크에 관한 각론적 접근을 넘어 총론적 차원에서 인격적 법익의 일부로서 이른바 얼굴과 목소리에 관한 권리를 새로운 형법법익으로 인정할 여지는 없는지를 인격적 법익론 관점에서 살펴보았다.

딥페이크는 단순한 사진의 편집이나 음성을 모방하는 것이 아니다. 시각과 청각 형식의 새로운 데이터를 생성하기 위하여 방대한 양의 데이터를 분석하고 합성하는 고도의 AI 알고리즘의 산물이다. 이러한 알고리즘은 비디오의 경우에 조작된 요소와 실제 영상을 매끄럽게 혼합하여 시청자가 보고 듣는 것이 진짜인지 여부를 분간하지 못하도록 만든다. 딥페이크가 끼치는 부정적인 영향으로 부각되는 것은 허위 정보 유포, 리벤지 포르노, 사기 광고 등 사회적으로 해악을 끼치는 면이다. 국민들에게 심리적, 재정적, 사회적 피해가 유발되면서 국경을 넘어서 인권 침해에 심대한 영향을 주고, 국가적으로는 기본권에 위해를 가져온다는 점 때문에 각국에서는 인공지능 딥페이크 기술을 매개하는 온라인 플랫폼에 대한 규제, 개인정보와 명예훼손에 대한 법률 등을 통하여 기본권 보호를 강화하고 있다.
 딥페이크 기술의 오용이 헌법적으로 검토해보면, 인간의 존엄과 가치, 표현의 자유와 개인 정보 보호, 개인의 사생활과 명예, 공정한 재판을 받을 권리, 평등권 및 차별 금지, 소비자의 권리 등 기본권에 심각한 위협이 될 수 있다. 이러한 문제를 해결하기 위해서는 딥페이크의 오용을 탐지하고 대응하는 기술적 발전, 인공지능 딥페이크 기술과 관련한 헌법적 권리를 인식하고 이를 수호하는 기반 위에서 적절한 법적 규제 체계 마련, 유해 콘텐츠의 유통을 차단하고 디지털 안전을 지키는 게이트 키퍼로서 온라인 플랫폼 사업자의 책무와 법적 책임 강화, 국제 파트너십 구축 및 일반 국민을 상대로 하는 공공 교육을 통합하는 총체적인 접근 방식이 필요하다. 딥페이크 기술의 오용에 적극적으로 대처함으로써 우리 사회가 인공지능 시대에 인권 원칙을 수호하고 민주적 가치를 보존할 수 있도록 하여야 한다.

인공지능의 심층학습을 기반으로 이미지 등을 정교하게 생성해 낼 수 있는 딥페이크 기술은 다양한 분야에서 유용하지만, 부정적으로 사용될 경우 명예훼손, 사생활 침해, 초상권 침해, 저작인격권 침해 등 인격권이 침해될 수 있다. 딥페이크 기술은 주로 사람의 이미지를 이용하여 사실이 아닌 이미지를 생성함으로써 일차적으로 초상권의 문제가 제기될 수 있고, 초상권을 보호하여 딥페이크 이미지 생성을 제한할 경우 표현의 자유가 제한될 수 있다. 초상권과 표현의 자유는 모두 헌법적으로 보장되는 권리로서 명확하게 우열을 가리기 쉽지 않고 국가마다 입장에 차이가 있으며 사안마다 어느 권리에 중점을 둘 것인지 다르게 판단될 수 있다. 미국은 표현의 자유를 중요한 가치로 보호하는 가운데, 국내법의 경우에는 공익인 경우와 공익이 아닌 경우, 사실인 경우와 허위의 경우를 구별하여 판단해야 할 것으로 보인다. 초상권은 인간의 존엄 및 행복추구권에 근거하고, 표현의 자유는 언론, 출판의 자유에 근거하면서 국가안보나 사회 질서를 저해하지 않는 범위에서 보장된다는 제한이 있다. 딥페이크 기술에 의해 사실에 기반한 공적 인물의 초상 이미지나 과거 사실의 재현에 대해서는 표현의 자유가 초상권에 우선하여 보호될 여지가 있다. 반면, 공적 인물이 아닌 인물의 딥페이크 결과물이나 공적 인물과 관련한 허위사실의 딥페이크 결과물은 표현의 자유를 우선하여 보호할 근거가 없고 초상권이 우선하여 보호되어야 할 것으로 보인다. 초상권과 표현의 자유의 충돌 문제를 완화하기 위하여 초상권이 인권의 하나이고 표현의 자유에 책임이 전제되어야 한다는 인식이 확산되어야 할 것으로 본다.

최근 딥러닝 기술의 비약적인 발전으로 인해 극도로 사실적인 합성 미디어인 딥페이크의 제작이 용이해졌다. 특히 GAN(generative adversarial network)과 같은 생성 모델의 발전은 일반인도 쉽게 고품질의 위조 콘텐츠를 생성할 수 있는 환경을 조성하였으며, 이러한 기술의 발전은 개인의 프라이버시 침해, 허위정보 유포, 금융 사기 등 심각한 사회적 문제를 야기하고 있다. 새로운 딥페이크 기술로 생성한 콘텐츠가 확산될 때 가설 기반 콘텐츠의 정보 분포를 활용하여 자가 진화가 가능한 딥페이크 탐지 시스템 기술 개발 높은 정확도를 기반으로 음성과 이미지 그리고 영상 등 다양한 모달리티를 통합하여 탐지할 수 있는 딥페이크 탐지 연구가 필요하며, 본 논문에서는 다중 모달 특성 학습에 기반한 새로운 생성형 딥페이크 탐지 프레임워크를 제안한다. 제안된 방법은 이미지의 공간적 특성, 비디오의 시간적 특성, 그리고 오디오 특성을 통합적으로 활용하는 다중 스트림 신경망 구조를 기반으로 하며, 교차 주의집중 메커니즘을 도입하여 각 모달리티 간의 상호 정보를 효과적으로 활용하여, 생성형 딥페이크 탐지를 개선하였다.

최근 딥페이크 이미지 생성 기술의 발달로 이를 악용하는 사례가 증가하고 있다. 그러나 기존의 딥페이크 탐지 기술은 대량의 학습 데이터와 장기간의 훈련이 필요하며, 새로운 딥페이크 생성 기술 유형에 대응하기 어렵고 설명 가능성이 부족하다는 한계를 지닌다. 본 연구에서는 대규모 멀티모달 언어 모델인 GPT-4o와 GPT-4o-mini를 활용하여 텍스트와 시각적 단서를 결합한 딥페이크 이미지 탐지 방식을 제안한다. 또한 제로샷, 퓨샷, 멀티턴 제로샷, 연쇄 추론, 자기 일관성 등의 프롬프트 엔지니어링 기법을 도입하여 모델의 탐지 성능을 평가하고 비교하였다. 실험 결과, GPT-4o-mini는 딥페이크 이미지 정확도가 최대 55.4%에 그쳐 초기 제로샷 성능이 낮게 도출되었으나, 멀티턴 제로샷 및 자기 일관성 등의 프롬프트 엔지니어링을 통해 딥페이크 탐지 정확도 90% 이상으로 크게 개선할 수 있음을 확인하였다. GPT-4o는 제로샷 기법만으로 AUC score 93.06%이상의 높은 탐지율을 보였고, 후처리된 이미지에서도 90% 이상의 탐지 성능을 나타내 강건성을 보였다. 아울러, 모델의 추론 과정을 투명하게 제시함으로써 탐지 결과에 대한 신뢰성을 높이고, 법적·윤리적 문제 해결에 기여할 수 있음을 확인하였다.

실제 사람의 얼굴을 성적인 사진에 합성하는 사례가 많은 딥페이크 이미지는 인공지능(AI)의 발전과 함께 점점 더많이 양산되고 있다. 더욱 충격적인 것은 이러한 딥페이크 영상물의 가해자와 피해자 모두 연령대가 낮은청소년들인데, 또래 집단 사이에서 단순한 놀이문화로 인식되어 확산되었다는 것에 있다. 물론 딥페이크 범죄는 어제오늘날의 문제가 아니고, 인터넷이 보급되면서부터 이뤄졌던 고전적인 형태의 범죄 유형이다. 그러나 앞서 언급한 바와같이 인공지능과 결합되면서 진짜와 가짜를 구별할 수 없을 정도의 영상물이 제작되고, 불특정 다수에게 유포되며, 과거 N번방 사태에서도 유통수단이 되었던 텔레그램 내지는 다크웹을 통해 이뤄지고 있다는 것이 달라진 양상이다.
 따라서 본 연구에서는 심각한 수준에 와 있는 딥페이크 범죄를 다양한 측면에서 들여다보고 분석해 봄으로써 범죄를최소화할 수 있는 방향의 논의를 목표로 한다. 이러한 목표를 달성할 수 있도록 내실 있는 연구의 진행을 위해 먼저, 딥페이크 범죄에 대해서 전반적으로 개관해보고, 주요 국가의 입법 현황은 어떠한지 시사하는 바를 파악한다. 그리고헌법적 쟁점으로서 디지털 성범죄와의 연결 가능성, 정치·선거·언론보도 등 페이크 뉴스의 문제, 저작권·퍼블리시티권등 권리 침해 여부 등을 법리적으로 다뤄보고자 한다. 향후 딥페이크 기술 관련 법제도 정비 과정에서는 피해자의권리보호를 위한 법적인 규제와 헌법상 기본권 또는 인공지능 기술의 활용·진흥 사이에서 합리적인 균형을 설정하는일이 주요 쟁점으로 부각될 것으로 판단되기 때문이다.

인공지능(AI) 기술의 발전으로 인해 과거에 비해 더 쉽고, 간편하게 창작활동을 할 수 있게 되었다. 이러한 기술의 발전은 창작자, 입법자, 그리고 일반 대중의 관심과 우려를 동시에 불러일으켰다. 긍정적인 측면으로, 인공지능(AI) 중 생성 AI 기술에 대한 대중의 접근이 쉽고 활발해지면서, 생성 AI 기술을 활용한 다양한 창작활동이 증가하였고, 이는 딥페이크라고 하는 새로운 분야로 등장하였다. 그러나 최근 생성형 AI를 활용한 딥페이크로 인해 발생하는 각종 범죄가 사회적 문제로 대두되면서, 이에 대한 규제의 필요성이 국제적 이슈가 되었다. 생성형 AI를 활용한 딥페이크라는 주제는 기존 법률의 어떤 한 영역에 명확하게 해당되지 않고, 딥페이크에 의해 창작된 표현물은 일부는 이를 지식재산의 한 형태로 규정하지만, 이것이 범죄에 이용된 경우 딥페이크 사용에 대한 보호는 프라이버시(초상권), 부정경쟁, 소비자 보호, 사기, 성범죄 등으로 문제가 확대되고 있다.
 또한 해외주요 국가의 법제도를 살펴 본 바 해외의 경우도 마찬가지로 아직까지는 인공지능기술을 활용한 창작물에 대한 저작권의 인정을 하고 있지 않고, 일부 국가에서는 어느 정도 여지를 남기고 있는 것으로 보이나, 구체적인 입법을 진행하고 있지는 못한 것으로 판단된다. 즉 현행 법제도 아래에서는 인공지능 기술을 활용한 창작물에 대한 법적 보호는 불가한 상황이지만, 현실은 다양한 창작물들이 나오고 있는 상황에서, 미래지향적으로 저작권제도의 개편을 생각해 볼 시점이 온 것이 아닌가라는 생각이 든다.
 생성형 AI 기술을 활용한 딥페이크가 각종 범죄가 증가함에 따라서 현재 우리나라의 경우 현재로서는 생성형 AI를 활용한 딥페이크 합성물을 직접적으로 한정하여 규제하고 있는 법률은 ‘딥페이크 영상 등’을 이용한 부정선거운동 또는 허위사실공표를 금지한 「공직선거법」뿐이고, 딥페이크 합성물은 개별 권리를 침해하는 유형에 따라 「성폭력처벌법」 또는 「청소년성보호법」과 같이 종래의 음란 합성물 또는 아동·청소년성착취물로 규율되거나, 저작권 침해 또는 부정경쟁행위로 규율되고 있다. 온라인에서 유포되는 딥페이크 합성물로 인한 권리침해에 대해서는 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」상 불법정보 유통 금지의무, 정보통신서비스 제공자의 유통 방지의무(제44조) 및 삭제요청(제44조의2), 임시조치(제44조의3) 및 자율규제(제44조의4) 제도 등의 정비를

본 연구는 딥페이크(Deepfake) 기술에 대한 법적 규제의 필요성 주장 및 해당 규제의 추구 방향 모색을 목적으로 한다. 기술 혁신과 법적 대응 간의 조화로운 균형점을 도출하기 위해, 딥페이크 기술의 개념 및 발전 양상을 상세히 고찰한 후 해당 기술이 야기할 수 있는 법적 쟁점들을 체계적으로 분석하고자 한다. 구체적으로는 개인정보 침해, 명예훼손, 선거 공정성 침해, 사기 범죄 등과 같은 법적 문제들을 유형별로 세분하여 검토할 것이다. 미국 딥페이크 규제의 주요 방향은 크게 선거 개입 방지, 아동 보호 강화, 딥페이크 콘텐츠 표시 의무화 등으로 구분된다. 본 연구는 이러한 미국 내 규제 방식이 형성된 법적･사회적 배경을 탐색함으로써 거시적이고 체계적인 이해를 도모하고자 한다. 또한 한국과 미국의 딥페이크 규제 방식을 비교 분석함으로써, ‘표현의 자유 보호’와 ‘표현에 대한 규제’ 사이에서 각국이 취하고 있는 법리적 균형의 추구 방향을 고찰하고자 한다. 이와 동시에, 기술적 대응과 법적 대응 간의 상호작용이 어떻게 조정되고 있는지도 알아보고자 한다. 더 나아가 양국의 법적･문화적 특성이 규제의 방향성에 미칠 수 있는 영향을 심층 분석함으로써, 규제를 둘러싼 광범위한 상관관계를 논리적으로 파악할 것이다. 한편, 딥페이크와 관련된 주요 판례와 사건들을 집중 분석하며 구체적이고 실무적인 법률 관련 문제점들을 정리하고, 현존하는 AI 탐지 기술의 한계로 인해 필연적으로 발생할 수밖에 없는 법적 대응의 실효성 문제도 비판적으로 검토하고자 한다. 글로벌 기업들의 AI 영상물에 대한 워터마크(watermark) 도입 시도는 기술적 대응책이 가능함을 암시적으로 제시하고 있으며, 이러한 기술적 수단과 관련하여서는 법적･교육적 대응과 결합할 때 더욱 효과적인 결과를 기대할 수 있다. 본 연구는 기술적, 법적, 정책적인 면 등을 반영하여 통합적으로 대응하는 전략이 딥페이크 문제에 효과적이라는 점을 바탕으로 하여, 딥페이크 기술의 건설적 활용을 촉진하면서도 악용을 방지할 수 있을 균형 잡힌 법제 개선 방안을 제안하고자 한다.

이 연구에서는 아동·청소년들이 ‘디지털 네이티브’(Digital Native) 세대로서 AI 디지털교과서및 개인정보의 안전한 활용을 위해 우리 사회의 불안전함을 인지하고 적절한 개인정보보호를 위한 지식을 확보할 수 있도록, 실제 개인정보 침해 사례를 기반으로 한 개인정보보호 교육콘텐츠의 개선 방향을 제시하고자 하였다. 아동·청소년의 개인정보보호 교육의 공공성은 지역, 학교규모, 인원에 차별받지 않고 개인정보보호 대면 교육을 받을 수 있음을 의미하며, 또 보이스피싱과 딥페이크 등 사회적 현안에 대해 실효성 있는 교육을 통해 인식을 제고할 수 있음도 의미한다. 이 연구에서는 현재 활동하고 있는 개인정보보호 분야 전문 강사를 대상으로 한 설문조사 결과, 보이스피싱(스미싱, 큐싱 등) 및 딥페이크 관련 내용이 개인정보 교육에 포함 개선되어야 함을 확인하였다. 그리고 문헌연구에서는 개인정보보호 교육 시 한국인터넷진흥원(KISA) 등 외부공식 교육을 받은 집단과 내부 자체 교육을 받은 집단으로 나누어 비교한 결과, 교육 효과에 대해 유의미한 차이가 있음을 입증하였다. 이에 이 연구에서는 초·중·고 학생들의 개인정보보호교육의 공공성을 위해서 개인정보위 전문 강사의 방문 교육이 필요하며 몰입도 있는 강의를 위한 콘텐츠를 개인정보 정책에 반영되도록 개선해야 한다는 정책적 시사점을 제시하였다.

한 사람이 쓰는 컴퓨터가 한 공간에 남아 있었다. 그 사람이 쓰는 컴퓨터는 다른 사람이나 다른 사람이 쓰는 컴퓨터와 연결되지 않았다. 시간이 흘러서 인터넷이 도입되었다. 전화선, 케이블선, 랜선을 통해서 인터넷으로 여러 컴퓨터와 연결되었다. 많은 사람 사이에 많은 정보가 오고 갔다. 인터넷 이전의 세상과 인터넷 이후의 세상이 많이 달라 보였다. 또한 시간이 흘러서 인공지능이 나타났다. 많은 사람은 인공지능이 새로운 산업혁명을 일으킬 것으로 여기고 열광하기도, 두려워하기도 했다. 또한 다른 시간이 흘러서 생성형 인공지능이 등장했다. 많은 사람은 생성형 인공지능의 똑똑함에 놀랐다. 많은 사람은 생성형 인공지능을 신기한 것으로 여겼다. 또한 생성형 인공지능이 만들어 내는 그림자에 대해서도 고민하기 시작했다.
 생성형 인공지능이 만드는 어두운 그림자 가운데 한 영역이 딥페이크이다. 현실에서 딥페이크가 문제를 일으키는 영역은 크게 둘이다. 첫째는 ‘선거’와 관련된 영역이다. 둘째는 ‘음란물’이다. 딥페이크가 우리 사회에 부작용을 일으키는 두 영역의 공통점은 사람의 동일성(identity)을 침해한다는 점이다. 다른 사람이 나쁜 의도로 어떤 사람의 이미지에 대한 동일성을 깨뜨린다. 딥페이크 기술로 만든 나쁜 이미지가 그 사람의 진실한 이미지를 왜곡한다. 그러면서 그 사람에 대한 나쁜 이미지로 그 사람의 진실한 이미지를 대체한다. 따라서 대중은 딥페이크 기술로 만들어진 나쁜 이미지를 그 사람에 관한 참된 정보로 인식한다. 그런 면에서 딥페이크는 그 사람에 대한 동일성을 왜곡하고, 그 사람에 대한 자아상(self-image)을 허문다.
 딥페이크가 일으키는 측면을 다루는 논문은 두 방향성으로 접근한다. 첫째는 딥페이크에 대한 기술적 측면을 고찰하는 논문이다. 둘째는 딥페이크를 형사법적으로 규율하려고 탐구하는 논문이다. 그런 측면에서 아직 딥페이크에 대한 민사법적 접근의 논문은 시작 단계이다. 딥페이크를 법으로 규율하는 영역을 모두 망라하면, 이는 ① 플랫폼 책임, 잠재적 인공지능 개발자의 책임을 규율하는 행정법 영역, ② 형사법 영역, ③ 명예훼손과 사생활 침해를 규율하는 민사법 영역이다. 이 논문에서는 딥페이크에 대한 민사법적 접근으로, 딥페이크와 관련한 사생활 보호에 초점을 둔다.
 글쓴이는 이 논문을 다음과 같이 구성한다. 먼저 II에서 딥페이크가 일으켰던 사례와 딥페이크 기술을 설명한다. 그

딥러닝(Deep Learning) 기반의 생성형 인공지능은 외견상 실제와 잘 구별되지 않는 수많은 영상, 이미지, 오디오, 소위 딥페이크를 만들어내고 있다. 이는 전통적으로 강력한 증명력을 부여받아 온 영상 증거 등에 대한 신뢰를 흔들 수 있다. 판사로서는 딥페이크로 증거를 위작하였다는 주장이 제기되는 이상, 그 증거능력 및 증명력을 판단하기 어려워질 것이고, 영상 증거 등의 진정성을 증명하기 위하여 과도한 시간과 자원이 소요될 수도 있다.
 2014년 생성적 적대 신경망(Generative Adversarial Network) 이래로 영상 등을 생성하는 모델은 크게 발전하였다. 얼굴 교체에 있어서 처음에는 교체하려는 사람 한 쌍마다 별도로 모델을 훈련해야 하였으나, 현재 이러한 훈련 없이 소수, 심지어 한 장의 사진만으로 얼굴을 교체할 수 있다. 사실상 육안으로는 진위를 파악하기 상당히 어려운 고화질의 얼굴 교체가 가능해졌고, 심지어 텍스트 프롬프트만으로 영상을 제작하는 Sora 등도 등장하였다. 오픈 소스, 상용 딥페이크 모델도 등장하여 일반인들도 이를 쉽게 접하게 되었다.
 그러나 딥페이크 탐지 모델은 ① 전이 가능성(훈련에 사용되지 않은 데이터에 성능을 보이는지), ② 해석 가능성(탐지 모델이 왜 해당 결과를 도출했는지를 설명할 수 있는지), ③ 강건성(실제 환경에서 볼 수 있는 압축, 사후 처리, 변형 등이 부가되어도 일관된 탐지 능력을 유지하는지) 등에서 높은 성과를 보이지 못하였다. 인간은 탐지 정확도가 높아야 70%대에 머물 뿐인데도 실제보다 자신이 딥페이크를 잘 탐지한다고 생각한다. 이러한 편견으로 사법에서 딥페이크를 실제로 오인하여 유죄판결을 할 때 발생할 위험성은 대단히 크다.
 이미 미국 법원은 특정 증거가 딥페이크로 위작되었다는 주장을 심리한 바 있다. 미국 법원은 증거가 딥페이크 기술로 조작된 것일 수 있다고 주장한 사례에서 ‘구체적인 근거를 제시하지 않고 단순히 딥페이크로 조작되었을 가능성을 제기하는 것만으로는 증거능력을 배척할 수 없다.’는 입장을 견지하였다. 연방증거규칙의 개정도 논의되어, 딥페이크 위작 주장이 제기된 경우 판사가 이를 판단하게 하거나 증명력이 예단보다 우위에 있어야 증거로 채택하는 방안 등이 논의되고 있다. 이는 배심원을 딥페이크로 제작되었을 가능성이 있는 영상 증거 등의 무분별한 노출로부터 방어하면서도, 무분별하게 딥페이크 위작 주장이

딥페이크 등 허위영상물을 이용한 성범죄는 무분별하게 합성된 음란물이 유포되어 사실로 오인되는 상황을 발생시킨다. 특히 피해자의 신체에 직접적인 침해가 없어도 명예 및 사생활에 심각한 피해를 입힐 수 있다는 점에서 새로운 위험성을 내포하고 있다. 이에 딥페이크 범죄행위에 대한 처벌을 강화하고, 피해자를 보호하고자 성폭력범죄의 처벌 등에 관한 특례법을 개정하였으나 딥페이크 관련 범죄의 발생률이 증가하고 있어 선제적 대응방안의 필요성이 제기되고 있다. 본 논문에서는 선행연구 및 외국 법제도의 검토를 통하여 다양하고 복잡한 딥페이크 관련 범죄유형을 파악하고 이들 유형을 포섭할 수 있는 법제도적 근거를 마련하고자 하였다. 또한 수사의 효율성 확보를 위한 전문 수사 인력의 양성과 국제공조 강화, 피해자 구제를 위한 전담기구의 강화 및 딥페이크 성범죄 예방교육 등의 방안을 제시하였다.

딥페이크 성범죄는 2019년 ‘N번방 사건’을 계기로 디지털 성범죄의 새로운 유형으로서 크게 부각되었으며, 최근에는 10대를 중심으로 한 가해와 피해가 급증하고 있어 더욱 심각한 사회적 문제가 되고 있다. 딥페이크 성범죄는 실제 인물의 얼굴을 음란물에 합성해 피해자에게 심각한 정신적⋅사회적고통을 주며, SNS 등 온라인을 통해 빠르게 확산되어 2차 피해로 이어질 뿐만 아니라, 적시에 삭제가어려워 피해가 계속될 우려가 크다. 이에 따라 정부는 2024년 11월 ‘딥페이크 성범죄 대응 강화 방안’ 을 발표하였고, 국회는 2024년에만 세 차례에 걸쳐 ｢성폭력범죄의 처벌 등에 관한 특례법｣을 개정하면서, 딥페이크 성범죄물의 제작⋅유포뿐만 아니라 소지⋅시청 행위까지도 처벌 대상으로 확대하고, 신분비공개⋅위장수사 특례 및 범죄수익 몰수⋅추징, 성범죄물의 신속한 삭제⋅차단 조치 등 피해자보호를 위한 제도를 강화하였다. 그럼에도 불구하고, 딥페이크 성범죄는 AI 기술의 발전과 온라인 특성상 피해확산과 회복의 어려움, 10대 가해자와 피해자의 저연령화, 피해자 지원의 한계 등 여전히 해결해야 할 과제가 남아 있다. 본 논문에서는 딥페이크 성범죄 등 디지털 성범죄의 개념과 발생 현황, 최근 법⋅제도적 대응 동향을 분석하고, 실효성 있는 피해자 보호와 예방을 위한 추가적 입법⋅정책적 개선의 필요성을 검토하였다.

최근 딥페이크 기술이 고도화됨에 따라 이를 악용한 범죄 사례가 증가하고 있으며, 딥페이크 탐지 기술에 대한 연구의 중요성이 커지고 있다. 본 논문에서는 딥페이크 이미지를 생성하는 기술로는 GAN(Generative Adversarial Network), Autoencoder 등을 활용하였으며, 특히 딥페이크 탐지 성능을 개선하기 위해 CNN(Convolutional Neural Networks)과 ViT(Vision Transformer)를 결합한 CNN-ViT 기반 통합 모델을 제안하였다. CNN을 이용한 탐지 방식은 이미지의 지역적 특징을 학습하며, 딥페이크 이미지에서 나타나는 미세한 왜곡을 효과적으로 탐지할 수 있는 반면, ViT는 이미지를 패치 단위로 분할하여 전체적인 구조를 학습함으로써 전역적 패턴 간의 관계를 파악할 수 있다. CNN-ViT 모델의 성능 평가를 위해 EfficientNet-B0부터 B4까지의 CNN 아키텍처를 ViT와 결합하여 비교 실험을 수행하였다. 또한, 모델의 깊이에 따른 성능을 Precision, Recall, F1-score으로 비교하였고, weight decay, batch size, learning rate의 변화에 따라 탐지 성능에 미치는 영향을 분석하였다. 제안한 CNN-ViT 모델은 WildDeepfake와 FaceForensics++ 데이터셋에서 각각 82.75%, 60.84%의 탐지율을 기록하며 기존 모델 대비 우수한 성능을 보였다.

딥페이크 기술의 고도화로 이미지 및 영상 콘텐츠의 조작이 더욱 정밀해지면서, 이에 대응하기 위한 효과적인 탐지 기술의 중요성이 커지고 있으며, 다양한분야에서 신속하고 정확한 탐지기술의 수요가 증가하고 있다. 기존의 딥페이크탐지 모델은 높은 탐지 정확도를 보여주고 있으나 대부분 다층 구조와 복잡한연산으로 컴퓨팅 자원을 과도하게 소모하며, 실시간 처리나 모바일 환경에서는적용이 제한되는 한계를 가지고 있다. 이러한 한계를 극복하기 위해 MobileNet을활용하고 있으나, 기본 형태만으로는 실시간 처리나 모바일 환경에서의 구현에어려운 점이 있다. 본 연구는 컴퓨팅 자원 사용을 최소화하면서도 우수한 탐지성능을 유지할 수 있는 경량화 기법을 적용한 MobileNet 기반 딥페이크 탐지모델을 제안한다. 제안된 모델은 실험을 통해 기존 MobileNet 대비 컴퓨팅자원을 크게 절감하면서 우수한 탐지 성능을 유지함을 확인하였으며, 이를 통해모바일 환경, 실시간 모니터링 시스템 구축 등 다양한 분야에서 실용적으로 활용될수 있음을 입증하였다.

본 연구는 인공지능 기반 딥페이크 기술의 확산에 따라 청소년에 의한 디지털 성범죄가 급증하고 있는 사회적 현실에 주목하여, 이에 대한 효과적인 대응 방안을 모색하고자 하였다. 최근 딥페이크 범죄는 기술의 접근성이 높아지고 SNS 중심의 놀이문화가 확산 됨에 따라 청소년 사이에서 빠르게 증가하고 있으며, 이로 인한 사회적 피해도 심각한 수준에 이르고 있다. 이러한 현상 속에서 촉법소년 연령 하향 및 형사처벌 강화를 중심으로 한 제도 개편 논의가 이루어지고 있으나, 본 연구는 그러한 처벌 중심 접근의 한계를 지적하고, 예방과 교육 중심의 대응 패러다임 전환의 필요성을 강조한다. 특히 현행 소년사법체계의 구조적 한계와 디지털 범죄에 대한 교육 부재를 진단하고, 디지털 윤리교육 및 법교육 강화, 지역사회와 학교의 협력적 지원체계 구축, 법체계 내 교화 중심 처우 확대 등 다각적인 대응 전략을 제안하였다. 본 연구는 청소년의 발달적 특성과 사회문화적 환경을 반영한 통합적 대응이 디지털 시대 청소년 범죄 문제 해결의 핵심임을 강조하며, 향후 실효성 있는 정책 수립과 교육 프로그램 개발의 기초자료로 활용될 수 있을 것이다.

딥페이크를 활용한 합성영상물 제작 기술은 스마트폰·PC에서 손쉽게 사용할 수 있는 수준까지 대중화되었다. 기술적 진입장벽의 하락은 곧 온라인 성범죄의 양적･질적 팽창으로 이어졌다. 실제로 국내 법원에서 유죄가 확정된 허위영상물 사건은 증가하고 있으나 관련 학술연구는 ‘사례･기술’ 소개에 머무르거나 특정 연령층·플랫폼에 편중된 경향이 있다. 본 연구는 이러한 공백을 메우기 위해 2020.1.~2024.12. 사이 선고된 105건의 확정 판결문을 전수분석하였다. 분석 결과, 피해자 및 가해자는 10대·20대 층에 집중된 경향을 보이고 있으며, 성범죄 영상물은 텔레그램 플랫폼에서 조직적으로 배포되고 있음을 확인하였다. 사건 1건당평균 3~4개의 처벌 조항이 병합되었는데, 특히 ｢아동·청소년의 성보호에 관한 법률｣, ｢성폭력범죄의 처벌 등에 관한 특례법｣, ｢정보통신망 이용촉진 및 정보보호 등에 관한 법률｣이삼각축을 형성하며 허위영상물이 단일 범죄가 아니라 다층적 ‘범죄 플랫폼’으로 기능함을 보여 주었다. 텍스트 네트워크 분석에서는 ‘촬영물-합성-얼굴’과 ‘반포-전송-게시’가 각기 제작·유포 쌍봉 구조를 이루고, 두 클러스터를 ‘텔레그램’ 노드가 허브처럼 연결하고 있었다.
 이는 실제 판결에서 가장 빈발한 유포 경로가 텔레그램(38.3%)임을 재차 확인시켜 준다. 또한 실형과 집행유예의 분기점은 ‘협박·보복 목적’과 같은 가중 사유, ‘합의·반성·초범’과같은 감경 사유의 존재 여부로 수렴하였다. 이러한 결과를 통해 딥페이크 활용 허위영상물성범죄를 예방하고 대응하기 위한 법적·제도적 강화를 논의하였다.

본 연구는 딥페이크 기술의 오남용으로 발생하는 성범죄, 특히 영상 기반 합성 성범죄의 실태와 사회적 대응 양상을 분석하고자 하였다. 딥페이크 성범죄는 기존의 불법촬영물이나 리벤지 포르노와는 달리, 피해자 동의 없이 생성된 허위 영상물을 통해 개인의 성적 자기결정권과 인권을 심각하게 침해한다는 점에서 새로운 유형의 디지털 성범죄로 주목받고 있다. 본 연구는 2024년 8월부터 9월까지 국내 주요 일간지 6곳의 딥페이크 성범죄 관련 기사 804건을 수집·분석하여 가해자 및 피해자 특성, 사회적 인식, 입법 동향 등을 질적으로 고찰하였다. 분석 결과, 딥페이크 성범죄는 청소년 가해자 비율이 높고, 피해자는 동료 학생, 교사, 일반인 등으로 확대되고 있으며, 피해 인식과 대응 방식에도 젠더 갈등 프레임이 개입되는 양상이 확인되었다. 이에 따라 본 연구는 딥페이크 성범죄에 대한 다층적인 정책·교육·기술적 대응의 필요성을 제언하고, 특히 윤리적 AI 사용과 플랫폼 책임 강화, 피해자 보호 중심의 사회적 담론 구조 전환을 강조한다.

딥페이크 기술은 고도로 정교한 합성 영상 및 음성 콘텐츠를 생성함으로써, 정보의 신뢰성과 진위 구별 능력을 약화시키고 사회 전반의 신뢰 구조를 흔드는 기술로 주목받고 있다. 특히 본 연구는 딥페이크 기술이 단순한 허위정보 생성 수단을 넘어, 부패행위를 은폐․정당화하는 구조적 수단으로 악용될 수 있다는 점에 주목하였다. 이를 위해 정치․선거, 공공행정 및 사법절차, 기업 및 민간 부문에서의 부패 관련 사례를 분석하고, 이와 관련된 국내외 법제도 현황을 검토하였다.
 분석 결과, 현재의 국내 대응은 공직선거법, 정보통신망법, 형법 등 개별 법률에 단편적으로 규정되어 있으며, 실시간 탐지, 대응기관 간 협업, 탐지기술의 법제도화 등과 같은 구조적 대응은 미흡한 것으로 나타났다. 미국, 유럽연합, 국제기구 등 주요국과의 비교를 통해, 사전 예방 중심의 규율 체계, 탐지 기술 연계 제도화, 플랫폼 책임 강화 등의 시사점을 도출하였다.
 본 연구는 이러한 분석을 바탕으로 향후 대응방안으로서 딥페이크 기반 부패행위에 대한 구조 중심 통제, AI 탐지기술의 규범적 수용, 행정․사법 협업 기반의 신속 대응체계 구축의 필요성을 제시하였다. 본 논문은 딥페이크 기술로 인해 사회의 부패 리스크가 기술적으로 재구성되는 현실을 규범적으로 진단하고, 이를 대응하기 위한 융합적 법정책적 거버넌스의 방향성을 제시한다는 점에서 의의를 가진다.

본 연구는 딥페이크 기술이 악용된 영상 제작·유포 사건에 대응하기 위해, 디지털 증거 확보 및 압수 절차를정립하는 것을 목적으로 한다. 이를 위해 웹 기반 딥페이크 생성 사이트와 설치형 프로그램 도구를 실제로 실행하고, 영상 생성 과정에서 시스템에 남는 디지털 아티팩트를 포렌식 관점에서 분석하였다. 또한 메신저, SNS, 클라우드 기반유포 경로에 대한 선행 연구를 분석하고, 각 경로별로 식별 가능한 디지털 아티팩트의 특성과 수사 적용 가능성을정리하였다. 생성 도구의 설치 여부, 실행 흔적, 결과물 저장 위치를 기준으로 수사 현장에서 적용 가능한 증거 확보절차를 구성하고, 디지털 증거의 무결성과 진정성을 확보하기 위한 수사 기준도 함께 제안하였다. 특히 피해자정보와의 연관성을 분석하여 딥페이크 영상을 자동으로 식별할 수 있는 기술 기반 선별 압수 도구의 필요성을제기하고, 그 구현 방향을 제시하였다. 본 연구는 불법 딥페이크 영상 수사의 전체 흐름을 기술적으로 정리하고, 디지털 성범죄 대응을 위한 실무 적용성과 수사 지원 기술의 개발 방향을 함께 제시하였다.

본 연구는 사회적으로 뜨거운 논란을 일으키고 있는 딥페이크 콘텐츠를 고찰하는데 목적을 두고 있다. 딥페이크 콘텐츠는 생성적 적대 신경망을 활용하여 실재보다 더 실재처럼 보이는 영상⋅이미지 등을 생성한다. 그 결과 딥페이크 콘텐츠는 문화콘텐츠 영역에서 창작의 효율성을 높이고 있다. 반면, 딥페이크 콘텐츠는 진짜와 가짜를 구분하기 어려운 수준의 영상⋅이미지⋅음성을 생성하여 범죄에 악용되고 있다. 이러한 양가성은 딥페이크 콘텐츠가 실존 인물과 고인을 주요 참조 대상으로 하는 동시에 보드리야르가 주장한 파생실재와 연관성을 지닌다. 이를 전제로 본 논문은 기술적인 관점에서 딥페이크 콘텐츠를 유형화한 기존의 논의를 넘어서 참조 대상을 중심으로 유형화를 재시도 하였으며 이에 따른 양가성을 살펴보았다. 연구 결과는 다음과 같다. 딥페이크 콘텐츠는 실존형, 부재형, 가상형으로 유형화하였다. 대다수 딥페이크 콘텐츠는 실존형, 부재형에 속하는 것으로 연구되었다. 유형별 양가성을 살펴보면, 실존형과 부재형은 드라마, 영화, 광고에서 제작의 효율성을 가져왔지만, 윤리적 문제는 주로 실존형에 집중되어 있음을 확인할 수 있었다.

본 논문은 생성형 인공지능 기술의 발전으로 인해 등장한 딥보이스와 딥페이크 등의 기술을 활용하여 실연자의 음성, 초상, 몸짓 등을 실제와 유사하게 재현하는 “인공 실연”과 관련하여 발생하는 실연자 보호 문제를 저작인접권을 중심으로 검토하과 그 해결방안에 대하여 살펴보았다.
 AI 커버곡 등의 인공 실연은 실연자의 기술적 실업을 야기하고, 타인의 음성을 무단으로 활용하여 AI 커버곡을 제작한 자가 음반제작자 지위를 부여받는 문제 등을 발생시킨다. 이에 본 논문에서는 현행 저작권법상 저작인접권을 통한 인공 실연의 대응 가능 여부를 검토하고, 미국에서의 인공 실연 관련 논의 현황을 분석하였다. 이를 바탕으로 인공 실연 규제를 위한 입법적 제언으로서, 인공 실연을 생성할 수 있는 권리를 창설하고, 인공 실연의 이용행위에 대해서는 인공 실연을 생성할 수 있는 권리의 침해간주 규정 신설을 통해서 대응하는 방안을 제언하였다.

본 연구는 생성형 인공지능(Generative AI)을 활용한 딥페이크 음란물 제작·유포 행위가 현행 대한민국 형사법 체계, 특히 성폭력처벌법 제14조 및 제14조의2로 충분히 규율될 수 있는지 여부를 법리적으로 분석하였다. 앞서 살펴본 바와 같이 2024년 개정으로 허위영상물의 제작·유포·소지·시청까지 규제 범위가 확장되었음에도 불구하고, 여전히 여러 구조적 한계가 존재함을 확인하였다.
 첫째, 피해자 특정성 요건은 실존 인물에 대한 동일성을 중심으로 설계되어 있어, AI 순수 제작물이나 실존 인물과의 현저한 유사성만을 가진 합성물은 규제 사각지대에 놓일 수 있다. 둘째, '촬영물' 전제를 전제로 한 구성요건은 원본 자료 없이 생성된 영상에 대한 적용을 곤란하게 하며, 이는 생성형 AI 기술의 현실과 괴리된다. 셋째, '편집·합성·가공'이라는 한정적 행위 유형은 '제작' 행위를 포함하지 않아, AI 순수 생성물에 대한 처벌 가능성을 본질적으로 제약한다. 넷째, 구성요건의 추상성과 명확성 원칙 간의 긴장, 기술적·증거법적 입증 곤란, 국제적 집행 공백 역시 실효적 규율을 저해하는 요인으로 작용한다.
 이에 대한 개선방안으로 첫째, 행위 유형에 '제작'을 명시하여 AI 순수 제작물을 규제 대상으로 포함시킬 것. 둘째, 피해자 특정성 기준을 '동일성'에서 '현저한 유사성'으로 완화하고, 피해자 없는 합성물에 대해서도 사회적 법익을 근거로 규율할 것. 셋째, '촬영물' 전제성을 완화하여 기술 중립적 문언으로 개정할 것. 넷째, 명확성 원칙을 확보하기 위해 구성요건 용어를 구체화하고 국제 기준을 참고할 것이다.
 궁극적으로 AI 기술의 발전 속도와 그에 따른 사회적 영향력을 형사법이 적시에 완벽하게 대응하기에는 근본적인 한계가 존재할 수밖에 없다. 이는 새로운 범죄 양태에 대한 처벌의 필요성과 사회적 요구가 증대하더라도, 형사법의 대원칙인 죄형법정주의와 명확성 원칙이 우선적으로 고수되어야 하기 때문이다. 따라서 입법적 보완은 기술적 진보를 예측하며 능동적으로 이루어져야 할 것이며, 단순히 처벌만을 강화하는 것을 넘어 피해자 보호와 권리 구제 방안을 종합적으로 모색하는 균형 잡힌 접근이 필수적이다.

딥페이크 기술이 빠르게 고도화됨에 따라, 이를 악용한 가짜뉴스 유포나 디지털 성범죄와 같은 사회적 문제가 심각해지 고 있다. 따라서 이러한 딥페이크 콘텐츠를 정확하게 탐지하고 대응하기 위한 기술이 중요한 과제로 떠오르고 있다. 기존 연구들은 CNN 혹은 ViT 기반의 모델을 사용해 딥페이크 탐지를 진행하였다. 하지만 CNN은 전역적인 정보, ViT는 국소적 인 정보를 상대적으로 탐지하지 못하는 문제점이 존재한다. 본 연구에서는 ViT 기반 모델의 한계점인 국소 정보 탐지를 보완하기 위해 MediaPipe를 이용해 얼굴 랜드마크를 추출하고, ViT의 패치 임베딩 단계에 눈·코·입 영역별 학습 가능한 가 중치를 부여하는 Region Weight 모듈 도입을 제안한다. 이를 통해 ViT 모델이 전역 정보 뿐 아니라 딥페이크 기법에서 주 로 발생하는 눈·코·입 주변의 미세한 변화를 효과적으로 학습하도록 한다. FaceForensics++ 데이터셋을 활용해 실험한 결 과, Region Weight Module 사용 전 ViT 대비 ACER는 7.94%, AUC는 약 3% 개선되었다. 본 논문의 제안 기법은 발전하는 딥페이크 생성 기법에서 발생하는 주요 특징을 효과적으로 포착하며, 향후 더욱 정교하고 은밀해지는 딥페이크 기법에 대 해서도 안정적으로 대응할 수 있는 기반 기술로 활용될 수 있을 것으로 기대된다.

AI 기반의 딥페이크 기술이 국가안보에 미치는 위협을 심리전, 인지전, 정보전의 관점에서 고찰하고, 이에 대한 현행 형사법적 규율의 한계와 정책적 대응 방안을 제시하고자 한다. 딥페이크는 고도화된 AI를 기반으로 조작된 시청각 정보를 생산하여 국민의 인식과 행동을 왜곡시키고, 정보환경의 신뢰성과 안정성을 해치는 수단으로 악용될 수 있다. 결과적으로 AI를 이용하여 만들어진 딥페이크는 심리전, 인지전, 정보전을 매개하는 복합 기술로서 인간의 감정, 인지, 정보체계를 동시다발적으로 공격할 수 있는 하이브리드(Hybtid) 위협으로 기능한다. 이에 따라 형법, 정보통신망법, 전기통신기본법, 국가보안법 등 현행 법률의 적용 가능성과 한계를 검토하였다. 그 결과, 기존 법체계는 개인 보호에 치중되어 있고 딥페이크의 복합적 위협성을 포괄하지 못하는 한계가 확인되었다. 본 논문은 딥페이크 기반 인지적, 심리적 조작에 대응하기 위한 불법정보 규정 강화, 국가안보 중심의 딥페이크 법 해석 및 실시간 대응체계 구축 등 종합적 정책 대안을 제시하고자 한다.