논문 8,399편

본 연구는 판결문을 바탕으로 딥페이크 성범죄의 양상을 젠더적 관점에서 분석하였다. 1심 판결문 152건을 검토하여 가해자·피해자의 특성, 범죄 행위, 재판 결과를 살펴보았다. 연구 결과, 가해자는 159명이나 다수의 ‘성명불상’ 가해자가 존재해 수사에서 충분히 고려되지 않았다는 점이 확인되었다. 피해자의 98.7%가 여성이었고, 주로 지인(40.25%)이나 연예인(25.78%)을 대상으로 하여 디지털 젠더폭력에서의 ‘친밀성’ 범주가 확장되었다고 보았다. 범죄행위로는 피해자의 SNS·카카오톡 프로필 사진을 이용한 이미지 수집이 많았으며, 합성물 제작의 56.60%는 가해자가 직접 수행했다. 합성물은 피해자의 얼굴과 신체를 조작하거나 모욕적인 문구, 개인정보를 포함하는 형태로 여성 혐오적 특성을 보였다. 가해자의 18.24%는 텔레그램 운영자로 범죄 네트워크를 형성했으나, 판결문에서 범죄단체조직죄가 적용되지 않아 법적 대응이 미흡했다. 전체 가해자의 88.68%가 성폭력처벌법을 적용받았고, 47.17%가 집행유예를 선고받았다. 본 연구는 딥페이크 성범죄의 실태를 실증적으로 분석하고 법적 대응의 한계를 지적하며, 향후 법적 대응 강화를 위해 페미니스트 범죄학적 논의가 필요하다고 보았다

This paper proposes a model using a two-stream network to extract both global and local spatial forgery features in deepfake videos and learn temporal forgery features across frames. The spatial detection model is based on EfficientNet, and the temporal detection model is based on ViT. Spatial features are divided into two streams to extract global and local features separately, while two ViTs are used to effectively learn temporal features, making the temporal part also two-stream. This achieved an average 9.4% improvement in detection accuracy compared to existing deepfake detection models, and through Grad-CAM, we visually confirmed the regions that significantly influenced the determination of deepfakes, demonstrating the model's effective detection capabilities.

최근 생성형 인공지능을 이용한 딥페이크는 타인의 얼굴과 목소리를 사용하기만 하는 것에 그치지 않고, 타인의 얼굴과 목소리를 이용해 그가 실제 한 적도 없는 행위를 한 것처럼 허위로 꾸밈으로써 상당한 사회문제를 야기하고 있다.
 얼굴과 목소리는 인격을 구성하는 중요 요소라 할 수 있으나, 형법은 아직까지 얼굴과 목소리를 독자적 법익으로 보호하고 있지는 않다. 물론 현재 문제되고 있는 ‘딥페이크 사건’ 대부분은 타인의 얼굴과 목소리를 무단으로 사용해 왜곡된 이미지를 창출하고, 그렇게 왜곡된 이미지를 이용함으로써 다른 법익을 침해하는 양상으로 전개되는 모습을 보이며, 이는 현행법 체계에 어렵지 않게 포섭된다. 다만 현행 법체계에 포섭되지 않는 행위양상도 충분히 예상해 볼 수 있으므로, 본 글에서는 딥페이크에 관한 각론적 접근을 넘어 총론적 차원에서 인격적 법익의 일부로서 이른바 얼굴과 목소리에 관한 권리를 새로운 형법법익으로 인정할 여지는 없는지를 인격적 법익론 관점에서 살펴보았다.

딥페이크는 단순한 사진의 편집이나 음성을 모방하는 것이 아니다. 시각과 청각 형식의 새로운 데이터를 생성하기 위하여 방대한 양의 데이터를 분석하고 합성하는 고도의 AI 알고리즘의 산물이다. 이러한 알고리즘은 비디오의 경우에 조작된 요소와 실제 영상을 매끄럽게 혼합하여 시청자가 보고 듣는 것이 진짜인지 여부를 분간하지 못하도록 만든다. 딥페이크가 끼치는 부정적인 영향으로 부각되는 것은 허위 정보 유포, 리벤지 포르노, 사기 광고 등 사회적으로 해악을 끼치는 면이다. 국민들에게 심리적, 재정적, 사회적 피해가 유발되면서 국경을 넘어서 인권 침해에 심대한 영향을 주고, 국가적으로는 기본권에 위해를 가져온다는 점 때문에 각국에서는 인공지능 딥페이크 기술을 매개하는 온라인 플랫폼에 대한 규제, 개인정보와 명예훼손에 대한 법률 등을 통하여 기본권 보호를 강화하고 있다.
 딥페이크 기술의 오용이 헌법적으로 검토해보면, 인간의 존엄과 가치, 표현의 자유와 개인 정보 보호, 개인의 사생활과 명예, 공정한 재판을 받을 권리, 평등권 및 차별 금지, 소비자의 권리 등 기본권에 심각한 위협이 될 수 있다. 이러한 문제를 해결하기 위해서는 딥페이크의 오용을 탐지하고 대응하는 기술적 발전, 인공지능 딥페이크 기술과 관련한 헌법적 권리를 인식하고 이를 수호하는 기반 위에서 적절한 법적 규제 체계 마련, 유해 콘텐츠의 유통을 차단하고 디지털 안전을 지키는 게이트 키퍼로서 온라인 플랫폼 사업자의 책무와 법적 책임 강화, 국제 파트너십 구축 및 일반 국민을 상대로 하는 공공 교육을 통합하는 총체적인 접근 방식이 필요하다. 딥페이크 기술의 오용에 적극적으로 대처함으로써 우리 사회가 인공지능 시대에 인권 원칙을 수호하고 민주적 가치를 보존할 수 있도록 하여야 한다.

인공지능의 심층학습을 기반으로 이미지 등을 정교하게 생성해 낼 수 있는 딥페이크 기술은 다양한 분야에서 유용하지만, 부정적으로 사용될 경우 명예훼손, 사생활 침해, 초상권 침해, 저작인격권 침해 등 인격권이 침해될 수 있다. 딥페이크 기술은 주로 사람의 이미지를 이용하여 사실이 아닌 이미지를 생성함으로써 일차적으로 초상권의 문제가 제기될 수 있고, 초상권을 보호하여 딥페이크 이미지 생성을 제한할 경우 표현의 자유가 제한될 수 있다. 초상권과 표현의 자유는 모두 헌법적으로 보장되는 권리로서 명확하게 우열을 가리기 쉽지 않고 국가마다 입장에 차이가 있으며 사안마다 어느 권리에 중점을 둘 것인지 다르게 판단될 수 있다. 미국은 표현의 자유를 중요한 가치로 보호하는 가운데, 국내법의 경우에는 공익인 경우와 공익이 아닌 경우, 사실인 경우와 허위의 경우를 구별하여 판단해야 할 것으로 보인다. 초상권은 인간의 존엄 및 행복추구권에 근거하고, 표현의 자유는 언론, 출판의 자유에 근거하면서 국가안보나 사회 질서를 저해하지 않는 범위에서 보장된다는 제한이 있다. 딥페이크 기술에 의해 사실에 기반한 공적 인물의 초상 이미지나 과거 사실의 재현에 대해서는 표현의 자유가 초상권에 우선하여 보호될 여지가 있다. 반면, 공적 인물이 아닌 인물의 딥페이크 결과물이나 공적 인물과 관련한 허위사실의 딥페이크 결과물은 표현의 자유를 우선하여 보호할 근거가 없고 초상권이 우선하여 보호되어야 할 것으로 보인다. 초상권과 표현의 자유의 충돌 문제를 완화하기 위하여 초상권이 인권의 하나이고 표현의 자유에 책임이 전제되어야 한다는 인식이 확산되어야 할 것으로 본다.

최근 딥러닝 기술의 비약적인 발전으로 인해 극도로 사실적인 합성 미디어인 딥페이크의 제작이 용이해졌다. 특히 GAN(generative adversarial network)과 같은 생성 모델의 발전은 일반인도 쉽게 고품질의 위조 콘텐츠를 생성할 수 있는 환경을 조성하였으며, 이러한 기술의 발전은 개인의 프라이버시 침해, 허위정보 유포, 금융 사기 등 심각한 사회적 문제를 야기하고 있다. 새로운 딥페이크 기술로 생성한 콘텐츠가 확산될 때 가설 기반 콘텐츠의 정보 분포를 활용하여 자가 진화가 가능한 딥페이크 탐지 시스템 기술 개발 높은 정확도를 기반으로 음성과 이미지 그리고 영상 등 다양한 모달리티를 통합하여 탐지할 수 있는 딥페이크 탐지 연구가 필요하며, 본 논문에서는 다중 모달 특성 학습에 기반한 새로운 생성형 딥페이크 탐지 프레임워크를 제안한다. 제안된 방법은 이미지의 공간적 특성, 비디오의 시간적 특성, 그리고 오디오 특성을 통합적으로 활용하는 다중 스트림 신경망 구조를 기반으로 하며, 교차 주의집중 메커니즘을 도입하여 각 모달리티 간의 상호 정보를 효과적으로 활용하여, 생성형 딥페이크 탐지를 개선하였다.

최근 딥페이크 이미지 생성 기술의 발달로 이를 악용하는 사례가 증가하고 있다. 그러나 기존의 딥페이크 탐지 기술은 대량의 학습 데이터와 장기간의 훈련이 필요하며, 새로운 딥페이크 생성 기술 유형에 대응하기 어렵고 설명 가능성이 부족하다는 한계를 지닌다. 본 연구에서는 대규모 멀티모달 언어 모델인 GPT-4o와 GPT-4o-mini를 활용하여 텍스트와 시각적 단서를 결합한 딥페이크 이미지 탐지 방식을 제안한다. 또한 제로샷, 퓨샷, 멀티턴 제로샷, 연쇄 추론, 자기 일관성 등의 프롬프트 엔지니어링 기법을 도입하여 모델의 탐지 성능을 평가하고 비교하였다. 실험 결과, GPT-4o-mini는 딥페이크 이미지 정확도가 최대 55.4%에 그쳐 초기 제로샷 성능이 낮게 도출되었으나, 멀티턴 제로샷 및 자기 일관성 등의 프롬프트 엔지니어링을 통해 딥페이크 탐지 정확도 90% 이상으로 크게 개선할 수 있음을 확인하였다. GPT-4o는 제로샷 기법만으로 AUC score 93.06%이상의 높은 탐지율을 보였고, 후처리된 이미지에서도 90% 이상의 탐지 성능을 나타내 강건성을 보였다. 아울러, 모델의 추론 과정을 투명하게 제시함으로써 탐지 결과에 대한 신뢰성을 높이고, 법적·윤리적 문제 해결에 기여할 수 있음을 확인하였다.

실제 사람의 얼굴을 성적인 사진에 합성하는 사례가 많은 딥페이크 이미지는 인공지능(AI)의 발전과 함께 점점 더많이 양산되고 있다. 더욱 충격적인 것은 이러한 딥페이크 영상물의 가해자와 피해자 모두 연령대가 낮은청소년들인데, 또래 집단 사이에서 단순한 놀이문화로 인식되어 확산되었다는 것에 있다. 물론 딥페이크 범죄는 어제오늘날의 문제가 아니고, 인터넷이 보급되면서부터 이뤄졌던 고전적인 형태의 범죄 유형이다. 그러나 앞서 언급한 바와같이 인공지능과 결합되면서 진짜와 가짜를 구별할 수 없을 정도의 영상물이 제작되고, 불특정 다수에게 유포되며, 과거 N번방 사태에서도 유통수단이 되었던 텔레그램 내지는 다크웹을 통해 이뤄지고 있다는 것이 달라진 양상이다.
 따라서 본 연구에서는 심각한 수준에 와 있는 딥페이크 범죄를 다양한 측면에서 들여다보고 분석해 봄으로써 범죄를최소화할 수 있는 방향의 논의를 목표로 한다. 이러한 목표를 달성할 수 있도록 내실 있는 연구의 진행을 위해 먼저, 딥페이크 범죄에 대해서 전반적으로 개관해보고, 주요 국가의 입법 현황은 어떠한지 시사하는 바를 파악한다. 그리고헌법적 쟁점으로서 디지털 성범죄와의 연결 가능성, 정치·선거·언론보도 등 페이크 뉴스의 문제, 저작권·퍼블리시티권등 권리 침해 여부 등을 법리적으로 다뤄보고자 한다. 향후 딥페이크 기술 관련 법제도 정비 과정에서는 피해자의권리보호를 위한 법적인 규제와 헌법상 기본권 또는 인공지능 기술의 활용·진흥 사이에서 합리적인 균형을 설정하는일이 주요 쟁점으로 부각될 것으로 판단되기 때문이다.

본 연구는 딥페이크(Deepfake) 기술에 대한 법적 규제의 필요성 주장 및 해당 규제의 추구 방향 모색을 목적으로 한다. 기술 혁신과 법적 대응 간의 조화로운 균형점을 도출하기 위해, 딥페이크 기술의 개념 및 발전 양상을 상세히 고찰한 후 해당 기술이 야기할 수 있는 법적 쟁점들을 체계적으로 분석하고자 한다. 구체적으로는 개인정보 침해, 명예훼손, 선거 공정성 침해, 사기 범죄 등과 같은 법적 문제들을 유형별로 세분하여 검토할 것이다. 미국 딥페이크 규제의 주요 방향은 크게 선거 개입 방지, 아동 보호 강화, 딥페이크 콘텐츠 표시 의무화 등으로 구분된다. 본 연구는 이러한 미국 내 규제 방식이 형성된 법적･사회적 배경을 탐색함으로써 거시적이고 체계적인 이해를 도모하고자 한다. 또한 한국과 미국의 딥페이크 규제 방식을 비교 분석함으로써, ‘표현의 자유 보호’와 ‘표현에 대한 규제’ 사이에서 각국이 취하고 있는 법리적 균형의 추구 방향을 고찰하고자 한다. 이와 동시에, 기술적 대응과 법적 대응 간의 상호작용이 어떻게 조정되고 있는지도 알아보고자 한다. 더 나아가 양국의 법적･문화적 특성이 규제의 방향성에 미칠 수 있는 영향을 심층 분석함으로써, 규제를 둘러싼 광범위한 상관관계를 논리적으로 파악할 것이다. 한편, 딥페이크와 관련된 주요 판례와 사건들을 집중 분석하며 구체적이고 실무적인 법률 관련 문제점들을 정리하고, 현존하는 AI 탐지 기술의 한계로 인해 필연적으로 발생할 수밖에 없는 법적 대응의 실효성 문제도 비판적으로 검토하고자 한다. 글로벌 기업들의 AI 영상물에 대한 워터마크(watermark) 도입 시도는 기술적 대응책이 가능함을 암시적으로 제시하고 있으며, 이러한 기술적 수단과 관련하여서는 법적･교육적 대응과 결합할 때 더욱 효과적인 결과를 기대할 수 있다. 본 연구는 기술적, 법적, 정책적인 면 등을 반영하여 통합적으로 대응하는 전략이 딥페이크 문제에 효과적이라는 점을 바탕으로 하여, 딥페이크 기술의 건설적 활용을 촉진하면서도 악용을 방지할 수 있을 균형 잡힌 법제 개선 방안을 제안하고자 한다.

이 연구에서는 아동·청소년들이 ‘디지털 네이티브’(Digital Native) 세대로서 AI 디지털교과서및 개인정보의 안전한 활용을 위해 우리 사회의 불안전함을 인지하고 적절한 개인정보보호를 위한 지식을 확보할 수 있도록, 실제 개인정보 침해 사례를 기반으로 한 개인정보보호 교육콘텐츠의 개선 방향을 제시하고자 하였다. 아동·청소년의 개인정보보호 교육의 공공성은 지역, 학교규모, 인원에 차별받지 않고 개인정보보호 대면 교육을 받을 수 있음을 의미하며, 또 보이스피싱과 딥페이크 등 사회적 현안에 대해 실효성 있는 교육을 통해 인식을 제고할 수 있음도 의미한다. 이 연구에서는 현재 활동하고 있는 개인정보보호 분야 전문 강사를 대상으로 한 설문조사 결과, 보이스피싱(스미싱, 큐싱 등) 및 딥페이크 관련 내용이 개인정보 교육에 포함 개선되어야 함을 확인하였다. 그리고 문헌연구에서는 개인정보보호 교육 시 한국인터넷진흥원(KISA) 등 외부공식 교육을 받은 집단과 내부 자체 교육을 받은 집단으로 나누어 비교한 결과, 교육 효과에 대해 유의미한 차이가 있음을 입증하였다. 이에 이 연구에서는 초·중·고 학생들의 개인정보보호교육의 공공성을 위해서 개인정보위 전문 강사의 방문 교육이 필요하며 몰입도 있는 강의를 위한 콘텐츠를 개인정보 정책에 반영되도록 개선해야 한다는 정책적 시사점을 제시하였다.

한 사람이 쓰는 컴퓨터가 한 공간에 남아 있었다. 그 사람이 쓰는 컴퓨터는 다른 사람이나 다른 사람이 쓰는 컴퓨터와 연결되지 않았다. 시간이 흘러서 인터넷이 도입되었다. 전화선, 케이블선, 랜선을 통해서 인터넷으로 여러 컴퓨터와 연결되었다. 많은 사람 사이에 많은 정보가 오고 갔다. 인터넷 이전의 세상과 인터넷 이후의 세상이 많이 달라 보였다. 또한 시간이 흘러서 인공지능이 나타났다. 많은 사람은 인공지능이 새로운 산업혁명을 일으킬 것으로 여기고 열광하기도, 두려워하기도 했다. 또한 다른 시간이 흘러서 생성형 인공지능이 등장했다. 많은 사람은 생성형 인공지능의 똑똑함에 놀랐다. 많은 사람은 생성형 인공지능을 신기한 것으로 여겼다. 또한 생성형 인공지능이 만들어 내는 그림자에 대해서도 고민하기 시작했다.
 생성형 인공지능이 만드는 어두운 그림자 가운데 한 영역이 딥페이크이다. 현실에서 딥페이크가 문제를 일으키는 영역은 크게 둘이다. 첫째는 ‘선거’와 관련된 영역이다. 둘째는 ‘음란물’이다. 딥페이크가 우리 사회에 부작용을 일으키는 두 영역의 공통점은 사람의 동일성(identity)을 침해한다는 점이다. 다른 사람이 나쁜 의도로 어떤 사람의 이미지에 대한 동일성을 깨뜨린다. 딥페이크 기술로 만든 나쁜 이미지가 그 사람의 진실한 이미지를 왜곡한다. 그러면서 그 사람에 대한 나쁜 이미지로 그 사람의 진실한 이미지를 대체한다. 따라서 대중은 딥페이크 기술로 만들어진 나쁜 이미지를 그 사람에 관한 참된 정보로 인식한다. 그런 면에서 딥페이크는 그 사람에 대한 동일성을 왜곡하고, 그 사람에 대한 자아상(self-image)을 허문다.
 딥페이크가 일으키는 측면을 다루는 논문은 두 방향성으로 접근한다. 첫째는 딥페이크에 대한 기술적 측면을 고찰하는 논문이다. 둘째는 딥페이크를 형사법적으로 규율하려고 탐구하는 논문이다. 그런 측면에서 아직 딥페이크에 대한 민사법적 접근의 논문은 시작 단계이다. 딥페이크를 법으로 규율하는 영역을 모두 망라하면, 이는 ① 플랫폼 책임, 잠재적 인공지능 개발자의 책임을 규율하는 행정법 영역, ② 형사법 영역, ③ 명예훼손과 사생활 침해를 규율하는 민사법 영역이다. 이 논문에서는 딥페이크에 대한 민사법적 접근으로, 딥페이크와 관련한 사생활 보호에 초점을 둔다.
 글쓴이는 이 논문을 다음과 같이 구성한다. 먼저 II에서 딥페이크가 일으켰던 사례와 딥페이크 기술을 설명한다. 그

딥페이크 등 허위영상물을 이용한 성범죄는 무분별하게 합성된 음란물이 유포되어 사실로 오인되는 상황을 발생시킨다. 특히 피해자의 신체에 직접적인 침해가 없어도 명예 및 사생활에 심각한 피해를 입힐 수 있다는 점에서 새로운 위험성을 내포하고 있다. 이에 딥페이크 범죄행위에 대한 처벌을 강화하고, 피해자를 보호하고자 성폭력범죄의 처벌 등에 관한 특례법을 개정하였으나 딥페이크 관련 범죄의 발생률이 증가하고 있어 선제적 대응방안의 필요성이 제기되고 있다. 본 논문에서는 선행연구 및 외국 법제도의 검토를 통하여 다양하고 복잡한 딥페이크 관련 범죄유형을 파악하고 이들 유형을 포섭할 수 있는 법제도적 근거를 마련하고자 하였다. 또한 수사의 효율성 확보를 위한 전문 수사 인력의 양성과 국제공조 강화, 피해자 구제를 위한 전담기구의 강화 및 딥페이크 성범죄 예방교육 등의 방안을 제시하였다.

딥페이크 성범죄는 2019년 ‘N번방 사건’을 계기로 디지털 성범죄의 새로운 유형으로서 크게 부각되었으며, 최근에는 10대를 중심으로 한 가해와 피해가 급증하고 있어 더욱 심각한 사회적 문제가 되고 있다. 딥페이크 성범죄는 실제 인물의 얼굴을 음란물에 합성해 피해자에게 심각한 정신적⋅사회적고통을 주며, SNS 등 온라인을 통해 빠르게 확산되어 2차 피해로 이어질 뿐만 아니라, 적시에 삭제가어려워 피해가 계속될 우려가 크다. 이에 따라 정부는 2024년 11월 ‘딥페이크 성범죄 대응 강화 방안’ 을 발표하였고, 국회는 2024년에만 세 차례에 걸쳐 ｢성폭력범죄의 처벌 등에 관한 특례법｣을 개정하면서, 딥페이크 성범죄물의 제작⋅유포뿐만 아니라 소지⋅시청 행위까지도 처벌 대상으로 확대하고, 신분비공개⋅위장수사 특례 및 범죄수익 몰수⋅추징, 성범죄물의 신속한 삭제⋅차단 조치 등 피해자보호를 위한 제도를 강화하였다. 그럼에도 불구하고, 딥페이크 성범죄는 AI 기술의 발전과 온라인 특성상 피해확산과 회복의 어려움, 10대 가해자와 피해자의 저연령화, 피해자 지원의 한계 등 여전히 해결해야 할 과제가 남아 있다. 본 논문에서는 딥페이크 성범죄 등 디지털 성범죄의 개념과 발생 현황, 최근 법⋅제도적 대응 동향을 분석하고, 실효성 있는 피해자 보호와 예방을 위한 추가적 입법⋅정책적 개선의 필요성을 검토하였다.

최근 딥페이크 기술이 고도화됨에 따라 이를 악용한 범죄 사례가 증가하고 있으며, 딥페이크 탐지 기술에 대한 연구의 중요성이 커지고 있다. 본 논문에서는 딥페이크 이미지를 생성하는 기술로는 GAN(Generative Adversarial Network), Autoencoder 등을 활용하였으며, 특히 딥페이크 탐지 성능을 개선하기 위해 CNN(Convolutional Neural Networks)과 ViT(Vision Transformer)를 결합한 CNN-ViT 기반 통합 모델을 제안하였다. CNN을 이용한 탐지 방식은 이미지의 지역적 특징을 학습하며, 딥페이크 이미지에서 나타나는 미세한 왜곡을 효과적으로 탐지할 수 있는 반면, ViT는 이미지를 패치 단위로 분할하여 전체적인 구조를 학습함으로써 전역적 패턴 간의 관계를 파악할 수 있다. CNN-ViT 모델의 성능 평가를 위해 EfficientNet-B0부터 B4까지의 CNN 아키텍처를 ViT와 결합하여 비교 실험을 수행하였다. 또한, 모델의 깊이에 따른 성능을 Precision, Recall, F1-score으로 비교하였고, weight decay, batch size, learning rate의 변화에 따라 탐지 성능에 미치는 영향을 분석하였다. 제안한 CNN-ViT 모델은 WildDeepfake와 FaceForensics++ 데이터셋에서 각각 82.75%, 60.84%의 탐지율을 기록하며 기존 모델 대비 우수한 성능을 보였다.

최근 AI 음성 합성 기술의 발전과 보이스 클로닝 서비스의 확산으로 인해 오디오 딥페이크 위협이 증가하고 있으며, 이를 탐지하기 위한 실시간 대응 기술의 필요성이 대두되고 있다. 본 연구에서는 모바일 기기에서 외부 어플리케이션의 스트리밍 오디오를 실시간으로 캡처하고 딥페이크 여부를 탐지하는 어플리케이션을 구현하였다. 컴퓨팅 자원이 제한된 모바일 환경에서도 안정적인 성능을 제공하기 위해 사전 학습된 경량화된 AI 모델을 적용하고, 탐지 성능 향상과 실시간 응답성을 확보하기 위해 VAD(Voice Activity Detection)와 이동 평균(moving average) 기반 후처리 기법을 결합하였다. 또한 실시간 처리와 정확도 간의 균형을 고려하여 다양한 입력 길이 조건에서 성능을 측정하고, 실시간성과 신뢰도 측면에서 균형 잡힌 결과를 제공하는 구성을 도출하였다. 실험 결과, 제안한 어플리케이션은 2.1초의 입력 길이와 후처리 조합에서 Fake 탐지 정확도 64%, Real 탐지 정확도 89%를 기록하며, 실시간성과 탐지 성능을 동시에 충족할 수 있는 가능성을 입증하였다. 이를 통해 제안한 시스템은 모바일 기반 실시간 오디오 딥페이크 탐지에 실용적인 가능성을 입증하였다. 향후 연구에서는 다양한 환경 조건에서의 안정적인 탐지 성능 확보와 함께, 통화 보안, 음성 인증, 화상회의 등 다양한 응용 분야로의 확장 가능성을 고려한 실증적 연구가 필요하다.

본 글은 딥페이크 기술의 원래 의미와 다르게 성범죄와 연결되어 부정적인 의미로 변질되어 있는 상황에서 그 원인을 분석하고, 디지털 리터러시 교육 차원에서 딥페이크 성범죄 예방 교육을 내실있게 운영하는 방안을 제안하는 것을 목적으로 한다. 이러한 목적을 달성하기 위하여 우선 딥페이크 기술의 특성과 디지털 리터러시의 이론적 배경을 검토하고(Ⅱ), 딥페이크 성범죄 예방교육의 현황과 내용을 분석하였다(Ⅲ). 딥페이크 성범죄 예방교육 자료를 중심으로 딥페이크 성범죄 예방교육의 문제점과 개선 방안을 제시하고자 한다(Ⅳ). 마지막으로 이상의 논의를 정리하고 디지털 리터러시 교육으로서 딥페이크 성범죄 교육 내용의 방향성을 제안하고자 한다(Ⅴ).
 논의 결과 딥페이크 기술 자체가 딥페이크 성범죄와 동일한 개념으로 사용하고 있는 현실은 바람직하지 않다. 딥페이크 기술이 배경이 되는 디지털 세계의 특성을 이해하고, 딥페이크 성범죄 예방 교육의 대상을 가해자, 피해자, 비당사자로 세분화하고, 내용 영역을 기술적 측면, 법⋅제도적 측면, 교육적 측면으로 구분하여 대상과 영역을 중심으로 교육 내용을 재정비 해야 한다. 특히 딥페이크 성범죄 예방 교육을 디지털 리터러시 교육의 내용 요소인 ‘비판적 이해’와 ‘사회적 책임’을 중심으로 교육적 측면의 내용 요소를 구성해야 한다.

딥페이크 기술의 고도화로 이미지 및 영상 콘텐츠의 조작이 더욱 정밀해지면서, 이에 대응하기 위한 효과적인 탐지 기술의 중요성이 커지고 있으며, 다양한분야에서 신속하고 정확한 탐지기술의 수요가 증가하고 있다. 기존의 딥페이크탐지 모델은 높은 탐지 정확도를 보여주고 있으나 대부분 다층 구조와 복잡한연산으로 컴퓨팅 자원을 과도하게 소모하며, 실시간 처리나 모바일 환경에서는적용이 제한되는 한계를 가지고 있다. 이러한 한계를 극복하기 위해 MobileNet을활용하고 있으나, 기본 형태만으로는 실시간 처리나 모바일 환경에서의 구현에어려운 점이 있다. 본 연구는 컴퓨팅 자원 사용을 최소화하면서도 우수한 탐지성능을 유지할 수 있는 경량화 기법을 적용한 MobileNet 기반 딥페이크 탐지모델을 제안한다. 제안된 모델은 실험을 통해 기존 MobileNet 대비 컴퓨팅자원을 크게 절감하면서 우수한 탐지 성능을 유지함을 확인하였으며, 이를 통해모바일 환경, 실시간 모니터링 시스템 구축 등 다양한 분야에서 실용적으로 활용될수 있음을 입증하였다.

본 연구는 인공지능 기반 딥페이크 기술의 확산에 따라 청소년에 의한 디지털 성범죄가 급증하고 있는 사회적 현실에 주목하여, 이에 대한 효과적인 대응 방안을 모색하고자 하였다. 최근 딥페이크 범죄는 기술의 접근성이 높아지고 SNS 중심의 놀이문화가 확산 됨에 따라 청소년 사이에서 빠르게 증가하고 있으며, 이로 인한 사회적 피해도 심각한 수준에 이르고 있다. 이러한 현상 속에서 촉법소년 연령 하향 및 형사처벌 강화를 중심으로 한 제도 개편 논의가 이루어지고 있으나, 본 연구는 그러한 처벌 중심 접근의 한계를 지적하고, 예방과 교육 중심의 대응 패러다임 전환의 필요성을 강조한다. 특히 현행 소년사법체계의 구조적 한계와 디지털 범죄에 대한 교육 부재를 진단하고, 디지털 윤리교육 및 법교육 강화, 지역사회와 학교의 협력적 지원체계 구축, 법체계 내 교화 중심 처우 확대 등 다각적인 대응 전략을 제안하였다. 본 연구는 청소년의 발달적 특성과 사회문화적 환경을 반영한 통합적 대응이 디지털 시대 청소년 범죄 문제 해결의 핵심임을 강조하며, 향후 실효성 있는 정책 수립과 교육 프로그램 개발의 기초자료로 활용될 수 있을 것이다.

딥페이크를 활용한 합성영상물 제작 기술은 스마트폰·PC에서 손쉽게 사용할 수 있는 수준까지 대중화되었다. 기술적 진입장벽의 하락은 곧 온라인 성범죄의 양적･질적 팽창으로 이어졌다. 실제로 국내 법원에서 유죄가 확정된 허위영상물 사건은 증가하고 있으나 관련 학술연구는 ‘사례･기술’ 소개에 머무르거나 특정 연령층·플랫폼에 편중된 경향이 있다. 본 연구는 이러한 공백을 메우기 위해 2020.1.~2024.12. 사이 선고된 105건의 확정 판결문을 전수분석하였다. 분석 결과, 피해자 및 가해자는 10대·20대 층에 집중된 경향을 보이고 있으며, 성범죄 영상물은 텔레그램 플랫폼에서 조직적으로 배포되고 있음을 확인하였다. 사건 1건당평균 3~4개의 처벌 조항이 병합되었는데, 특히 ｢아동·청소년의 성보호에 관한 법률｣, ｢성폭력범죄의 처벌 등에 관한 특례법｣, ｢정보통신망 이용촉진 및 정보보호 등에 관한 법률｣이삼각축을 형성하며 허위영상물이 단일 범죄가 아니라 다층적 ‘범죄 플랫폼’으로 기능함을 보여 주었다. 텍스트 네트워크 분석에서는 ‘촬영물-합성-얼굴’과 ‘반포-전송-게시’가 각기 제작·유포 쌍봉 구조를 이루고, 두 클러스터를 ‘텔레그램’ 노드가 허브처럼 연결하고 있었다.
 이는 실제 판결에서 가장 빈발한 유포 경로가 텔레그램(38.3%)임을 재차 확인시켜 준다. 또한 실형과 집행유예의 분기점은 ‘협박·보복 목적’과 같은 가중 사유, ‘합의·반성·초범’과같은 감경 사유의 존재 여부로 수렴하였다. 이러한 결과를 통해 딥페이크 활용 허위영상물성범죄를 예방하고 대응하기 위한 법적·제도적 강화를 논의하였다.

본 연구는 딥페이크 기술의 오남용으로 발생하는 성범죄, 특히 영상 기반 합성 성범죄의 실태와 사회적 대응 양상을 분석하고자 하였다. 딥페이크 성범죄는 기존의 불법촬영물이나 리벤지 포르노와는 달리, 피해자 동의 없이 생성된 허위 영상물을 통해 개인의 성적 자기결정권과 인권을 심각하게 침해한다는 점에서 새로운 유형의 디지털 성범죄로 주목받고 있다. 본 연구는 2024년 8월부터 9월까지 국내 주요 일간지 6곳의 딥페이크 성범죄 관련 기사 804건을 수집·분석하여 가해자 및 피해자 특성, 사회적 인식, 입법 동향 등을 질적으로 고찰하였다. 분석 결과, 딥페이크 성범죄는 청소년 가해자 비율이 높고, 피해자는 동료 학생, 교사, 일반인 등으로 확대되고 있으며, 피해 인식과 대응 방식에도 젠더 갈등 프레임이 개입되는 양상이 확인되었다. 이에 따라 본 연구는 딥페이크 성범죄에 대한 다층적인 정책·교육·기술적 대응의 필요성을 제언하고, 특히 윤리적 AI 사용과 플랫폼 책임 강화, 피해자 보호 중심의 사회적 담론 구조 전환을 강조한다.

딥페이크 기술은 고도로 정교한 합성 영상 및 음성 콘텐츠를 생성함으로써, 정보의 신뢰성과 진위 구별 능력을 약화시키고 사회 전반의 신뢰 구조를 흔드는 기술로 주목받고 있다. 특히 본 연구는 딥페이크 기술이 단순한 허위정보 생성 수단을 넘어, 부패행위를 은폐․정당화하는 구조적 수단으로 악용될 수 있다는 점에 주목하였다. 이를 위해 정치․선거, 공공행정 및 사법절차, 기업 및 민간 부문에서의 부패 관련 사례를 분석하고, 이와 관련된 국내외 법제도 현황을 검토하였다.
 분석 결과, 현재의 국내 대응은 공직선거법, 정보통신망법, 형법 등 개별 법률에 단편적으로 규정되어 있으며, 실시간 탐지, 대응기관 간 협업, 탐지기술의 법제도화 등과 같은 구조적 대응은 미흡한 것으로 나타났다. 미국, 유럽연합, 국제기구 등 주요국과의 비교를 통해, 사전 예방 중심의 규율 체계, 탐지 기술 연계 제도화, 플랫폼 책임 강화 등의 시사점을 도출하였다.
 본 연구는 이러한 분석을 바탕으로 향후 대응방안으로서 딥페이크 기반 부패행위에 대한 구조 중심 통제, AI 탐지기술의 규범적 수용, 행정․사법 협업 기반의 신속 대응체계 구축의 필요성을 제시하였다. 본 논문은 딥페이크 기술로 인해 사회의 부패 리스크가 기술적으로 재구성되는 현실을 규범적으로 진단하고, 이를 대응하기 위한 융합적 법정책적 거버넌스의 방향성을 제시한다는 점에서 의의를 가진다.

본 연구는 딥페이크 기술이 악용된 영상 제작·유포 사건에 대응하기 위해, 디지털 증거 확보 및 압수 절차를정립하는 것을 목적으로 한다. 이를 위해 웹 기반 딥페이크 생성 사이트와 설치형 프로그램 도구를 실제로 실행하고, 영상 생성 과정에서 시스템에 남는 디지털 아티팩트를 포렌식 관점에서 분석하였다. 또한 메신저, SNS, 클라우드 기반유포 경로에 대한 선행 연구를 분석하고, 각 경로별로 식별 가능한 디지털 아티팩트의 특성과 수사 적용 가능성을정리하였다. 생성 도구의 설치 여부, 실행 흔적, 결과물 저장 위치를 기준으로 수사 현장에서 적용 가능한 증거 확보절차를 구성하고, 디지털 증거의 무결성과 진정성을 확보하기 위한 수사 기준도 함께 제안하였다. 특히 피해자정보와의 연관성을 분석하여 딥페이크 영상을 자동으로 식별할 수 있는 기술 기반 선별 압수 도구의 필요성을제기하고, 그 구현 방향을 제시하였다. 본 연구는 불법 딥페이크 영상 수사의 전체 흐름을 기술적으로 정리하고, 디지털 성범죄 대응을 위한 실무 적용성과 수사 지원 기술의 개발 방향을 함께 제시하였다.

본 연구는 사회적으로 뜨거운 논란을 일으키고 있는 딥페이크 콘텐츠를 고찰하는데 목적을 두고 있다. 딥페이크 콘텐츠는 생성적 적대 신경망을 활용하여 실재보다 더 실재처럼 보이는 영상⋅이미지 등을 생성한다. 그 결과 딥페이크 콘텐츠는 문화콘텐츠 영역에서 창작의 효율성을 높이고 있다. 반면, 딥페이크 콘텐츠는 진짜와 가짜를 구분하기 어려운 수준의 영상⋅이미지⋅음성을 생성하여 범죄에 악용되고 있다. 이러한 양가성은 딥페이크 콘텐츠가 실존 인물과 고인을 주요 참조 대상으로 하는 동시에 보드리야르가 주장한 파생실재와 연관성을 지닌다. 이를 전제로 본 논문은 기술적인 관점에서 딥페이크 콘텐츠를 유형화한 기존의 논의를 넘어서 참조 대상을 중심으로 유형화를 재시도 하였으며 이에 따른 양가성을 살펴보았다. 연구 결과는 다음과 같다. 딥페이크 콘텐츠는 실존형, 부재형, 가상형으로 유형화하였다. 대다수 딥페이크 콘텐츠는 실존형, 부재형에 속하는 것으로 연구되었다. 유형별 양가성을 살펴보면, 실존형과 부재형은 드라마, 영화, 광고에서 제작의 효율성을 가져왔지만, 윤리적 문제는 주로 실존형에 집중되어 있음을 확인할 수 있었다.

본 논문은 생성형 인공지능 기술의 발전으로 인해 등장한 딥보이스와 딥페이크 등의 기술을 활용하여 실연자의 음성, 초상, 몸짓 등을 실제와 유사하게 재현하는 “인공 실연”과 관련하여 발생하는 실연자 보호 문제를 저작인접권을 중심으로 검토하과 그 해결방안에 대하여 살펴보았다.
 AI 커버곡 등의 인공 실연은 실연자의 기술적 실업을 야기하고, 타인의 음성을 무단으로 활용하여 AI 커버곡을 제작한 자가 음반제작자 지위를 부여받는 문제 등을 발생시킨다. 이에 본 논문에서는 현행 저작권법상 저작인접권을 통한 인공 실연의 대응 가능 여부를 검토하고, 미국에서의 인공 실연 관련 논의 현황을 분석하였다. 이를 바탕으로 인공 실연 규제를 위한 입법적 제언으로서, 인공 실연을 생성할 수 있는 권리를 창설하고, 인공 실연의 이용행위에 대해서는 인공 실연을 생성할 수 있는 권리의 침해간주 규정 신설을 통해서 대응하는 방안을 제언하였다.

본 연구는 생성형 인공지능(Generative AI)을 활용한 딥페이크 음란물 제작·유포 행위가 현행 대한민국 형사법 체계, 특히 성폭력처벌법 제14조 및 제14조의2로 충분히 규율될 수 있는지 여부를 법리적으로 분석하였다. 앞서 살펴본 바와 같이 2024년 개정으로 허위영상물의 제작·유포·소지·시청까지 규제 범위가 확장되었음에도 불구하고, 여전히 여러 구조적 한계가 존재함을 확인하였다.
 첫째, 피해자 특정성 요건은 실존 인물에 대한 동일성을 중심으로 설계되어 있어, AI 순수 제작물이나 실존 인물과의 현저한 유사성만을 가진 합성물은 규제 사각지대에 놓일 수 있다. 둘째, '촬영물' 전제를 전제로 한 구성요건은 원본 자료 없이 생성된 영상에 대한 적용을 곤란하게 하며, 이는 생성형 AI 기술의 현실과 괴리된다. 셋째, '편집·합성·가공'이라는 한정적 행위 유형은 '제작' 행위를 포함하지 않아, AI 순수 생성물에 대한 처벌 가능성을 본질적으로 제약한다. 넷째, 구성요건의 추상성과 명확성 원칙 간의 긴장, 기술적·증거법적 입증 곤란, 국제적 집행 공백 역시 실효적 규율을 저해하는 요인으로 작용한다.
 이에 대한 개선방안으로 첫째, 행위 유형에 '제작'을 명시하여 AI 순수 제작물을 규제 대상으로 포함시킬 것. 둘째, 피해자 특정성 기준을 '동일성'에서 '현저한 유사성'으로 완화하고, 피해자 없는 합성물에 대해서도 사회적 법익을 근거로 규율할 것. 셋째, '촬영물' 전제성을 완화하여 기술 중립적 문언으로 개정할 것. 넷째, 명확성 원칙을 확보하기 위해 구성요건 용어를 구체화하고 국제 기준을 참고할 것이다.
 궁극적으로 AI 기술의 발전 속도와 그에 따른 사회적 영향력을 형사법이 적시에 완벽하게 대응하기에는 근본적인 한계가 존재할 수밖에 없다. 이는 새로운 범죄 양태에 대한 처벌의 필요성과 사회적 요구가 증대하더라도, 형사법의 대원칙인 죄형법정주의와 명확성 원칙이 우선적으로 고수되어야 하기 때문이다. 따라서 입법적 보완은 기술적 진보를 예측하며 능동적으로 이루어져야 할 것이며, 단순히 처벌만을 강화하는 것을 넘어 피해자 보호와 권리 구제 방안을 종합적으로 모색하는 균형 잡힌 접근이 필수적이다.

딥페이크 기술이 빠르게 고도화됨에 따라, 이를 악용한 가짜뉴스 유포나 디지털 성범죄와 같은 사회적 문제가 심각해지 고 있다. 따라서 이러한 딥페이크 콘텐츠를 정확하게 탐지하고 대응하기 위한 기술이 중요한 과제로 떠오르고 있다. 기존 연구들은 CNN 혹은 ViT 기반의 모델을 사용해 딥페이크 탐지를 진행하였다. 하지만 CNN은 전역적인 정보, ViT는 국소적 인 정보를 상대적으로 탐지하지 못하는 문제점이 존재한다. 본 연구에서는 ViT 기반 모델의 한계점인 국소 정보 탐지를 보완하기 위해 MediaPipe를 이용해 얼굴 랜드마크를 추출하고, ViT의 패치 임베딩 단계에 눈·코·입 영역별 학습 가능한 가 중치를 부여하는 Region Weight 모듈 도입을 제안한다. 이를 통해 ViT 모델이 전역 정보 뿐 아니라 딥페이크 기법에서 주 로 발생하는 눈·코·입 주변의 미세한 변화를 효과적으로 학습하도록 한다. FaceForensics++ 데이터셋을 활용해 실험한 결 과, Region Weight Module 사용 전 ViT 대비 ACER는 7.94%, AUC는 약 3% 개선되었다. 본 논문의 제안 기법은 발전하는 딥페이크 생성 기법에서 발생하는 주요 특징을 효과적으로 포착하며, 향후 더욱 정교하고 은밀해지는 딥페이크 기법에 대 해서도 안정적으로 대응할 수 있는 기반 기술로 활용될 수 있을 것으로 기대된다.

본 논문은 과학기술정보통신부의 ‘사람중심 AI 윤리 원칙’을 출발점으로, 딥페이크에 특화된 ‘CITRA; Consent & Dignity(동의 및 존엄성), Integrity(정직성/맥락보존), Traceability(추적 가능성), Risk & Proportionality(위험 및 비례성), Accountability & Remedy(책임 및 구제책)’디자인 가이드라인을 제안한다. 미국‧유럽‧일본의 규범·표준·자율 가이드를 비교 참조하고, EU의 AI Act/DSA, 미국의 NIST AI 위험관리 프레임워크 및 생성형 AI 프로파일, 일본 정부 지침, C2PA(Content Credentials), PAI 권고를 근거로 동의, 라벨링/경고, 출처성, 위험등급, 책임/구제 요구를 교차 분석하였다. 그 결과, 제작–유통–표시 단계의 위험을 CITRA 축으로 재구성하고, 라벨의 가시성·지속성·기계가독성, C2PA 기반 프로비넌스, 고위험 맥락의 비례 통제, 신고–삭제–복구–지원(SLA) 등 실천적 최소 준수선을 도출하였다. 본 연구는 교육·산업·공공 현장에서 즉시 적용 가능한 핵심 체크포인트와 단계적 도입 청사진을 제시한다.

AI 기반의 딥페이크 기술이 국가안보에 미치는 위협을 심리전, 인지전, 정보전의 관점에서 고찰하고, 이에 대한 현행 형사법적 규율의 한계와 정책적 대응 방안을 제시하고자 한다. 딥페이크는 고도화된 AI를 기반으로 조작된 시청각 정보를 생산하여 국민의 인식과 행동을 왜곡시키고, 정보환경의 신뢰성과 안정성을 해치는 수단으로 악용될 수 있다. 결과적으로 AI를 이용하여 만들어진 딥페이크는 심리전, 인지전, 정보전을 매개하는 복합 기술로서 인간의 감정, 인지, 정보체계를 동시다발적으로 공격할 수 있는 하이브리드(Hybtid) 위협으로 기능한다. 이에 따라 형법, 정보통신망법, 전기통신기본법, 국가보안법 등 현행 법률의 적용 가능성과 한계를 검토하였다. 그 결과, 기존 법체계는 개인 보호에 치중되어 있고 딥페이크의 복합적 위협성을 포괄하지 못하는 한계가 확인되었다. 본 논문은 딥페이크 기반 인지적, 심리적 조작에 대응하기 위한 불법정보 규정 강화, 국가안보 중심의 딥페이크 법 해석 및 실시간 대응체계 구축 등 종합적 정책 대안을 제시하고자 한다.

보이스클로닝은 특정 화자의 목소리 특징을 추출하여 발화를 복제 및 생성, 즉 딥보이스(Deep Voice)를 생성하는AI 기술이다. 이전에는 사람이 듣기에 어색함이 있었지만, 최근 AI 기술이 빠르게 발전함에 따라 짧은 시간의 오디오 샘플만으로도 음성 복제가 가능해지면서 이는 보이스피싱 피해 사례로 이어지고 있다. 이에 본 연구에서는 보이스클로닝을 활용해 생성된 복제 발화를 판별하는 데에 유의한 음향음성학적 변수를 찾아내고자 하였다. 스펙트럼, 켑스트럼, 운율 총 20개의 음향 변수를 선정하여 2원 분산 분석과 로지스틱 회귀분석을 진행하였으며, 자연 발화와 복제 발화에 대한 유사도를 비교하기 위해 청지각 평가와 발화 간 수학적 거리 계산(유클리드, 마할라노비스) 을 진행하였다. 남성 발화의 경우 스펙트럼의 추세 회귀 기울기(tilt)와 발화 속도(speech rate), 여성 발화의 경우 평균 발화 세기(mean intensity)가 발화 구분에 유의한 변수였으며, 분류 모델은 각각 97.5%, 95%의 정확도를 보였다.
 발화 간 유사도 비교 결과, 여성 발화의 경우 벡터값의 거리상 가장 가까운 발화와 인간이 유사하다고 느낀 발화가일치하였다.

본 논문에서는 딥페이크 증거를 둘러싼 미국에서의 논의들을 검토한 후, 우리 법제에 대한 시사점을 도출해 보았다. 미국에서 딥페이크 증거의 가능성을 둘러싼 논의는 대부분 증거의 진정성 문제로 수렴되어 왔다. 미국의 현행 연방증거규칙에 따르면 사실심 법원은 ‘합리적 배심원이라면 해당 증거가 그 증거제출자가 주장하는 것과 일치’한다고 판단할 수 있을 만한 충분한 증거를 증거제출자가 제출했는지를 판단하여, 만약 이와 같은 일응의 증명이 이루어졌다면 해당 증거를 채택하여 배심원으로 하여금 최종적으로 그 증거의 진정성을 판단하도록 한다. 이와 같은 현행 연방증거규칙이 딥페이크 증거의 등장과 확산의 문제를 다루는 데 한계를 노정하고 있는지, 그리고 만약 그렇다면 현행 연방증거규칙을 어떻게 개정해야 하는지에 대해 의견이 일치되어 있지는 않다. 딥페이크 증거에 대응하기 위해 현행 연방증거규칙을 개정하는 방안과 관련해서는 i) 딥페이크의 잠재적 파괴력에 대응하기 위해, 증거로 제출된 이미지, 영상 등에 대한 진정성 입증 기준을 현재보다 강화하는 방안, ii) 증거의 진정성에 관한 판단을 전적으로 법원이 하도록 함으로써 법관의 게이트키핑 기능을 강화하는 방안, iii) 증거의 진정성을 다투는 당사자가 먼저 해당 증거가 조작 또는 변경되었을 가능성이 그렇지 않을 가능성보다 크다는 점을 입증하면, 증거제출자가 해당 증거의 증거가치가 해당 증거로 인한 편향적 효과를 상회한다는 점을 입증해야 하는 것으로 증거심리 절차를 구조화하는 방안 등이 제시되고 있다. 우리나라에서도 앞으로 딥페이크 증거가 제출되거나 반대당사자가 딥페이크 항변을 제기하는 사례가 발생하고 또한 점증할 것이라는 점은 쉽게 예측 가능하다. 그럼에도 우리 형사소송법에는 증거의 진정성을 일반적으로 요구하는 명문의 규정을 두고 있지 않다. 증거능력의 요건으로서 증거의 진정성을 명문화하는 작업은 이제는 더 이상 미룰 수 없는 과제가 되었다. 이뿐 아니라, 딥페이크 증거가 진정한 증거로 인정되어 증거로 채택되는 것 만큼이나 딥페이크가 존재할 가능성만으로 진정한 증거가 조작 또는 변경된 증거로 여겨지는 것 또한 실체적 진실 발견에 중대한 위협이 된다. 특히, 국민참여재판에서는 딥페이크의 가능성으로 인해 배심원이 진정한 증거에 대해 가질 수 있는 회의 및 의심을 악용하고자 하는 ‘딥페이크 항변’은 소송지휘, 배심원 설시, 통상절차 회부결정 등을 통해 적절히 통제될 수 있어야 할 것이다

최근 이른바 서울대 N번방 사건을 계기로 사회적인 주목을 받게 된 딥페이크 성범죄는 디지털 성범죄의 일종으로서 피해자의 인권침해와 심리적 고통을 주는 역기능적 사회범죄가 되고 있어 이에 대한 적절한 대응이 요구되고 있다. 이러한 배경 위에 본 연구는 딥페이크 성범죄의 피해자 지원의 현황을 분석하고 이에 대한 개선전략을 제시하는데 목적이 있다. 연구의 방법은 문헌조사와 언론기사를 분석하고 관련 통계와 판례 등을 분석하여 결론을 도출하였다. 이같은 방법을 토대로 문제점을 발견하고 이에 대한 개선방안을 제시하였다. 개선방안으로는 첫째, 법정책적 개선방안(인식전환, 처벌강화, 법개정방안), 둘째, 제도 개선방안(전문성강화, 디지털 성범죄 피해자 지원센터 역할강화, 피해자 중심의 지원), 셋째, 디지털 성범죄 피해자 지원센터 프로그램(치료와 회복프로그램)의 분석과 개선방안을 들 수 있다.

본 논문에서는 GAN 기반 초고해상화(Super-Resolution) 알고리즘과 상용 툴(TOPAZ Labs)을 활용하여 제작된 초고해상화 이미지와 원본 이미지를 구별하기 위한 탐지 모델을 제안한다. 기존 딥페이크 탐지 연구들은 주파수 공간 특성을 활용하거나 사전학습된 백본 모델(Backbone Network)을 통해 성능 개선을 시도했으나, 특정 알고리즘 또는 데이터셋에 국한된 한계를 보였다. 본 연구에서는 학습 가능한 컨볼루션 커널(Learnable Convolution Kernel, LCK)을 통해 초고해상화 이미지의 국소적인 특징을 효과적으로 추출하고, 딥페이크 이미지 조작에 강인하게 사전학습된 ResNet-50 모델을 백본으로 활용하는 탐지 프레임워크를 구축하였다. 이를 통해 다양한 초고해상화 알고리즘 및 상용 툴로 생성된 이미지에 대해 뛰어난 구분 성능을 확보하였으며, 모든 테스트 데이터셋에서 100% 정확도를 달성하였다. 또한, Gradient map 시각화를 통해 제안 모델이 이미지의 엣지 및 텍스처와 같은 세부 정보 활용을 통해 초고해상화 이미지를 효과적으로 식별함을 확인하였다.

DNN의 등장으로 발전한 딥페이크 기법은 실제와 구별하기 어려운 음성을 생성한다. 이는 허위 사실 유포, 금융 사기, 피싱등 다양한 사회적 위협을 초래하고 있으며, 이에 대한 대응이 갈수록 필요해지고 있다. 기존 연구들은 사후적 대응인 딥페이크 탐지 방법을 제안하고 있다. 이에 본 연구에서는 딥페이크 음성 합성을 사전에 방어하는 예방적 대책으로 PDS 기법을 제안한다. 본 기법은 오디오 파일 레벨에서 화자 정보를 교란하고 적대적 교란을 삽입하여 딥페이크 모델을 방해하는 것이다.
 성능 평가는 주관적 평가 지표인 NMOS와 SMOS를 통해 수행하였으며, 그 결과 평균 이상의 오디오 품질을 유지하면서도 높은 수준의 딥페이크 음성 합성 저항성을 보여준다. 본 연구 결과는 악의적인 목적으로 생성되는 딥페이크 음성 합성을 억제하여 사회적 위협 감소에 기여할 수 있을 것으로 기대된다

최근 인공지능과 딥페이크 기술의 발달로 가짜 뉴스, 선거 조작, 명예훼손 등 심각한 사회 문제가 발생하고 있어 이를 판별할 수 있는 탐지 능력의 중요성이 커지고 있다. 이에 따라 비판적 사고를 기반으로 한 디지털 리터러시의 필요성이 제기된다. 본 연구는 딥페이크 탐지 능력이 디지털 리터러시의 평가요인에 미치는 영향 분석을 목적으로 하고자 한다.
 연구방법은 선행 연구의 고찰을 통해 연구방향을 설정하고 평가요인(가치, 자기 효능감, 윤리성, 비판적 사고)을 도출한다. 또한 가설1(디지털 리터러시의 가치는 딥페이크 탐지능력에 영향을 미친다), 가설2(디지털 리터러시의 자기 효능감은 딥페이크 탐지능력에 영향을 미친다), 가설3(디지털 리터러시의 윤리성은 딥페이크 탐지능력에 영향을 미친다), 가설4(디지털 리터러시의 비판적 사고는 딥페이크 탐지능력에 영향을 미친다)을 설정하였다.
 연구결과 가설1은 기각, 가설2는 기각, 가설3은 채택, 가설4는 채택되었다. 이는 딥페이크와 같은 고도화된 디지털 조작 기술에 대응하기 위해서는 윤리적 감수성과 비판적 사고력이 디지털 사회의 시민이 갖춰야 할 가장 강력한 방어 수단이다. 또한 내면적 태도나 자기 신념만으로는 정보 판별 능력까지 연결되지 않으며, 비판적 사고와 윤리적 감수성이 실제 정보 해석과 행동에 영향을 줄 수 있는 것으로 나타났다.
 본 연구는 디지털콘텐츠에 대한 비판적 사고를 유지하고 진위를 구별할 수 있는 역량에 대한 디지털 지성과 윤리적 판단력 함양을 위해 기초적인 자료를 제공할 수 있을 것으로 기대된다.

딥페이크 음성이 ASV(Automatic Speaker Verification) 시스템을 통과하는 사례가 증가함에 따라 오디오 딥페이크 생성 억제 기술이 최근 주목받고 있다. 이러한 방식은 원본 음성에 노이즈를 주입해 모델이 화자의 음색을 학습하지 못하도록 하는 사전적 대응에 해당하지만, 노이즈로 인한 품질 저하와 정화 과정에서의 보호 효과 감소라는 한계를 지닌다. 따라서 본 연구에서는 생성 억제 기술의 품질과 보호 효과 간의 관계를 분석하고, 음성 향상(Speech Enhancement), 뉴럴 코덱(Neural Codec), 신호 변환 절차를 각각 적용하여 방어 효과를 재평가한다. 이러한 분석을 통해 지각 품질과 제거 내성을 함께 고려한 실용적 평가 지표의 필요성을 제기하며, 오디오 딥페이크 생성 억제 연구가 품질 보존성과 강건성을 동시에 달성하는 방향으로 나아가야 함을 제안한다.

본고는 인공지능(AI) 기술을 통해 생성되는 딥페이크가 개인의 사회적 평가를 침해하는 명예훼손 범죄의 새로운 도구로 부상함에 따라, 현행 형사법 체계의 대응 능력에 대한 심각한 도전이 제기되고 있음을 분석한다. 딥페이크는 시청각적 설득력을 통해 ‘조작된 현실’을 제시함으로써, 기존의 텍스트 기반 허위사실 유포와는 차원이 다른 사회적 위험을 야기한다.
 이에 본고는 딥페이크 명예훼손에 대해 「형법」 및 「정보통신망법」상 명예훼손죄를 적용할 때 발생하는 법리적 쟁점을 심층적으로 검토한다. 분석 결과, ‘허위사실 적시’와 ‘의견 표현’의 구분이 모호해지고, 행위자의 ‘비방할 목적’을 입증하기 곤란하며, 표현의 자유와의 충돌 문제가 발생하는 등 기존 법리의 적용에 명백한 한계가 드러난다. 현행 「성폭력처벌법」 및 「공직선거법」의 개별 규정만으로는 비성적·비선거적 명예훼손의 규제 공백을 메울 수 없으며, 죄형법정주의 원칙상 법 해석에만 의존하는 데에도 한계가 있다.
 따라서 본고는 해석론적 접근을 넘어, 다층적인 입법론적 과제를 해결책으로 제시한다. 구체적으로 딥페이크의 기술적 특수성을 반영한 별도의 가중처벌 규정 신설, 「EU 디지털서비스법」(DSA)을 참고한 플랫폼 사업자의 책임 강화, 그리고 최근 제정된 「인공지능기본법」상의 투명성 확보 의무를 실질화하기 위한 구체적인 표시 방법 및 제재 규정 마련 등을 제안한다.

딥페이크 기술이 확산함에 따라, 데이터 불균형으로 인해 저하되는 rPPG 기반 탐지 모델의 성능을 개선하기 위한 연구가 중요해지고 있다. 그러나 기존 영상 증강 기법은 생리 신호의 주기성과 시간적 연속성을 왜곡할 수 있어, rPPG 신호의 핵심 특징을 보존하면서 데이터 불균형을 해소하는 데 한계를 보인다. 본 논문은 이러한 문제를 해결하기 위해 2단계 영상 증강 전략을 제안한다. 제안하는 전략은 시간적 연속성, ROI 정합성 등 4가지 기준의 규칙 기반 필터링으로 rPPG 신호의 무결성을 보존하고, 결과 기반 필터링을 통해 탐지 성능을 극대화하는 증강 기법을 선별한다. 또한 본 논문에서는 제안 전략의 성능을 DeepFake Detection 데이터셋과 정확도, 정밀도, 재현율, F1-score 지표로 평가하였다. 결과적으로 제안 전략은 복합 적용 조건에서 0.7317의 F1-score를 기록하여 기본 모델(0.6551) 대비 성능을 향상시키고, 정밀도와 재현율 간의 균형을 개선하여 탐지 성능의 안정성을 확보하였다.

Background : This study aimed to identify the awareness and attitudes of Korean adolescents for deepfake.&#xD; Methods : A total of 163 middle and high school students participated, completing a self-reported questionnaire via Google Forms.&#xD; Results : Participants reported a mean awareness score of 3.49 and an attitude score of 4.30 out of 5. Awareness and attitude were assessed across seven categories, including risk understanding, education, misuse cases, victim protection, legal aspects, reporting processes, and prevention culture. Significant differences in awareness were found by gender (t = -2.01, p = .046), interest in deepfake (t = 3.52, p < .001), prior deepfake education (t = 5.16, p < .001), creation experience (t = 2.24, p = .026), victimization experience (t = 3.51, p < .001), and school reporting protocol (t = 3.04, p = .004). Attitude differences were significant by sex (t = -3.23, p = .002), age (t = -2.50, p = .014), interest in deepfake (t = 2.80, p = .006), and victimization experience (t = 2.51, p = .013). Awareness and attitude were positively correlated (r = .45, p < .001).&#xD; Conclusion : The results highlight the need for comprehensive,

부경법 타목은 국내에서 인식표지를 보호할 수 있는 유일한 규범으로서 딥페이크를이용한 유명인 사칭에 대응할 수 있는 가장 효율적이고 적절한 법적 수단이지만, 현행규정은 금지 행위를 경제적 이익 침해로 한정하고 있고, 민사적 구제만 가능하게 되어있어 그 대응에 충분하지 않다. 따라서 다음과 같은 부경법 타목의 개정이 필요해 보인다. 첫째, 부경법 타목의 금지 행위를 유명인의 활동에 대한 오인·혼동 유발행위 및 식별력·명성 손상행위까지 포함하는 방향으로 그 대상을 확장해야 한다. 둘째, 딥페이크사칭의 심각성과 해외 입법례, 그리고 다른 부정경쟁행위와의 형평성을 고려할 때 벌칙규정, 징벌적 손해배상 그리고 법정손해배상과 전보배상 등의 강력한 제재의 도입이 필요하다. 셋째, 딥페이크를 이용한 유명인 사칭이 대부분 온라인 플랫폼에서 이루어지는점을 고려할 때, 온라인서비스제공자에게 간접책임을 부과할 수 있도록 한다. 다만, 그책임의 범위가 합리적으로 제한되어야 한다. 이러한 개선 방안들은 유명인의 인식표지를실효적으로 보호하고 디지털 환경에서의 공정한 경쟁질서를 확립하는 데 중요한 역할을할 것으로 기대된다.

딥페이크(Deepfake)는 인공지능에 기반한 생성기술로서, 실제와 구분하기 어려운 허위 영상· 이미지·음성을 제작·유포함으로써 개인의 인격권, 사회적 신뢰, 민주적 공론장을 심각하게 침해하는첨단 디지털 범죄 유형으로 급부상하고 있다. 본 연구는 딥페이크 범죄를 성적·정치적·비성적일반 유형으로 체계화하고, 이에 대한 국내외 법제의 규율 현황과 한계를 분석하였다. 국내에서는「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2와 「공직선거법」 제82조의8이 중심적 규율 축으로기능하나, 비성적 딥페이크의 악용에 대해서는 여전히 형법과 정보통신망법에 의존하는 간접적구조를 보이며, 실질적 규율 공백이 존재한다. 또한 사법부의 양형 관행은 범죄의 디지털적 확산성과피해의 비가역성을 충분히 반영하지 못해, 규제 강화에도 불구하고 억지력이 아직은 부족하다. 해외입법례 분석 결과, 유럽연합은 인공지능법(AI Act) 및 디지털서비스법(Digital Services Act)를통해 투명성 의무 및 플랫폼 책임성을 강화하고 있으며, 미국은 주법 중심의 규제와 신속한 피해자구제 체계를 구축하는 등 다층적 접근을 취하고 있다. 이에 따라 본 연구는 향후 우리나라 법제 개선방향으로 ‘성적 대상화’ 개념을 중심으로 한 형사 구성요건의 명료화, 디지털 확산성을 반영한 양형기준재정립, 인공지능 생성물 워터마킹 의무화 등 기술적 투명성 확보, 해외 플랫폼에 대한 책임성 강화, 청소년 대상 예방교육 및 피해자 지원체계 고도화를 제안한다. 이러한 통합적 접근은 딥페이크 범죄의선제적 예방과 ‘디지털 사회의 공적 신뢰’ 회복을 위한 실효적 법제 설계의 토대를 제공할 것이다.