논문 146편

본 연구는 딥페이크 사기를 중심으로 국내 학술 연구의 양상과 논의 구조를 체계적으로 검토하는 것을 목적으로 한다. 이를 위해 PRISMA 2020 지침에 근거한 체계적 문헌고찰 절차를 적용하여, 한국학술지인용색인(KCI)에 등재된 학술지 논문을 대상으로 문헌을 선별·분석하였다. 검색 및 선정 기준에 따라 총 40편의 후보 문헌을 식별하였으며, 제목·초록 검토와 적합성 평가를 거쳐 최종적으로 14편의 논문을 분석 대상으로 확정하였다.
 분석 결과, 국내 선행연구는 딥페이크 사기를 기존 사기·피싱 범죄에서 기망 수단이 인공지능 기반 합성 기술로 고도화된 현상으로 개념화하는 경향이 우세하였다. 동시에 일부 연구는 딥페이크 사기를 AI 범죄의 한 범주로 위치시키며, 전통적 범죄 통제 방식과 구별되는 규율 체계와 책임 배분의 재설계를 요구하였다. 범죄 유형 분류에서는 음성 합성 기반 사칭(딥보이스), 영상·화상회의 기반 기업 임원 사칭, 유명인 사칭 투자사기 등이 반복적으로 제시되었고, 피해 역시 개인의 재산상 손실을 넘어 기업 의사결정 구조와 사회적 신뢰로 확장될 수 있는 위험으로 논의되었다. 대응 방안은 기술적 대응(탐지, 워터마킹, 출처·이력 관리)과 법·제도적 대응(정의 규정, 플랫폼 의무, 책임 구조 설계), 예방·거버넌스(민관 협력, 인식 제고)로 비교·분류되었으며, 규제 설계 과정에서 프라이버시와 기본권 침해 가능성이 핵심 고려사항으로 제기되었다. 종합하면 국내 딥페이크 사기 연구는 정책·제도 중심의 논의가 상대적으로 우세하고, 실제 범죄 발생 과정과 피해 경험을 토대로 한 실증 연구는 제한적이었다. 이에 따라 향후 연구는 피해자 인식과 경험의 실증 분석, 수사 사례 기반 범죄 과정 및 증거 구조 분석, 경찰·금융기관·플랫폼 간 협력 모델의 효과성 평가로 확장될 필요가 있다.

본 연구는 학술연구정보서비스(Research Information Sharing Service, RISS)와 한국학술지인용색인(Korean Citation Index, KCI)에 수록된 국내 딥페이크 관련 논문을 대상으로 텍스트 마이닝과 토픽 모델링을 수행하여 연구 동향과 주제 구조를 분석하였다. 분석 대상은 2018년부터 2026년 5월까지 발표된 논문으로 설정하였으며, ‘딥페이크’, ‘deepfake’, ‘얼굴합성’, ‘얼굴변조’, ‘얼굴위조’ 등의 검색어를 활용하여 자료를 수집하였다. 제목 기준 중복 제거와 표본 수가 적은 분야를 제외한 후, 최종적으로 255편의 논문을 분석에 활용하였다. 수집된 논문은 KCI 학문 분야 정보를 기준으로 공학, 사회과학, 복합학, 예술체육학 및 인문학 분야로 분류하였다. 이후 제목, 초록 및 키워드를 활용하여 워드클라우드, Term Frequency-Inverse Document Frequency(TF-IDF), 코사인 유사도 분석 및 잠재 디리클레 할당(Latent Dirichlet Allocation, LDA) 토픽 모델링을 수행하였다. 분석 결과, 국내 딥페이크 연구는 2024년 이후 급격히 증가하였으며, 특히 사회과학 분야의 논문 수와 연구 비중이 크게 증가한 것으로 나타났다. 공학 분야에서는 탐지, 얼굴, 음성, 합성 등 딥페이크 생성 및 탐지 기술과 관련된 키워드가 주로 나타났으며, 사회과학 분야에서는 범죄, 성범죄, 피해자, 규제, 처벌 등 사회적 피해와 제도적 대응에 관한 연구가 중심을 이루었다. 또한 LDA 토픽 모델링 결과, 공학 분야에서는 이미지 기반 딥페이크 생성 및 탐지, 딥페이크 악용에 대한 범죄·윤리·포렌식 대응, 음성 기반 딥페이크 탐지 및 보안 대응이 주요 세부 토픽으로 도출되었다. 사회과학 분야에서는 성범죄 피해자 보호, 규제 및 허위정보 대응, 증거조작과 형사재판 절차가 주요 세부 주제로 도출되었다. 이러한 결과는 국내 딥페이크 연구가 생성 및 탐지 기술 개발을 넘어 범죄 대응, 피해자 보호, 법·제도적 규제, 정보 신뢰성 확보 등 사회안전 및 정보안전과 관련된 다학제적 연구 영역으로 확장되고 있음을 보여준다.

딥러닝 합성 기술은 개인의 외형과 음성을 실제와 구별하기 어려운 수준으로 재현하게 만들었다. 그 결과 성적 허위영상물은 기존 성범죄와 다른 위험 구조를 형성한다. 피해자는 현실의 행위와 무관함에도 성적 행위의 주체로 인식되며 성적 자기결정권과 인격권, 사회적 정체성이 동시에 침해된다. 또한 디지털 환경에서는 빠른 복제와 확산으로 인해 피해가 장기적·누적적으로 지속된다. 그럼에도 현행 형사법은 촬영이나 반포와 같은 전통적 요소에 규율의 중심을 두고 있다. 처벌 범위가 확대되었지만 합성의 정도, 피해자 특정, 책임 귀속에 관한 기준은 여전히 불명확하다. 이는 해석의 불안정과 보호의 공백으로 이어진다. 외국의 경우 형벌에 더하여 투명성 확보, 플랫폼의 관리 책임, 추적 가능성을 결합하는 구조가 발전하고 있다. 이러한 장치들은 형벌의 실효성을 가능하게 하는 전제가 된다. 이에 본 연구는 딥페이크 성범죄를 위험의 생성과 확대과정으로 이해하고, 제작 개념의 재정립, 피해자 특정 판단의 합리화, 플랫폼 책임의 제도화, 입증 구조의 현대화를 통해 예방과 집행이 연결되는 규범 체계의 필요성을 제시하고자 하였다. 이는 처벌 확대가 아니라 변화한 기술 환경에 맞추어 형사법의 보호 기능을 회복하기 위한 재구성이다.

본 논문은 딥페이크 음란물로 인한 인격권 침해를 형법적으로 어떻게 규율할 것인가에 대하여 EU 및 독일의 현행법과 최근 입법 동향을 중심으로 검토한다. 생성형 AI의 확산으로 딥페이크 음란물의 제작 및 유포가 용이해짐에 따라, 그 피해는 단순한 음란물 유통을 넘어 개인의 인격권을 근본적으로 훼손하는 형태로 나타나고 있다. 문제는 이러한 행위가 기존의 형법 체계 내에서는 온전하게 규율되기 어렵다는 점이다.
 EU에서는 ｢인공지능법｣과 ｢디지털서비스법｣을 통해 제도적 대응체계를 마련하고 온라인 플랫폼 운영자의 주의의무를 법적으로 강화하고 있다. 그러나 이러한 규정들은 행정 및 절차적 대응에 치중되어 있어, 딥페이크 음란물 제작 및 유포 행위 자체를 직접 처벌하거나 실효적인 인격권 구제를 도모하기에는 한계가 있다. 독일 현행법상으로는 아동･청소년 성착취물(형법 제184b･c조), 내밀한 영역의 촬영(형법 제184k조), 명예에 관한 죄(형법 제185조 이하), 사생활 및 초상권 보호(형법 제201a조, 예술저작권법 제22조) 등으로 규율이 가능하나, 대다수 조문이 실제 촬영물(Bildaufnahme)을 전제로 하고 있어, 가상 생성물인 딥페이크의 경우 처벌 공백이 발생한다.
 이러한 배경에서 독일 연방참사원(Bundesrat)은 형법 제201b조(디지털 조작에 의한 인격권 침해)의 신설을 제안하였다. 이는 컴퓨터 기술로 제작･변형된 콘텐츠를 실제 기록물처럼 오인하게 하여 인격권을 침해하는 행위를 처벌하고, 공중에 유포하거나 ‘고도의 사적 생활영역(höchstpersönlicher Lebensbereich)’을 대상으로 한 경우 가중 처벌하는 구조를 취한다. 다만, ‘인격권’ 개념의 포괄성에 따른 명확성 원칙 위배 여부와 이용자의 자기검열 유발 가능성 등 헌법적 한계에 관한 비판도 제기되고 있다.
 본 논문은 독일의 논의를 바탕으로 한국 법제의 시사점을 도출하며, 명확성 원칙을 준수한 정교한 구성요건 설계의 필요성을 강조한다. 아울러 딥페이크 기술을 악용한 디지털 성범죄에 대한 대응은 단편적인 처벌 강화만으로는 완성될 수 없고, 기술적 투명성 확보와 온라인 플랫폼의 책임 있는 관리 체계가 형사처벌과 유기적으로 결합되어 작동되어야 함을 강조한다.

본 연구는 ‘인공지능 기반 딥페이크 성범죄(허위영상물 범죄)의 문제에 대해 해외에서는 제도적으로 어떠한 대응을 하고 있는지, 미국·유럽연합(EU)·영국·호주의 사례를 조사하고, 이러한 해외의 입법 대응을 통한 국내 입법적 시사점’을 도출하는 것을 그 목적으로 한다. 이와 같은 목적에 따른 논의를 토대로 국내 법제는 인공지능(AI) 기반 딥페이크 성범죄에 대해 형사처벌 규정(성폭력범죄처벌법), 플랫폼 규제(전기통신사업법·정보통신망법), 피해자 지원(성폭력방지법), 그리고 정책적 대응 강화 방안을 통해 다층적인 대응체계를 마련하고 있다. 이러한 제도적 장치는 딥페이크 성범죄의 심각성을 반영하여 형사적·행정적·정책적 차원에서 종합적인 대응을 시도하고 있다는 점에서 중요한 의미를 가진다. 그러나 본고의 해외 입법례와 비교할 때 국내 법제는 몇 가지 한계를 내포한다. 첫째, 위법성 요건의 구체화 부족으로 인해 법적 예측 가능성이 낮고 처벌 범위가 모호하다. 둘째, 면책 및 예외 규정의 부재로 인해 합법적 활용 가능성과 표현의 자유가 위축될 우려가 있다. 셋째, 플랫폼 규제의 범위와 책임이 제한적이며, 특히 사적통신 매체에 대한 규제가 미흡하고 소지·시청까지 처벌 대상으로 포함함으로써 이용자의 신고·협조를 위축시킬 가능성이 존재한다. 넷째, 해외 플랫폼에 대한 실효적 규제 수단의 부족으로 인해 역외 사업자의 국내법 준수 확보에 어려움이 따른다. 따라서 향후 입법적 개선 방향은 ① 명확한 위법성 요건 설정, ② 면책 및 예외 규정 도입 검토, ③ 일반 불법정보 중심의 플랫폼 책임 강화, ④ 역외 플랫폼 규제 실효성 확보 등으로 정리된다. 이러한 개선 방향은 본고의 해외 주요 법제와 비교법적으로 검토될 시사점으로서, 인공지능(AI) 기반 딥페이크 성범죄 대응의 정당성·실효성·국제적 정합성을 동시에 확보하는 데 필수적인 입법 과제이다.

딥페이크 기술의 확산으로 실제 촬영 여부와 무관하게 피해자의 동의 없이 성적 이미지를 생성․유포하는 이미지 기반 성범죄가 증가하고 있으나, 딥페이크 성범죄 상황에서 성범죄 관련 통념과 피해자 단서, 관찰자 성별이 사건 판단에 미치는 영향을 통합적으로 검증한 국내 실험 연구는 제한적이다. 본 연구는 한국판 성적 이미지 기반 학대 통념 수용 척도(이하 K-SIAMA라 칭한다)를 활용하여, 성적 이미지 기반 학대 통념 수용도, 피해자의 사이버일탈 단서(제시 vs 비제시), 관찰자의 성별(남성 vs 여성)이 딥페이크 성범죄 사건 판단(피해자 책임․비난, 가해자 책임․비난, 가해자 처벌)에 미치는 주효과 및 상호작용 효과를 검증하였다. 만 19세 이상 성인 194명을 대상으로 온라인 실험을 실시하여 참가자를 사이버일탈 단서 조건에 무작위 배정한 뒤 딥페이크 성범죄 시나리오를 제시하고 각 판단을 평정하게 하였다. 분석은 연령을 통제변수로 포함한 위계적 회귀분석으로 수행하였다. 그 결과, K-SIAMA 점수가 높을수록 피해자 책임․비난이 증가하고 가해자 비난이 감소하는 경향이 나타났다. 또한 피해자 사이버일탈 단서가 제시된 경우 피해자 책임․비난이 증가하고 가해자 처벌 평정은 감소하였다. 관찰자 성별은 피해자 판단에는 유의하지 않았으나 가해자 비난에서 유의하여, 남성 관찰자가 여성 관찰자보다 가해자를 덜 비난하였다. K-SIAMA, 사이버일탈 단서, 성별의 상호작용은 사건 판단 중 가해자 책임․비난에서만 유의하게 나타나, 통념 수준과 맥락 단서, 관찰자 특성이 결합될 때 가해자 평가가 조건적으로 달라질 수 있음을 시사하였다. 본 연구는 딥페이크 성범죄 판단에서 통념과 피해자 단서에 기반한 편향이 나타날 수 있음을 보여주며, 수사․재판 및 교육 현장에서 사건의 핵심 사실에 근거한 판단 기준을 강화하고 통념 기반 편향을 완화하기 위한 개입의 필요성을 제시한다.

인공지능(AI) 기술의 급속한 발전은 의사결정이나 노동 영역을 넘어 인간의 감정과 친밀한 관계 영역으로까지 확장되고 있다. 특히 대화형 AI와 생성형 모델의 발전은 사용자가 AI 페르소나와 감정적 유대를 형성하거나 로맨틱한 관계를 맺는 현상을 가능하게 하였으며, 이는 이른바 ‘AI 매개 로맨스(AI-mediated romance)’라는 새로운 사회문화적 현상으로 등장하고 있다. 그러나 이러한 현상을 단순히 개인의 선택이나 디지털 문화의 일부로 보는 시각만으로는 그에 수반되는 법적 위험을 충분히 설명하기 어렵다.
 본 연구는 AI 매개 로맨스와 딥페이크 기반의 감정적 관계가 플랫폼 설계, 알고리즘적 상호작용, 정보의 비대칭성에 의해 감정적 애착이 구조적으로 형성, 강화되는 현상임을 논의한다. 특히 AI 페르소나가 실제 인물을 모델로 하거나 딥페이크 기술과 결합될 경우, 인격권(정체성권, 사생활권, 정보자기결정권 등)의 침해로 이어질 수 있으며, 이러한 피해는 누적적이고 비가시적인 형태로 나타나 피해자나 제3자가 인식하거나 법적으로 문제를 제기하기 어렵다는 점을 지적한다.
 또한 본 논문은 계약 및 약관규제, 개인정보보호법, 형법 등 현행 법체계가 개별적 행위나 명시적 불법성, 유형적 손해를 전제로 하고 있어, 플랫폼 기반 서비스에서 구조적으로 유발되는 감정 의존성과 책임의 분산 문제를 적절히 다루지 못하고 있음을 분석한다.
 나아가 이러한 책임 공백(accountability gap)은 집중된 통제력, 책임 회피, 피해의 외부화와 같은 구조적 부패 위험을 초래할 가능성이 있음을 지적하며, 디지털 환경에서 AI 기반 감정 관계에 적합한 법적 책임 기준과 규제 접근의 재구성이 필요함을 강조한다.

이 글은 딥페이크 음란물에 대한 형벌법규 개정 동향과 법적 과제에 대해 고찰하였 다. 독일이나 일본과는 달리 한국은 성폭력처벌법 등 특별법 개정을 통해 딥페이크를 악용한 성범죄를 적극적으로 처벌하고 있다.
 딥페이크 음란물은 그 자체가 허위인지 아닌지 구분하기 힘들고, 딥페이크 음란물 이 일단 반포되면 그 음란물을 삭제하는 것이 거의 불가능에 가까운 현실에 비추어, 성폭력처벌법은 반포와 무관한 단순한 딥페이크 음란물 제작도 형사처벌하고 있다. 하지만, 유포의 목적이나 위험의 유무에 따라 형을 달리할 필요는 있다.
 나아가 성폭력처벌법상 허위영상물편집죄가 편집 객체로 컴퓨터 프로그램파일이 나 전자정보도 포함할 수 있도록 개정할 필요가 있다.
 또한 성폭력처벌법상 촬영물반포죄와 허위영상물반포죄의 법정형이 동일한 만큼 허위영상물이 불법촬영물처럼 실제와 구분되지 않을 정도로 유사하여야 할 것을 구성요건으로 요구할 필요가 있다.

최근, 사이버 성폭력 중 최근 주목받고 있는 딥페이크(deepfake; 조작한 영상) 성범죄에 대해서는 현행 법제의 대응이 비교적 신속하고 적극적으로 이루어지고 있다. 인공지능(AI) 기술에 의해 생성된 딥 페이크 영상물은 제작 단계부터 유포, 소지 시청 등 전 과정에서 불법촬영물에 준하는 엄격한 형사 규제를 적용받으며, 이를 이용한 협박이나 강요 등 파생 범죄에 대해서도 가중처벌 규정이 마련되어 있어 법 적 대응이 비교적 완비된 상태이다. 그러나 급격히 확산하는 범죄의 양상을 감안하면 효과적인 수사라는 측면에서는 보완해야 할 부분이 많이 보인다. 이미 도입된 위장수사는 전 영역으로 “확대”할 필요가 있고, 온라인 수색이나 함정수사 등의 “도입”도 적극 검토할 필요가 있다. 따라서 딥페이크 성범죄에 대한 수사 효율성을 높이기 위해, 첫째 딥페이크 영상물에 한정되어 있는 ‘위장수사’ 방법을 음란정보 등을 포함한사이버 성폭력의 전체유형으로 확대할 필요가 있다. 둘째 온라인으로 은밀히 접근하여 범죄의 정보를 수 집하는 ‘온라인 수색’과 범죄의 기회를 제공하여 사전에 적극적으로 범죄를 예방하는 ‘함정수사’를 도입 및 법제화하는 방안을 검토할 필요가 있다. 셋째 이러한 수사방법의 확대와 도입은 기본권 침해에 대한 우려에도 불구하고 딥페이크 성범죄에 효과적으로 대응하기 위해 적극적으로 검토될 필요가 있으며, 이 에 상응하는 입법적 보완이 뒤따라야 한다.

본 논문은 인공지능(AI) 기술, 특히 딥페이크(deepfake)와 같은 생성형 기술이 형사사법 절차에서 ‘피해자 영향 진술(Victim Impact Statement)’과 결합할 때 발생하는 법적 쟁점을 분석하고, 우리 법제에 대한 시사점을 도출한 것이다. 최근 미국에서 사망한 피해자가 인공지능(AI)로 생성된 디지털 아바타의 형태로 법정에 등장하여 양형 단계에서 진술한 Pelkey 사건은, 피해자 보호의 혁신적 수단이라는 평가와 함께, 피고인의 절차적 권리 및 공정한 재판 보장에 대한 중대한 우려를 동시에 촉발하였다.
 우선, 피해자 영향 진술(VIS) 제도는 범죄 피해의 실질을 재판부에 전달하고 피해자와 유족의 참여와 치유를 도모한다는 점에서 정당성을 갖지만, 그 내용과 표현 방식이 과도하게 감정에 호소할 경우 판단자의 중립성과 형벌의 객관성을 훼손할 위험이 있다. 미국 연방대법원 판례의 전개는 이러한 긴장을 잘 보여준다. 즉 Booth 판결의 금지 입장, Payne 판결의 원칙적 허용 및 근본적 불공정에 이르면 적법절차 위반이 될 수 있다는 한계 언급, 그리고 Kelly 사건을 계기로 드러난 ‘영상·음악 등으로 강화된 추모 비디오’의 편견 유발 위험 논쟁은 피해자 영향 진술(VIS)이 본질적으로 피해자와 피고인의 권리 사이의 세심한 조정이 필요함을 시사한다.
 이러한 맥락에서 AI 기반 피해자 영향 진술(VIS)은 사망 피해자의 관점과 목소리를 절차에 표상하게 하여 피해자 진술권을 실질화하고, 판결자에게 피해자의 인간적 면모와 피해의 구체성을 보다 생생하게 전달하는 긍정적 기능을 갖는다. 그러나 동시에 딥페이크 진술은 ‘실제 당사자의 진술’이 아니라 제3자에 의해 구성된 허구적 산물일 수 있고, 반대신문 등 진술 검증의 구조가 작동하기 어렵다는 점에서 신뢰성과 절차적 정당성에 취약하다. 더 나아가 시청각적 사실감이 감정적 설득력을 증폭시켜 편견(undue prejudice)을 강화하고, 제작 비용·기술 격차로 인해 불평등을 초래할 수 있으며, ‘가짜를 진짜로, 진짜를 가짜로’ 주장하는 딥페이크 시대의 진위 혼란을 통해 사법 신뢰를 약화시킬 위험도 내포한다. 따라서 AI 딥페이크 기술 등 첨단기술을 활용한 피해자의 재판진술권 행사에는 신중한 규범의 마련이 필요하다.
 우리 헌법 제27조 제5항은 범죄피해자의 재판절차진술권을 보장하고, 형사소송법 제294조의2는 피해자 또는 유족을

인공지능(AI) 기술이 급속히 발전하면서 전 세계적으로 다양한 현상과 논란이 나타나고 있다. 대표적으로 ‘딥페 이크(Deep Fake)’를 꼽을 수 있다. 딥페이크는 본래 AI 기술의 놀라운 발전을 보여주고 수용자들이 이를 실시간으 로 체감할 수 있게 하는 기술에 해당한다. 하지만 딥페이크 기술을 악용하여 무단으로 사진과 영상 등을 제작하고 유포하는 경우가 늘어나고 있으며, 이에 따른 피해도 갈수록 커지고 있다. 반면 국내 언론사의 딥페이크 뉴스는 감소하고 있다. 딥페이크 뉴스는 딥페이크 기술을 직접 활용하여 제작한 기사가 아니라, 딥페이크 기술, 현상, 범죄 등을 다룬 언론 보도를 뜻한다. 본 연구는 딥페이크 뉴스 보도의 중요성을 알리고 향후 방향을 제시하기 위해, 그동안 한국 주요 언론사들이 AI 시대에 딥페이크 현상을 어떻게 바라보고 보도하여 왔는지 살펴본다. 특히 챗GPT가 나온 이후 AI 기술이 본격적으로 발전하고 딥페이크 결과물이 크게 증가했던 2023~2025년에 나온 주요 언론사의 뉴스를 텍스트 마이닝 기법을 적용해 분석한다. 빈도 분석, 워드 클라우드 분석, 키워드 네트워크 분석, 토픽 모델링을 통해 국내 언론의 딥페이크 보도의 양상과 특성을 살펴보고, 사회적 책임을 강화할 수 있는 보안책을 제시한다. 분석 결과 딥페이크는 주로 기술적 진보나 상업적 활용에 대한 내용으로 다루어지기 보다, 다수의 피해자를 양산할 수 있는 하나의‘범죄적 기술’로 보도되고 있었다. 하지만 정작 피해의 대상인 여성, 아동, 청소년 등에 대한 뉴스는 감소하는 양상을 보였다. 본 연구는 해당 문제들을 보완하고, 사후 대책에 대한 구체적인 보도 등이 나와야 한다고 제언한다.

딥러닝 기반 생성형 모델이 급속하게 발전하면서 인공지능 음성 합성 기술도 사람이 구분하기 어려우면서, 이를 활용한 다양한 음성 생성 서비스들도 생겨나고 있다. 그러나 이러한 기술이 투자 사기, 피싱, 선거 관련 가짜뉴스와 같은 범죄에 이용되면서 인공지능 음성을 활용한 딥페이크가 새로운 위협으로 떠오르고 있다.
 본 논문에서는 인공지능 음성을 생성하는 기술과 서비스 및 사람 음성과 인공지능 음성을 구분과 탐지하는 음성 딥페이크 탐지 기술을 살펴본다.

본 논문은 대용량 영상 처리 환경에서 딥페이크 탐지 적용 시 발생하는 연산 및 운용 부담을 완화하기 위해, 영상 단위의 사전 선별을 수행하는 경량 탐지 파이프라인을 제안한다. 제안 방법은 연속 프레임 간 ORB 기반 정합 안정성 신호와 라플라시안 기반 고주파 변화, 그리고 얼굴 영역 경계 비교 지표를 시퀀스 수준 통계로 집계하여 결합한 뒤 로지스틱 회귀 기반 분류기로 최종 판정을 수행한다. 여러 공개 데이터셋에서 수행한 실험을 통해 기본적인 분리 성능을 확인하였으며 구간별 효율성 측정을 통해 전처리 비용과 핵심 판별 계산 비용을 분리하여 보고하였다. 결론적으로 제안 파이프라인은 대용량 입력에 대한 선별적 점검 단계로 활용 가능성을 제시한다.

이 글에서는 딥페이크 기술을 이용한 범죄에 대한 법률적 대응방안을 고민하고자 ① 딥페이크이용범죄의 실태와 그 보호법익, ② 딥페이크 악용행위에 대한 현행법의 규제와 그 한계, ③ 딥페이크범죄에 대응하기 위한 법률의 정비방안 등에 대하여 차례로 살펴보았다. 먼저, 딥페이크 이용범죄의실태를 검토한 결과 국내에서는 성착취물의 제작·배포가 가장 심각한 유형으로 자리잡고 있음을확인하였다. 그리고 딥페이크 악용행위 자체에 대한 형사법적 규제의 가능성을 보호법익의 측면에서 검토하였다. 결론적으로 얼굴과 목소리가 정보주체를 식별하는 핵심적인 개인정보에 해당한다는 점에 착안하여, 정보주체의 의사에 반하여 이를 무단으로 수집·이용하는 행위를 개인정보자기결정권이라는 보편적 법익에 대한 침해로 구성하는 것이 총론적 차원의 대응을 위하여 타당하다고 보았다. 그리고 딥페이크 악용행위에 대한 현행법상 대응규정으로 형법, 정보통신망법, 성폭력처벌법, 공직선거법 등의 내용과 그 경과를 살펴보았으며, 관련규정의 한계를 ① 딥페이크 명예훼손의 적용상 한계, ② 딥페이크 성착취물 제작등 행위에 대한 법률적용상의 한계, ③ 피해자 보호·지원의 한계, ④ 국내·외 플랫폼 기업에 대한 규제의 한계, ⑤ 사후적 대응에 편중된 규율구조의 한계로나누어 검토하였다. 마지막으로 이상의 한계를 보완하기 위한 정비방안으로 ① 인공지능 기술에대한 사전적·기술적 규율체계의 구측, ② 처벌규정의 명확화와 딥페이크 이용범죄에 대한 일반규정의 마련, ③ 플랫폼 사업자의 의무 강화와 실질화, ④ 피해자 보호 및 지원 체계의 강화, ⑤ 딥페이크범죄에 대한 사회일반의 인식 제고 등을 제안하였다. 요컨대 사후적 형사처벌에 편중된 현재의구조에서 벗어나, 기술의 정당한 활용과 표현의 자유를 침해하지 않도록 명확한 기준의 설정을전제로 하여 사전적 예방과 사후적 처벌, 그리고 기술 자체에 대한 자율적·행정적·형사적 규율을유기적으로 결합한 중층적 규율체계를 구축하여야 한다는 것이 이 글의 결론이다.

딥페이크(deepfake)는 인공지능(AI)을 활용하여 실제 인물의 이미지, 영상, 음성을 합성·편집한 가짜 콘텐츠를 의미한다. 기존 합성물과 달리 제작이 쉽고 결과물이 실제와 거의 구분되지 않아, 빠르고 대량으로 유포될 위험이 있다.
 국내에서는 「공직선거법」과 「성폭력범죄의 처벌 등에 관한 특례법」 등을 통해 딥페이크 범죄를 규제하고 있다. 특히 선거 관련 딥페이크 영상 제작·유포는 최대 7년의 징역형에 처해질 수 있으며, 2024년 발의된 성폭력범죄 관련 개정법안은 연예인 등 유명인을 대상으로 한 허위 음란물 제작과 유포를 처벌 대상으로 포함하고 있다. 최근 경찰에 접수된 사건은 921건, 검거된 피의자는 474명으로, 이 중 약 80%가 10대였다.
 국외에서는 미국, 독일, 영국, EU 등이 딥페이크 규제 및 피해자 보호를 위한 법률과 지침을 마련하고 있다. 미국은 NO FAKES 법안과 DEEPFAKES Accountability Act 등으로, EU는 디지털서비스법과 AI 법안을 통해 합성 콘텐츠의 공개·감지 의무를 부과하며, 위반 시 막대한 벌금을 부과한다.
 딥페이크는 사기, 투자사기, 보이스피싱, 정치 선거 허위 정보, 명예훼손, 초상권 및 저작권 침해 등 다양한 범죄에 활용된다. 사례로, 유명인을 사칭한 투자사기와 정치인 발언을 조작한 선거유포 영상 등이 있으며, 상업적 이용 시 퍼블리시티권과 저작권 문제도 발생하고 있다. 이에 본고에서는 신종 화이트칼라범죄 중 딥페이크범죄를 중심으로 관련 법령과 제도를 살펴보고, 딥페이크범죄의 예방을 위한 법제의 개선방안을 제안해 보고자 한다.

본 연구는 2019년부터 2025년까지 KCI에 등재된 딥페이크 관련 논문 207편을 분석하여 학문 주제 분야별 연구 동향을 파악하고, 비교·분석하기 위해 메타데이터 분석과 제목 키워드 네트워크 분석을 수행하였다. 연구 결과, 법학과 공학 분야가 전체의 약 67%를 차지하고 있었으며, 교육학 분야와 윤리·철학 분야의 연구는 각 2편에 불과했다. 학문 분야별 차별된 주요 키워드는 법학 분야는 범죄, 아동, 청소년, 피해자, 규제, 책임 등이, 공학 분야는 탐지, 모델, 개발, 위협, 보안 등이, 사회과학 분야는 교육, 윤리, 대응, 과제, 민주주의 등이, 미디어·복합 분야는 콘텐츠, 배우, 연기, 허위, 침해, 전환 등으로 나타났다. 이를 통해, 우리나라의 딥페이크 관련 연구는 교육과 예방의 관점보다는 법적 규제와 기술적 탐지의 관점에서 주로 이루어지고 있음을 확인하였다. 연구 제언으로 향후에는 디지털 리터러시의 관점을 넘어선 윤리 교육, 학문간 연계를 통한 융합 교육 모델 등 디지털 시민성 함양과 인간 중심의 디지털 면역력을 기르기 위한 연구가 필요함을 제시하였다.

최근 음성 합성 및 변조 기술의 급속한 발전으로 인해 딥페이크 음성을 악용한 보이스 피싱, 사기, 신원 도용 등의 위협이 증가하고 있다. 이에 따라 기존 화자 검증 시스템을 보완할 수 있는 음성 딥페이크 탐지 기술의 중요성이 부각되고 있다. 본 연구에서는 기존 Multi-View Collaborative Learning(MVCLN)의 구조를 기초로, 스펙트로그램 인코더를 기존 CNN에서 Vision Transformer(ViT)로 변경한 음성 딥페이크 탐지 모델을 제안한다. 제안 모델은 waveform 기반 Transformer와 ViT 기반 spectrogram 인코더를 병렬로 구성하고, 두 표현 간의 상호 보완적 특성을 효과적으로 융합하기 위해 Waveform-Spectrogram Fusion Module(WSFM)을 적용하였다. 실험 결과, 제안한 모델은 seen 환경에서 AUC 0.9999, EER 0.38%를 기록하였으며, unseen 환경에서도 AUC 0.9653으로 기존 MVCLN 보다 성능이 향상되었다.

본 연구는 생성형 인공지능(Generative AI) 기술의 비약적 발전이 엔터테인먼트 산업의 지형을 근본적으로 변화시키는 과정에서 발생하는 헌법적 난제들을 고찰하고, 특히 대중문화예술인의 인격권과 성적 자기결정권을 실효적으로 수호하기 위한 법제도적 조화 방안을 모색하는 데 목적이 있다. 인공지능에 의한 시청각적 형상화 기술인 딥페이크(Deepfake)는 창작의 지평을 확장하는 예술적 도구로서 헌법 제21조의 표현의 자유와 제22조의 예술의 자유라는 보호 영역에 놓여 있으나, 그 내면에 잠재된 압도적인 시각적 기망성과 무한 복제성은 타인의 인격을 도구화하는 파괴적인 권리 침해 수단으로 변모할 위험성을 동시에 안고 있다.
 연구 결과, 대중문화예술인은 그 식별의 용이성과 대중적 영향력으로 인해 비동의 성적 합성물 및 악의적 허위 정보 유포의 주된 표적이 되고 있으며, 이는 단순한 초상권 침해를 넘어 성적 자기결정권의 본질적 파괴와 영구적인 인격적 낙인이라는 회복 불가능한 피해로 귀결되고 있음을 실증적 데이터를 통해 확인하였다. 특히 현행 사법 체계는 '반포 목적' 입증의 곤란함과 관대한 처벌 관행으로 인해 기술 발전 속도에 상응하는 범죄 억제력을 확보하지 못하고 있는 실정이다.
 이에 본 연구는 헌법상 기본권 제한의 원칙인 과잉금지원칙을 준수하면서도 실효성 있는 보호 체계를 구축하기 위해 다음과 같은 다각적인 개선 방안을 제언하였다. 첫째, 법적 측면에서 ｢성폭력처벌법｣의 구성요건을 정밀화하여 제작 단계의 처벌 공백을 해소하고, ｢정보통신망법｣상 기술적 조작에 의한 명예훼손 가중 처벌 조항을 신설해야 한다. 둘째, 기술적 측면에서 EU의 AI Act를 참조하여 디지털 워터마크 부착 및 가상 정보 표시 의무화를 입법화함으로써 콘텐츠의 투명성을 확보하고 수용자의 알 권리를 보장해야 한다. 셋째, 플랫폼 사업자에게 EU의 DSA 모델에 기초한 위험 관리 및 '선(先)차단 후(後)조사' 의무를 부과하여 유통 단계에서의 확산을 선제적으로 억제하는 거버넌스를 구축해야 한다. 마지막으로, 엔터테인먼트 산업 내 자율 윤리 가이드라인 수립과 보편적인 디지털 리터러시 교육을 통해 기술과 인간의 존엄성이 공존할 수 있는 문화적 토대를 마련해야 함을 강조하였다. 본 연구가 제시한 법리적 논거와 정책적 대안들이 향후 대중문화예술인의 권익 보호와 건전한 미디어 생태계 조성을 위한 입법적 초석이 되기를 기대한다.

딥페이크 기술의 발달에 따라 디지털 성범죄를 비롯한 다양한 분야에서 악용 사례가 증가하고 있다. 이에 기존 연구들 은 생성된 콘텐츠 기반의 진위여부 판별에 주력해 왔으나, 이러한 접근법은 조작 행위의 주체를 특정하거나 사용자 행위 를 입증하는 데 한계가 있다. 본 연구는 이러한 한계를 보완하고자 딥페이크 생성 과정에서 발생하는 사용자 행위별 아티 팩트를 체계적으로 분석할 수 있는 '행위 기반 딥페이크 포렌식 분석 체계'를 제안하며, Windows 환경에서의 사례 분석을 통해 조작 행위를 명확히 구분할 수 있음을 입증하였다. 또한 구축된 행위-증거 매핑 데이터베이스를 기반으로 딥페이크 관련 아티팩트의 선별 수집 및 생성 행위 식별 가능성을 확인하였다.

본 연구는 생성형 AI(Generative AI) 시스템의 확산과 함께 증가하는 보안 취약점과 규제적 대응의 필요성을 종합적으로 고찰한다. 대규모 언어모델(LLM), 검색증강생성(RAG), 딥페이크 기술을 중심으로 주요 보안 위협을 유형화하고, 이러한 취약점이 기술적⋅사회적 차원에서 초래하는 복합적 위험을 분석하였다. 분석 결과, 프롬프트 인젝션, 학습데이터 오염, 모델 추출, 개인정보 노출, 벡터 임베딩 역공격 등은 생성형 AI 생태계 전반에서 반복적으로 발생하는 핵심 위험이며, 특히 RAG 구조에서는 외부 데이터베이스의 취약성이 연쇄적 정보 노출로 이어질 가능성이 크게 나타났다. 딥페이크 기술은 금융사기⋅여론 조작⋅선거 개입 등 사회적 신뢰를 훼손할 수 있는 고위험 영역으로 평가되었다. 규제 분석에서는 미국⋅EU⋅한국의 정책체계를 비교해 AI 콘텐츠 표시, 딥페이크 규제, 위험기반 접근 등 규율 방식의 차이를 확인하였다. EU는 AI Act를 통해 포괄적 규율 체계를 마련한 반면, 미국은 문제별 분산형 법제, 한국은 AI 기본법 기반의 초기 단계 규제 체계를 갖추고 있는 것으로 나타났다. 이를 바탕으로 본 연구는 기술적 보호조치(데이터 최소화, 출력 검증, 동형암호 기반 개인정보 보호 등)와 법⋅제도적 조치(표시 의무화, 플랫폼 책임 강화, 국제 공조)의 통합적 보안 거버넌스를 제안한다. 본 연구는 생성형 AI 보안 위협을 단일 기능적 결함이 아닌 다층적 공격 벡터로 이해하고, 기술적 방어와 규제적 대응을 결합한 정책 방향을 제시함으로써 안전하고 책임 있는 AI 생태계 구축을 위한 분석틀을 제공한다.

최근 인공지능 기술의 발전과 함께 실제 인물의 얼굴을 이용하여 성적 영상이나 이미지를 제작하는 딥페이크 성착취물이 급격히 증가하고 있다. 특히 실존 아동·청소년의 얼굴이 성적 표현물에 합성되는 사례가 늘어나면서, 이러한 합성물이 청소년성보호법상 아동·청소년성착취물에 해당하는지 여부가 법적 쟁점으로 대두되고 있다.
 현행 법 제2조 제5호에서는 아동·청소년성착취물을 ‘아동·청소년이 등장하는 경우’와 ‘아동·청소년으로 명백히 인식될 수 있는 사람이나 표현물이 등장'하는 경우로 구분하여 규정하고 있다. 그러나 실존 아동·청소년의 얼굴이 성적 표현의 합성물에 이용된 경우 이를 어떠한 유형으로 평가할 것인지에 대하여 판례의 해석이 일치하지 않고 있다.
 본 논문은 대법원 2023. 8. 31. 선고 2023도8611 판결과 2025. 8. 14. 선고 2024도17801 판결을 중심으로, 두 판결이 실존 아동·청소년의 얼굴이 성적 표현의 합성물에 이용된 경우를 어떠한 유형에 해당한다고 판시하였으며, 그 근거는 타당한지 여부를 비교·분석하였다. 특히 청소년성보호법의 입법 연혁과 규범 구조, 보호법익을 분석하고, 대상판결 2가 제시한 ‘등장’ 개념 및 ‘명백성’ 판단 기준의 한계를 비판적으로 검토하였다. 
 검토 결과, 실존 아동·청소년의 얼굴이 성적 표현의 합성물에 이용된 경우에는 제작 방식이나 현실적 촬영 참여 여부와 관계없이 해당 아동·청소년의 인격적 표지가 성적 대상으로 이용된 것이므로, 이를 ‘아동·청소년이 등장하는 성착취물’로 해석하는 것이 법률 문언 및 체계, 보호법익에 부합한다고 보았다. 반면 ‘아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물’ 규정은 가상적 표현물이나 외관상 아동으로 인식될 수 있는 성인을 규율하기 위한 보충적 규정으로 이해하는 것이 타당하다. 
 결국 실존 아동·청소년의 얼굴이 성적 합성물에 이용된 경우 이를 ‘아동·청소년이 등장하는 성착취물’로 포섭하는 해석이 디지털 환경에서 나타나는 새로운 유형의 성착취 행위에 대한 규범적 대응과 아동·청소년 보호라는 입법 목적에 부합한다고 결론 지을 수 있다.

딥페이크 기술의 급속한 확산은 정보 무결성에 심각한 위협을 초래하고 있다. 이에 대응하기 위해 기존 탐지 방법의 일반화 성능부족과 클래스 불균형 문제를 해결하는 보조 손실 유도 특징 학습(Auxiliary-Loss Guided Feature Learning) 프레임워크를 제안한다. 본 방법론은 Swin Transformer 백본 아키텍처를 기반으로, 위조, 콘텐츠, 공통 특징을 각각 분리 학습하는 3개의 경량 보조인코더를 활용한다. 핵심 혁신은 보조 특징을 직접 앙상블하는 대신 포괄적 손실 시스템을 통해 메인 네트워크의 학습을 유도함으로써, 추론 단계에서 계산 부하 증가 없이 특징 표현의 품질을 향상시킨다는 점이다. DFDC 데이터셋을 활용한 실험에서 99.7%의 정확도와 0.9999의 AUC 점수를 달성했으며, 특히 소수 클래스인 실제 샘플에 대해 99.4%의 재현율을 기록하여 클래스 불균형 환경에서의 효과성과 실용성을 입증했다.

본 논문은 생성형 인공지능 기술의 비약적 발전으로 인한 딥페이크 영상의 확산이 초상권, 성명권, 명예권, 프라이버시권, 성적 자기결정권, 퍼블리시티권 등 인격권 전반에 걸쳐 구조적·복합적 침해를 야기하고 있다는 문제의식에서 출발한다. 생성형 AI, 특히 GAN과 확산 모델을 기반으로 한 딥페이크 기술은 적은 양의 데이터로도 실존 인물과 거의 구별이 불가능한 영상과 음성을 합성할 수 있으며, 플랫폼을 통한 초고속·무한 복제 유통 구조와 결합되어 피해의 불가역성, 책임 귀속의 곤란성, 이른바 ‘거짓말쟁이의 배당’에 따른 사회적 신뢰 붕괴라는 새로운 위험을 초래한다. 이러한 상황에서 형사처벌과 민사상 손해배상과 같은 사후적 구제수단만으로는 실효적인 인격권 보호가 곤란하므로, 생성 단계에서부터 투명성과 식별 가능성을 확보하기 위한 워터마크 표시 의무화가 중요한 규제 수단으로 부상하고 있다.
 이에 본 논문은 먼저 생성형 AI 딥페이크 영상 기술의 개념과 특성을 분석하고, 실존 인물을 대상으로 한 합성 영상이 어떠한 방식으로 인격권을 침해하는지를 유형화함으로써, 딥페이크 인격권 침해의 구조적 특수성을 규명한다. 다음으로 2026년 시행된 우리나라 인공지능기본법을 중심으로, EU AI Act, 미국 연방·주 단위 규제, 중국의 심층합성 규제 등 국내외 법제를 비교·검토하여 워터마크 표시 의무가 국제적으로 생성형 AI 규율의 핵심 축이자 표준적 규범으로 정착하고 있음을 밝힌다. 아울러 워터마크 의무화가 헌법상 표현의 자유·예술의 자유와 인격권 보호 간의 긴장 관계 속에서 어떠한 조건하에 비례성과 헌법적 정당성을 확보할 수 있는지, 그리고 의무 이행 주체·책임 배분, 기술적 우회 가능성·오탐지·스푸핑 등 기술적 한계, ‘허위 안전감’에 따른 역효과 등 법적·기술적 쟁점을 비판적으로 검토한다.
 마지막으로 본 논문은 인격권 보호 중심의 위험 기반 차등 표시 기준 도입, 생성–유통–소비 전 단계에 걸친 다층적 거버넌스와 플랫폼 책임 강화, C2PA 등 국제 기술 표준에 기반한 명시적·암묵적 이중 식별 체계 구축, 그리고 국제 사법 공조 및 데이터 공유를 통한 국경 간 집행력 제고 등을 통합하는 입법적·기술적 개선 방안을 제시한다. 이를 통해 워터마크를 단일·완결적 해법이 아닌, 다른 규범·제도·기술과 결합될 때 실효성을 가지는 인격권 보호의 핵심적 인프라, 곧 인공지능 시대의 ‘디지털 안전벨트’로 재구성하는 것

본 연구는 인공지능(AI) 딥페이크 기술이 게임 광고에 활용되는 현황을 검토하고, 이에 따른 헌법적 쟁점을 분석하는 데 목적을 둔다. 최근 게임 산업은 몰입감과 현실감을 극대화하기 위해 딥페이크 기술을 적극적으로 도입하고 있으며, 이는 광고 효과를 높이는 동시에 허위·과장 표현, 인격권 침해, 소비자 기만 등 다양한 헌법적 문제를 야기한다. 이에 따라 본 논문은 헌법재판소의 광고 사전심의 관련 결정례를 분석하여 상업적 표현의 자유와 소비자 보호 사이의 긴장 관계를 규명하고, 사전검열금지원칙과 광고심의에서의 헌법적 원리가 딥페이크 광고 규제에 어떻게 적용되는지 문제, 초상권과 개인정보자기결정권, 아동·청소년·노인 보호의 원리와 맞물린 헌법상 소비자의 권리 등 AI 딥페이크를 활용한 게임 광고에서 헌법적 쟁점과 그러한 쟁점을 해결하기 위한 실천적 방안에 대해서 논증하였다. 그리고 딥페이크 광고에 대한 현행 규제 체계가 헌법의 원리에 부합하도록 개선 방향을 제시하였다. 알고리즘의 투명성과 설명 가능성을 확보하고, 딥페이크 식별 표시 의무화 고려, 온라인 사업자의 책임 강화, 사후적 책임 중심의 규제, 업계의 자율규제와 공적 규제의 병행 등이 그것이다. 본 연구는 AI 딥페이크 기반 게임 광고 규제가 헌법적 가치와 기술 발전 사이의 균형을 모색해야 함을 강조하며, 향후 제도적 정비를 위한 중요한 시사점을 제공한다.

최근 생성형 AI의 발전과 함께 온라인 플랫폼에서 딥페이크를 악용한 과장 광고로 인한 소비자 피해가 증가하고 있다. 기존 검증 방식은 영상 조작과 광고 문구의 과장성을 개별적으로 분석하여 멀티미디어 콘텐츠의 종합적 위험 판단에 한계가 있다. 이에 본 논문에서는 영상과 텍스트를 결합한 멀티모달 기반 딥페이크 및 과장 광고 통합 탐지 시스템을 제안한다. 제안 시스템은 영상의 시공간적 특징을 학습하기 위해 MobileNetV3와 LSTM을 결합한 하이브리드 모델로 딥페이크를 탐지하고, 텍스트 분석에는 KcELECTRA 모델을 활용하여 광고 문구의 과장성을 판별한다. 두 분석 결과를 통합하여 광고 위험 수준을 분류하였다. 실험 결과, 딥페이크 탐지 정확도 0.8833, 과장 광고 판별 정확도 0.9748을 달성하였다. 본 연구는 지능화되는 온라인 과장 광고 위협에 대응하여 소비자 신뢰를 제고하고 실질적 기술 가이드라인으로 활용될 것으로 기대한다.

이 연구는 딥페이크 기술과 최신 기술 동향이 영화에서 어떻게 활용되고 있으며 이에 대한 제도적 대응 방안을 종합적으로 분석한다. 딥페이크는 딥러닝 기술을 활용하여 실제와 구별하기 어려운 가짜 미디어를 생성하는 기술로, 2017년 처음 대중에게 알려진 이래 빠르게 발전하며 사회 전반에 걸쳐 영향력을 확대하고 있다. 특히 생성형 적대 신경망(GAN), 변이형 오토인코더(VAE), 확산 모델(Diffusion Models) 등 최신 딥러닝 아키텍처의 발전은 딥페이크의 사실성과 다양성을 극대화하고 있다.
 긍정적인 측면에서 딥페이크는 영화와 예술장르 등 다양한 분야에서 혁신적인 잠재력을 보여주고 있다. 그러나 동시에 성범죄, 가짜뉴스, 사기, 명예훼손 등 심각한 사회적, 윤리적 문제를 야기하며 디지털 콘텐츠 전반에 대한 신뢰를 훼손하고 있다. 이러한 위협에 대응하기 위해 국내외에서는 법적 규제, 기술적 대응, 건강․윤리적 가이드라인 마련 등 다각적인 노력이 이루어지고 있다. 그럼에도 불구하고 기술 발전의 속도와 오용의 확산은 현행의 법적, 기술적 대응의 한계를 드러내며, 보다 포괄적이고 선제적인 대응 방안의 필요성을 강조한다. 본 연구는 이러한 분석을 바탕으로 딥페이크 기술의 건전한 발전과 악용 방지를 위한 정책적 제언을 제시한다.

2024년 1월 29일 공직선거법이 개정되어 제82조의8이 시행되었다. 이 조항은 인공지능 기술 등을 이용한 이른바 ‘딥페이크영상등’을 이용한 선거운동을 금지한다. 선거일 전 90일부터 선거일까지 제작·편집·유포·상영 또는 게시하는 행위를 금지하고, 이를 위반할 경우, 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처하도록 하였다. 이는 생성형 인공지능 기술의 급속한 확산에 따른 허위정보와 기만적 선거 콘텐츠로부터 선거의 공정성을 보호하려는 입법적 대응이다.
 그러나 동 조항은 정치적 표현의 자유(헌법 제21조)와의 관계에서 근본적인 헌법적 쟁점을 내포한다. 첫째, ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상이라는 구성요건이 지나치게 추상적이고 기술 종속적이어서 죄형법정주의의 파생원리인 명확성 원칙에 위배될 소지가 있다. 둘째, 선거일 전 90일간이라는 장기간에 걸친 포괄적 금지는 과잉금지원칙상 피해의 최소성 요건을 충족하기 어렵다. 셋째, 무거운 형사처벌과 모호한 구성요건의 결합은 합법적 정치 풍자·패러디에까지 광범위한 위축효과를 초래한다.
 본 연구는 EU 인공지능법(AI Act), 미국 캘리포니아주의 입법례, 등을 간단히 살펴보고, 국제적 표준은 ‘금지’가 아닌 ‘표시의무(disclosure) 중심’의 규제임을 확인한다. 이에 따라 본 논문은 제82조의8 제1항의 금지를 폐지하고 제2항의 표시의무를 중심축으로 재구성할 것, 보도·학술·예술·풍자에 관한 법정 예외를 신설할 것, 공적 인물 법리를 수용할 것 등을 선행과제로 제언한다.

딥페이크를 악용한 성범죄 착취물, 사기와 기망, 그리고 허위조작정보의 시도가 수년 전부터 심각한 범죄의 위협으로 인식되고 있다. 이는 딥페이크를 활용한 허위조작정보가 가지는 인간의 뇌의 인지체계와 판단, 행동 등에 미치는 장기적인 악영향에 기인한다. 이에 대해 서구의 주요 선진국들은 허위조작정보와 인간의 뇌에 대한 영향의 학문적ㆍ과학적 연구에 기반하여 딥페이크와 같은 허위조작정보에 대한 대응에 박차를 가하고 있다. 이에 본 연구는 딥페이크 허위조작정보가 장기적으로 인간의 인지편향, 착각진실, 오정보 등에 영향을 미치는 작동 기제를 최근의 경험적 연구결과들에 기반하여 심층분석한다. 이를 통해 이 연구는 국내의 형사사법적 대응의 학술적 논의의 기반을 마련하고자 한다. 이를 위해 체계적 문헌고찰을 통한 연구표본추출 절차를 준용해 총 40편의 최근 해외 주요 연구논문들을 문헌분석 하였다. 분석 결과와 연구 함의, 향후 연구에 대한 제안 등이 결론과 논의 부분에 제시되었다.

딥페이크 기술이 고도화됨에 따라, 영상 내 미세한 혈류 변화를 분석하는 rPPG 기반 딥페이크 탐지 연구가 중요해지고 있다. 그러나 rPPG 신호에 내포된 시공간적 변동성을 분석하기 위한 주파수 해석 기법 간의 비교 연구는 부족하다. 본 논문에서는 이러한 한계를 보완하기 위해 rPPG 기반 탐지 모델에 적용되는 세 가지 주파수 해석 기법(PSD, FFT, CWT)이 판별 성능에 미치는 영향을 비교 분석한다. 분류 네트워크의 구조를 통제한 상태에서, rPPG 단독 입력과 주파수 결합 입력(MVHM) 간의 탐지 정확도를 FaceForensics++ 데이터셋으로 평가하였다. 실험 결과, 주파수 결합 방식이 전반적인 탐지 성능을 향상시켰으며, 특히 Deepfakes 조건에서 PSD 결합 방식은 단독 입력(0.8534) 대비 0.9267로 정확도를 크게 개선하였다. 반면 미세 질감이 변환된 NeuralTextures 조건에서는 PSD(0.7413)를 제외한 기법들의 성능이 단독 입력(0.7167)보다 하락하여, 조작 특성에 따른 맞춤형 주파수 기법 선택의 중요성을 확인하였다.

The rapid advancement of deepfake technology, which utilizes deep learning techniques such as Generative Adversarial Networks (GANs) to create highly realistic synthetic images, videos, and audio, has presented unprecedented legal challenges across various domains. While existing legal discourse has primarily focused on issues such as non-consensual pornographic content, political disinformation, and defamation, relatively little scholarly attention has been paid to the legal implications arising when third parties create unauthorized deepfake commercial advertisements without the consent of the celebrities depicted therein or the trademark holders involved.
 This study systematically examines the legal issues arising from unauthorized deepfake commercial advertisements produced by third parties, with particular focus on the situation where a celebrity serving as an advertising model for Company A is depicted in a deepfake advertisement promoting the products of a competing Company B. The research conducts a doctrinal analysis of liability allocation and remedial measures, centering on the benefits and detriments accruing to the trademark holder and the applicability of unjust

Deepfakes are synthetic media created by deep-generative methods to fake a person's audio-visual representation. Growing sophistication of deepfake technology poses significant challenges for both machine learning (ML) algorithms and humans. Here we used real and deepfake static face images (Study 1

딥페이크 기술은 진실을 약화시키고 시민적 신뢰와 공적 세계의 기반을 훼손하는 윤리적 문제를 야기한다. 기술적 탐지나 법적 규제만으로는 이러한 교란을 충분히 통제하기 어려우며, 시민이 스스로 성찰하고 판단하며 책임 있게 행동할 수 있는 역량이 요구된다. 본 연구는 한나 아렌트의 사유, 판단, 행위 개념과 세계성, 복수성, 탄생성의 인간 조건을 토대로 딥페이크 시대의 시민에게 필요한 능력을 규명하고, ‘아렌트 철학 기반 시민 역량 모델(ACCM)’을 제안한다. ACCM은 사유의 유예, 관점 확장을 통한 판단, 공적 실천으로서의 행위가 순환적으로 작동하는 구조를 갖는다. 또한 도덕교육을 통해 학생들이 조작된 현실 속에서도 성찰적 사고, 타인 이해, 책임 있는 실천을 수행할 수 있도록 하는 교육적 구현 방안을 제시한다.

이 글에서는 이른바 ‘딥페이크 증거’항변에 관하여 판시한 최근의 하급심판결을 필두로 조만간 도래할 것으로 예상되는 딥페이크 증거 및 항변의 범람 사태에 대비하여우리 형사소송법의 증거법적 규율 수단은 무엇인가, 현재의 규율로 충분한가 아니면별도의 입법 등 대책이 필요한가 등에 관하여 최근 미국에서 전개된 연방증거규칙 개정논의 및 그로부터의 시사점을 중심으로 검토를 진행하였다. 과학기술의 발전과 맞물려 디지털증거는 형사재판에서 사실인정의 정확성을 제고하는 데에 크게 기여하였으나, 디지털 증거에 크게 의존하는 오늘날의 형사재판에서 역설적으로 인공지능의범용화 및 딥페이크 기술의 발전과 결합하면서 형사재판의 적정한 기능과 존립을 위협하고 있다. 생성형 인공지능의 대중화 및 딥페이크의 범람은 형사법정에 현출된 모든 증거에 대한 신뢰의 기반을 뒤흔들고, 나아가 기존의 형사증거법적 규율에 대한전면적인 재검토의 필요성을 제기한다. 무엇보다도 우리 형사소송법에 증거능력의일반적 요건으로서 증거의 진정성에 대한 규율이 부재한 점, 그리고 증거법의 규율에있어 증거능력과 증명력의 이원적 구조를 전제하면서도 각 판단 절차를 분리함이 없이 하나의 절차에서 양자 모두를 함께 판단하도록 규율된 점은 딥페이크에 대한 대응을 결정적으로 어렵게 하는 대목이다. 현행 형사소송법에 내재된 이와 같은 구조적문제점으로 인하여 실정법 규정 및 그에 대한 대법원의 해석만을 통해서 딥페이크 증거가 초래하는 문제상황을 극복하는 데에는 한계가 있는 만큼, 딥페이크 증거 제출및 관련 항변의 일상화에 시의적절하게 대응할 수 있도록 현행 형사증거법제의 미비에 대한 입법적 개선이 조속히 논의될 필요가 있다. 이에 미국의 연방증거규칙 및 그에 대한 최근의 개정 논의는 딥페이크의 범람으로부터 형사재판의 기능을 보호·유지하는 데 필요한 형사소송법상 제도를 안출 및 정비함에 있어 우리에게 유용한 시사점을 제공하여 준다.

딥페이크 기술은 허위 정보 확산과 보안 위협을 초래하며, 이에 대한 탐지 기술의 중요성이 커지고 있다. 기존 연구가 정확도 향상에 집중한 반면, 데이터셋 규모와 파이프라인 구성에 따른 성능, 효율성의 균형은 충분히 논의되지 않았다. 본 연구는 Baseline, DiskCache, TFRecord 세 가지 파이프라인을 50만, 25만, 5만 장 데이터셋에서 비교하고, MobileNetV2 모델을 동일한 환경에서 학습하여 성능 지표와 학습 효율성을 분석하였다. 실험 결과, TFRecord는 정확도와 속도, 안정성 측면에서 균형을 이루며 가장 실용적인 파이프라인으로 확인되었다. 본 연구는 데이터 파이프라인 설계의 중요성을 강조하며, 향후 전처리 최적화, 도메인 일반화, 시스템 확장 연구를 제안한다.

딥페이크 영상은 인물의 얼굴을 AI로 합성하는 기술로, 온라인 정보의 신뢰성을 위협하는 사회적 문제로 부각되고 있다. 본 연구는 모바일·엣지 환경에서 활용 가능한 두 가지 경량 탐지 모델을 제안한다. MobileNetV2+Bi-LSTM은 경량성과 실시간성에 중점을 두었고, MobileNetV3+Bi-LSTM은 정확도 향상을 목표로 한다. 두 모델은 CNN 기반 시각적 특징과 Bi-LSTM 기반 시간적 일관성을 동시에 학습하며, Celeb-DF v2 데이터셋과 ‘Golden Frame’ 전처리, AMP 최적화를 적용하였다. 실험 결과, MobileNetV2+Bi-LSTM은 정확도 96.64%, F1-score 0.9812, AUC 0.9631을 달성했으며, MobileNetV3+Bi-LSTM은 정확도 97.27%, F1-score 0.9842, AUC 0.9937로 더 높은 탐지 성능을 보였다.

최근 딥페이크 고도화에 따른 탐지 모델의 일반화 성능 확보를 위해, 본 연구는 RGB와 DCT 기반 주파수 단서를 교차 어텐션으로 융합하는 이중 스트림 모델 ER-FusNet을 제안한다. 본 모델은 전역 시각 정보를 추출하는 EfficientNet과 주파수 영역의 미세 변조 흔적을 분석하는 RepLKNet을 결합하여 특징 간 상보적 시너지를 극대화한다. 교차 데이터셋 실험 결과, Celeb-DF v2 등에서 0.92~0.99의 F1 스코어를 달성하였으며, 실제 환경인 WildDeepfake에서는 단일 스트림 대비 F1을 0.53에서 0.65로 약 12% 향상시키며 범용적 탐지 역량을 입증하였다. 이는 공간·주파수 도메인의 적응적 융합이 미학습 데이터에 대한 강건성 확보의 주요 기제임을 시사하며, 진화하는 딥페이크 위협에 대응하여 탐지 신뢰성을 높이는 데 기여할 수 있음을 보여준다.

본 연구는 AI 생성 딥페이크가 선거보도를 경유해 유통되는 ‘보도 매개 유통(media-mediated distribution)’ 현상의 구조적 취약성을 진단하고, 이를 고착시키는 ‘칸막이 규제(regulatory silo)’ 구조를 분석한다. 연구의 목적은 언론 관행에 대한 규범적 단죄가 아니라, 보도라는 제도적 경로가 딥페이크의 사회적 도달을 확장시키는 유통 경로로서 갖는 구조적 위치를 규명하는 데 있다. 프레이밍의 경험적 패턴만으로는 규제 공백의 법적 소재를, 규제 텍스트만으로는 실제 유통의 위험 분포를 각각 포착할 수 없기 때문에 양자를 삼각검증하는 혼합 연구설계를 채택했다. 2025년 대통령선거 및 2026년 지방선거 예비 기간의 딥페이크 관련 선거보도 62건을 엔트먼(Entman, 1993)의 프레이밍 네 기능에 기반해 유형화하고, 5개 규율 체계를 교차 분석한 후, EU AI Act와의 비교법적 검토를 병행했다. 선거보도는 팩트체크형(24.2%)･경각심 환기형(29.0%)･정책 논의형(32.3%)･선정적 보도형(14.5%)으로 분류되었고, 프레이밍 완결성과 재유통 위험은 구조적 역상관을 보였다. 이는 프레이밍 완결성 지표가 규제 설계의 대리변수로 기능할 수 있음을 시사한다. 재유통 위험이 가장 높은 선정적 보도형의 비율은 가장 낮았으나, 이 안정은 제도적 안전망이 아닌 개별 매체의 비공식적 편집 재량에 의존했다. 교차 분석 결과 네 유형 모두 미규율 상태였고, 인공지능기본법 제5조 제1항과 제34조 제3항의 결합이 이 공백을 제도적으로 고착시키고 있었다. 반면 EU AI Act 제50조 제4항은 보도 행위를 사전 배제하지 않되 편집적 통제에 기반한 조건부 면제로서 의무 부과와 언론 자유의 양립 가능성을 보여주었다. 이에 보도 유형별 위험 차이에 상응하는 세 가지 정책 방향—인공지능기본법 수범자 확장 및 시행령 보충 적용 요건 구체화, 방송미디어통신심의위원회 심의규정 개정, 언론계 자율규제 가이드라인 제정—을 제안하고 각 제안의 헌법적 비례성을 검토했다.

The rapid proliferation of generative artificial intelligence (AI) has led to the widespread production of AI-generated texts that are fluent and persuasive, yet potentially prone to factual distortion and reduced information reliability. To address these concerns, this study aims to develop a Korean-based deepfake text detector and to analyze its generalization performance across domains. Specifically, we collected and curated human- and AI-generated texts from two heterogeneous domains: tourist reviews of Seongsan Ilchulbong and YouTube comments related to youth employment. Based on these datasets, four training test combinations were designed, including two within-domain settings and two cross-domain settings. The detector was implemented by fine-tuning five Korean BERT-based models KoBERT, KoELECTRA, KcELECTRA, KLUE-BERT, and KLUE-RoBERTa under identical experimental conditions. Model performance was evaluated using accuracy, precision, recall, and F1-score. The experimental results indicate that all models achieved high performance in within-domain settings. However, cross-domain evaluation resulted in a 10 15% decrease in accuracy and F1-score, highlighting the strong doma

This paper interrogates the challenges that deepfake media and AI-generated synthetic content pose for educational policy, governance, and the evolving notion of classroom safety. Moving beyond traditional paradigms that center student welfare and physical security, the analysis foregrounds the negl

본 연구는 인공지능(Artificial Intelligence) 기반 딥페이크 기술의 급속한 발전이 선거 과정에 미치는 영향을 분석하고, 이에 대한 공직선거법상 규제의 정당성과 한계를 헌법적 관점에서 검토하는 것을 목적으로 한다. 최근 신설된 공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동 금지)은 선거운동 과정에서의 딥페이크 활용을 규율함으로써 선거의 공정성을 확보하고자 하나, 같은 법 제250조 허위사실공표죄와의 관계, 규제의 실효성, 과잉금지원칙 및 명확성 원칙 충족 여부 등 다양한 법적 쟁점을 내포하고 있다.
 그러나 이러한 문제는 단순한 법 해석의 차원을 넘어, 딥페이크 콘텐츠의 생성･유포 특성과 플랫폼 기반 정보 확산 구조를 충분히 반영하지 못하는 현행 규율 체계의 구조적 한계에서 비롯된 것으로 평가된다. 특히 사후적 형사제재 중심의 규제 구조와 선거기간 중심의 규율 방식은 디지털 환경에서의 정보 왜곡 양상을 효과적으로 통제하는 데 한계를 가진다.
 이에 본 연구는 플랫폼 규율의 법제화 필요성, 기술적 대응과 규제의 보완적 연계, 통합적 입법개선 체계의 구축 및 공직선거법 규율체계의 정비 방향을 중심으로 입법적 개선 방안을 제시한다. 나아가 위험 기반 규율 체계를 통해 표현의 자유와 선거의 공정성 간의 조화를 실현할 필요가 있음을 강조한다.
 결론적으로 본 논문은 딥페이크 기술이 선거 과정에 미치는 영향을 헌법적 관점에서 종합적으로 분석하고, 공직선거법과 인공지능 관련 규범 간의 연계를 통한 통합적 규율 체계의 필요성을 제시함으로써 향후 선거법제 개선에 대한 이론적･정책적 시사점을 제공한다.