논문 146편

AI 기반의 딥페이크 기술이 국가안보에 미치는 위협을 심리전, 인지전, 정보전의 관점에서 고찰하고, 이에 대한 현행 형사법적 규율의 한계와 정책적 대응 방안을 제시하고자 한다. 딥페이크는 고도화된 AI를 기반으로 조작된 시청각 정보를 생산하여 국민의 인식과 행동을 왜곡시키고, 정보환경의 신뢰성과 안정성을 해치는 수단으로 악용될 수 있다. 결과적으로 AI를 이용하여 만들어진 딥페이크는 심리전, 인지전, 정보전을 매개하는 복합 기술로서 인간의 감정, 인지, 정보체계를 동시다발적으로 공격할 수 있는 하이브리드(Hybtid) 위협으로 기능한다. 이에 따라 형법, 정보통신망법, 전기통신기본법, 국가보안법 등 현행 법률의 적용 가능성과 한계를 검토하였다. 그 결과, 기존 법체계는 개인 보호에 치중되어 있고 딥페이크의 복합적 위협성을 포괄하지 못하는 한계가 확인되었다. 본 논문은 딥페이크 기반 인지적, 심리적 조작에 대응하기 위한 불법정보 규정 강화, 국가안보 중심의 딥페이크 법 해석 및 실시간 대응체계 구축 등 종합적 정책 대안을 제시하고자 한다.

보이스클로닝은 특정 화자의 목소리 특징을 추출하여 발화를 복제 및 생성, 즉 딥보이스(Deep Voice)를 생성하는AI 기술이다. 이전에는 사람이 듣기에 어색함이 있었지만, 최근 AI 기술이 빠르게 발전함에 따라 짧은 시간의 오디오 샘플만으로도 음성 복제가 가능해지면서 이는 보이스피싱 피해 사례로 이어지고 있다. 이에 본 연구에서는 보이스클로닝을 활용해 생성된 복제 발화를 판별하는 데에 유의한 음향음성학적 변수를 찾아내고자 하였다. 스펙트럼, 켑스트럼, 운율 총 20개의 음향 변수를 선정하여 2원 분산 분석과 로지스틱 회귀분석을 진행하였으며, 자연 발화와 복제 발화에 대한 유사도를 비교하기 위해 청지각 평가와 발화 간 수학적 거리 계산(유클리드, 마할라노비스) 을 진행하였다. 남성 발화의 경우 스펙트럼의 추세 회귀 기울기(tilt)와 발화 속도(speech rate), 여성 발화의 경우 평균 발화 세기(mean intensity)가 발화 구분에 유의한 변수였으며, 분류 모델은 각각 97.5%, 95%의 정확도를 보였다.
 발화 간 유사도 비교 결과, 여성 발화의 경우 벡터값의 거리상 가장 가까운 발화와 인간이 유사하다고 느낀 발화가일치하였다.

본 논문에서는 딥페이크 증거를 둘러싼 미국에서의 논의들을 검토한 후, 우리 법제에 대한 시사점을 도출해 보았다. 미국에서 딥페이크 증거의 가능성을 둘러싼 논의는 대부분 증거의 진정성 문제로 수렴되어 왔다. 미국의 현행 연방증거규칙에 따르면 사실심 법원은 ‘합리적 배심원이라면 해당 증거가 그 증거제출자가 주장하는 것과 일치’한다고 판단할 수 있을 만한 충분한 증거를 증거제출자가 제출했는지를 판단하여, 만약 이와 같은 일응의 증명이 이루어졌다면 해당 증거를 채택하여 배심원으로 하여금 최종적으로 그 증거의 진정성을 판단하도록 한다. 이와 같은 현행 연방증거규칙이 딥페이크 증거의 등장과 확산의 문제를 다루는 데 한계를 노정하고 있는지, 그리고 만약 그렇다면 현행 연방증거규칙을 어떻게 개정해야 하는지에 대해 의견이 일치되어 있지는 않다. 딥페이크 증거에 대응하기 위해 현행 연방증거규칙을 개정하는 방안과 관련해서는 i) 딥페이크의 잠재적 파괴력에 대응하기 위해, 증거로 제출된 이미지, 영상 등에 대한 진정성 입증 기준을 현재보다 강화하는 방안, ii) 증거의 진정성에 관한 판단을 전적으로 법원이 하도록 함으로써 법관의 게이트키핑 기능을 강화하는 방안, iii) 증거의 진정성을 다투는 당사자가 먼저 해당 증거가 조작 또는 변경되었을 가능성이 그렇지 않을 가능성보다 크다는 점을 입증하면, 증거제출자가 해당 증거의 증거가치가 해당 증거로 인한 편향적 효과를 상회한다는 점을 입증해야 하는 것으로 증거심리 절차를 구조화하는 방안 등이 제시되고 있다. 우리나라에서도 앞으로 딥페이크 증거가 제출되거나 반대당사자가 딥페이크 항변을 제기하는 사례가 발생하고 또한 점증할 것이라는 점은 쉽게 예측 가능하다. 그럼에도 우리 형사소송법에는 증거의 진정성을 일반적으로 요구하는 명문의 규정을 두고 있지 않다. 증거능력의 요건으로서 증거의 진정성을 명문화하는 작업은 이제는 더 이상 미룰 수 없는 과제가 되었다. 이뿐 아니라, 딥페이크 증거가 진정한 증거로 인정되어 증거로 채택되는 것 만큼이나 딥페이크가 존재할 가능성만으로 진정한 증거가 조작 또는 변경된 증거로 여겨지는 것 또한 실체적 진실 발견에 중대한 위협이 된다. 특히, 국민참여재판에서는 딥페이크의 가능성으로 인해 배심원이 진정한 증거에 대해 가질 수 있는 회의 및 의심을 악용하고자 하는 ‘딥페이크 항변’은 소송지휘, 배심원 설시, 통상절차 회부결정 등을 통해 적절히 통제될 수 있어야 할 것이다

최근 이른바 서울대 N번방 사건을 계기로 사회적인 주목을 받게 된 딥페이크 성범죄는 디지털 성범죄의 일종으로서 피해자의 인권침해와 심리적 고통을 주는 역기능적 사회범죄가 되고 있어 이에 대한 적절한 대응이 요구되고 있다. 이러한 배경 위에 본 연구는 딥페이크 성범죄의 피해자 지원의 현황을 분석하고 이에 대한 개선전략을 제시하는데 목적이 있다. 연구의 방법은 문헌조사와 언론기사를 분석하고 관련 통계와 판례 등을 분석하여 결론을 도출하였다. 이같은 방법을 토대로 문제점을 발견하고 이에 대한 개선방안을 제시하였다. 개선방안으로는 첫째, 법정책적 개선방안(인식전환, 처벌강화, 법개정방안), 둘째, 제도 개선방안(전문성강화, 디지털 성범죄 피해자 지원센터 역할강화, 피해자 중심의 지원), 셋째, 디지털 성범죄 피해자 지원센터 프로그램(치료와 회복프로그램)의 분석과 개선방안을 들 수 있다.

본 논문에서는 GAN 기반 초고해상화(Super-Resolution) 알고리즘과 상용 툴(TOPAZ Labs)을 활용하여 제작된 초고해상화 이미지와 원본 이미지를 구별하기 위한 탐지 모델을 제안한다. 기존 딥페이크 탐지 연구들은 주파수 공간 특성을 활용하거나 사전학습된 백본 모델(Backbone Network)을 통해 성능 개선을 시도했으나, 특정 알고리즘 또는 데이터셋에 국한된 한계를 보였다. 본 연구에서는 학습 가능한 컨볼루션 커널(Learnable Convolution Kernel, LCK)을 통해 초고해상화 이미지의 국소적인 특징을 효과적으로 추출하고, 딥페이크 이미지 조작에 강인하게 사전학습된 ResNet-50 모델을 백본으로 활용하는 탐지 프레임워크를 구축하였다. 이를 통해 다양한 초고해상화 알고리즘 및 상용 툴로 생성된 이미지에 대해 뛰어난 구분 성능을 확보하였으며, 모든 테스트 데이터셋에서 100% 정확도를 달성하였다. 또한, Gradient map 시각화를 통해 제안 모델이 이미지의 엣지 및 텍스처와 같은 세부 정보 활용을 통해 초고해상화 이미지를 효과적으로 식별함을 확인하였다.

DNN의 등장으로 발전한 딥페이크 기법은 실제와 구별하기 어려운 음성을 생성한다. 이는 허위 사실 유포, 금융 사기, 피싱등 다양한 사회적 위협을 초래하고 있으며, 이에 대한 대응이 갈수록 필요해지고 있다. 기존 연구들은 사후적 대응인 딥페이크 탐지 방법을 제안하고 있다. 이에 본 연구에서는 딥페이크 음성 합성을 사전에 방어하는 예방적 대책으로 PDS 기법을 제안한다. 본 기법은 오디오 파일 레벨에서 화자 정보를 교란하고 적대적 교란을 삽입하여 딥페이크 모델을 방해하는 것이다.
 성능 평가는 주관적 평가 지표인 NMOS와 SMOS를 통해 수행하였으며, 그 결과 평균 이상의 오디오 품질을 유지하면서도 높은 수준의 딥페이크 음성 합성 저항성을 보여준다. 본 연구 결과는 악의적인 목적으로 생성되는 딥페이크 음성 합성을 억제하여 사회적 위협 감소에 기여할 수 있을 것으로 기대된다

최근 인공지능과 딥페이크 기술의 발달로 가짜 뉴스, 선거 조작, 명예훼손 등 심각한 사회 문제가 발생하고 있어 이를 판별할 수 있는 탐지 능력의 중요성이 커지고 있다. 이에 따라 비판적 사고를 기반으로 한 디지털 리터러시의 필요성이 제기된다. 본 연구는 딥페이크 탐지 능력이 디지털 리터러시의 평가요인에 미치는 영향 분석을 목적으로 하고자 한다.
 연구방법은 선행 연구의 고찰을 통해 연구방향을 설정하고 평가요인(가치, 자기 효능감, 윤리성, 비판적 사고)을 도출한다. 또한 가설1(디지털 리터러시의 가치는 딥페이크 탐지능력에 영향을 미친다), 가설2(디지털 리터러시의 자기 효능감은 딥페이크 탐지능력에 영향을 미친다), 가설3(디지털 리터러시의 윤리성은 딥페이크 탐지능력에 영향을 미친다), 가설4(디지털 리터러시의 비판적 사고는 딥페이크 탐지능력에 영향을 미친다)을 설정하였다.
 연구결과 가설1은 기각, 가설2는 기각, 가설3은 채택, 가설4는 채택되었다. 이는 딥페이크와 같은 고도화된 디지털 조작 기술에 대응하기 위해서는 윤리적 감수성과 비판적 사고력이 디지털 사회의 시민이 갖춰야 할 가장 강력한 방어 수단이다. 또한 내면적 태도나 자기 신념만으로는 정보 판별 능력까지 연결되지 않으며, 비판적 사고와 윤리적 감수성이 실제 정보 해석과 행동에 영향을 줄 수 있는 것으로 나타났다.
 본 연구는 디지털콘텐츠에 대한 비판적 사고를 유지하고 진위를 구별할 수 있는 역량에 대한 디지털 지성과 윤리적 판단력 함양을 위해 기초적인 자료를 제공할 수 있을 것으로 기대된다.

딥페이크 음성이 ASV(Automatic Speaker Verification) 시스템을 통과하는 사례가 증가함에 따라 오디오 딥페이크 생성 억제 기술이 최근 주목받고 있다. 이러한 방식은 원본 음성에 노이즈를 주입해 모델이 화자의 음색을 학습하지 못하도록 하는 사전적 대응에 해당하지만, 노이즈로 인한 품질 저하와 정화 과정에서의 보호 효과 감소라는 한계를 지닌다. 따라서 본 연구에서는 생성 억제 기술의 품질과 보호 효과 간의 관계를 분석하고, 음성 향상(Speech Enhancement), 뉴럴 코덱(Neural Codec), 신호 변환 절차를 각각 적용하여 방어 효과를 재평가한다. 이러한 분석을 통해 지각 품질과 제거 내성을 함께 고려한 실용적 평가 지표의 필요성을 제기하며, 오디오 딥페이크 생성 억제 연구가 품질 보존성과 강건성을 동시에 달성하는 방향으로 나아가야 함을 제안한다.

본고는 인공지능(AI) 기술을 통해 생성되는 딥페이크가 개인의 사회적 평가를 침해하는 명예훼손 범죄의 새로운 도구로 부상함에 따라, 현행 형사법 체계의 대응 능력에 대한 심각한 도전이 제기되고 있음을 분석한다. 딥페이크는 시청각적 설득력을 통해 ‘조작된 현실’을 제시함으로써, 기존의 텍스트 기반 허위사실 유포와는 차원이 다른 사회적 위험을 야기한다.
 이에 본고는 딥페이크 명예훼손에 대해 「형법」 및 「정보통신망법」상 명예훼손죄를 적용할 때 발생하는 법리적 쟁점을 심층적으로 검토한다. 분석 결과, ‘허위사실 적시’와 ‘의견 표현’의 구분이 모호해지고, 행위자의 ‘비방할 목적’을 입증하기 곤란하며, 표현의 자유와의 충돌 문제가 발생하는 등 기존 법리의 적용에 명백한 한계가 드러난다. 현행 「성폭력처벌법」 및 「공직선거법」의 개별 규정만으로는 비성적·비선거적 명예훼손의 규제 공백을 메울 수 없으며, 죄형법정주의 원칙상 법 해석에만 의존하는 데에도 한계가 있다.
 따라서 본고는 해석론적 접근을 넘어, 다층적인 입법론적 과제를 해결책으로 제시한다. 구체적으로 딥페이크의 기술적 특수성을 반영한 별도의 가중처벌 규정 신설, 「EU 디지털서비스법」(DSA)을 참고한 플랫폼 사업자의 책임 강화, 그리고 최근 제정된 「인공지능기본법」상의 투명성 확보 의무를 실질화하기 위한 구체적인 표시 방법 및 제재 규정 마련 등을 제안한다.

딥페이크 기술이 확산함에 따라, 데이터 불균형으로 인해 저하되는 rPPG 기반 탐지 모델의 성능을 개선하기 위한 연구가 중요해지고 있다. 그러나 기존 영상 증강 기법은 생리 신호의 주기성과 시간적 연속성을 왜곡할 수 있어, rPPG 신호의 핵심 특징을 보존하면서 데이터 불균형을 해소하는 데 한계를 보인다. 본 논문은 이러한 문제를 해결하기 위해 2단계 영상 증강 전략을 제안한다. 제안하는 전략은 시간적 연속성, ROI 정합성 등 4가지 기준의 규칙 기반 필터링으로 rPPG 신호의 무결성을 보존하고, 결과 기반 필터링을 통해 탐지 성능을 극대화하는 증강 기법을 선별한다. 또한 본 논문에서는 제안 전략의 성능을 DeepFake Detection 데이터셋과 정확도, 정밀도, 재현율, F1-score 지표로 평가하였다. 결과적으로 제안 전략은 복합 적용 조건에서 0.7317의 F1-score를 기록하여 기본 모델(0.6551) 대비 성능을 향상시키고, 정밀도와 재현율 간의 균형을 개선하여 탐지 성능의 안정성을 확보하였다.

Background : This study aimed to identify the awareness and attitudes of Korean adolescents for deepfake.&#xD; Methods : A total of 163 middle and high school students participated, completing a self-reported questionnaire via Google Forms.&#xD; Results : Participants reported a mean awareness score of 3.49 and an attitude score of 4.30 out of 5. Awareness and attitude were assessed across seven categories, including risk understanding, education, misuse cases, victim protection, legal aspects, reporting processes, and prevention culture. Significant differences in awareness were found by gender (t = -2.01, p = .046), interest in deepfake (t = 3.52, p < .001), prior deepfake education (t = 5.16, p < .001), creation experience (t = 2.24, p = .026), victimization experience (t = 3.51, p < .001), and school reporting protocol (t = 3.04, p = .004). Attitude differences were significant by sex (t = -3.23, p = .002), age (t = -2.50, p = .014), interest in deepfake (t = 2.80, p = .006), and victimization experience (t = 2.51, p = .013). Awareness and attitude were positively correlated (r = .45, p < .001).&#xD; Conclusion : The results highlight the need for comprehensive,

부경법 타목은 국내에서 인식표지를 보호할 수 있는 유일한 규범으로서 딥페이크를이용한 유명인 사칭에 대응할 수 있는 가장 효율적이고 적절한 법적 수단이지만, 현행규정은 금지 행위를 경제적 이익 침해로 한정하고 있고, 민사적 구제만 가능하게 되어있어 그 대응에 충분하지 않다. 따라서 다음과 같은 부경법 타목의 개정이 필요해 보인다. 첫째, 부경법 타목의 금지 행위를 유명인의 활동에 대한 오인·혼동 유발행위 및 식별력·명성 손상행위까지 포함하는 방향으로 그 대상을 확장해야 한다. 둘째, 딥페이크사칭의 심각성과 해외 입법례, 그리고 다른 부정경쟁행위와의 형평성을 고려할 때 벌칙규정, 징벌적 손해배상 그리고 법정손해배상과 전보배상 등의 강력한 제재의 도입이 필요하다. 셋째, 딥페이크를 이용한 유명인 사칭이 대부분 온라인 플랫폼에서 이루어지는점을 고려할 때, 온라인서비스제공자에게 간접책임을 부과할 수 있도록 한다. 다만, 그책임의 범위가 합리적으로 제한되어야 한다. 이러한 개선 방안들은 유명인의 인식표지를실효적으로 보호하고 디지털 환경에서의 공정한 경쟁질서를 확립하는 데 중요한 역할을할 것으로 기대된다.

딥페이크(Deepfake)는 인공지능에 기반한 생성기술로서, 실제와 구분하기 어려운 허위 영상· 이미지·음성을 제작·유포함으로써 개인의 인격권, 사회적 신뢰, 민주적 공론장을 심각하게 침해하는첨단 디지털 범죄 유형으로 급부상하고 있다. 본 연구는 딥페이크 범죄를 성적·정치적·비성적일반 유형으로 체계화하고, 이에 대한 국내외 법제의 규율 현황과 한계를 분석하였다. 국내에서는「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2와 「공직선거법」 제82조의8이 중심적 규율 축으로기능하나, 비성적 딥페이크의 악용에 대해서는 여전히 형법과 정보통신망법에 의존하는 간접적구조를 보이며, 실질적 규율 공백이 존재한다. 또한 사법부의 양형 관행은 범죄의 디지털적 확산성과피해의 비가역성을 충분히 반영하지 못해, 규제 강화에도 불구하고 억지력이 아직은 부족하다. 해외입법례 분석 결과, 유럽연합은 인공지능법(AI Act) 및 디지털서비스법(Digital Services Act)를통해 투명성 의무 및 플랫폼 책임성을 강화하고 있으며, 미국은 주법 중심의 규제와 신속한 피해자구제 체계를 구축하는 등 다층적 접근을 취하고 있다. 이에 따라 본 연구는 향후 우리나라 법제 개선방향으로 ‘성적 대상화’ 개념을 중심으로 한 형사 구성요건의 명료화, 디지털 확산성을 반영한 양형기준재정립, 인공지능 생성물 워터마킹 의무화 등 기술적 투명성 확보, 해외 플랫폼에 대한 책임성 강화, 청소년 대상 예방교육 및 피해자 지원체계 고도화를 제안한다. 이러한 통합적 접근은 딥페이크 범죄의선제적 예방과 ‘디지털 사회의 공적 신뢰’ 회복을 위한 실효적 법제 설계의 토대를 제공할 것이다.

최근 딥페이크 기술을 악용한 디지털 성범죄가 급증하면서 딥페이크 멀티미디어 콘텐츠의 제작·유포 여부 추적을 위한 디지털 포렌식 분석의 중요성이 높아지고 있다. 특히 스마트폰은 딥페이크 제작 및 유포의 주요 매개체로 사용될 수 있으며 이 과정에서 생성되는 아티팩트는 수사에서 증거로 활용된다. 본 연구는 안드로이드 기반 딥페이크 제작 애플리케이션(이하 앱) 4종과 생성된 딥페이크 콘텐츠를 불특정 다수에게 유포할 수 있는 소셜 미디어 앱 3종을 대상으로 딥페이크 멀티미디어 파일 제작 및 유포 시 스마트폰 내부에 남는 아티팩트를 디지털 포렌식 관점에서 분석한다. 이를 통해 딥페이크 멀티미디어 생성에 사용된 파일과 그 결과물 파일 간의 관계를 검증한다. 이는 증가하고 있는 딥페이크 범죄에 대해 수사기관이 법적 증거를 효과적으로 확보하는 데 기여할 수 있다.

인공지능(AI) 기술의 발전으로 인해 과거에 비해 더 쉽고, 간편하게 창작활동을 할 수 있게 되었다. 이러한 기술의 발전은 창작자, 입법자, 그리고 일반 대중의 관심과 우려를 동시에 불러일으켰다. 긍정적인 측면으로, 인공지능(AI) 중 생성 AI 기술에 대한 대중의 접근이 쉽고 활발해지면서, 생성 AI 기술을 활용한 다양한 창작활동이 증가하였고, 이는 딥페이크라고 하는 새로운 분야로 등장하였다. 그러나 최근 생성형 AI를 활용한 딥페이크로 인해 발생하는 각종 범죄가 사회적 문제로 대두되면서, 이에 대한 규제의 필요성이 국제적 이슈가 되었다. 생성형 AI를 활용한 딥페이크라는 주제는 기존 법률의 어떤 한 영역에 명확하게 해당되지 않고, 딥페이크에 의해 창작된 표현물은 일부는 이를 지식재산의 한 형태로 규정하지만, 이것이 범죄에 이용된 경우 딥페이크 사용에 대한 보호는 프라이버시(초상권), 부정경쟁, 소비자 보호, 사기, 성범죄 등으로 문제가 확대되고 있다.&#xD; 또한 해외주요 국가의 법제도를 살펴 본 바 해외의 경우도 마찬가지로 아직까지는 인공지능기술을 활용한 창작물에 대한 저작권의 인정을 하고 있지 않고, 일부 국가에서는 어느 정도 여지를 남기고 있는 것으로 보이나, 구체적인 입법을 진행하고 있지는 못한 것으로 판단된다. 즉 현행 법제도 아래에서는 인공지능 기술을 활용한 창작물에 대한 법적 보호는 불가한 상황이지만, 현실은 다양한 창작물들이 나오고 있는 상황에서, 미래지향적으로 저작권제도의 개편을 생각해 볼 시점이 온 것이 아닌가라는 생각이 든다.&#xD; 생성형 AI 기술을 활용한 딥페이크가 각종 범죄가 증가함에 따라서 현재 우리나라의 경우 현재로서는 생성형 AI를 활용한 딥페이크 합성물을 직접적으로 한정하여 규제하고 있는 법률은 ‘딥페이크 영상 등’을 이용한 부정선거운동 또는 허위사실공표를 금지한 「공직선거법」뿐이고, 딥페이크 합성물은 개별 권리를 침해하는 유형에 따라 「성폭력처벌법」 또는 「청소년성보호법」과 같이 종래의 음란 합성물 또는 아동·청소년성착취물로 규율되거나, 저작권 침해 또는 부정경쟁행위로 규율되고 있다. 온라인에서 유포되는 딥페이크 합성물로 인한 권리침해에 대해서는 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」상 불법정보 유통 금지의무, 정보통신서비스 제공자의 유통 방지의무(제44조) 및 삭제요청(제44조의2), 임시조치(제44조의3) 및 자율규제(제44조의4) 제도 등의 정비를

최근 딥페이크로 제작한 가짜뉴스 또는 음란물 등이 유포되어 법적·사회적 문제를 일으켰다. 반대로 본인으로부터 허락을 받고 딥페이크를 이용하여 다른 언어로 노래를 제작하거나 사망한 배우의 목소리를 이용하여 오디오북을 제작한 사례도 있다.&#xD; 미국은 위법한 딥페이크 사용을 억제하고 새로운 시장을 활성화하기 위해 적극적으로 대응하고 있다. 이 논문은 한국과 미국의 대응 현황을 소개하고, 앞으로 한국이 인공지능이나 딥페이크 생성물로부터 퍼블리시티권을 보호하기 위해서 참고할 점을 제안하는 것을 목적으로 한다.&#xD; 위 목적을 위해 이 논문은 먼저 한국의 공직선거법과 성폭력처벌법 등을 소개하고(II), 미국 연방 및 주의 입법 대응을 소개한 후에(III), 딥페이크와 퍼블리시티권 관련 미국 판결들의 쟁점을 검토한다(IV). 그리고 한국이 딥페이크 생성물로부터 퍼블리시티권을 보호할 때, 규범적이고 기술중립적으로 접근하는 것이 바람직하다고 제언한다(V).

성폭력처벌법은 아청법과 달리 허위영상물을 ‘반포할 목적으로’ 제작하였는지 묻지 않기 때문에 사실상 당해 영상・이미지의 원본에 사소한 편집이라도 가해진 경우라면 객관적인 구성요건을 충족하게 되고, 따라서 음란물이 아닌 허위영상물로 처벌하기 위한 관건은 해당 영상・이미지가 얼마나 ‘성적 욕망 또는 수치심을 유발할 수 있는 형태’인지가 된다. 그런데 오늘날 성적 욕망 또는 수치심 유발 가능성에 대한 해석이 일관적이지 않고, 실질적인 내용에 있어서는 딥페이크 음란물과 허위영상물이 다르지 않음에도 수사상의 기술적인 문제, 특히 피해자가 특정・식별되는지에 따라 적용법조가 음란물죄가 되기도, 성범죄가 되기도 한다. 이러한 점에서 디지털 성범죄로서의 해악의 본질은 같으나 성범죄가 아닌 음란물죄로 취급되는 딥페이크 음란물, 그중에서도 실존하는 피해자와의 동일성을 인정할 수 없거나 가상의 인물을 대상으로 한 경우에 나타날 수 있는 처벌불비 및 피해자 보호 미비 문제를 지적하고자 한다. 법익침해의 성질이나 정도 보다는 피해자 특정・식별 가능성이라는 부수적인 기준으로 특정한 영상・이미지가 성범죄인지 음란물인지를 구별하게 됨으로써 억울하게 성범죄 피해자가 음란물 신고인으로 취급되는 문제를 시정하기 위하여, 성폭력처벌법 제14조의2 등의 구성요건을 충족하지 못한 딥페이크 음란물도 디지털 성범죄로 포섭할 수 있는지 검토하고, 딥페이크 음란물로 분류된 디지털 성범죄 피해자에 대한 영상물 삭제・검색차단 등 지원 서비스가 제공될 수 있도록 관련 법제 개정 방안을 논의하고자 한다.

본 논문은 가상 세계의 가상과 가상성에 대한 철학적 고찰로, 디지털 시대의 심각한 사회적 문제로 판단되는 딥페이크 성범죄에 대하여 분석한다. 딥페이크 기술은 허위와 조작을 통해 가상의 이미지를 만들어내며, 독립적인 정체성을 가지는 동시에 현실을 왜곡하고 대체하는 잠재력을 지닌다. 이러한 기술은 사실과 거짓의 경계를 모호하게 만들고 사회적, 윤리적 혼란을 초래하므로 보다 본질적이고 책임감 있는 성찰을 위해 심화된 철학적 논의가 필요하다. 따라서 본 연구는 가상성의 본질을 재조명함으로써, 가상을 실재로 규정하여 디지털 미디어 범죄의 심각성을 더욱 무겁게 받아들여야 함을 제안한다. 가상은 고중세에 잠재성과 현실화의 관계를 통해 논의됐으나, 현대 디지털 환경에서 그 의미가 축소되었다. 일부 구축된 철학적 논의에서, 가상은 현실화하는 힘으로 정의되기도 하지만 그 존재론적 지위에 관한 기술이 부족하다. 반면, 메를로-퐁티의 ‘키아즘’ 개념은 신체와 세계의 교차 관계에서 가상이 생성되는 과정과 가상에 대한 독립적이고 역동적인 실재성을 기술해 준다. 여기서 가상성은 잠재적인 경험의 근원성으로, 실재를 끊임없이 생성하고 변형시키는 내재적 운동이다. 한편, 보드리야르의 시뮬라시옹 이론은 이미지가 모방의 자격을 넘어서 원본이 되는 과정을 기술해준다. 이것은 딥페이크 이미지가 원본과의 연관성을 상실하고 초현실적 실재로 작동하는 과정을 조명함으로써, 딥페이크 기술이 사회적 위험성을 심화시키는 양상을 드러내 줄 것이다.&#xD; 결론적으로, 본 논문은 가상의 존재론적 지위를 인정함으로써 딥페이크 범죄의 실존적 파장을 주지하여, 가상 미디어 범죄에 대한 사회적 경각심을 높이는 데 기여하고자 한다. 이는 디지털 시대에 가상과 실재의 관계를 재정립하여, 특히 기술적 조작이 만들어낸 왜곡된 현실에 관한 비판적 인식을 높임으로써 새로운 사회적 태도를 정립하려는 시도이다.

인공지능기술을 활용한 정치 캠페인 활동이 점차 증가함에 따라 국내에서도 ‘AI 윤석열’과 ‘AI 이재명’ 등 생성형 AI 기반의 딥페이크(deepfake)를 활용한 정치 캠페인이 등장하였다. 본 연구는 전통적 온라인 정치광고에 비해 AI 정치광고가 가지는 설득적 효과를 검토하고, 이를 기반으로 AI 정치 콘텐츠를 제작하고 활용하는 데 있어 효과적인 방안을 제언하고자 한다. 이에 본 연구는 생성형 AI 광고의 설득적 기제를 조사하였다. 정치적 설득의 핵심 기제라고 볼 수 있는 정치인 ‘진정성’ 지각을 매개로, AI 정치광고의 시청이 (1) 메시지 신뢰도, (2) 정치인 호감도, (3) 광고 탐색 및 공유 의도에 미치는 영향을 탐색하였다. 구체적으로, AI 정치인 진정성 지각에 영향을 미칠 수 있는 요인으로 (a) 메시지 소구 유형, (b) 정치인-수용자 간 정치적 성향 일치 여부, (c) 지각된 영상의 기술적 품질 지각을 검토하고, 이들 요인에 의해 AI 광고의 설득적 효과가 조절되는지의 여부를 탐색하였다. 전국 단위의 할당표집을 통해 모집한 800명의 성인을 대상으로 2 (영상 유형: 실제 vs. AI) × 2 (메시지 소구 유형: 이성 vs. 감성) × 2 (정치적 성향 일치 여부: 일치 vs. 불일치) × 2 (정치인 유형: 이재명 vs. 나경원) 피험자 간 설계의 실험을 수행한 결과, 첫째, 이성 및 감성적 소구 메시지 간에는 AI 광고와 실제 광고 간의 진정성 인식 및 설득적 효과의 차이가 없었다. 정치적 성향 일치 여부 또한 AI 광고의 진정성 인식 및 설득적 효과를 조절하지 않았다. 반면, 지각된 기술적 품질에서는 유의한 조절 효과가 확인되었는데, 영상의 기술적 품질 인식이 높을수록, AI 광고에서(실제 촬영 광고 대비) 정치인 진정성 지각이 낮아지며, 이를 통해 메시지 신뢰도, 정치인 호감도, 광고 탐색 및공유 의도가 각각 감소될 수 있음을 확인하였다. 이 같은 연구 결과를 바탕으로, AI 정치 콘텐츠 활용에 대한 학술 및 실무적 함의를 논하였다.

생성형 AI가 대중적으로 활용되면서 제기되는 AI 윤리 문제 가운데 최근에 딥페이크 문제가 주목받고 있다. 딥페이크 음란물이 일반인들에 의해 유명인뿐만 아니라 일반인인 지인들을 대상으로 제작되어 유포되고 있을 뿐만 아니라, 딥페이크가 문화 영역을 넘어 정치 영역뿐만 아니라 경제 영역 등 전방위로 확장되어 사회 문제를 야기하고 있기 때문이다. 이에 대해 한국 사회에서는 법을 통해 대응하려는 분위기가 강하지만, 딥페이크가 초래하는 다양한 문제가 법만으로 해결이 가능한 것인지 의문이다. 딥페이크 문제에 대응하기 위해서는 법이 필요한 것은 분명하지만, 윤리 또한 필요하기 때문이다. 본 논문은 딥페이크 문제에 효과적으로 대응하기 위한 윤리 방안을 모색하고자 한다. AI 윤리 실현을 위해서는 서로 다르지만 밀접하게 연관된 윤리의 세 층위, 즉 이론 윤리 층위, 제도 윤리 층위, 개인 윤리 층위의 협업이 필요하다. 딥페이크 문제는 약한 AI 단계에서 제시되는 윤리 문제이기에 이론 윤리 층위에서 다양한 도덕 논의들이 중첩적으로 합의된 공통 도덕 논의가 적합해 보이며, 제도 윤리 층위에서는 AI 지침을 통해 딥페이크의 사회적 활용을 지도할 뿐만 아니라 소위 ‘딥페이크 윤리 위원회’를 통한 활용 계획에 대한 사회적 승인 과정을 거칠 필요가 있다. 개인 윤리 층위에서는 딥페이크가 대중화되었다는 점에서 사용자의 윤리가 필수적인데, 1인칭 관점의 규범성에 효과적인 ‘덕성 중심의 AI 사용자 윤리’가 필요하다. 이러한 세 층위의 윤리가 협업할 때, 딥페이크가 초래하는 윤리 문제를 피하면서도 사회 번영과 발전에 도모하는 윤리 실현을 이룰 수 있을 것이다.

연구목적 이 연구는 딥페이크 기술을 악용한 범죄에 대한 제도적인 대응방안을 제시하는 것을 목적으로 한다. 연구방법 이 연구는 딥페이크 관련 최근 사례와 문헌 자료를 바탕으로 딥페이크 범죄에 대한 법적 대응, 탐지 기술의 발전, 정책적 제언을 제시하였다. 결과 딥페이크 관련 범죄를 예방하기 위해서는 법적 제도의 강화, 딥페이크 탐지 기술의 고도화, 그리고 시민들의 인식 개선이 필수적이다. 또한, 딥페이크 범죄 피해자를 위한 신속한 지원이 이루어질 수 있는 시스템 구축이 필요하다. 결론 딥페이크 범죄의 확산을 막기 위해서는 법제도적, 기술적, 정책적 대응 등 다양한 정책적 접근이 필요하다.

딥러닝 기술의 발전으로 탄생한 딥페이크(Deepfake)는 인공지능(AI)을 이용해 얼굴, 음성, 영상 등의 데이터를 조작하여 실제와 유사한 콘텐츠를 만들어내는 기술이다. 초기에는 주로 영화, 광고, 게임 등에서 창의적 콘텐츠 제작을 위한 기술로 주목받았으나, 최근 들어 성범죄, 명예 훼손, 정치적 선전 등의 목적으로 악용되는 사례가 급증하고 있다. 특히 딥페이크 성범죄는 피해자의 얼굴을 음란물에 합성하여 유포하는 방식으로 이루어지며, 이는 피해자에게 심각한 정신적, 사회적 피해를 초래한다. 본 연구에서는 이러한 문제를 해결하기 위해 딥페이크 성범죄의 가해자 분석을 통한 정책적 대응방안을 제시해 보고자 한다.&#xD; 2024년 8월 말 시작된 딥페이크 성범죄 사태 이후 심각성을 인식하여 뒤늦게나마 관련 법안이 마련되었다는 점은 다행이지만, 국회가 그 심각성에 비해 부실한 내용을 담았다는 점에 우려를 표한다. 딥페이크 성범죄는 기술 발전의 어두운 측면을 보여주는 대표적인 사례로, 피해자에게 심각한 피해를 입히고 있다. 이를 방지하기 위해서는 촘촘한 법적 규제 방안, 기술적 대응, 교육 및 인식 개선, 국제적 협력 등 포괄적인 정책적 대응방안이 마련되어야 한다. 특히 국제적 공조와 이에 발맞춘 제도발전을 바탕으로 AI 기술을 활용한 예방 및 탐지 시스템을 구축하여 반인권적, 반인륜적, 반사회적 범죄인 딥페이크 성범죄에 대한 종합적인 대응책을 마련해야 한다.

오늘날 딥페이크 기술은 사생활 침해, 저작권 침해, 허위정보 유포 등 다양한 범죄와 논란의 중심이 되고 있다. 딥페이크 기술이 점차 고도화됨에 따라 일반인들이 콘텐츠의 진위 여부를 판별하는 것이 어려워졌고, 피해자 보호 및 예방을 위해서 사후 대처뿐만 아니라 사전 규제도 요구되는 실정이다.&#xD; 미국은 딥페이크 책임법안 등을 통해 디지털 워터마크 부착과 명확한 표시 의무를 규정하고 있으며, EU는 「인공지능법」을 통해 AI 생성물에 대한 식별과 허위정보 유포 규제를 명확히 하고 있다. 우리나라의 경우 개별법은 없으나 「공직선거법」과 「성폭력처벌법」으로 딥페이크 관련 범죄를 제한적으로 제재하고 있다. 그러나 딥페이크에 대한 통일된 법적 정의가 부재하고, 딥페이크 영상임을 표시하지 않을 경우에 영상의 진위여부의 식별이 불가하며, 행정기관의 관련 업무 기능들이 분산되어 있어 신속한 처리와 대응이 어렵다는 문제가 여전히 과제로 남아 있는 상황이다.&#xD; 이에 본 연구에서는 딥페이크 기술의 합법·불법 사용을 명확히 구분하기 위한 법률상 정의 규정 신설, 자동 추적이 가능한 워터마크 의무화, 범부처 협의체 구성과 국제 협력 강화를 제안하였다. 딥페이크 기술의 역기능에 집중하기보다 기술과 인류가 공존할 수 있는 균형적인 법·제도적 대응방안을 마련하는 것이 중요하다.

디지털 기술의 발전으로 딥페이크 기법은 변조된 음성을 생성하여 디지털 통신의 무결성에 심각한 위험을 초래하고 있다. 이러한 문제를 해결하기 위해 본 논문에서는 암호학적으로 안전한 워터마크를 오디오 파일에 직접 삽입하는 디지털 오디오 워터마킹 기법을 제안한다. 본 접근법은 암호화 해시 함수를 활용하여 비인가된 수정에 극도로 민감한 고유 워터마크를 생성한다. 이 워터마크는 딥페이크 조작이 발생할시, 즉시 파괴되어 변조의 명확한 표시를 제공한다. 신호 대비 잡음비 (Signal-to-Noise Ratio)과 원본과 워터마킹된 오디오의 상호 상관 (Cross Correlation) 평가 지표를 사용하여 워터마킹 시스템의 성능을 평가한 결과, 본 워터마크 방식은 높은 수준의 오디오 무결성을 보장한다. 또한 StarGAN 음성 변환, PPG 음성 변환 등 실제 딥페이크 공격에 대해 테스트를 거친 결과, 제안기법으로 워터마킹이 삽입된 음성은 딥페이크 변조 후 즉시 파괴됨을 검증했다. 본 연구 결과는 오디오의 무결성과 딥페이크 저항성을 크게 필요로 하는 미디어, 법률, 안전한 통신 등 다양한 분야에 적용 가능할 것으로 기대된다.

최근 딥러닝기반 생성형 모델들의 급격한 발전으로 인해 AI (Artificial Intelligence) 합성 음성 모델들도 사람이 합성 음성과 사람 음성을 구분하기 어려울 정도로 빠르게 발전하였고 이를 이용한 다양한 음성 생성 서비스들도 등장하였다. 그러나 이러한 최신 AI 기술을 악용하는 보이스 피싱과 투자 사기, 선거 가짜 뉴스 등이 등장하면서 AI 합성 음성을 악용하는 딥페이크 (DeepFake) 음성이 새로운 실질적 위협으로 떠 오르고 있다. 이러한 새로운 위협에 맞춰 본 논문에서는 각 국가별 법적 대응책과 이를 실현하기 위한 탐지 기술들을 상세히 분석하고 현재의 기술 수준을 알아 본다. 또한 이러한 AI 합성 음성 탐지를 우회하는 적대적 공격과 이에 대한 대응책도 소개한다. 마지막으로 실시간으로 제공되는 영상 및 음성 컨텐츠의 AI 생성 여부를 표시하는 실시간 워터마크 기술을 분석하여 AI 합성 음성을 탐지하고 표시하는 전체 대응 기술들을 소개한다.

최근 이른바 서울대 N번방 사건을 계기로 다시 주목받기 시작한 딥페이크 성범죄는 주로 텔레그램에서 성범죄물이유포되고 있는데 대학생 등 성인은 물론 초중고등학생을 합성한 성범죄물도 다수 존재한다고 알려져 사회에 큰 충격을안겨주고 있다. 경찰은 총력을 기울여 수사하고 있으며 텔레그램도 과거와 달리 적극적으로 협조를 약속하고 있다.&#xD; 또한 관련 법률도 최근 개정되었다. 그러나 대안의 하나로 주장되었던 위장수사는 결국 도입되지 않았다. 본고는 성인대상 딥페이크 성범죄에 대하여 현재 청소년성보호법에 따라 실시되고 있는 신분비공개수사와 신분위장수사의 도입여부를 검토하였다. 물론 성인 대상 딥페이크 성범죄는 아동·청소년 대상 디지털 성범죄와 죄질 면에서는 큰 차이가있다. 그러나 현실적으로 범죄자들은 두 범죄를 같이 저지르고 있으며 수사기관이 현장에서 두 범죄를 구분하기도 매우어렵다. 또한 수사기법은 매우 다양한 기준에 따라 허용된다는 점을 고려할 필요가 있다. 우선 신분비공개수사를허용하면서 신분위장수사에 있어서는 신분위장 관련 제도만을 우선 도입하는 방법이 있을 수 있다. 또한 온라인만의위장수사를 도입하는 방법도 가능할 것이다.

이 글의 목적은 딥페이크 성범죄에 대한 대안으로 제시되는 다양한 법/제도적 제안이 젠더구조의 성차별적 특성을 반영하지 않은 채로 구성되고 있는 데 대해 문제 제기하고자 하는것이다. 현재 한국에서 디지털 성범죄로 개념화되어 있는 온라인 상의 여성 대상 폭력들은 온라인은 물론 오프라인의 폭력과도 연속선상에 있다. 그러나 현재의 법규제 제도는 이를 범죄유형별로 파편화하여 다루는 문제가 있다. 또한, 온라인 괴롭힘을 근간으로 하는 딥페이크성범죄를 비롯한 다양한 온라인 폭력의 문제를 성차별의 구조적 문제로 다루지 못하고 있다.&#xD; 딥페이크 성범죄를 비롯한 기술 매개 젠더 기반 폭력의 연속성과 구조적 차원을 살펴보는 것이필요하다. 이러한 상황에서 법제도적 개선안 및 디지털 성범죄 예방 교육의 강화가 대안으로제시되지만, 이러한 한계로 이해 기술 매개 젠더 기반 폭력 문제를 개인적 책임으로만 환원할 수있는 문제를 안고 있다. 이 글은 성평등 관점에서 딥페이크 성범죄 문제에서 대응할 필요성을논의하면서, 기술 매개 젠더 기반 폭력의 문제를 다루는 인식의 전환이 필요함을 주장하였다.

본 연구는 딥페이크 기술의 발전과 그로 인한 디지털 성범죄, 특히 딥페이크 포르노 문제에 대한 예방적 대응 방안을 모색하고자 한다. 딥페이크 기술은 인공지능을 기반으로 발전했으며, 최근에는 연예인뿐만 아니라 일반인도 피해자가 되는 등 사회적 문제로 대두되었다. 본 연구는 딥페이크 범죄의 초기 징후(약신호)를 사전에 탐지하여 사회적 혼란을 예방할 수 있었는지를 분석하고, 텍스트 마이닝을 활용한 약신호 탐지 방법론을 검증하였다. 약신호 탐지는 특정 키워드의 빈도와 확산 정도를 분석해 범죄 발생 가능성을 조기에 예측하는 방법으로, 본 연구에서는 2022년 상반기부터 2024년 상반기까지의 뉴스 기사 데이터를 바탕으로 딥페이크 범죄 관련 신호를 분석하였다. 분석 결과, 딥페이크 포르노와 관련된 약신호가 '인스타그램', '도용', '포르노' 등 오늘날 딥페이크 문제 상황을 예견하는 키워드로 구성되어 있었음을 확인했으며, 이를 통해 딥페이크 포르노와 관련된 약신호를 사전에 감지할 수 있었다. 본 연구는 딥페이크 범죄와 같은 신기술 기반 범죄에 대한 선제 대응의 중요성을 강조하며, 향후 경찰과 정부 기관이 약신호 탐지 기법을 적극적으로 활용해 범죄 확산을 예방할 수 있는 정책적 기초 자료로 활용될 것으로 기대된다.

생성형 AI의 등장은 그 유익함 만큼이나 가짜뉴스의 확산에 따른 사회혼란과 누구나 딥페이크 성범죄의 피해자가 될 수 있다는 불안감을 야기하고 있다. 이러한 생성형 AI를 비롯한 인공지능기술의 부작용으로 인해 야기될 사회혼란과 불안감의 확산에 적절히 대응하기 위해 이미 세계 각국은 인공지능의 개발과 이용의 전반에 대한 법체계를 마련하거나 딥페이크 영상물등 AI로 인해 생성되는 불법콘텐츠에 개별화된 규제정책을 내어놓고 있고, 한국도 그러한 노력에 동참하고 있다. 인공지능의 개발과 이용 전반에 대한 법정책은 미국과 유럽이 다른 방향성을 보이고 있고, 한국의 경우 개별적인 문제상황이나 컨텐츠에 대해서는 비교적 적극적이고 공격적인 형사정책을 취하고 있지만 인공지능의 개발과 이용 전반에 대해서는 아직 구체적인 방향성을 정립하고 있지는 못한 상황이라고 할 수 있다.&#xD; 생성형 AI가 야기할 문제상황에 대해 위험사회의 도래를 적극적으로 주창하며 형법의 적극적 기능변화를 요구하는 의견도 적지 않지만, 아직은 자유주의적・법치국가적 형법원칙을 견지해야 하는 상황이라고 생각한다. 하지만 생성형 AI는 아직은 ‘좋은 도구’이자 기술적 수단일 뿐 그 자체로 인간을 위협할 만한 독자적인 주체가 등장하였다고 보기는 어렵고, 기술의 발전을 위해 형법은 되도록 그 모습을 드러내지 않는 것이 바람직한 상황이라고 할 수 있다. 그렇다 하더라도 생성형 AI시대에 정보 이용의 신뢰성과 긍정적 정보이용 문화의 형성을 위한 최소한 장치로 생성형 AI 생성물에 대한 표시의무의 부과와 그에 대한 제제규범의 마련은 필요할 것으로 보이고, 타인의 법익을 침해하거나 명백히 악의적인 목적으로 생성형 AI를 이용하는 악의적 이용자에 대한 사전적 형법개입은 현재 형사입법자의 경향성으로 볼 때 불가피성을 강조하며 도입될 가능성이 커 보인다.&#xD; 하지만 개별적인 측면에서 가짜뉴스에 대한 규범적 규제는, 규제의 불가피성을 주장하는 견해가 많음에도 불구하고 표현의 자유라는 법리상의 근본적 한계를 넘어서기는 어려워 보인다. 딥페이크 음란물의 경우에도 이미 개념과 규제법제가 존재하는 만큼 이를 넘어서는 형사처벌대상의 확장이 필요한 시점이라고는 보여지지 않는다. 다만 가짜뉴스의 경우에는 민관이 협력하는 기술적・정책적 대응이 필요해 보이고, 딥페이크 음란물의 경우에는 피해자보호와 적극적 수사활동을 위한 법적 방안의 정비가 요청되는 상황이라고 할 수 있다.

딥페이크는 딥러닝 기술을 사용하여 실제 인물의 얼굴이나 목소리 등을 조작해 가짜 이미지나 영상, 음성 등을 생산하는 기술을 말한다. 인공지능의 빠른 발전으로 딥페이크 기술은 더 정교해지고 이를 이용한 범죄는 늘어나고 있다. 그에 따라 딥페이크 음란물로 인한 명예훼손 역시 늘어나는 추세이다. 그런데도 딥페이크 음란물로 인한 명예훼손은 범죄라는 인식, 그리고 그것이 피해자에게 회복할 수 없는 고통을 준다는 인식과 그에 대한 교육은 변화하는 현실을 따라가지 못하고 있다.&#xD; 민사상 명예훼손의 성립요건에 관한 규정은 없지만 가해자가 딥페이크 음란물을 제작하거나 유포함으로써 피해자의 명예를 훼손한 행위가 불법행위로 평가되면, 피해자는 손해배상을 청구할 수 있고, 법원은 명예회복에 적당한 처분을 할 수 있다. 또한 피해자는 손해배상과 함께 게시물의 삭제, 게시금지 청구를 할 수 있다.&#xD; 딥페이크 기술은 엔터테인먼트 분야에서는 페이스 디에이징과 보이스 디에이징, 더빙 기술 등에 사용되고 있으며, 교육 분야에서는 과거의 역사적 인물을 되살려 피교육자와 상호 교감까지 한다. 의료 분야에서는 환자의 수술과 질병을 조기 진단하여 치료하는 데 도움을 주고 있다. 그러나 이러한 긍정적인 기술이 악용되어 딥페이크 음란물을 제작하는 범죄가 급증하고 있다. 딥페이크 음란물의 경우 딥페이크 기술의 특성상 책임 주체를 특정하기가 어렵고, 의사결정과정을 알 수 없는 불투명성이 있으며, 인터넷을 통한 빠른 확산 속도와 해외에 서버가 있는 점 등으로 인해 법적으로 규제하는 것이 어려운 문제가 있다. 현재의 법체계로는 딥페이크 음란물로 인한 명예훼손을 완전히 규제하기에는 한계가 있다. 딥페이크 기술의 악용을 방지하려면 법적, 기술적, 사회적 측면에서 종합적인 대응이 필요하다. 딥페이크 음란물 관련 규정을 단일법으로 통합하고, 독립된 관리･감독 기구를 만들고, 딥페이크 음란물의 제작자와 유포자 등에 대한 제재 규정을 명확히 해야 한다. 피해자 구제를 위한 손해배상에 관해 규정해야 한다.&#xD; 앞으로 딥페이크 기술은 더 발전할 것이며, 발전에 따른 부정적 활용 역시 증가할 것으로 예상된다. 특히, 한 번 훼손된 명예는 회복이 어려울 정도로 치명적인 피해를 남긴다. 이러한 이유로 딥페이크 음란물로 인한 명예훼손 문제는 지속적인 연구와 심도 있는 논의가 필요하다.

Research indicates that deceitful videos tend to spread rapidly online and influence people's opinions and ideas. Because of this, video misinformation via deepfake video manipulation poses a significant online threat. This study aims to discover what factors can influence viewers' capability to dis

최근 동의 없이 제작된 성적 딥페이크가 배포되고 이로 인한 사회적 폐해가 급증하면서, 성적 딥페이크에 대한 엄중한 형법적 규제를 요구하는 목소리가 높아지고 있으며, 이러한 요구에 상응하여 국회는 반포와 무관한 단순한 성적 딥페이크 제작을 형사처벌할 수 있도록 성폭력처벌법을 개정하였다. 그런데 이전까지는 단순한 성적 딥페이크 제작 그 자체는 제작자의 상상과 다를 바 없으며 별다른 법익침해를 야기하지 않아서 형사처벌의 대상으로 하는 것은 적합하지 않다고 보아왔으며, 이러한 평가를 변경해야만 하는 규범적 판단기준의 변화는 발견되지 않는다. 그렇다면 공개 내지 반포와 관련없는 단순한 성적 딥페이크 제작을 범죄행위로 규정하는 이론적 근거 내지 그것을 정당화할 수 있는 근거가 무엇인지에 대한 질문이 제기될 수 있다. 물론 최근 성적 딥페이크로 인한 사회문제가 급증하고 있으나, 그와 같은 범죄의 양적 증가가 그 행위에 대한 규범적 평가를 변경시켜야 하는 이론적 근거가 될 수는 없다. 이 글에서는 유사한 입법을 추진한 바 있는 영국의 논의, 특히 페미니스트 학자들의 관련 주장을 대상으로 반포 내지 공개와 관계없는 단순한 성적 딥페이크 제작을 범죄로 규정하고 형사처벌의 대상으로 하는 것이 정당한가의 여부를 검토해 보았다. 이 글에서는 동의 없는 단순한 성적 딥페이크 제작 그 자체만으로는 피해자는 물론 사회적으로도 별다른 해악을 야기하지도 않으며, 오히려 제작자의 사적 영역에서 이루어지는 행위를 형사처벌하는 것은 프라이버시에 대한 중대한 침해에 해당할 수 있다는 점을 논증하였다.

생성형 AI 기술이 정교해짐에 따라 빈번해지는 악의적 딥페이크 사용에 대응하기 위해 딥페이크 탐지 모델 연구가 활발히 진행되고 있다. 딥페이크 탐지 모델의 성능 평가는 학습 데이터셋 선택, 데이터셋 전처리, 학습 방법, 평가 데이터셋 선택 과정을 순차적으로 거친다. 하지만 기존 딥페이크 탐지 연구들은 각 단계마다 임의로 검증 방법론을 선택하여 논문에서의 성능이 표준화된 환경에서는 재현되지 않는 성능 평향 문제가 발생한다. 본 논문에서는 기존 딥페이크 탐지 연구의 검증 방법론을 분석하여 성능 평가의 신뢰성 저하 원인을 파악한다. 나아가 표준화된 환경에서의 실험을 통해 탐지 모델의 절대적 성능 비교에 어려움이 있음을 보여준다. 본 연구의 실험 결과는 탐지 성능 평가 신뢰성 제고와 절대적 성능 비교를 위해서는 통일된 검증 방법론이 필요함을 제시한다.

딥페이크란 인공지능 기술에 의해 합성된 이미지, 비디오, 오디오 등의 미디어로서 실제 존재하지 않거나 발생하지 않은 사건 등을 묘사한 것을 뜻하며, 창의적인 콘텐츠 문화를 만들어 낼 수 있다는 긍정적인 측면과 함께, 여론조작을 통한 민주주의에 대한 위협, 범죄에의 활용 등 여러 사회적 위험성 또한 내포하고 있다. 이 글에서는 딥페이크 기술의 악의적 활용의 위험성에 기초하여 딥페이크 기술 이용에 대한 규제방안을 검토함으로써, 우리 사회에서 이 인공지능 기술을 안전하게 이용할 수 있는 방법을 모색해 본다. 이를 위하여 딥페이크 기술을 악용하는 행위의 위험에 대하여 살펴보고, 이에 관련된 국내외 입법동향 및 딥페이크 기술 일반에 관련된 전반적인 대응 방향성을 검토하였다.&#xD; 딥페이크의 일반 규제를 위해서는 딥페이크에 대한 규제내용을 담은 기본법이 필요하며, 딥페이크의 특징인 허위성, 미디어의 파급력, 디지털 형식의 빠른 유포를 고려한 고려한 규제방식이 필요하다. 이를 위하여 딥페이크 생성물에 대한 표시강제제도 도입, 악의적 딥페이크의 유통 금지, 그 외 온라인 서비스 제공자의 의무로서 사전 모니터링 및 자율규제, 피해자 지원을 위한 신속 삭제 등이 요구된다. 이에 대한 입법 및 개발자와 온라인 플랫폼 업체의 적극적인 대응이 동시에 요구되고 있다.

이 연구는 언론 기사를 중심으로 딥페이크 기술을 활용한 범죄 경향을 분석함으로써 그에 따른 함의를 도출하는데 의의가 있 다. 빅카인즈 포털을 중심으로 2018년～2024년 7월까지 딥페이크 기술을 활용한 범죄 관련 기사를 검색한 결과 총 478건이 추 출되었으며, 연관어 분석을 통해 딥페이크 범죄의 연도별 경향을 분석하였다. 분석결과 먼저 2018년～2019년에는 인공지능 (AI) 초창기와 달리 딥페이크 기술 사용자가 일반인들을 중심으로 증가하였다는 기사와 사용 연령대 또한 다양해졌다는 기사가 주를 이루었다. 특히 딥페이크 기술이 성범죄에 주로 활용되고 있음을 지적하였다. 다음 2020년은 COVID-19 및 n번방 사건의 영향으로 딥페이크 범죄 기사량이 급증하면서 텔레그램을 통한 불법 음란물 유통과 디지털성범죄 관련 기사가 주를 이루었다. 마지막으로 2021년～2024년 최근까지의 딥페이크 범죄 경향을 살펴보면 디지털성범죄 사건이 10대 청소년들 사이에서 지속적 으로 증가하고 있다는 기사를 비롯하여 디지털성범죄가 더욱 교묘한 방법으로 성행하고 있다는 기사, 딥페이크 성범죄가 하나의 놀이문화로 전락했다는 기사, 딥페이크 성범죄의 피해 확대, 딥페이크 기술이 보이스피싱 사기에도 활용되고 있다는 기사 등이 주류를 이루었다. 이러한 분석결과를 바탕으로 딥페이크 범죄에 대한 법적‧제도적‧교육적 차원의 시사점을 제시하였다.

딥페이크 기술은 빠르게 발전하며, 한국에서 심각한 사회 문제가 되고 있다. 오픈소스를 통해 누구나 쉽게 접근할 수 있게 되면서, 특히 청소년들이 딥페이크를 악용하는사례가 증가하고 있다. 개인적 피해뿐만 아니라, 정치 캠페인에서는 상대 후보를 비방하거나 허위 정보를 퍼뜨리기 위해 딥페이크가 사용되며, 유명인을 이용한 투자 사기와같은 범죄도 발생하고 있다. 2021년 UAE와 2024년 홍콩에서 발생한 대규모 딥페이크사기 사건은 전 세계적으로 딥페이크가 큰 위협이 되고 있음을 보여주었다. 하지만, 이러한 기술의 발전 속도에 비해 법정책적 대응이 따라가지 못하고 있어 피해가 계속 증가하고 있다.&#xD; 본 논문에서는 딥페이크 범죄의 특성을 분석하고, 외국의 법정책적 대응 사례를 소개하며 국내의 법적 대응 방안을 제안하고자 한다. 현재 한국의 성폭력 처벌법과 공직선거법 등 일부 법률에서 딥페이크 범죄를 다루고 있으나, 일반인들이 딥페이크를 구별하기 어려운 점이 문제로 작용하고 있다. 이에 본 논문에서는 워터마크와 메타데이터 의무화 제도의 도입을 제안하며, 딥페이크 범죄에 대해 보다 강력한 처벌이 가능하도록 법적 개정이 필요성을 제안한다. 또한, 2019년 미국 딥페이크 책임법과 애리조나주의 딥페이크 사기 법안 등을 통해 시사점을 제시하고, 한국 사회에서 딥페이크 신종 범죄에 대한 효과적인 법적 대응 방안을 모색하고자 한다.

최근 딥페이크 기술을 활용하여, 위조된 영상이나 이미지가 온라인상에 배포되면서, 긍정적인 면으로는 단순히 재미와 유머를 목적으로 사용하여 배포되고 있다. 그러나 기존의 딥페이크 관련 연구에 대한 분석과 문제점은 다양한 측면에서 나타낸다. 이러한 문제점 중에서도 딥페이크 기술이 진화하면서 탐지 기술도 이에 맞춰 발전하지만 여전히 완벽한 탐지는 힘들다는 점과 데이터 부족, 영상 데이터를 오인하여 반대의 결과를 나타내거나 실시간 처리가 어렵다는 점이다. 이에 본 논문에서는 딥페이크 영상 기반으로 위조 영상 판별 연구를 제안한다. 본 논문에서 일반 영상 데이터와 생성한 딥페이크 영상을 사용하여 판별 모델에 사용한다. 판별 모델은 프레임 분리, 이미지 프레임을 추출하여 얼굴인식 기술과 검출, 조정, 마스크 생성 과정을 실행한다. 이에 본 논문의 결과를 활용하여 위조된 영상으로 받는 2차 피해를 막을 수 있을 것이라 사료한다.

딥페이크는 이미지나 영상에서 특정 사람의 얼굴을 다른 사람으로 대체하는 딥 러닝 기술, 또는 이 기술을 이용해 생성한 가짜 이미지나 영상을 지칭한다. 딥 러닝 기술이 널리 보급되면서 딥페이크 기술에 대한 접근성이 높아졌고, 결과적으로 이를 악용한 범죄도 증가하고 있다. 이에 따라 효과적인 딥페이크 탐지 기술의 필요성이 점점 더 커지고 있다. 딥페이크 생성은 주로 신원 교체와 표정 재연이라는 두 가지 방식으로 이루어지는데, 기존의 탐지 기술은 딥페이크가 어떤 방식 으로 생성되었는지에 따라 탐지 성능의 편차를 보인다. 본 연구에서는 딥페이크 탐지 모델의 성능 편차를 줄임으로써 기존 방법론들의 한계를 보완할 수 있는 연구를 제안하고자 하였다. 제안하는 모델은 먼저 영상을 프레임 단위의 이미지들로 자른 다음, 딥페이크의 주된 대상 영역인 얼굴 부분과, 일종의 지역 정보라고 할 수 있는 입 부분을 각각 추출하여 멀티스케일 특성으로 활용한다. 각 특성을 서로 다른 비전 트랜스포머 구조에 입력한 다음, 출력되는 예측 결과들을 종합하여 동영상이 딥페이크인지 아닌지를 효과적으로 판단하게 된다. 특히, 얼굴 부분은 신원 교체 방식으로 생성된 딥페이크를 대응하는 데 도움이 되고, 입 부분은 표정 재연 방식의 딥페이크를 대응하는 데 도움이 되기 때문에 모델은 서로 다른 딥페이크 생성 방식에 대한 강건성을 갖게 된다. 제안하는 방법론을 두 개의 데이터셋에 대해 실험한 결과, 상대적으로 높은 탐지 성능과 함께 다양한 딥페이크 생성 방식에 대해 보다 범용적으로 대응할 수 있는 가능성을 확인하였다.

Digitally manipulated images that are realistic-looking but fake, which are known as Deepfake. With the remarkable developments in deep generative models, the accessibility and accuracy of manipulated technologies are increasing, leading to fake videos becoming increasingly difficult to identify. Different facial forgery techniques result in complicated data distributions, but Deepfake detection techniques based on CNN(convolutional neural network) architecture are utilized in the majority of Deepfake de tection models as binary classification problems. In this paper, we propose a model, named MEViT, which uses a combination of EfficientNet Vision Transformer with a meta-learning-based technique to improve the generalization of the detection model. Furthermore, we propose a learning process to update the model and introduce pair-discrimination loss and domain adjustment loss to improve detection ability across various domains. We also create various experiments on several Deepfake datasets and com pare our proposal with many state-of-the-art works to prove the efficiency of our approach.

특허제도는 기술에 대한 윤리적 가치판단이 아닌, 기술이 갖는 효용을 판단함으로써 기술중립적 견지에서 심사하게 된다. 인공지능 기술의 발전은 사회적인 현상까지도 이끌고 있다. 인간에 의한 창작이, 기술에 의한 창작으로 주도권이 넘어가고 있는 모습도 보인다. 그렇지만, 기술은 선의로 개발되었다고 하더라도 그 이용과정에서 악용되는 경우도 있다. 기술에 의한 창작으로서 합성데이터 생성기술인 GAN 알고리즘을 이용한 딥페이크가 대표적이다. GAN 알고리즘을 악용하여 타인의 초상이나 음성을 음란물에 덧대어 거짓의 정보를 생성함으로써, 타인의 명예를 훼손하는 경우이다. 정치인의 경우에는 선거에 악용됨으로써, 여론을 호도하기도 한다. 이러한 부정한 이용을 포괄하는 딥페이크에 대해 성폭력 특별법이나 공직선거법 등 다른 법률을 통해 규제가 가능하지만, 원천적인 규제가 되기 어렵다. 또한, 지속적이고 반복적인 생성이 가능하기 때문에 인터넷서비스제공자(ISP)를 통한 삭제 등의 대응도 쉽지 않다. 이러한 이유가 기술관련 법제인 특허법의 적용가능성에 대한 고민하게 된 배경이다. 악의적인 사용으로 사회문제화 되고 있는 딥페이크 기술이 특허법상 공서양속에 위배되는 지에 대해 살펴보는 것은 의미있는 일이다. 구체적으로는 딥페이크 기술에 대한 심사과정이나 등록후에 공서양속 규정에 따라 대응할 수 있는지에 대해 살펴본다. 다만, 기술에 대한 가치판단은 중립적이어야 한다는 입장을 유지하면서 고찰하였다는 점을 밝힌다.