논문 8,399편

기존 추천 시스템은 사용자가 과거에 선호한 아이템과 유사한 상품만을 반복적으로 추천하는 필터 버블(Filter Bubble) 문제를 야기한다. 이는 기존 추천 시스템의 성능 평가가 지나치게 정확도 중심으로 이루어졌기 때문이며, 정확도와 다양 성 간의 상충 관계로 인해 필터 버블 현상은 추천 시스템 연구 분야의 난제로 인식되어 왔다. 이에 본 연구에서는 아이템 추천 모델과 카테고리 추천 모델을 통합하여 다양한 후보를 선정하고, 두 가지 임베딩 정보를 활용하여 거대 언어 모델 (Large Language Model, LLM) 기반 재 순위화를 수행하는 다면적 임베딩 통합 방법론(Multi-Faceted Embedding Integration)을 제안한다. 제안 방법론은 카테고리 선호도에 따라 후보군을 균형있게 구성한 후, 아이템 임베딩과 카테고리 임베딩을 프로젝터를 통해 변환하여 LLM 프롬프트에 주입하고 버벌라이저로 최종 순위를 도출한다. Amazon Toys & Games 데이터셋을 활용한 실험 결과 제안 방법론은 N-다양성 데이터셋에서 Recall@10 기준 LlamaRec 대비 45%, LRURec 대비 56%의 성능 향상을 보였으며, 전체 데이터셋에 대해서도 필터 버블을 고려한 기존 추천 모델보다 높은 정 확도를 나타냈다. 결론적으로 본 연구에서 제안한 다면적 추천 시스템은 높은 수준의 정확도를 유지하면서도 아이템 추천 의 다양성을 확보함을 확인하였으며, 이를 통해 전자상거래 플랫폼의 사용자 경험 개선과 상품 다양성 확보에 기여할 수 있을 것으로 기대된다.

본 연구는 개인화 알고리즘으로 인한 필터버블과 확증편향 문제를 조명하기 위해, 사용자의 생체 신호를 실시간 분석하여 편향 기제를 시각화하는 인터랙티브 시스템 ‘버블 유니버스’를 설계·구현하였다. 제안 시스템은 Unity와 OpenCV 기반의 표정 인식 모듈과 아두이노 아날로그 센서(DM439)를 활용한 호흡 감지 모듈을 통합하여, 감정 및 호흡 변화에 따라 정보 노출이 선택적으로 왜곡되는 과정을 구현한다. 전시 관람객 51명을 대상으로 한 사용자 평가에서 표정 인식 정확도는 90.2%, 호흡 인터랙션 반응성은 전체 긍정 응답을 기록하였으며, 전체 응답자의 92.2%가 확증편향에 대한 메타인지적 인식을 경험했다고 응답하였다. 이러한 결과는 생체 신호 기반 인터랙티브 인터페이스가 추상적인 인지 편향 개념을 정량적·경험적으로 전달하는 데 효과적임을 보여준다.

유튜브를 통한 정치뉴스 이용이 확대되면서, 알고리즘 추천에 기반한 정치 콘텐츠 소비가 이용자의 필터버블과 확증편향을 강화하고 정치적 양극화 및 대인관계 갈등으로 이어질 수 있다는 우려가 제기되어 왔다. 본 연구는 이러한 문제의식을 바탕으로 유튜브 정치뉴스 추천서비스 이용이 확증편향 및 정서적 양극화를 거쳐 정치적 이견회피 행동으로서의 소셜미디어 언프렌딩과 실생활 언프렌딩에 어떠한 방식으로 연결되는지를 분석하였다. 이를 위해 2024년 제22대 총선 전후로 실시된 <선거 관련 콘텐츠 인식 및 소비행태 조사> 패널 데이터 중 유튜브 정치뉴스 이용자로 정서적 양극화를 보고한 175명을 대상으로 직렬 다중매개모형을 추정하였다. 분석 결과, 유튜브 정치뉴스 추천서비스 이용은 확증편향과 유의한 정적 관련성을 보였다. 그러나 확증편향이 정서적 양극화를 거쳐 소셜미디어 및 실생활 언프렌딩으로 이어지는 직렬 매개경로는 확인되지 않았다. 또한 소셜미디어 언프렌딩에 대한 직접효과와 간접효과는 유의하지 않았다. 반면 실생활 언프렌딩의 경우, 유튜브 정치뉴스 추천서비스 이용이 확증편향을 통해 실생활 언프렌딩으로 이어지는 간접경로가 유의하게 나타났다. 이러한 결과는 유튜브 정치뉴스 추천서비스 이용이 정서적 양극화나 온라인 관계 단절로 자동적으로 이어진다고 보기보다는, 확증편향이라는 인지적 경로를 중심으로 실생활의 정치적 이견회피와 제한적으로 연결될 수 있음을 시사한다. 본 연구는 알고리즘 기반 정치뉴스 이용의 효과를 단선적인 필터버블 강화 논리로 일반화하기보다, 확증편향, 정서적 양극화, 관계 회피가 서로 구분되는 수준의 정치커뮤니케이션 현상임을 보여준다는 점에서 의의를 갖는다.

본 연구는 확증편향이 부정선거 인식에 미치는 영향을 분석하고 정치 지식의 조절효과를 검증한다. 기존 연구가 개인 성향이나 정치적 요소에 주목해 온 것과 달리, 본 연구는 부정선거 관련 정보가 수용되는 과정에서 작동하는 인지적 기제에 주목하였다. 제21대 대통령 선거 관련 데이터를 분석한 결과, 확증편향은 중국 개입설, 투개표 불신, 부정선거 가능성 검증 등 다양한 부정선거 인식을 일관되게 강화하는 것으로 나타났다. 반면, 정치 지식은 대체로 독립적으로 부정선거 인식을 완화하는 방향으로 작용하지만, 확증편향과의 상호작용에서는 맥락에 따라 그 효과를 완화하거나 강화하는 상이한 양상을 보였다. 본 연구의 경험적 결과는 극단적인 정치 메시지와 추천 알고리즘이 결합된 현재의 정치 정보 환경에서 확증편향이 더욱 강화될 수 있음을 시사한다. 또한 정치 지식이 이러한 편향을 완화하는 조건으로 작용할 수 있다는 점에서, 위축된 민주시민교육을 재활성화할 필요성을 제기한다.

본 연구는 2026년 3월 형법 제123조의2(법왜곡)의 신설과 2026년 10월 중대범죄수사청의 출범 등 역사적인 사법체계의 전환기를 맞이하여, 시민과 최접점에 있는 경찰 수사단계별 법왜곡의 유형을 실증적으로 규명하고자 하였다. 수사 초기 단계에서는 명백한 법령 위반이나 ‘자의적인 법령 해석’보다, 편향된 가설적 추론에 예단이 고착되어 발생하는 ‘사실인정 단계의 왜곡’ 형태로 발현됨을 확인하였다. 구체적으로 도출된 수사단계별 법왜곡의 발생 유형은 다음과 같다.
 첫째, 입건 전 조사 단계에서는 형사사법정보시스템(KICS) 정식 등록 전의 사각지대를 이용하여 단속 정보나 핵심 물증을 의도적으로 은폐･누락하는 부작위적 사실왜곡, ‘일몰제 지침(장기사건 수사종결제도)’을 이용한 조사 지연 및 불입건, 독립된 별개의 범죄혐의를 단일 사건으로 취급하여 공람종결하는 행위가 발생한다. 둘째, 수사 진행 단계에서는 피의자를 특정하고도 관리미제사건으로 처리하여 사건을 암장하는 행위를 비롯해 조서 작성단계에서는 ‘진술유도형 사실왜곡’, ‘선별기록형 사실왜곡’, ‘문답재구성형 사실왜곡’이 집중적으로 나타나며, 유죄 증거의 과대평가 및 무죄 증거의 평가절하를 통한 기록배제 행위가 동반된다. 셋째, 수사 종결 및 법적 평가 단계에서는 독자적인 수사종결권 권한을 남용하여 가중처벌 조항의 적용을 회피하거나 무리하게 축소･확장시키는 ‘구성요건의 자의적 해석’, 형사사건임에도 이를 축소 해석하여 개인 간의 민사분쟁으로 규정하는 ‘형사사건의 민사분쟁화’ 등 행위로 나타난다. 결국, 경찰 수사단계의 법왜곡은 단일 행위가 아니라 사실확정과 법령적용의 양 측면이 서로 긴밀하게 결부하며 맞물려 돌아가는 ‘상호순환식 구조’를 지닌다.
 본 연구에서 제시한 경찰 수사단계별 법왜곡의 유형은 행위자가 내면의 고의를 완강히 부인하더라도 현행 법왜곡죄의 핵심 주관적 구성요건인 ‘타인에게 위법 또는 부당한 이익을 줄 목적’ 및 ‘타인에게 권익을 해할 목적’과 고의성을 객관적으로 추단해낼 수 있는 실무적 판단 지표로 기능할 것이다.

본 연구는 12,3. 비상계엄 국면에서 부정선거 음모론이 공동체와 민주주의에 어떤 위협을 가했는지 분석하고, 이러한 허위담론이 확산된 경로로 보수 정치 유튜브 채널 시청의 영향력을 살펴보았다. 구체적으로, 본 연구는 보수 정당 지지자들을 대상으로 부정선거 음모론이 정치적 상대 진영에 대한 비호의적 감정과 적대적 위협 인식을 심화시키고, 나아가 위헌적 계엄 및 사법부 위협과 같은 반민주적 행위에 대한 지지를 강화하는지 여부를 분석하였다. 또한 이러한 부정선거 음모론에 대한 믿음이 보수 성향 정치 유튜브 채널 시청에 따라 유의하게 증가하는지를 검토하였으며, 구조방정식모델링 분석을 통해 보수 정치 유튜브 채널 이용이 부정선거 음모론에 대한 신뢰를 매개로 정치적 상대 집단에 대한 부정적 인식과 반민주적 태도 지지로 이어지는 간접적 영향 경로가 유의하게 작동하는지를 탐색하였다. 일련의 다중회귀분석 결과, 부정선거 음모론에 대한 믿음은 인구통계학적 변인, 정치관여도 변인, 뉴스 미디어 이용 변인을 모두 통제한 이후에도 정치적 상대 집단에 대한 비호의적 감정 및 위협 인식, 사법부 위협에 대한 정당성 인식, 계엄에 대한 정당성 인식과 비교적 강한 정적 관계를 보였다. 부정선거 음모론에 대한 믿음은 보수 성향 정치 유튜브 이용 수준이 높을수록 유의하게 증가한 반면, 진보 언론 이용 수준이 높을수록 유의하게 감소하는 경향을 보였다. 구조방정식모델링 분석 결과, 부정선거 음모론은 보수 정치 유튜브 채널 이용과 진보 언론 이용이 정치적 상대 진영에 대한 부정적 감정과 반민주적 태도 지지에 미치는 정적 또는 부적 영향을 유의하게 매개하는 것으로 나타났다. 본 연구 결과를 바탕으로, 가짜뉴스 음모론과 이를 확산시키는 유튜브 채널에 대한 제도적 규제 방안의 필요성과 함께 이러한 정보가 초래하는 부정적 효과를 예방하고 완화하기 위한 대응 전략 개발의 필요성을 논의하였다.

본 연구는 22대 국회의원 선거 이후부터 2024년 비상계엄 사태 기간에 걸쳐 유튜브 플랫폼에서 뉴스를 표방하지 않는 부정선거 음모론을 다루는 영상들을 분석하였다. 이를 위해 2024년 4월 1일부터 12월 11일까지 게시된 부정선거 관련 유튜브 영상 474개와 댓글 64,548개를 수집하여 내용을 기준으로 음모론, 반-음모론, 혼합 그룹으로 분류하고 키워드 빈도, 네트워크 중심성, SBERT 모델을 활용한 텍스트 임베딩과 다층 선형 모델을 통해 분석을 시행하였다. 분석 결과, 음모론에 동조하는 영상이 전체의 90.08%를 차지하고 관련 댓글 작성자의 97.64%가 음모론 영상만을 시청하는 등 수집된 영상들은 음모론 지지 방향으로, 압도적으로 편향되어 있음을 확인하였다. 음모론 시청자와 반-음모론 시청자 그룹은 모두 유사한 소통구조를 보였지만, 의미 구조에서 차이를 보였다. 음모론 시청자는 수사, 선관위 등 구체적 행위를 요구하였으나, 반-음모론 시청자 그룹은 음모론자 극우 등 부정선거 주장 자체를 음모론으로 규정하는 구조를 보였다. 텍스트 임베딩과 코사인 유사도를 통한 검정 결과 응집된 정도 또한 음모론 시청자 그룹은 혼합 그룹에 비해 통계적으로 유의미하게 높은 응집도를 보였다. 음모론 영상의 제목 키워드와 댓글 키워드 간에 정적 상관관계(r=0.49)가 나타났으며, 이는 사회적 선택에 의한 결과임을 시사한다.

이 연구는 부정선거 음모론이 극우 개신교를 매개로 확산되는 현상을 이론적으로 해명하는 것을 목표로 한다. 연구자는 음모론에 대한 신뢰를 단순한 인지적 오류나 광신적 신앙의 산물이 아니라 권력의 효과로 이해하며, 이를 분석하기 위해 푸코의 진리-권력-주체 논의와 위어(Weir)의 진리 공식 개념을 이론적 틀로 삼는다. 또한 세이브코리아 국가비상기도회 사례를 이론적 틀에 적용하여 이 연구는 부정선거 음모론의 핵심 구조가 상징적 진리 공식을 따르며, 해당 담론이 종교적 장치와 결합할 때 그 효과가 강화됨을 논증한다. 나아가 이를 통해 구성되는 극우 개신교 주체성은 표면적으로는 진실 말하기의 형식을 취하지만, 자기성찰의 가능성이 구조적으로 봉쇄된다는 점에서 푸코가 말한 미학적 주체화와 근본적으로 구별됨을 밝힌다. 이러한 분석은 탈진실 시대에 종교를 매개로 생산 및 유통되는 음모론에 대한 비판적 개입이 단순한 사실 교정에 머물 수 없음을 보여주며, 진리가 작동하는 방식과 그것이 산출하는 주체화 양식을 문제화하는 데서 출발해야 함을 주장한다.

본 연구는 후쿠시마 처리수 방류를 둘러싼 음모론 신념의 형성 과정을 이해하기 위해 매스 미디어가 아닌 소셜 미디어 노출과 대인 커뮤니케이션의 역할을 분석했다. 특히 미디어 효과 모형인 O-S-O-R 모형을 기반으로 개인의 심리적 동기가 음모론 관련 정보에 대한 선택적 노출을 가져오고, 개인의 정서적 반응인 불안을 매개로 음모론 신념에 영향을 미치는 과정을 검증했다. 또한 이 과정이 개인을 둘러싼 사회적 관계망의 구조적 특성에 따라 어떻게 달라지는지 살펴보기 위해 관계의 강도, 네트워크 밀도, 네트워크 규모의 조절 효과를 함께 분석했다. 이를 통해 음모론 신념의 형성이 단순한 심리적 동기에 따른 정보 노출의 결과가 아니라 사회적 맥락 속에서 형성되는 복합적 과정임을 밝히고자 했다. 한국 성인 패널을 대상으로 한 2차 종단 데이터 분석 결과 소셜 미디어를 통한 음모론 노출 및 관련 대인 커뮤니케이션은 모두 불안과 양의 상관관계를 보였으며, 이런 불안이 음모론 신념을 강화하는 매개효과가 나타났다. 또한 관계 강도와 네트워크 밀도는 음모론 노출이 불안을 통해 신념으로 이어지는 경로의 강도와 방향에 유의한 영향을 미쳤다.

본 연구는 생성형 AI(Generative AI) 시스템의 확산과 함께 증가하는 보안 취약점과 규제적 대응의 필요성을 종합적으로 고찰한다. 대규모 언어모델(LLM), 검색증강생성(RAG), 딥페이크 기술을 중심으로 주요 보안 위협을 유형화하고, 이러한 취약점이 기술적⋅사회적 차원에서 초래하는 복합적 위험을 분석하였다. 분석 결과, 프롬프트 인젝션, 학습데이터 오염, 모델 추출, 개인정보 노출, 벡터 임베딩 역공격 등은 생성형 AI 생태계 전반에서 반복적으로 발생하는 핵심 위험이며, 특히 RAG 구조에서는 외부 데이터베이스의 취약성이 연쇄적 정보 노출로 이어질 가능성이 크게 나타났다. 딥페이크 기술은 금융사기⋅여론 조작⋅선거 개입 등 사회적 신뢰를 훼손할 수 있는 고위험 영역으로 평가되었다. 규제 분석에서는 미국⋅EU⋅한국의 정책체계를 비교해 AI 콘텐츠 표시, 딥페이크 규제, 위험기반 접근 등 규율 방식의 차이를 확인하였다. EU는 AI Act를 통해 포괄적 규율 체계를 마련한 반면, 미국은 문제별 분산형 법제, 한국은 AI 기본법 기반의 초기 단계 규제 체계를 갖추고 있는 것으로 나타났다. 이를 바탕으로 본 연구는 기술적 보호조치(데이터 최소화, 출력 검증, 동형암호 기반 개인정보 보호 등)와 법⋅제도적 조치(표시 의무화, 플랫폼 책임 강화, 국제 공조)의 통합적 보안 거버넌스를 제안한다. 본 연구는 생성형 AI 보안 위협을 단일 기능적 결함이 아닌 다층적 공격 벡터로 이해하고, 기술적 방어와 규제적 대응을 결합한 정책 방향을 제시함으로써 안전하고 책임 있는 AI 생태계 구축을 위한 분석틀을 제공한다.

딥페이크(deepfake)는 인공지능(AI)을 활용하여 실제 인물의 이미지, 영상, 음성을 합성·편집한 가짜 콘텐츠를 의미한다. 기존 합성물과 달리 제작이 쉽고 결과물이 실제와 거의 구분되지 않아, 빠르고 대량으로 유포될 위험이 있다.
 국내에서는 「공직선거법」과 「성폭력범죄의 처벌 등에 관한 특례법」 등을 통해 딥페이크 범죄를 규제하고 있다. 특히 선거 관련 딥페이크 영상 제작·유포는 최대 7년의 징역형에 처해질 수 있으며, 2024년 발의된 성폭력범죄 관련 개정법안은 연예인 등 유명인을 대상으로 한 허위 음란물 제작과 유포를 처벌 대상으로 포함하고 있다. 최근 경찰에 접수된 사건은 921건, 검거된 피의자는 474명으로, 이 중 약 80%가 10대였다.
 국외에서는 미국, 독일, 영국, EU 등이 딥페이크 규제 및 피해자 보호를 위한 법률과 지침을 마련하고 있다. 미국은 NO FAKES 법안과 DEEPFAKES Accountability Act 등으로, EU는 디지털서비스법과 AI 법안을 통해 합성 콘텐츠의 공개·감지 의무를 부과하며, 위반 시 막대한 벌금을 부과한다.
 딥페이크는 사기, 투자사기, 보이스피싱, 정치 선거 허위 정보, 명예훼손, 초상권 및 저작권 침해 등 다양한 범죄에 활용된다. 사례로, 유명인을 사칭한 투자사기와 정치인 발언을 조작한 선거유포 영상 등이 있으며, 상업적 이용 시 퍼블리시티권과 저작권 문제도 발생하고 있다. 이에 본고에서는 신종 화이트칼라범죄 중 딥페이크범죄를 중심으로 관련 법령과 제도를 살펴보고, 딥페이크범죄의 예방을 위한 법제의 개선방안을 제안해 보고자 한다.

이 글에서는 이른바 ‘딥페이크 증거’항변에 관하여 판시한 최근의 하급심판결을 필두로 조만간 도래할 것으로 예상되는 딥페이크 증거 및 항변의 범람 사태에 대비하여우리 형사소송법의 증거법적 규율 수단은 무엇인가, 현재의 규율로 충분한가 아니면별도의 입법 등 대책이 필요한가 등에 관하여 최근 미국에서 전개된 연방증거규칙 개정논의 및 그로부터의 시사점을 중심으로 검토를 진행하였다. 과학기술의 발전과 맞물려 디지털증거는 형사재판에서 사실인정의 정확성을 제고하는 데에 크게 기여하였으나, 디지털 증거에 크게 의존하는 오늘날의 형사재판에서 역설적으로 인공지능의범용화 및 딥페이크 기술의 발전과 결합하면서 형사재판의 적정한 기능과 존립을 위협하고 있다. 생성형 인공지능의 대중화 및 딥페이크의 범람은 형사법정에 현출된 모든 증거에 대한 신뢰의 기반을 뒤흔들고, 나아가 기존의 형사증거법적 규율에 대한전면적인 재검토의 필요성을 제기한다. 무엇보다도 우리 형사소송법에 증거능력의일반적 요건으로서 증거의 진정성에 대한 규율이 부재한 점, 그리고 증거법의 규율에있어 증거능력과 증명력의 이원적 구조를 전제하면서도 각 판단 절차를 분리함이 없이 하나의 절차에서 양자 모두를 함께 판단하도록 규율된 점은 딥페이크에 대한 대응을 결정적으로 어렵게 하는 대목이다. 현행 형사소송법에 내재된 이와 같은 구조적문제점으로 인하여 실정법 규정 및 그에 대한 대법원의 해석만을 통해서 딥페이크 증거가 초래하는 문제상황을 극복하는 데에는 한계가 있는 만큼, 딥페이크 증거 제출및 관련 항변의 일상화에 시의적절하게 대응할 수 있도록 현행 형사증거법제의 미비에 대한 입법적 개선이 조속히 논의될 필요가 있다. 이에 미국의 연방증거규칙 및 그에 대한 최근의 개정 논의는 딥페이크의 범람으로부터 형사재판의 기능을 보호·유지하는 데 필요한 형사소송법상 제도를 안출 및 정비함에 있어 우리에게 유용한 시사점을 제공하여 준다.

딥페이크 기술은 허위 정보 확산과 보안 위협을 초래하며, 이에 대한 탐지 기술의 중요성이 커지고 있다. 기존 연구가 정확도 향상에 집중한 반면, 데이터셋 규모와 파이프라인 구성에 따른 성능, 효율성의 균형은 충분히 논의되지 않았다. 본 연구는 Baseline, DiskCache, TFRecord 세 가지 파이프라인을 50만, 25만, 5만 장 데이터셋에서 비교하고, MobileNetV2 모델을 동일한 환경에서 학습하여 성능 지표와 학습 효율성을 분석하였다. 실험 결과, TFRecord는 정확도와 속도, 안정성 측면에서 균형을 이루며 가장 실용적인 파이프라인으로 확인되었다. 본 연구는 데이터 파이프라인 설계의 중요성을 강조하며, 향후 전처리 최적화, 도메인 일반화, 시스템 확장 연구를 제안한다.

본 연구는 2019년부터 2025년까지 KCI에 등재된 딥페이크 관련 논문 207편을 분석하여 학문 주제 분야별 연구 동향을 파악하고, 비교·분석하기 위해 메타데이터 분석과 제목 키워드 네트워크 분석을 수행하였다. 연구 결과, 법학과 공학 분야가 전체의 약 67%를 차지하고 있었으며, 교육학 분야와 윤리·철학 분야의 연구는 각 2편에 불과했다. 학문 분야별 차별된 주요 키워드는 법학 분야는 범죄, 아동, 청소년, 피해자, 규제, 책임 등이, 공학 분야는 탐지, 모델, 개발, 위협, 보안 등이, 사회과학 분야는 교육, 윤리, 대응, 과제, 민주주의 등이, 미디어·복합 분야는 콘텐츠, 배우, 연기, 허위, 침해, 전환 등으로 나타났다. 이를 통해, 우리나라의 딥페이크 관련 연구는 교육과 예방의 관점보다는 법적 규제와 기술적 탐지의 관점에서 주로 이루어지고 있음을 확인하였다. 연구 제언으로 향후에는 디지털 리터러시의 관점을 넘어선 윤리 교육, 학문간 연계를 통한 융합 교육 모델 등 디지털 시민성 함양과 인간 중심의 디지털 면역력을 기르기 위한 연구가 필요함을 제시하였다.

인공지능(AI) 기술의 급속한 발전은 의사결정이나 노동 영역을 넘어 인간의 감정과 친밀한 관계 영역으로까지 확장되고 있다. 특히 대화형 AI와 생성형 모델의 발전은 사용자가 AI 페르소나와 감정적 유대를 형성하거나 로맨틱한 관계를 맺는 현상을 가능하게 하였으며, 이는 이른바 ‘AI 매개 로맨스(AI-mediated romance)’라는 새로운 사회문화적 현상으로 등장하고 있다. 그러나 이러한 현상을 단순히 개인의 선택이나 디지털 문화의 일부로 보는 시각만으로는 그에 수반되는 법적 위험을 충분히 설명하기 어렵다.
 본 연구는 AI 매개 로맨스와 딥페이크 기반의 감정적 관계가 플랫폼 설계, 알고리즘적 상호작용, 정보의 비대칭성에 의해 감정적 애착이 구조적으로 형성, 강화되는 현상임을 논의한다. 특히 AI 페르소나가 실제 인물을 모델로 하거나 딥페이크 기술과 결합될 경우, 인격권(정체성권, 사생활권, 정보자기결정권 등)의 침해로 이어질 수 있으며, 이러한 피해는 누적적이고 비가시적인 형태로 나타나 피해자나 제3자가 인식하거나 법적으로 문제를 제기하기 어렵다는 점을 지적한다.
 또한 본 논문은 계약 및 약관규제, 개인정보보호법, 형법 등 현행 법체계가 개별적 행위나 명시적 불법성, 유형적 손해를 전제로 하고 있어, 플랫폼 기반 서비스에서 구조적으로 유발되는 감정 의존성과 책임의 분산 문제를 적절히 다루지 못하고 있음을 분석한다.
 나아가 이러한 책임 공백(accountability gap)은 집중된 통제력, 책임 회피, 피해의 외부화와 같은 구조적 부패 위험을 초래할 가능성이 있음을 지적하며, 디지털 환경에서 AI 기반 감정 관계에 적합한 법적 책임 기준과 규제 접근의 재구성이 필요함을 강조한다.

딥페이크 영상은 인물의 얼굴을 AI로 합성하는 기술로, 온라인 정보의 신뢰성을 위협하는 사회적 문제로 부각되고 있다. 본 연구는 모바일·엣지 환경에서 활용 가능한 두 가지 경량 탐지 모델을 제안한다. MobileNetV2+Bi-LSTM은 경량성과 실시간성에 중점을 두었고, MobileNetV3+Bi-LSTM은 정확도 향상을 목표로 한다. 두 모델은 CNN 기반 시각적 특징과 Bi-LSTM 기반 시간적 일관성을 동시에 학습하며, Celeb-DF v2 데이터셋과 ‘Golden Frame’ 전처리, AMP 최적화를 적용하였다. 실험 결과, MobileNetV2+Bi-LSTM은 정확도 96.64%, F1-score 0.9812, AUC 0.9631을 달성했으며, MobileNetV3+Bi-LSTM은 정확도 97.27%, F1-score 0.9842, AUC 0.9937로 더 높은 탐지 성능을 보였다.

최근 딥페이크 고도화에 따른 탐지 모델의 일반화 성능 확보를 위해, 본 연구는 RGB와 DCT 기반 주파수 단서를 교차 어텐션으로 융합하는 이중 스트림 모델 ER-FusNet을 제안한다. 본 모델은 전역 시각 정보를 추출하는 EfficientNet과 주파수 영역의 미세 변조 흔적을 분석하는 RepLKNet을 결합하여 특징 간 상보적 시너지를 극대화한다. 교차 데이터셋 실험 결과, Celeb-DF v2 등에서 0.92~0.99의 F1 스코어를 달성하였으며, 실제 환경인 WildDeepfake에서는 단일 스트림 대비 F1을 0.53에서 0.65로 약 12% 향상시키며 범용적 탐지 역량을 입증하였다. 이는 공간·주파수 도메인의 적응적 융합이 미학습 데이터에 대한 강건성 확보의 주요 기제임을 시사하며, 진화하는 딥페이크 위협에 대응하여 탐지 신뢰성을 높이는 데 기여할 수 있음을 보여준다.

최근 음성 합성 및 변조 기술의 급속한 발전으로 인해 딥페이크 음성을 악용한 보이스 피싱, 사기, 신원 도용 등의 위협이 증가하고 있다. 이에 따라 기존 화자 검증 시스템을 보완할 수 있는 음성 딥페이크 탐지 기술의 중요성이 부각되고 있다. 본 연구에서는 기존 Multi-View Collaborative Learning(MVCLN)의 구조를 기초로, 스펙트로그램 인코더를 기존 CNN에서 Vision Transformer(ViT)로 변경한 음성 딥페이크 탐지 모델을 제안한다. 제안 모델은 waveform 기반 Transformer와 ViT 기반 spectrogram 인코더를 병렬로 구성하고, 두 표현 간의 상호 보완적 특성을 효과적으로 융합하기 위해 Waveform-Spectrogram Fusion Module(WSFM)을 적용하였다. 실험 결과, 제안한 모델은 seen 환경에서 AUC 0.9999, EER 0.38%를 기록하였으며, unseen 환경에서도 AUC 0.9653으로 기존 MVCLN 보다 성능이 향상되었다.

본 연구는 AI 생성 딥페이크가 선거보도를 경유해 유통되는 ‘보도 매개 유통(media-mediated distribution)’ 현상의 구조적 취약성을 진단하고, 이를 고착시키는 ‘칸막이 규제(regulatory silo)’ 구조를 분석한다. 연구의 목적은 언론 관행에 대한 규범적 단죄가 아니라, 보도라는 제도적 경로가 딥페이크의 사회적 도달을 확장시키는 유통 경로로서 갖는 구조적 위치를 규명하는 데 있다. 프레이밍의 경험적 패턴만으로는 규제 공백의 법적 소재를, 규제 텍스트만으로는 실제 유통의 위험 분포를 각각 포착할 수 없기 때문에 양자를 삼각검증하는 혼합 연구설계를 채택했다. 2025년 대통령선거 및 2026년 지방선거 예비 기간의 딥페이크 관련 선거보도 62건을 엔트먼(Entman, 1993)의 프레이밍 네 기능에 기반해 유형화하고, 5개 규율 체계를 교차 분석한 후, EU AI Act와의 비교법적 검토를 병행했다. 선거보도는 팩트체크형(24.2%)･경각심 환기형(29.0%)･정책 논의형(32.3%)･선정적 보도형(14.5%)으로 분류되었고, 프레이밍 완결성과 재유통 위험은 구조적 역상관을 보였다. 이는 프레이밍 완결성 지표가 규제 설계의 대리변수로 기능할 수 있음을 시사한다. 재유통 위험이 가장 높은 선정적 보도형의 비율은 가장 낮았으나, 이 안정은 제도적 안전망이 아닌 개별 매체의 비공식적 편집 재량에 의존했다. 교차 분석 결과 네 유형 모두 미규율 상태였고, 인공지능기본법 제5조 제1항과 제34조 제3항의 결합이 이 공백을 제도적으로 고착시키고 있었다. 반면 EU AI Act 제50조 제4항은 보도 행위를 사전 배제하지 않되 편집적 통제에 기반한 조건부 면제로서 의무 부과와 언론 자유의 양립 가능성을 보여주었다. 이에 보도 유형별 위험 차이에 상응하는 세 가지 정책 방향—인공지능기본법 수범자 확장 및 시행령 보충 적용 요건 구체화, 방송미디어통신심의위원회 심의규정 개정, 언론계 자율규제 가이드라인 제정—을 제안하고 각 제안의 헌법적 비례성을 검토했다.

딥페이크 기술은 진실을 약화시키고 시민적 신뢰와 공적 세계의 기반을 훼손하는 윤리적 문제를 야기한다. 기술적 탐지나 법적 규제만으로는 이러한 교란을 충분히 통제하기 어려우며, 시민이 스스로 성찰하고 판단하며 책임 있게 행동할 수 있는 역량이 요구된다. 본 연구는 한나 아렌트의 사유, 판단, 행위 개념과 세계성, 복수성, 탄생성의 인간 조건을 토대로 딥페이크 시대의 시민에게 필요한 능력을 규명하고, ‘아렌트 철학 기반 시민 역량 모델(ACCM)’을 제안한다. ACCM은 사유의 유예, 관점 확장을 통한 판단, 공적 실천으로서의 행위가 순환적으로 작동하는 구조를 갖는다. 또한 도덕교육을 통해 학생들이 조작된 현실 속에서도 성찰적 사고, 타인 이해, 책임 있는 실천을 수행할 수 있도록 하는 교육적 구현 방안을 제시한다.

The rapid proliferation of generative artificial intelligence (AI) has led to the widespread production of AI-generated texts that are fluent and persuasive, yet potentially prone to factual distortion and reduced information reliability. To address these concerns, this study aims to develop a Korean-based deepfake text detector and to analyze its generalization performance across domains. Specifically, we collected and curated human- and AI-generated texts from two heterogeneous domains: tourist reviews of Seongsan Ilchulbong and YouTube comments related to youth employment. Based on these datasets, four training test combinations were designed, including two within-domain settings and two cross-domain settings. The detector was implemented by fine-tuning five Korean BERT-based models KoBERT, KoELECTRA, KcELECTRA, KLUE-BERT, and KLUE-RoBERTa under identical experimental conditions. Model performance was evaluated using accuracy, precision, recall, and F1-score. The experimental results indicate that all models achieved high performance in within-domain settings. However, cross-domain evaluation resulted in a 10 15% decrease in accuracy and F1-score, highlighting the strong doma

본 연구는 생성형 인공지능(Generative AI) 기술의 비약적 발전이 엔터테인먼트 산업의 지형을 근본적으로 변화시키는 과정에서 발생하는 헌법적 난제들을 고찰하고, 특히 대중문화예술인의 인격권과 성적 자기결정권을 실효적으로 수호하기 위한 법제도적 조화 방안을 모색하는 데 목적이 있다. 인공지능에 의한 시청각적 형상화 기술인 딥페이크(Deepfake)는 창작의 지평을 확장하는 예술적 도구로서 헌법 제21조의 표현의 자유와 제22조의 예술의 자유라는 보호 영역에 놓여 있으나, 그 내면에 잠재된 압도적인 시각적 기망성과 무한 복제성은 타인의 인격을 도구화하는 파괴적인 권리 침해 수단으로 변모할 위험성을 동시에 안고 있다.
 연구 결과, 대중문화예술인은 그 식별의 용이성과 대중적 영향력으로 인해 비동의 성적 합성물 및 악의적 허위 정보 유포의 주된 표적이 되고 있으며, 이는 단순한 초상권 침해를 넘어 성적 자기결정권의 본질적 파괴와 영구적인 인격적 낙인이라는 회복 불가능한 피해로 귀결되고 있음을 실증적 데이터를 통해 확인하였다. 특히 현행 사법 체계는 '반포 목적' 입증의 곤란함과 관대한 처벌 관행으로 인해 기술 발전 속도에 상응하는 범죄 억제력을 확보하지 못하고 있는 실정이다.
 이에 본 연구는 헌법상 기본권 제한의 원칙인 과잉금지원칙을 준수하면서도 실효성 있는 보호 체계를 구축하기 위해 다음과 같은 다각적인 개선 방안을 제언하였다. 첫째, 법적 측면에서 ｢성폭력처벌법｣의 구성요건을 정밀화하여 제작 단계의 처벌 공백을 해소하고, ｢정보통신망법｣상 기술적 조작에 의한 명예훼손 가중 처벌 조항을 신설해야 한다. 둘째, 기술적 측면에서 EU의 AI Act를 참조하여 디지털 워터마크 부착 및 가상 정보 표시 의무화를 입법화함으로써 콘텐츠의 투명성을 확보하고 수용자의 알 권리를 보장해야 한다. 셋째, 플랫폼 사업자에게 EU의 DSA 모델에 기초한 위험 관리 및 '선(先)차단 후(後)조사' 의무를 부과하여 유통 단계에서의 확산을 선제적으로 억제하는 거버넌스를 구축해야 한다. 마지막으로, 엔터테인먼트 산업 내 자율 윤리 가이드라인 수립과 보편적인 디지털 리터러시 교육을 통해 기술과 인간의 존엄성이 공존할 수 있는 문화적 토대를 마련해야 함을 강조하였다. 본 연구가 제시한 법리적 논거와 정책적 대안들이 향후 대중문화예술인의 권익 보호와 건전한 미디어 생태계 조성을 위한 입법적 초석이 되기를 기대한다.

이 글은 딥페이크 음란물에 대한 형벌법규 개정 동향과 법적 과제에 대해 고찰하였 다. 독일이나 일본과는 달리 한국은 성폭력처벌법 등 특별법 개정을 통해 딥페이크를 악용한 성범죄를 적극적으로 처벌하고 있다.
 딥페이크 음란물은 그 자체가 허위인지 아닌지 구분하기 힘들고, 딥페이크 음란물 이 일단 반포되면 그 음란물을 삭제하는 것이 거의 불가능에 가까운 현실에 비추어, 성폭력처벌법은 반포와 무관한 단순한 딥페이크 음란물 제작도 형사처벌하고 있다. 하지만, 유포의 목적이나 위험의 유무에 따라 형을 달리할 필요는 있다.
 나아가 성폭력처벌법상 허위영상물편집죄가 편집 객체로 컴퓨터 프로그램파일이 나 전자정보도 포함할 수 있도록 개정할 필요가 있다.
 또한 성폭력처벌법상 촬영물반포죄와 허위영상물반포죄의 법정형이 동일한 만큼 허위영상물이 불법촬영물처럼 실제와 구분되지 않을 정도로 유사하여야 할 것을 구성요건으로 요구할 필요가 있다.

딥페이크 기술의 발달에 따라 디지털 성범죄를 비롯한 다양한 분야에서 악용 사례가 증가하고 있다. 이에 기존 연구들 은 생성된 콘텐츠 기반의 진위여부 판별에 주력해 왔으나, 이러한 접근법은 조작 행위의 주체를 특정하거나 사용자 행위 를 입증하는 데 한계가 있다. 본 연구는 이러한 한계를 보완하고자 딥페이크 생성 과정에서 발생하는 사용자 행위별 아티 팩트를 체계적으로 분석할 수 있는 '행위 기반 딥페이크 포렌식 분석 체계'를 제안하며, Windows 환경에서의 사례 분석을 통해 조작 행위를 명확히 구분할 수 있음을 입증하였다. 또한 구축된 행위-증거 매핑 데이터베이스를 기반으로 딥페이크 관련 아티팩트의 선별 수집 및 생성 행위 식별 가능성을 확인하였다.

최근, 사이버 성폭력 중 최근 주목받고 있는 딥페이크(deepfake; 조작한 영상) 성범죄에 대해서는 현행 법제의 대응이 비교적 신속하고 적극적으로 이루어지고 있다. 인공지능(AI) 기술에 의해 생성된 딥 페이크 영상물은 제작 단계부터 유포, 소지 시청 등 전 과정에서 불법촬영물에 준하는 엄격한 형사 규제를 적용받으며, 이를 이용한 협박이나 강요 등 파생 범죄에 대해서도 가중처벌 규정이 마련되어 있어 법 적 대응이 비교적 완비된 상태이다. 그러나 급격히 확산하는 범죄의 양상을 감안하면 효과적인 수사라는 측면에서는 보완해야 할 부분이 많이 보인다. 이미 도입된 위장수사는 전 영역으로 “확대”할 필요가 있고, 온라인 수색이나 함정수사 등의 “도입”도 적극 검토할 필요가 있다. 따라서 딥페이크 성범죄에 대한 수사 효율성을 높이기 위해, 첫째 딥페이크 영상물에 한정되어 있는 ‘위장수사’ 방법을 음란정보 등을 포함한사이버 성폭력의 전체유형으로 확대할 필요가 있다. 둘째 온라인으로 은밀히 접근하여 범죄의 정보를 수 집하는 ‘온라인 수색’과 범죄의 기회를 제공하여 사전에 적극적으로 범죄를 예방하는 ‘함정수사’를 도입 및 법제화하는 방안을 검토할 필요가 있다. 셋째 이러한 수사방법의 확대와 도입은 기본권 침해에 대한 우려에도 불구하고 딥페이크 성범죄에 효과적으로 대응하기 위해 적극적으로 검토될 필요가 있으며, 이 에 상응하는 입법적 보완이 뒤따라야 한다.

최근 인공지능 기술의 발전과 함께 실제 인물의 얼굴을 이용하여 성적 영상이나 이미지를 제작하는 딥페이크 성착취물이 급격히 증가하고 있다. 특히 실존 아동·청소년의 얼굴이 성적 표현물에 합성되는 사례가 늘어나면서, 이러한 합성물이 청소년성보호법상 아동·청소년성착취물에 해당하는지 여부가 법적 쟁점으로 대두되고 있다.
 현행 법 제2조 제5호에서는 아동·청소년성착취물을 ‘아동·청소년이 등장하는 경우’와 ‘아동·청소년으로 명백히 인식될 수 있는 사람이나 표현물이 등장'하는 경우로 구분하여 규정하고 있다. 그러나 실존 아동·청소년의 얼굴이 성적 표현의 합성물에 이용된 경우 이를 어떠한 유형으로 평가할 것인지에 대하여 판례의 해석이 일치하지 않고 있다.
 본 논문은 대법원 2023. 8. 31. 선고 2023도8611 판결과 2025. 8. 14. 선고 2024도17801 판결을 중심으로, 두 판결이 실존 아동·청소년의 얼굴이 성적 표현의 합성물에 이용된 경우를 어떠한 유형에 해당한다고 판시하였으며, 그 근거는 타당한지 여부를 비교·분석하였다. 특히 청소년성보호법의 입법 연혁과 규범 구조, 보호법익을 분석하고, 대상판결 2가 제시한 ‘등장’ 개념 및 ‘명백성’ 판단 기준의 한계를 비판적으로 검토하였다. 
 검토 결과, 실존 아동·청소년의 얼굴이 성적 표현의 합성물에 이용된 경우에는 제작 방식이나 현실적 촬영 참여 여부와 관계없이 해당 아동·청소년의 인격적 표지가 성적 대상으로 이용된 것이므로, 이를 ‘아동·청소년이 등장하는 성착취물’로 해석하는 것이 법률 문언 및 체계, 보호법익에 부합한다고 보았다. 반면 ‘아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물’ 규정은 가상적 표현물이나 외관상 아동으로 인식될 수 있는 성인을 규율하기 위한 보충적 규정으로 이해하는 것이 타당하다. 
 결국 실존 아동·청소년의 얼굴이 성적 합성물에 이용된 경우 이를 ‘아동·청소년이 등장하는 성착취물’로 포섭하는 해석이 디지털 환경에서 나타나는 새로운 유형의 성착취 행위에 대한 규범적 대응과 아동·청소년 보호라는 입법 목적에 부합한다고 결론 지을 수 있다.

딥페이크 기술의 급속한 확산은 정보 무결성에 심각한 위협을 초래하고 있다. 이에 대응하기 위해 기존 탐지 방법의 일반화 성능부족과 클래스 불균형 문제를 해결하는 보조 손실 유도 특징 학습(Auxiliary-Loss Guided Feature Learning) 프레임워크를 제안한다. 본 방법론은 Swin Transformer 백본 아키텍처를 기반으로, 위조, 콘텐츠, 공통 특징을 각각 분리 학습하는 3개의 경량 보조인코더를 활용한다. 핵심 혁신은 보조 특징을 직접 앙상블하는 대신 포괄적 손실 시스템을 통해 메인 네트워크의 학습을 유도함으로써, 추론 단계에서 계산 부하 증가 없이 특징 표현의 품질을 향상시킨다는 점이다. DFDC 데이터셋을 활용한 실험에서 99.7%의 정확도와 0.9999의 AUC 점수를 달성했으며, 특히 소수 클래스인 실제 샘플에 대해 99.4%의 재현율을 기록하여 클래스 불균형 환경에서의 효과성과 실용성을 입증했다.

본 논문은 인공지능(AI) 기술, 특히 딥페이크(deepfake)와 같은 생성형 기술이 형사사법 절차에서 ‘피해자 영향 진술(Victim Impact Statement)’과 결합할 때 발생하는 법적 쟁점을 분석하고, 우리 법제에 대한 시사점을 도출한 것이다. 최근 미국에서 사망한 피해자가 인공지능(AI)로 생성된 디지털 아바타의 형태로 법정에 등장하여 양형 단계에서 진술한 Pelkey 사건은, 피해자 보호의 혁신적 수단이라는 평가와 함께, 피고인의 절차적 권리 및 공정한 재판 보장에 대한 중대한 우려를 동시에 촉발하였다.
 우선, 피해자 영향 진술(VIS) 제도는 범죄 피해의 실질을 재판부에 전달하고 피해자와 유족의 참여와 치유를 도모한다는 점에서 정당성을 갖지만, 그 내용과 표현 방식이 과도하게 감정에 호소할 경우 판단자의 중립성과 형벌의 객관성을 훼손할 위험이 있다. 미국 연방대법원 판례의 전개는 이러한 긴장을 잘 보여준다. 즉 Booth 판결의 금지 입장, Payne 판결의 원칙적 허용 및 근본적 불공정에 이르면 적법절차 위반이 될 수 있다는 한계 언급, 그리고 Kelly 사건을 계기로 드러난 ‘영상·음악 등으로 강화된 추모 비디오’의 편견 유발 위험 논쟁은 피해자 영향 진술(VIS)이 본질적으로 피해자와 피고인의 권리 사이의 세심한 조정이 필요함을 시사한다.
 이러한 맥락에서 AI 기반 피해자 영향 진술(VIS)은 사망 피해자의 관점과 목소리를 절차에 표상하게 하여 피해자 진술권을 실질화하고, 판결자에게 피해자의 인간적 면모와 피해의 구체성을 보다 생생하게 전달하는 긍정적 기능을 갖는다. 그러나 동시에 딥페이크 진술은 ‘실제 당사자의 진술’이 아니라 제3자에 의해 구성된 허구적 산물일 수 있고, 반대신문 등 진술 검증의 구조가 작동하기 어렵다는 점에서 신뢰성과 절차적 정당성에 취약하다. 더 나아가 시청각적 사실감이 감정적 설득력을 증폭시켜 편견(undue prejudice)을 강화하고, 제작 비용·기술 격차로 인해 불평등을 초래할 수 있으며, ‘가짜를 진짜로, 진짜를 가짜로’ 주장하는 딥페이크 시대의 진위 혼란을 통해 사법 신뢰를 약화시킬 위험도 내포한다. 따라서 AI 딥페이크 기술 등 첨단기술을 활용한 피해자의 재판진술권 행사에는 신중한 규범의 마련이 필요하다.
 우리 헌법 제27조 제5항은 범죄피해자의 재판절차진술권을 보장하고, 형사소송법 제294조의2는 피해자 또는 유족을

본 논문은 딥페이크 음란물로 인한 인격권 침해를 형법적으로 어떻게 규율할 것인가에 대하여 EU 및 독일의 현행법과 최근 입법 동향을 중심으로 검토한다. 생성형 AI의 확산으로 딥페이크 음란물의 제작 및 유포가 용이해짐에 따라, 그 피해는 단순한 음란물 유통을 넘어 개인의 인격권을 근본적으로 훼손하는 형태로 나타나고 있다. 문제는 이러한 행위가 기존의 형법 체계 내에서는 온전하게 규율되기 어렵다는 점이다.
 EU에서는 ｢인공지능법｣과 ｢디지털서비스법｣을 통해 제도적 대응체계를 마련하고 온라인 플랫폼 운영자의 주의의무를 법적으로 강화하고 있다. 그러나 이러한 규정들은 행정 및 절차적 대응에 치중되어 있어, 딥페이크 음란물 제작 및 유포 행위 자체를 직접 처벌하거나 실효적인 인격권 구제를 도모하기에는 한계가 있다. 독일 현행법상으로는 아동･청소년 성착취물(형법 제184b･c조), 내밀한 영역의 촬영(형법 제184k조), 명예에 관한 죄(형법 제185조 이하), 사생활 및 초상권 보호(형법 제201a조, 예술저작권법 제22조) 등으로 규율이 가능하나, 대다수 조문이 실제 촬영물(Bildaufnahme)을 전제로 하고 있어, 가상 생성물인 딥페이크의 경우 처벌 공백이 발생한다.
 이러한 배경에서 독일 연방참사원(Bundesrat)은 형법 제201b조(디지털 조작에 의한 인격권 침해)의 신설을 제안하였다. 이는 컴퓨터 기술로 제작･변형된 콘텐츠를 실제 기록물처럼 오인하게 하여 인격권을 침해하는 행위를 처벌하고, 공중에 유포하거나 ‘고도의 사적 생활영역(höchstpersönlicher Lebensbereich)’을 대상으로 한 경우 가중 처벌하는 구조를 취한다. 다만, ‘인격권’ 개념의 포괄성에 따른 명확성 원칙 위배 여부와 이용자의 자기검열 유발 가능성 등 헌법적 한계에 관한 비판도 제기되고 있다.
 본 논문은 독일의 논의를 바탕으로 한국 법제의 시사점을 도출하며, 명확성 원칙을 준수한 정교한 구성요건 설계의 필요성을 강조한다. 아울러 딥페이크 기술을 악용한 디지털 성범죄에 대한 대응은 단편적인 처벌 강화만으로는 완성될 수 없고, 기술적 투명성 확보와 온라인 플랫폼의 책임 있는 관리 체계가 형사처벌과 유기적으로 결합되어 작동되어야 함을 강조한다.

본 연구는 딥페이크 사기를 중심으로 국내 학술 연구의 양상과 논의 구조를 체계적으로 검토하는 것을 목적으로 한다. 이를 위해 PRISMA 2020 지침에 근거한 체계적 문헌고찰 절차를 적용하여, 한국학술지인용색인(KCI)에 등재된 학술지 논문을 대상으로 문헌을 선별·분석하였다. 검색 및 선정 기준에 따라 총 40편의 후보 문헌을 식별하였으며, 제목·초록 검토와 적합성 평가를 거쳐 최종적으로 14편의 논문을 분석 대상으로 확정하였다.
 분석 결과, 국내 선행연구는 딥페이크 사기를 기존 사기·피싱 범죄에서 기망 수단이 인공지능 기반 합성 기술로 고도화된 현상으로 개념화하는 경향이 우세하였다. 동시에 일부 연구는 딥페이크 사기를 AI 범죄의 한 범주로 위치시키며, 전통적 범죄 통제 방식과 구별되는 규율 체계와 책임 배분의 재설계를 요구하였다. 범죄 유형 분류에서는 음성 합성 기반 사칭(딥보이스), 영상·화상회의 기반 기업 임원 사칭, 유명인 사칭 투자사기 등이 반복적으로 제시되었고, 피해 역시 개인의 재산상 손실을 넘어 기업 의사결정 구조와 사회적 신뢰로 확장될 수 있는 위험으로 논의되었다. 대응 방안은 기술적 대응(탐지, 워터마킹, 출처·이력 관리)과 법·제도적 대응(정의 규정, 플랫폼 의무, 책임 구조 설계), 예방·거버넌스(민관 협력, 인식 제고)로 비교·분류되었으며, 규제 설계 과정에서 프라이버시와 기본권 침해 가능성이 핵심 고려사항으로 제기되었다. 종합하면 국내 딥페이크 사기 연구는 정책·제도 중심의 논의가 상대적으로 우세하고, 실제 범죄 발생 과정과 피해 경험을 토대로 한 실증 연구는 제한적이었다. 이에 따라 향후 연구는 피해자 인식과 경험의 실증 분석, 수사 사례 기반 범죄 과정 및 증거 구조 분석, 경찰·금융기관·플랫폼 간 협력 모델의 효과성 평가로 확장될 필요가 있다.

본 논문은 생성형 인공지능 기술의 비약적 발전으로 인한 딥페이크 영상의 확산이 초상권, 성명권, 명예권, 프라이버시권, 성적 자기결정권, 퍼블리시티권 등 인격권 전반에 걸쳐 구조적·복합적 침해를 야기하고 있다는 문제의식에서 출발한다. 생성형 AI, 특히 GAN과 확산 모델을 기반으로 한 딥페이크 기술은 적은 양의 데이터로도 실존 인물과 거의 구별이 불가능한 영상과 음성을 합성할 수 있으며, 플랫폼을 통한 초고속·무한 복제 유통 구조와 결합되어 피해의 불가역성, 책임 귀속의 곤란성, 이른바 ‘거짓말쟁이의 배당’에 따른 사회적 신뢰 붕괴라는 새로운 위험을 초래한다. 이러한 상황에서 형사처벌과 민사상 손해배상과 같은 사후적 구제수단만으로는 실효적인 인격권 보호가 곤란하므로, 생성 단계에서부터 투명성과 식별 가능성을 확보하기 위한 워터마크 표시 의무화가 중요한 규제 수단으로 부상하고 있다.
 이에 본 논문은 먼저 생성형 AI 딥페이크 영상 기술의 개념과 특성을 분석하고, 실존 인물을 대상으로 한 합성 영상이 어떠한 방식으로 인격권을 침해하는지를 유형화함으로써, 딥페이크 인격권 침해의 구조적 특수성을 규명한다. 다음으로 2026년 시행된 우리나라 인공지능기본법을 중심으로, EU AI Act, 미국 연방·주 단위 규제, 중국의 심층합성 규제 등 국내외 법제를 비교·검토하여 워터마크 표시 의무가 국제적으로 생성형 AI 규율의 핵심 축이자 표준적 규범으로 정착하고 있음을 밝힌다. 아울러 워터마크 의무화가 헌법상 표현의 자유·예술의 자유와 인격권 보호 간의 긴장 관계 속에서 어떠한 조건하에 비례성과 헌법적 정당성을 확보할 수 있는지, 그리고 의무 이행 주체·책임 배분, 기술적 우회 가능성·오탐지·스푸핑 등 기술적 한계, ‘허위 안전감’에 따른 역효과 등 법적·기술적 쟁점을 비판적으로 검토한다.
 마지막으로 본 논문은 인격권 보호 중심의 위험 기반 차등 표시 기준 도입, 생성–유통–소비 전 단계에 걸친 다층적 거버넌스와 플랫폼 책임 강화, C2PA 등 국제 기술 표준에 기반한 명시적·암묵적 이중 식별 체계 구축, 그리고 국제 사법 공조 및 데이터 공유를 통한 국경 간 집행력 제고 등을 통합하는 입법적·기술적 개선 방안을 제시한다. 이를 통해 워터마크를 단일·완결적 해법이 아닌, 다른 규범·제도·기술과 결합될 때 실효성을 가지는 인격권 보호의 핵심적 인프라, 곧 인공지능 시대의 ‘디지털 안전벨트’로 재구성하는 것

본 연구는 인공지능(AI) 딥페이크 기술이 게임 광고에 활용되는 현황을 검토하고, 이에 따른 헌법적 쟁점을 분석하는 데 목적을 둔다. 최근 게임 산업은 몰입감과 현실감을 극대화하기 위해 딥페이크 기술을 적극적으로 도입하고 있으며, 이는 광고 효과를 높이는 동시에 허위·과장 표현, 인격권 침해, 소비자 기만 등 다양한 헌법적 문제를 야기한다. 이에 따라 본 논문은 헌법재판소의 광고 사전심의 관련 결정례를 분석하여 상업적 표현의 자유와 소비자 보호 사이의 긴장 관계를 규명하고, 사전검열금지원칙과 광고심의에서의 헌법적 원리가 딥페이크 광고 규제에 어떻게 적용되는지 문제, 초상권과 개인정보자기결정권, 아동·청소년·노인 보호의 원리와 맞물린 헌법상 소비자의 권리 등 AI 딥페이크를 활용한 게임 광고에서 헌법적 쟁점과 그러한 쟁점을 해결하기 위한 실천적 방안에 대해서 논증하였다. 그리고 딥페이크 광고에 대한 현행 규제 체계가 헌법의 원리에 부합하도록 개선 방향을 제시하였다. 알고리즘의 투명성과 설명 가능성을 확보하고, 딥페이크 식별 표시 의무화 고려, 온라인 사업자의 책임 강화, 사후적 책임 중심의 규제, 업계의 자율규제와 공적 규제의 병행 등이 그것이다. 본 연구는 AI 딥페이크 기반 게임 광고 규제가 헌법적 가치와 기술 발전 사이의 균형을 모색해야 함을 강조하며, 향후 제도적 정비를 위한 중요한 시사점을 제공한다.

인공지능(AI) 기술이 급속히 발전하면서 전 세계적으로 다양한 현상과 논란이 나타나고 있다. 대표적으로 ‘딥페 이크(Deep Fake)’를 꼽을 수 있다. 딥페이크는 본래 AI 기술의 놀라운 발전을 보여주고 수용자들이 이를 실시간으 로 체감할 수 있게 하는 기술에 해당한다. 하지만 딥페이크 기술을 악용하여 무단으로 사진과 영상 등을 제작하고 유포하는 경우가 늘어나고 있으며, 이에 따른 피해도 갈수록 커지고 있다. 반면 국내 언론사의 딥페이크 뉴스는 감소하고 있다. 딥페이크 뉴스는 딥페이크 기술을 직접 활용하여 제작한 기사가 아니라, 딥페이크 기술, 현상, 범죄 등을 다룬 언론 보도를 뜻한다. 본 연구는 딥페이크 뉴스 보도의 중요성을 알리고 향후 방향을 제시하기 위해, 그동안 한국 주요 언론사들이 AI 시대에 딥페이크 현상을 어떻게 바라보고 보도하여 왔는지 살펴본다. 특히 챗GPT가 나온 이후 AI 기술이 본격적으로 발전하고 딥페이크 결과물이 크게 증가했던 2023~2025년에 나온 주요 언론사의 뉴스를 텍스트 마이닝 기법을 적용해 분석한다. 빈도 분석, 워드 클라우드 분석, 키워드 네트워크 분석, 토픽 모델링을 통해 국내 언론의 딥페이크 보도의 양상과 특성을 살펴보고, 사회적 책임을 강화할 수 있는 보안책을 제시한다. 분석 결과 딥페이크는 주로 기술적 진보나 상업적 활용에 대한 내용으로 다루어지기 보다, 다수의 피해자를 양산할 수 있는 하나의‘범죄적 기술’로 보도되고 있었다. 하지만 정작 피해의 대상인 여성, 아동, 청소년 등에 대한 뉴스는 감소하는 양상을 보였다. 본 연구는 해당 문제들을 보완하고, 사후 대책에 대한 구체적인 보도 등이 나와야 한다고 제언한다.

최근 생성형 AI의 발전과 함께 온라인 플랫폼에서 딥페이크를 악용한 과장 광고로 인한 소비자 피해가 증가하고 있다. 기존 검증 방식은 영상 조작과 광고 문구의 과장성을 개별적으로 분석하여 멀티미디어 콘텐츠의 종합적 위험 판단에 한계가 있다. 이에 본 논문에서는 영상과 텍스트를 결합한 멀티모달 기반 딥페이크 및 과장 광고 통합 탐지 시스템을 제안한다. 제안 시스템은 영상의 시공간적 특징을 학습하기 위해 MobileNetV3와 LSTM을 결합한 하이브리드 모델로 딥페이크를 탐지하고, 텍스트 분석에는 KcELECTRA 모델을 활용하여 광고 문구의 과장성을 판별한다. 두 분석 결과를 통합하여 광고 위험 수준을 분류하였다. 실험 결과, 딥페이크 탐지 정확도 0.8833, 과장 광고 판별 정확도 0.9748을 달성하였다. 본 연구는 지능화되는 온라인 과장 광고 위협에 대응하여 소비자 신뢰를 제고하고 실질적 기술 가이드라인으로 활용될 것으로 기대한다.

이 연구는 딥페이크 기술과 최신 기술 동향이 영화에서 어떻게 활용되고 있으며 이에 대한 제도적 대응 방안을 종합적으로 분석한다. 딥페이크는 딥러닝 기술을 활용하여 실제와 구별하기 어려운 가짜 미디어를 생성하는 기술로, 2017년 처음 대중에게 알려진 이래 빠르게 발전하며 사회 전반에 걸쳐 영향력을 확대하고 있다. 특히 생성형 적대 신경망(GAN), 변이형 오토인코더(VAE), 확산 모델(Diffusion Models) 등 최신 딥러닝 아키텍처의 발전은 딥페이크의 사실성과 다양성을 극대화하고 있다.
 긍정적인 측면에서 딥페이크는 영화와 예술장르 등 다양한 분야에서 혁신적인 잠재력을 보여주고 있다. 그러나 동시에 성범죄, 가짜뉴스, 사기, 명예훼손 등 심각한 사회적, 윤리적 문제를 야기하며 디지털 콘텐츠 전반에 대한 신뢰를 훼손하고 있다. 이러한 위협에 대응하기 위해 국내외에서는 법적 규제, 기술적 대응, 건강․윤리적 가이드라인 마련 등 다각적인 노력이 이루어지고 있다. 그럼에도 불구하고 기술 발전의 속도와 오용의 확산은 현행의 법적, 기술적 대응의 한계를 드러내며, 보다 포괄적이고 선제적인 대응 방안의 필요성을 강조한다. 본 연구는 이러한 분석을 바탕으로 딥페이크 기술의 건전한 발전과 악용 방지를 위한 정책적 제언을 제시한다.

딥러닝 기반 생성형 모델이 급속하게 발전하면서 인공지능 음성 합성 기술도 사람이 구분하기 어려우면서, 이를 활용한 다양한 음성 생성 서비스들도 생겨나고 있다. 그러나 이러한 기술이 투자 사기, 피싱, 선거 관련 가짜뉴스와 같은 범죄에 이용되면서 인공지능 음성을 활용한 딥페이크가 새로운 위협으로 떠오르고 있다.
 본 논문에서는 인공지능 음성을 생성하는 기술과 서비스 및 사람 음성과 인공지능 음성을 구분과 탐지하는 음성 딥페이크 탐지 기술을 살펴본다.

본 연구는 ‘인공지능 기반 딥페이크 성범죄(허위영상물 범죄)의 문제에 대해 해외에서는 제도적으로 어떠한 대응을 하고 있는지, 미국·유럽연합(EU)·영국·호주의 사례를 조사하고, 이러한 해외의 입법 대응을 통한 국내 입법적 시사점’을 도출하는 것을 그 목적으로 한다. 이와 같은 목적에 따른 논의를 토대로 국내 법제는 인공지능(AI) 기반 딥페이크 성범죄에 대해 형사처벌 규정(성폭력범죄처벌법), 플랫폼 규제(전기통신사업법·정보통신망법), 피해자 지원(성폭력방지법), 그리고 정책적 대응 강화 방안을 통해 다층적인 대응체계를 마련하고 있다. 이러한 제도적 장치는 딥페이크 성범죄의 심각성을 반영하여 형사적·행정적·정책적 차원에서 종합적인 대응을 시도하고 있다는 점에서 중요한 의미를 가진다. 그러나 본고의 해외 입법례와 비교할 때 국내 법제는 몇 가지 한계를 내포한다. 첫째, 위법성 요건의 구체화 부족으로 인해 법적 예측 가능성이 낮고 처벌 범위가 모호하다. 둘째, 면책 및 예외 규정의 부재로 인해 합법적 활용 가능성과 표현의 자유가 위축될 우려가 있다. 셋째, 플랫폼 규제의 범위와 책임이 제한적이며, 특히 사적통신 매체에 대한 규제가 미흡하고 소지·시청까지 처벌 대상으로 포함함으로써 이용자의 신고·협조를 위축시킬 가능성이 존재한다. 넷째, 해외 플랫폼에 대한 실효적 규제 수단의 부족으로 인해 역외 사업자의 국내법 준수 확보에 어려움이 따른다. 따라서 향후 입법적 개선 방향은 ① 명확한 위법성 요건 설정, ② 면책 및 예외 규정 도입 검토, ③ 일반 불법정보 중심의 플랫폼 책임 강화, ④ 역외 플랫폼 규제 실효성 확보 등으로 정리된다. 이러한 개선 방향은 본고의 해외 주요 법제와 비교법적으로 검토될 시사점으로서, 인공지능(AI) 기반 딥페이크 성범죄 대응의 정당성·실효성·국제적 정합성을 동시에 확보하는 데 필수적인 입법 과제이다.

2024년 1월 29일 공직선거법이 개정되어 제82조의8이 시행되었다. 이 조항은 인공지능 기술 등을 이용한 이른바 ‘딥페이크영상등’을 이용한 선거운동을 금지한다. 선거일 전 90일부터 선거일까지 제작·편집·유포·상영 또는 게시하는 행위를 금지하고, 이를 위반할 경우, 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처하도록 하였다. 이는 생성형 인공지능 기술의 급속한 확산에 따른 허위정보와 기만적 선거 콘텐츠로부터 선거의 공정성을 보호하려는 입법적 대응이다.
 그러나 동 조항은 정치적 표현의 자유(헌법 제21조)와의 관계에서 근본적인 헌법적 쟁점을 내포한다. 첫째, ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상이라는 구성요건이 지나치게 추상적이고 기술 종속적이어서 죄형법정주의의 파생원리인 명확성 원칙에 위배될 소지가 있다. 둘째, 선거일 전 90일간이라는 장기간에 걸친 포괄적 금지는 과잉금지원칙상 피해의 최소성 요건을 충족하기 어렵다. 셋째, 무거운 형사처벌과 모호한 구성요건의 결합은 합법적 정치 풍자·패러디에까지 광범위한 위축효과를 초래한다.
 본 연구는 EU 인공지능법(AI Act), 미국 캘리포니아주의 입법례, 등을 간단히 살펴보고, 국제적 표준은 ‘금지’가 아닌 ‘표시의무(disclosure) 중심’의 규제임을 확인한다. 이에 따라 본 논문은 제82조의8 제1항의 금지를 폐지하고 제2항의 표시의무를 중심축으로 재구성할 것, 보도·학술·예술·풍자에 관한 법정 예외를 신설할 것, 공적 인물 법리를 수용할 것 등을 선행과제로 제언한다.

딥페이크를 악용한 성범죄 착취물, 사기와 기망, 그리고 허위조작정보의 시도가 수년 전부터 심각한 범죄의 위협으로 인식되고 있다. 이는 딥페이크를 활용한 허위조작정보가 가지는 인간의 뇌의 인지체계와 판단, 행동 등에 미치는 장기적인 악영향에 기인한다. 이에 대해 서구의 주요 선진국들은 허위조작정보와 인간의 뇌에 대한 영향의 학문적ㆍ과학적 연구에 기반하여 딥페이크와 같은 허위조작정보에 대한 대응에 박차를 가하고 있다. 이에 본 연구는 딥페이크 허위조작정보가 장기적으로 인간의 인지편향, 착각진실, 오정보 등에 영향을 미치는 작동 기제를 최근의 경험적 연구결과들에 기반하여 심층분석한다. 이를 통해 이 연구는 국내의 형사사법적 대응의 학술적 논의의 기반을 마련하고자 한다. 이를 위해 체계적 문헌고찰을 통한 연구표본추출 절차를 준용해 총 40편의 최근 해외 주요 연구논문들을 문헌분석 하였다. 분석 결과와 연구 함의, 향후 연구에 대한 제안 등이 결론과 논의 부분에 제시되었다.

본 논문은 대용량 영상 처리 환경에서 딥페이크 탐지 적용 시 발생하는 연산 및 운용 부담을 완화하기 위해, 영상 단위의 사전 선별을 수행하는 경량 탐지 파이프라인을 제안한다. 제안 방법은 연속 프레임 간 ORB 기반 정합 안정성 신호와 라플라시안 기반 고주파 변화, 그리고 얼굴 영역 경계 비교 지표를 시퀀스 수준 통계로 집계하여 결합한 뒤 로지스틱 회귀 기반 분류기로 최종 판정을 수행한다. 여러 공개 데이터셋에서 수행한 실험을 통해 기본적인 분리 성능을 확인하였으며 구간별 효율성 측정을 통해 전처리 비용과 핵심 판별 계산 비용을 분리하여 보고하였다. 결론적으로 제안 파이프라인은 대용량 입력에 대한 선별적 점검 단계로 활용 가능성을 제시한다.