논문 8,399편

2022년 2월 24일 러시아가 전격적으로 우크라이나를 침공함으로써 전쟁이 시작되었다. 검열은 특히 전쟁이나 국가 간 갈등 상황 속에서 더욱 강화되기 마련이다. 전쟁의 과정에서 시행되고 있는 러시아 정부의 검열은 국가 안보와 정보 통제의 맥락에서 이루어진다. 공식적인 정부 발표나 입장과다른 정보는 그 유통이 엄격히 통제되고 있다. 전쟁 초기부터 독립 언론과 기자들에 대한 압박이 증대되었다. 다수의 독립 언론 매체가 폐쇄되거나 운영이 중단되었고, 외국 매체의 활동도 제한되었다. 러시아 정부는 페이스북, 트위터 등 주요 소셜 미디어 플랫폼에 대한 접근을 제한하거나 차단하였다. 이러한 검열정책을 시행하는 데 있어 주요한 법적 근거가 된 일련의 법률들을 “가짜뉴스법”이라고 한다. 이 글에서는 “가짜뉴스법”을 구성하는 법률들과 그 시행에 따른 검열 사례들을 고찰함으로써 전쟁의 개시와 함께 전개된 러시아의 검열 양상을 파악하고자 한다.

가짜뉴스는 디지털 플랫폼과 소셜 미디어를 통해 빠르게 확산되며, 사회적 신뢰와 공적 담론에 부정적인 영향을 미치 는 중요한 문제로 대두되고 있다. 그런 가운데 최근 대규모 언어 모델(Large Language Models)의 발전은 자연어 처리 기 술의 새로운 가능성을 열었으며, 이러한 모델의 활용은 가짜뉴스 탐지와 같은 중요한 사회적 문제 해결에도 기여하고 있 다. 본 연구는 가짜뉴스의 여러 유형 중 허위정보(misinformation)를 중심으로 한국어 환경에서 LLM 기반 가짜뉴스 탐지 의 가능성과 한계를 분석하고자 한다. 이를 위해 서울대학교 SNU팩트체크에서 수집한 500개의 한국어 뉴스 기사를 기 반으로 한 벤치마크 데이터셋을 구축하였으며, 기사 요약 방식을 적용하여 추출형 및 생성형 데이터셋을 추가로 설계하 였다. 본 연구는 세 가지 연구 질문을 중심으로 진행되었다: (1) 한국어 환경에서 LLM 기반 가짜뉴스 탐지가 효과적인 가, (2) 어떤 요약방식이 LLM을 활용한 가짜뉴스 탐지에 효과적인가?, (3) 탐지 성능을 향상시키기 위한 최적의 방법은 무엇인가? 분석 결과, 한국어 데이터셋에서 LLM 기반 탐지 성능은 영어 중심 연구 대비 낮은 정확도(59.8%)를 보였다. 또한, 요약 텍스트를 활용한 실험에서는 문장이 짧아질수록 탐지 성능이 감소하였으며, 생성형 요약이 추출형 요약보다 다소 우수한 성능을 보였다. 마지막으로, 가짜뉴스 탐지의 기준이 되는 7가지 이유를 반영한 개선된 프롬프트를 도입하 여 탐지 정확도를 소폭(62.1%) 개선할 수 있었다. 본 연구는 한국어 환경에서의 LLM 기반 가짜뉴스 탐지 연구를 확장하 며, 고도화된 프롬프트 설계와 맥락적 요인을 고려한 접근이 탐지 성능 향상에 기여할 수 있음을 입증하였다. 연구 결과 는 가짜뉴스 탐지뿐 아니라 다양한 언어 및 문화적 맥락에서의 LLM 활용 가능성을 제시하며, 향후 연구 및 실무적 응용에 중요한 시사점을 제공한다.

가짜 뉴스는 개인뿐만 아니라 국가적인 피해를 입힐 수 있다. 본 연구에서는 가짜 뉴스를 식별하기 위한 인공지능 기법을 선정하고 해당 기법을 뉴스 데이터 셋에 적용하여 얻은 결과를 기반으로 인공지능 기법들을 비교 분석하고자 한다. 이를 위해 뉴스 데이터 셋의 특징을 분석하고 로지스틱 회귀, 나이브 베이즈, 랜덤 포레스트, 서포트 벡터 머신, 퍼셉트론, 그리고 순환 신경망과 같은 여섯 가지 인공지능 기법을 선택하여 가짜 뉴스를 판별하는 모델을 구현하였다. 마지막으로 실험 결과 분석을 통해 자연어 처리 후에 인공지능 모델을 학습시킬 때 입력 데이터의 문장 길이, 단어 집합의 크기와 같은 요소뿐만 아니라, 인공지능 모델의 조정 가능한 요소 및 학습 데이터와 테스트 데이터의 비율이 모델의 성능에 중요한 역할을 함을 분석하였다.

소셜 미디어 상에 최근 들어 급증한 가짜 뉴스는 우리의 삶을 위협하고 있다. 즉, 더 교묘한가짜 정보가 소셜미디어에 유통될수록 더 정확한 탐지방법이 필요하다. 이를 위해 본 논문은Hyperband가 Global Optimum에 수렴하지 못하는 문제를 해결하는 동시에 강한 성능을 보이는최신 최적화 방법론인 Bayesian Optimization-Hyperband(BOHB)를 도입한 가짜 뉴스 탐지 모델을제안한다. 먼저 전처리된 LIAR 데이터셋과 FakeNewsNet 데이터셋의 텍스트를 TF-IDF, Word2Vec, BERT로 임베딩한다. 이후 텍스트 임베딩을 입력으로 하는 SVM과 Bi-LSTM으로 훈련시키는 동시에BOHB로 hyperparameter를 최적화한다. 최적화된 모델은 최적화되지 않은 모델보다 Accuracy가LIAR 데이터셋에 대해 21.1%, FAKENEWSNET에 대해 10.14%가 상승했다. 결과적으로, BOHB를적용한 모델이 그렇지 않은 모델보다 효율적임을 입증한다.

본 연구는 한국의 코로나19 팬데믹 맥락에서 유통된 허위정보에 대한 신뢰가 백신효능성 및 방역수칙 준수 인식을 통해 코로나19 감염가능성에 영향을 미치는 매개효과를 검증하였다. 2022년에 수집한 반복측정 패널 데이터(N = 516)를 분석한 결과, 총 14종에 달하는 허위정보에 대한 전반적인 신뢰 수준이 높아질수록 백신효능성을 부정적으로 인식하고 방역수칙 준수 수준이 감소하는 양상이 발견되었다. 또한, 백신효능성 인식 및 방역수칙 준수 수준이 낮을수록 감염가능성은 높아지는 관계가 나타났다. 허위정보 신뢰와 감염가능성의 관계는 백신효능성 인식과 방역수칙 준수를 통해 나타나는 매개효과가 발견되었다. 공중보건 위기상황에서 허위정보에 대한 신뢰가 발생시키는 효과에 대한 이론적, 실무적 함의점을 논의하였다.

2024년은 생성 AI 선거의 해이다. 허위조작정보는 여론을 좌지우지하며 시민들의 의사결정에 적잖은 혼란과 위험을 가중시키고, 민주주의를 훼손하고 있다. 공공의 책임에 대한 규범에 제약을 받지 않고, 조작된 개인화된 콘텐츠를 생성하 는 선거 캠페인에서 생성 AI를 잠재적으로 고위험 시스템으로 인식하는 것이다. EU가 제정한 AIA에 따른 위험 관리, 투 명성 및 인적 감독, 데이터와 데이터 거버넌스와 같은 의무 목록을 엄격하게 준수하여, 대중의 담론을 보호하고 기본권을 보호하기 위한 윤리적 표준 및 법적 요구 사항과 일치하도록 보장해야 할 것을 강조한다. 이 논문은 선거 캠페인에 사용 된 허위조작정보를 조사하여, 탐지를 위한 생성 AI의 배치와 공공소통적 프로젝트 AIA에 대한 분석 및 중요한 교차점 및 사용자 관점의 함의를 점검했다. 또한 따라야 할 몇 가지 의무를 언급하며 시사점과 공공소통적 제안과 함께 효과적이고 윤리적이며 법적으로 준수할 수 있는 명확한 지침과 표준의 필요성을 강조했다.

ChatGPT는 허위 정보를 생성하기도 한다. 이러한 허위 정보는 사회에 문제를 일으킬 수 있을 것이다. 이에 본 연구는 사용자와 AI가 대화로 상호작용하는 서비스 중에서 캐릭터를 사용하는 챗봇 사례를 활용하여 개선하고자 했다. 현재 ChatGPT는 캐릭터를 사용하지 않고 있다. 이에 ChatGPT 서비스에 캐릭터가 활용되면, 허위정보 생성에 어느 정도 용인하고 재사용할 의사가 있는지를 확인하고자 했다. 이를 위해 인간과 동물, 사실적 표현과 왜곡된 표현인 데포르메 기반 표현을 구분하여 4가지 캐릭터 유형을 바탕으로 ChatGPT 기반 서비스의 프로토타입을 구성하였다. 실험은 매력, 용인, 재사용의도, 인지에 대한 5점 척도 평가와 비구조식 주관식 답변으로 구성하였다. 실험 결과, 사용자는 ChatGPT에 캐릭터가 활용되는 경우에 있어, 사람의 데포르메 표현 방식에 대하여 가장 긍정적으로 평가했다. 이는 모든 실험 요인에서 동일하게 확인되었다. 인터뷰에서 피험자는 사실적 표현에 대한 부정적인 의견을 제시하였다. 이는 불쾌한 골짜기 이론과 유사한 의견이었다. 또한 사람 및 동물과 직접 대화하는 것 같이 느껴져서 캐릭터 활용이 긍정적이라 했다. 위 결과를 통해, ChatGPT에 사람의 데포르메 표현 캐릭터를 활용한 다면 허위정보에 대하여 어느 정도 인지하고, 수용할 수 있으며, 재차 사용할 의사를 가질 수 있다는 것을 확인했다.

목적 본 연구는 R 프로그램을 이용하여 허위 정보에 관한 교육 분야 국제 연구의 동향을 분석하는 것을 목적으로 한다.
 방법 Web of Science 데이터베이스에서 SCI, SSCI, AHCI급 우수 논문 514편을 추출하여, 이 논문들의 상세서지 정보에서 이들의 출처, 키워드, 핵심 연구물들에 대한 빅데이터 분석과 함께 문헌 연구를 실시하였다. 이를 위해 데이터 수집, 데이터 정제, 데이터 분석, 문헌 연구의 4단계를 걸쳐 연구를 수행하였다.
 결과 허위 정보와 관련한 교육 분야의 연구물들은 최근 들어 그 생산 편수가 급격히 늘어나고 있었으며, 교육 심리, 의학 교육 분야의 학술지에 게재된 편수가 많고, 교과 교육 분야의 학술지에 게재된 편수는 상대적으로 부족했다. 허위 정보와 관련한 키워드는 Misinformation, Fake News, Disinformation 순으로, 이를 교육하기 위한 역량과 관련한 키워드는 Media Literacy, Digital Literacy 순으로 많이 등장하고 있었다. 이 분야의 핵심 연구물들로는 허위 정보 판별을 위한 구체적 전략, 허위 정보 판별 과정에서의 학생들의 특징, 허위 기억 효과의 기원, 미디어 리터러시 개념의 확장, 과학 교과 교육적 관점에서의 용어 확장을 시도한 연구들이 있었다.
 결론 우리나라에서도 국제 수준의 허위 정보 연구에 대한 관심과 함께 국제 협력 네트워크를 다변화할 필요가 있다. 또한 다양한 관점에서 허위 정보 대처에 대한 연구 관심과 함께, 여러 교과 교육 분야에서도 고유의 관점을 바탕으로 허위 정보와 관련한 연구를 더욱 활발히 수행할 필요가 있다.

이글은 소셜미디어의 발달과 함께 부각되고 있는 허위조작정보의 유통과 이에 대한 공적 규제 문제를 다루었다. 특히, 해외의 허위조작정보에 대한 공적 규제 사례를 탐색하고, 한국에서의 공적규제와 관련한 논쟁점을 중심으로 고찰했다.
 외국의 경우 허위조작정보에 대한 공적 규제 대상은 매우 제한적이다. 이는 공적 규제가 사회질서를 유지하기 위해 불가피한 수단이지만 자유라는 민주주의의 가치를 침해할 수도 있는 양면성을 가지기 때문에 매우 신중하고 조심스러워야 한다는 것을 시사한다.
 따라서 이글은 공적 규제가 불가피 하다면 가치와 현실이라는 이중적 관점에서 자율규제와의 적절한 조화가 필요하다고 결론짓고 있다. 다만 공적 규제가 표현의 자유를 침해하거나 자유로운 토론, 비판, 의혹제기 등을 억압하거나 위축시킨다면 오히려 민주주의의 근본을 해칠 수 있음을 지적하고 있다. 또한 근본적으로는 미디어리터러시 교육과 같이 미디어 이용자의 올바른 인식과 성숙한 태도를 제고하기 위한 노력이 필요함을 강조하고 있다.

본 연구는 유튜브 내 허위조작정보가 팩트체크 전후 어떠한 여론 형성력을 가지는지 탐색하고자, 구독자 수가 150만이 넘는 영향력 있는 유튜브 채널에서 처음 제기된 ‘김정숙 여사 팔짱’ 이슈를 분석 대상으로 선정하고, 해당 유튜브 동영상에 달린 댓글 약 4,498개를 수집하여, 빈도 및 중요도, 담론, 감성, 유형 및 설득 효과를 종합적으로 고찰하였다. 그 결과, 첫째 빈도분석에서는 공통적으로 ‘가짜뉴스’, ‘김정숙’, ‘영부인’이 높은 빈도로 도출됐는데, 팩트체크 전에는 김정숙 여사를 비판하는 단어가 많았다면 팩트체크 후에는 운영 주체를 언급하는 댓글이 상대적으로 많았다. 두 시기 모두 중요 단어는 ‘가짜뉴스’였다. 둘째 담론은 크게 ‘가짜뉴스’, ‘김정숙 여사’, ‘채널’ 관련 담론이 도출됐으며, ‘김정숙 여사 관련 담론’은 다시 ‘미국과 연관’, ‘사건 설명’, ‘개인 비판’이라는 하위 담론으로 분류되었다. 셋째 감성은 모두 부정적 감성이 우위였다. 넷째 댓글 유형을 분류한 결과 팩트체크 전후 모두 허위조작정보의 설득 효과가 상당히 높았으나, 팩트체크 전보다 후에 허위조작정보의 설득 정도가 4.4% 낮아지고, 설득되지 않는 비율은 2.2% 높게 나타남으로써 팩트체크 효과도 동시에 확인되었다. 나아가 작성자 연결망 분석을 통해 팩트체크 전에는 특정 인물이 여론을 주도할 가능성이 높았다면, 팩트체크 후에는 보다 균등하고 밀접한 의사소통이 이뤄지고 있음을 알 수 있었다. 본 연구는 이를 통해 허위조작정보의 영향력을 확인하고, 팩트체크의 중요성을 강조하였다.

허위조작정보 생성과 유포가 심각한 사회 문제로 논의되고 있다. 각국에서는 허위조작정보의 무분별한 확산을 억제하고자 국가 차원의 대응책을 모색하고 있으나, 다양한 이해관계자 간의 입장 차이로 인해 정책 수립 및 시행에 어려움을 겪고 있다. 특히 허위조작정보에 대한 정의, 심각성에 대한 인식 차이, 규제 대상에 대한 이견 등으로 인해 정책의 방향성과 정책 시행의 결과를 예측하기가 어려운 실정이다. 이 연구는 허위조작정보의 확산을 방지하기 위한 정부 정책에 대한 지지 의견에 영향을 미치는 요인들을 분석하고자 하였다. 구체적으로 허위조작정보 확산의 원인에 대한 책임귀인이 정책 지지에 미치는 영향을 조사하였고, 책임귀인에 따른 감정의 매개효과와 이러한 감정 경로에서 제3자효과가 어떻게 매개효과를 조절하는지 분석하였다. 이를 위해 성인 남녀 400명을 대상으로 설문조사를 실시하였다. 연구 결과 허위조작정보의 원인을 기업에 귀인하는 경향이 강할수록 허위조작정보에 대한 규제 정책을 지지하는 경향이 높아짐을 확인하였으며, 이러한 경향은 허위조작정보 확산 주체(기업)에 대한 분노를 매개로 작용하는 것으로 나타났다. 또한 책임귀인으로 인해 발생하는 감정이 정책 지지에 미치는 매개효과는 제3자효과에 의해 조절되었는데, 제3자효과가 감소할수록 감정이 정책지지에 미치는 매개효과가 증가하는 것으로 나타났다. 즉, 기업의 책임귀인이 기업에 대한 분노를 증가시켜 허위조작정보 규제 의견을 증가시키는 경향은 (1) 제3자효과가 약할수록(즉, 자신도 다른 사람만큼 영향을 받을 것이라고 생각할수록) 증가하는 반면 (2) 제3자효과가 강할수록(즉, 다른 사람이 자신보다 영향을 많이 받을 것이라고 생각할수록) 감소하는 것으로 나타났다. 본 연구는 허위조작정보에 대한 일반 대중의 귀인, 감정, 그리고 제3자효과 등과 같은 인식이 허위조작정보 규제 정책에 대한 지지에 미치는 영향을 규명함으로써, 향후 정책 수립에 있어 실질적인 방향성을 제공하는데 기여하였다. 이 연구는 허위조작정보와 관련된 정책 결정 과정에서 고려해야 할 다양한 요소들을 조명하고, 효과적인 정책 개발과 실행을 위한 기초 자료로 활용될 수 있다.

This paper studies a GPS error filtering method that takes into account the continuity of the ongoing path to enhance the safety of autonomous agricultural mobile robots. Real-Time Kinematic Global Positioning System (RTK-GPS) is increasingly utilized for robot position evaluation in outdoor environments due to its significantly higher reliability compared to conventional GPS systems. However, in orchard environments, the robot's current position obtained from RTK-GPS information can become unstable due to unknown disturbances like orchard canopies. This problem can potentially lead to navigation errors and path deviations during the robot's movement. These issues can be resolved by filtering out GPS information that deviates from the continuity of the waypoints traversed, based on the robot's assessment of its current path. The contributions of this paper is as follows. 1) The method based on the previous waypoints of the traveled path to determine the current position and trajectory. 2) GPS filtering method based on deviations from the determined path. 3) Finally, verification of the navigation errors between the method applying the error filter and the method not applying the er

본 연구는 팩트체크 출처가 인간의 편향된 정보처리를 최소화할 수 있는 방안을 모색하고자, 다양한 팩트체크 출처가 뉴스 신뢰도에 미치는 영향을 온라인 실험을 통해 검증하였다. 구체적으로, 팩트체크 출처(인간 전문가, AI, 크라우드소싱)에 따른 뉴스 수용자들의 뉴스 기사 신뢰도 차이를 알아보았으며, 팩트체크 메시지가 기존 신념과 일치하거나 충돌할 때 그 효과가 어떻게 달라지는지를 살펴보았다. 아울러 수용자들의 디지털 미디어 리터러시(DML) 수준이 이러한 효과를 어떻게 조절하는지 분석하였다. 연구 결과, 인공지능과 크라우드소싱 기반 팩트체크가 인간 전문가보다 더 효과적으로 확증 편향을 줄일 수 있음을 확인하였다. 특히, 디지털 미디어 리터러시 수준이 높은 사람들일수록 인공지능 기반 팩트체크의 확증편향 약화 효과가 더욱 두드러졌다. 본 연구는 인공지능과 집단지성이 수용자들의 편향된 정보처리를 완화하고 허위 정보를 줄이는 데 중요한 역할을 할 수 있음을 시사한다.

본 연구는 뉴스의 화제성이 친구 추천의 사회적인 동조성 인식과 알고리듬 추천의 사회적 보편성 인식을 매개로 진실착오효과에 어떠한 영향을 미치는지를 살펴보고자 하였다. 본 연구결과, 첫째, 소셜미디어의 뉴스화제성은 진실착오에 직접적인 영향을 미쳤다. 둘째 소셜미디어의 뉴스화제성은 친구 추천을 증진하였으며, 친구 추천은 알고리듬 추천을 강화하였다. 셋째, 소셜미디어의 뉴스화제성은 알고리듬 추천도 강화하였다. 넷째, 알고리듬 추천은 진실착오에 영향을 미쳤다. 다섯째, 친구 추천과 알고리듬 추천의 이중매개를 통해서 뉴스화제성과 진실착오에 영향을 미치는 것으로 나타났다. 이러한 결과는 소셜미디어의 뉴스화제성이 친구 추천의 사회적인 동조성 인식과 알고리듬 추천의 사회적 보편성 인식으로 구체적인 사실 확인보다는 적당하고 정확한 것으로 뉴스를 평정하여 진실착오의 인지편향을 낳을 수 있음을 보여준다. 이로 인해 여론지각의 오류를 발생시킬뿐더러 반향실의 소용돌이에서 뉴스 신뢰가 약화되며 장기적으로 민주주의 체질을 약화시킬 수 있다. 이에 이용자들은 뉴스출처, 뉴스처리과정, 뉴스의 맥락, 뉴스의 범주와 정의화의 역학을 이해하고 확증적 오류의 가능성을 성찰할 수 있는 수용태도를 갖추도록 해야 할 것이다.

본 연구는 개인의 정파성, 미디어 사용 패턴, 정부 신뢰가 정치 음모론 신뢰에 미치는 영향 을 분석하였다. 2021년 독자적으로 실시된 서베이 데이터를 로짓 회귀분석에 활용하였으며, 보수 및 진보 성향의 음모론 신뢰를 종속 변수로 설정하였다. 연구 결과, 첫째, 정파적 성향이 음모론 신뢰에 큰 영향을 미쳤다. 둘째, 인터넷 미디어 사용은 정치적 성향과 무관하게 음모론 신뢰와 상관관계를 보였다. 특히, 유튜브, 팟캐스트, SNS를 통해 뉴스를 접하는 사람들이 공중 파나 전통적 매체를 이용하는 사람들보다 음모론을 더 신뢰하는 경향이 있었다. 그러나 정파성 과 음모론 신뢰 간의 관계에서 뉴스 미디어 사용이 매개나 조절 역할을 하지는 않았다. 셋째, 포털 사이트는 인터넷 미디어로 분류되지만, 그 소비 패턴은 유튜브, 팟캐스트, SNS와 달리 전통적인 매체와 유사한 양상을 보였다. 음모론은 이념이나 정파성보다는 유튜브, 팟캐스트, SNS 링크를 통해 더 많이 전파되었다. 마지막으로, 정부제도 일반과 중립적 정부제도에 대한 신뢰 수준에 따라 음모론 신뢰 수준에 차이가 있었다.

Recently, there has been considerable research on deepfake detection. However, most existing meth ods face challenges in adapting to the advancements in new generative models within unknown domains. In this paper, our objective is to detect deepfake videos in unknown domains using unlabeled data. Specifically, our proposed approach employs Meta Pseudo Labels (MPL), allowing the model to be trained on unlabeled images. MPL involves the simultaneous training of both a Teacher model and a Student model, where the Teacher model generates Pseudo Labels utilized to train the Student model.
 This method aims to enhance the adaptability and robustness of deepfake detection systems against emerging unknown domains. The experimental results demonstrate an improvement of 1.91% and 1.87% in ACC and AUROC, respectively, for the known domain. Similarly, in the unknown domain, there is an enhancement of 1.59% in ACC and 1.29% in AUROC.

딥페이크(Deepfake)란 다양한 인공지능 기술을 활용해 진짜와 같은 가짜를 만드는 영상합성기술로, 가짜 뉴스 생성, 사기, 악의적인 도용 등에 활용되어 개인과 사회에게 심각한혼란을 유발시키고 있다. 사회적 문제방지를 위해, 딥페이크로 생성된 이미지를 정교하게분석하고 탐지하는 방법이 필요하다. 따라서, 본 논문에서는 딥페이크로 생성된 가짜이미지와 진짜 이미지에서 Saliency 특징을 각각 추출하고 분석하여 합성 후보 영역을검출하며, 추출된 특징들을 중점으로 학습하여 최종적으로 딥페이크 이미지 탐지 모델을구축하였다. 제안된 Saliency 기반의 딥페이크 탐지 모델은 합성된 이미지, 동영상 등의딥페이크 검출 상황에서 공통적으로 사용될 수 있으며, 다양한 비교실험을 통해 본 논문의제안 방법이 효과적임을 보였다.

이 연구의 목적은 2030세대 이용자들의 딥페이크 기술 경험에 나타난 다양한 쟁점들을 분석하고, 딥페이크 기술 사례의 문제점을 극복하기 위한 예술의 정치화 실천 가능성을 모색하는 데 있다. 이를 위해 이론적 논의로서 발터 벤야민(Walter Benjamin)의 아우라 붕괴 논의에서 파생된 ‘아우라변형’의 논의들을 재검토하고, 정치의 심미화, 예술의 정치화 사유를 토대로 딥페이크 사례의 쟁점을 탐색하였다. 사례분석 방법을 적용해 연구참여자들의 딥페이크 기술 경험을 통한 정치의 심미화와 유희·오락을 통한 예술의 정치화 사례를 분석하였다. 기술 경험은 제작 및 이용 경험으로 나타났고, 정치의 심미화 사례는 허위정보와 신뢰성, 사회적·윤리적 문제, 상업적 기만을 통해 나타났다. 유희·오락을 통한 예술의 정치화 사례는 적극적 이용과 신뢰성 회복, 윤리적·제도적 발전의측면에서 검토되었다. 이 연구의 의의는 딥페이크 기술 경험과 인식 사례에 접근하여 딥페이크 기술의 긍정적 활용 방안을 모색하기 위한 공론화 계기 창출에 있다.

인공지능 기술의 급속한 발전은 우리 사회 전반에 혁신을 일으키고 있다. 효율성과 생산성의 극대화를 실현하는 인공지능 기술은 의료, 교육, 제조, 서비스 등 다양한 분야에서 인간을 돕거나 대체할 것이라는 기대를 모으고 있다. 그러나 기술의 발전과 함께 나타나는 부작용과 사회적 문제도 증가하고 있다. 그중에서도 심각한 문제는 인공지능이 진실과 구분하기 어려운 가짜 정보를 만들어 낸다는 점이다.
 지금 이 순간에도 대중의 관심을 끌기 위해 자극적인 가짜 정보가 인공지능 기술을 통해 만들어지고 있다. 이러한 콘텐츠에는 거짓된 정보를 담은 메시지나 개인의 얼굴, 신체를 합성한 음란 콘텐츠 등이 포함된다. 이러한 허위의 사진, 영상, 음성을 가공해내는 기술을 ‘딥페이크’라고 하며, 인터넷 플랫폼이나 앱을 통해 이용이 증가하고 있다.
 딥페이크 기술의 등장 초기에는 다양한 분야에서 유용한 용도로 활용될 것으로 기대되었다. 엔터테인먼트, 교육, 뉴스, 생활 정보 등 다양한 영역에서 창의적이고 흥미로운 콘텐츠를 생성하는 데 사용될 수 있다는 점이 큰 관심을 모았다. 그러나, 선거 시즌에 특정 후보가 등장하는 가짜 영상이 큰 사회적 혼란을 일으키고, 유명인의 명예를 훼손하는 음란 영상이 끊임없이 등장하고 있다.
 정부와 기업들의 문제 인식과 방지 노력에도 불구하고 딥페이크로 인한 사회적 문제는 여전히 증가하는 추세이다. 최근 몇 년 동안 이를 근절하기 위한 시도는 존재했으나 딥페이크 콘텐츠는 지금도 인터넷상에서 쉽게 공유되고 배포되며, 해외에서 유포된 경우는 신속한 삭제나 법적 조치가 어려운 경우가 많다. 이러한 문제를 해결하기 위한 방책은 간단하지 않다. 그러나 피해자의 증가와 사회적 혼란이 커지고 있는 상황에서 문제를 해결하기 위해 적절한 이용 절차의 마련과 음란물 및 가짜뉴스 생성을 위한 이용 제한 등이 고려되어야 한다.

특허제도는 기술에 대한 윤리적 가치판단이 아닌, 기술이 갖는 효용을 판단함으로써 기술중립적 견지에서 심사하게 된다. 인공지능 기술의 발전은 사회적인 현상까지도 이끌고 있다. 인간에 의한 창작이, 기술에 의한 창작으로 주도권이 넘어가고 있는 모습도 보인다. 그렇지만, 기술은 선의로 개발되었다고 하더라도 그 이용과정에서 악용되는 경우도 있다. 기술에 의한 창작으로서 합성데이터 생성기술인 GAN 알고리즘을 이용한 딥페이크가 대표적이다. GAN 알고리즘을 악용하여 타인의 초상이나 음성을 음란물에 덧대어 거짓의 정보를 생성함으로써, 타인의 명예를 훼손하는 경우이다. 정치인의 경우에는 선거에 악용됨으로써, 여론을 호도하기도 한다. 이러한 부정한 이용을 포괄하는 딥페이크에 대해 성폭력 특별법이나 공직선거법 등 다른 법률을 통해 규제가 가능하지만, 원천적인 규제가 되기 어렵다. 또한, 지속적이고 반복적인 생성이 가능하기 때문에 인터넷서비스제공자(ISP)를 통한 삭제 등의 대응도 쉽지 않다. 이러한 이유가 기술관련 법제인 특허법의 적용가능성에 대한 고민하게 된 배경이다. 악의적인 사용으로 사회문제화 되고 있는 딥페이크 기술이 특허법상 공서양속에 위배되는 지에 대해 살펴보는 것은 의미있는 일이다. 구체적으로는 딥페이크 기술에 대한 심사과정이나 등록후에 공서양속 규정에 따라 대응할 수 있는지에 대해 살펴본다. 다만, 기술에 대한 가치판단은 중립적이어야 한다는 입장을 유지하면서 고찰하였다는 점을 밝힌다.

Digitally manipulated images that are realistic-looking but fake, which are known as Deepfake. With the remarkable developments in deep generative models, the accessibility and accuracy of manipulated technologies are increasing, leading to fake videos becoming increasingly difficult to identify. Different facial forgery techniques result in complicated data distributions, but Deepfake detection techniques based on CNN(convolutional neural network) architecture are utilized in the majority of Deepfake de tection models as binary classification problems. In this paper, we propose a model, named MEViT, which uses a combination of EfficientNet Vision Transformer with a meta-learning-based technique to improve the generalization of the detection model. Furthermore, we propose a learning process to update the model and introduce pair-discrimination loss and domain adjustment loss to improve detection ability across various domains. We also create various experiments on several Deepfake datasets and com pare our proposal with many state-of-the-art works to prove the efficiency of our approach.

딥페이크는 이미지나 영상에서 특정 사람의 얼굴을 다른 사람으로 대체하는 딥 러닝 기술, 또는 이 기술을 이용해 생성한 가짜 이미지나 영상을 지칭한다. 딥 러닝 기술이 널리 보급되면서 딥페이크 기술에 대한 접근성이 높아졌고, 결과적으로 이를 악용한 범죄도 증가하고 있다. 이에 따라 효과적인 딥페이크 탐지 기술의 필요성이 점점 더 커지고 있다. 딥페이크 생성은 주로 신원 교체와 표정 재연이라는 두 가지 방식으로 이루어지는데, 기존의 탐지 기술은 딥페이크가 어떤 방식 으로 생성되었는지에 따라 탐지 성능의 편차를 보인다. 본 연구에서는 딥페이크 탐지 모델의 성능 편차를 줄임으로써 기존 방법론들의 한계를 보완할 수 있는 연구를 제안하고자 하였다. 제안하는 모델은 먼저 영상을 프레임 단위의 이미지들로 자른 다음, 딥페이크의 주된 대상 영역인 얼굴 부분과, 일종의 지역 정보라고 할 수 있는 입 부분을 각각 추출하여 멀티스케일 특성으로 활용한다. 각 특성을 서로 다른 비전 트랜스포머 구조에 입력한 다음, 출력되는 예측 결과들을 종합하여 동영상이 딥페이크인지 아닌지를 효과적으로 판단하게 된다. 특히, 얼굴 부분은 신원 교체 방식으로 생성된 딥페이크를 대응하는 데 도움이 되고, 입 부분은 표정 재연 방식의 딥페이크를 대응하는 데 도움이 되기 때문에 모델은 서로 다른 딥페이크 생성 방식에 대한 강건성을 갖게 된다. 제안하는 방법론을 두 개의 데이터셋에 대해 실험한 결과, 상대적으로 높은 탐지 성능과 함께 다양한 딥페이크 생성 방식에 대해 보다 범용적으로 대응할 수 있는 가능성을 확인하였다.

최근 딥페이크 기술을 활용하여, 위조된 영상이나 이미지가 온라인상에 배포되면서, 긍정적인 면으로는 단순히 재미와 유머를 목적으로 사용하여 배포되고 있다. 그러나 기존의 딥페이크 관련 연구에 대한 분석과 문제점은 다양한 측면에서 나타낸다. 이러한 문제점 중에서도 딥페이크 기술이 진화하면서 탐지 기술도 이에 맞춰 발전하지만 여전히 완벽한 탐지는 힘들다는 점과 데이터 부족, 영상 데이터를 오인하여 반대의 결과를 나타내거나 실시간 처리가 어렵다는 점이다. 이에 본 논문에서는 딥페이크 영상 기반으로 위조 영상 판별 연구를 제안한다. 본 논문에서 일반 영상 데이터와 생성한 딥페이크 영상을 사용하여 판별 모델에 사용한다. 판별 모델은 프레임 분리, 이미지 프레임을 추출하여 얼굴인식 기술과 검출, 조정, 마스크 생성 과정을 실행한다. 이에 본 논문의 결과를 활용하여 위조된 영상으로 받는 2차 피해를 막을 수 있을 것이라 사료한다.

딥페이크 기술은 빠르게 발전하며, 한국에서 심각한 사회 문제가 되고 있다. 오픈소스를 통해 누구나 쉽게 접근할 수 있게 되면서, 특히 청소년들이 딥페이크를 악용하는사례가 증가하고 있다. 개인적 피해뿐만 아니라, 정치 캠페인에서는 상대 후보를 비방하거나 허위 정보를 퍼뜨리기 위해 딥페이크가 사용되며, 유명인을 이용한 투자 사기와같은 범죄도 발생하고 있다. 2021년 UAE와 2024년 홍콩에서 발생한 대규모 딥페이크사기 사건은 전 세계적으로 딥페이크가 큰 위협이 되고 있음을 보여주었다. 하지만, 이러한 기술의 발전 속도에 비해 법정책적 대응이 따라가지 못하고 있어 피해가 계속 증가하고 있다.
 본 논문에서는 딥페이크 범죄의 특성을 분석하고, 외국의 법정책적 대응 사례를 소개하며 국내의 법적 대응 방안을 제안하고자 한다. 현재 한국의 성폭력 처벌법과 공직선거법 등 일부 법률에서 딥페이크 범죄를 다루고 있으나, 일반인들이 딥페이크를 구별하기 어려운 점이 문제로 작용하고 있다. 이에 본 논문에서는 워터마크와 메타데이터 의무화 제도의 도입을 제안하며, 딥페이크 범죄에 대해 보다 강력한 처벌이 가능하도록 법적 개정이 필요성을 제안한다. 또한, 2019년 미국 딥페이크 책임법과 애리조나주의 딥페이크 사기 법안 등을 통해 시사점을 제시하고, 한국 사회에서 딥페이크 신종 범죄에 대한 효과적인 법적 대응 방안을 모색하고자 한다.

이 연구는 언론 기사를 중심으로 딥페이크 기술을 활용한 범죄 경향을 분석함으로써 그에 따른 함의를 도출하는데 의의가 있 다. 빅카인즈 포털을 중심으로 2018년～2024년 7월까지 딥페이크 기술을 활용한 범죄 관련 기사를 검색한 결과 총 478건이 추 출되었으며, 연관어 분석을 통해 딥페이크 범죄의 연도별 경향을 분석하였다. 분석결과 먼저 2018년～2019년에는 인공지능 (AI) 초창기와 달리 딥페이크 기술 사용자가 일반인들을 중심으로 증가하였다는 기사와 사용 연령대 또한 다양해졌다는 기사가 주를 이루었다. 특히 딥페이크 기술이 성범죄에 주로 활용되고 있음을 지적하였다. 다음 2020년은 COVID-19 및 n번방 사건의 영향으로 딥페이크 범죄 기사량이 급증하면서 텔레그램을 통한 불법 음란물 유통과 디지털성범죄 관련 기사가 주를 이루었다. 마지막으로 2021년～2024년 최근까지의 딥페이크 범죄 경향을 살펴보면 디지털성범죄 사건이 10대 청소년들 사이에서 지속적 으로 증가하고 있다는 기사를 비롯하여 디지털성범죄가 더욱 교묘한 방법으로 성행하고 있다는 기사, 딥페이크 성범죄가 하나의 놀이문화로 전락했다는 기사, 딥페이크 성범죄의 피해 확대, 딥페이크 기술이 보이스피싱 사기에도 활용되고 있다는 기사 등이 주류를 이루었다. 이러한 분석결과를 바탕으로 딥페이크 범죄에 대한 법적‧제도적‧교육적 차원의 시사점을 제시하였다.

딥페이크란 인공지능 기술에 의해 합성된 이미지, 비디오, 오디오 등의 미디어로서 실제 존재하지 않거나 발생하지 않은 사건 등을 묘사한 것을 뜻하며, 창의적인 콘텐츠 문화를 만들어 낼 수 있다는 긍정적인 측면과 함께, 여론조작을 통한 민주주의에 대한 위협, 범죄에의 활용 등 여러 사회적 위험성 또한 내포하고 있다. 이 글에서는 딥페이크 기술의 악의적 활용의 위험성에 기초하여 딥페이크 기술 이용에 대한 규제방안을 검토함으로써, 우리 사회에서 이 인공지능 기술을 안전하게 이용할 수 있는 방법을 모색해 본다. 이를 위하여 딥페이크 기술을 악용하는 행위의 위험에 대하여 살펴보고, 이에 관련된 국내외 입법동향 및 딥페이크 기술 일반에 관련된 전반적인 대응 방향성을 검토하였다.
 딥페이크의 일반 규제를 위해서는 딥페이크에 대한 규제내용을 담은 기본법이 필요하며, 딥페이크의 특징인 허위성, 미디어의 파급력, 디지털 형식의 빠른 유포를 고려한 고려한 규제방식이 필요하다. 이를 위하여 딥페이크 생성물에 대한 표시강제제도 도입, 악의적 딥페이크의 유통 금지, 그 외 온라인 서비스 제공자의 의무로서 사전 모니터링 및 자율규제, 피해자 지원을 위한 신속 삭제 등이 요구된다. 이에 대한 입법 및 개발자와 온라인 플랫폼 업체의 적극적인 대응이 동시에 요구되고 있다.

생성형 AI 기술이 정교해짐에 따라 빈번해지는 악의적 딥페이크 사용에 대응하기 위해 딥페이크 탐지 모델 연구가 활발히 진행되고 있다. 딥페이크 탐지 모델의 성능 평가는 학습 데이터셋 선택, 데이터셋 전처리, 학습 방법, 평가 데이터셋 선택 과정을 순차적으로 거친다. 하지만 기존 딥페이크 탐지 연구들은 각 단계마다 임의로 검증 방법론을 선택하여 논문에서의 성능이 표준화된 환경에서는 재현되지 않는 성능 평향 문제가 발생한다. 본 논문에서는 기존 딥페이크 탐지 연구의 검증 방법론을 분석하여 성능 평가의 신뢰성 저하 원인을 파악한다. 나아가 표준화된 환경에서의 실험을 통해 탐지 모델의 절대적 성능 비교에 어려움이 있음을 보여준다. 본 연구의 실험 결과는 탐지 성능 평가 신뢰성 제고와 절대적 성능 비교를 위해서는 통일된 검증 방법론이 필요함을 제시한다.

최근 동의 없이 제작된 성적 딥페이크가 배포되고 이로 인한 사회적 폐해가 급증하면서, 성적 딥페이크에 대한 엄중한 형법적 규제를 요구하는 목소리가 높아지고 있으며, 이러한 요구에 상응하여 국회는 반포와 무관한 단순한 성적 딥페이크 제작을 형사처벌할 수 있도록 성폭력처벌법을 개정하였다. 그런데 이전까지는 단순한 성적 딥페이크 제작 그 자체는 제작자의 상상과 다를 바 없으며 별다른 법익침해를 야기하지 않아서 형사처벌의 대상으로 하는 것은 적합하지 않다고 보아왔으며, 이러한 평가를 변경해야만 하는 규범적 판단기준의 변화는 발견되지 않는다. 그렇다면 공개 내지 반포와 관련없는 단순한 성적 딥페이크 제작을 범죄행위로 규정하는 이론적 근거 내지 그것을 정당화할 수 있는 근거가 무엇인지에 대한 질문이 제기될 수 있다. 물론 최근 성적 딥페이크로 인한 사회문제가 급증하고 있으나, 그와 같은 범죄의 양적 증가가 그 행위에 대한 규범적 평가를 변경시켜야 하는 이론적 근거가 될 수는 없다. 이 글에서는 유사한 입법을 추진한 바 있는 영국의 논의, 특히 페미니스트 학자들의 관련 주장을 대상으로 반포 내지 공개와 관계없는 단순한 성적 딥페이크 제작을 범죄로 규정하고 형사처벌의 대상으로 하는 것이 정당한가의 여부를 검토해 보았다. 이 글에서는 동의 없는 단순한 성적 딥페이크 제작 그 자체만으로는 피해자는 물론 사회적으로도 별다른 해악을 야기하지도 않으며, 오히려 제작자의 사적 영역에서 이루어지는 행위를 형사처벌하는 것은 프라이버시에 대한 중대한 침해에 해당할 수 있다는 점을 논증하였다.

생성형 AI가 대중적으로 활용되면서 제기되는 AI 윤리 문제 가운데 최근에 딥페이크 문제가 주목받고 있다. 딥페이크 음란물이 일반인들에 의해 유명인뿐만 아니라 일반인인 지인들을 대상으로 제작되어 유포되고 있을 뿐만 아니라, 딥페이크가 문화 영역을 넘어 정치 영역뿐만 아니라 경제 영역 등 전방위로 확장되어 사회 문제를 야기하고 있기 때문이다. 이에 대해 한국 사회에서는 법을 통해 대응하려는 분위기가 강하지만, 딥페이크가 초래하는 다양한 문제가 법만으로 해결이 가능한 것인지 의문이다. 딥페이크 문제에 대응하기 위해서는 법이 필요한 것은 분명하지만, 윤리 또한 필요하기 때문이다. 본 논문은 딥페이크 문제에 효과적으로 대응하기 위한 윤리 방안을 모색하고자 한다. AI 윤리 실현을 위해서는 서로 다르지만 밀접하게 연관된 윤리의 세 층위, 즉 이론 윤리 층위, 제도 윤리 층위, 개인 윤리 층위의 협업이 필요하다. 딥페이크 문제는 약한 AI 단계에서 제시되는 윤리 문제이기에 이론 윤리 층위에서 다양한 도덕 논의들이 중첩적으로 합의된 공통 도덕 논의가 적합해 보이며, 제도 윤리 층위에서는 AI 지침을 통해 딥페이크의 사회적 활용을 지도할 뿐만 아니라 소위 ‘딥페이크 윤리 위원회’를 통한 활용 계획에 대한 사회적 승인 과정을 거칠 필요가 있다. 개인 윤리 층위에서는 딥페이크가 대중화되었다는 점에서 사용자의 윤리가 필수적인데, 1인칭 관점의 규범성에 효과적인 ‘덕성 중심의 AI 사용자 윤리’가 필요하다. 이러한 세 층위의 윤리가 협업할 때, 딥페이크가 초래하는 윤리 문제를 피하면서도 사회 번영과 발전에 도모하는 윤리 실현을 이룰 수 있을 것이다.

연구목적 이 연구는 딥페이크 기술을 악용한 범죄에 대한 제도적인 대응방안을 제시하는 것을 목적으로 한다. 연구방법 이 연구는 딥페이크 관련 최근 사례와 문헌 자료를 바탕으로 딥페이크 범죄에 대한 법적 대응, 탐지 기술의 발전, 정책적 제언을 제시하였다. 결과 딥페이크 관련 범죄를 예방하기 위해서는 법적 제도의 강화, 딥페이크 탐지 기술의 고도화, 그리고 시민들의 인식 개선이 필수적이다. 또한, 딥페이크 범죄 피해자를 위한 신속한 지원이 이루어질 수 있는 시스템 구축이 필요하다. 결론 딥페이크 범죄의 확산을 막기 위해서는 법제도적, 기술적, 정책적 대응 등 다양한 정책적 접근이 필요하다.

딥러닝 기술의 발전으로 탄생한 딥페이크(Deepfake)는 인공지능(AI)을 이용해 얼굴, 음성, 영상 등의 데이터를 조작하여 실제와 유사한 콘텐츠를 만들어내는 기술이다. 초기에는 주로 영화, 광고, 게임 등에서 창의적 콘텐츠 제작을 위한 기술로 주목받았으나, 최근 들어 성범죄, 명예 훼손, 정치적 선전 등의 목적으로 악용되는 사례가 급증하고 있다. 특히 딥페이크 성범죄는 피해자의 얼굴을 음란물에 합성하여 유포하는 방식으로 이루어지며, 이는 피해자에게 심각한 정신적, 사회적 피해를 초래한다. 본 연구에서는 이러한 문제를 해결하기 위해 딥페이크 성범죄의 가해자 분석을 통한 정책적 대응방안을 제시해 보고자 한다.
 2024년 8월 말 시작된 딥페이크 성범죄 사태 이후 심각성을 인식하여 뒤늦게나마 관련 법안이 마련되었다는 점은 다행이지만, 국회가 그 심각성에 비해 부실한 내용을 담았다는 점에 우려를 표한다. 딥페이크 성범죄는 기술 발전의 어두운 측면을 보여주는 대표적인 사례로, 피해자에게 심각한 피해를 입히고 있다. 이를 방지하기 위해서는 촘촘한 법적 규제 방안, 기술적 대응, 교육 및 인식 개선, 국제적 협력 등 포괄적인 정책적 대응방안이 마련되어야 한다. 특히 국제적 공조와 이에 발맞춘 제도발전을 바탕으로 AI 기술을 활용한 예방 및 탐지 시스템을 구축하여 반인권적, 반인륜적, 반사회적 범죄인 딥페이크 성범죄에 대한 종합적인 대응책을 마련해야 한다.

오늘날 딥페이크 기술은 사생활 침해, 저작권 침해, 허위정보 유포 등 다양한 범죄와 논란의 중심이 되고 있다. 딥페이크 기술이 점차 고도화됨에 따라 일반인들이 콘텐츠의 진위 여부를 판별하는 것이 어려워졌고, 피해자 보호 및 예방을 위해서 사후 대처뿐만 아니라 사전 규제도 요구되는 실정이다.
 미국은 딥페이크 책임법안 등을 통해 디지털 워터마크 부착과 명확한 표시 의무를 규정하고 있으며, EU는 「인공지능법」을 통해 AI 생성물에 대한 식별과 허위정보 유포 규제를 명확히 하고 있다. 우리나라의 경우 개별법은 없으나 「공직선거법」과 「성폭력처벌법」으로 딥페이크 관련 범죄를 제한적으로 제재하고 있다. 그러나 딥페이크에 대한 통일된 법적 정의가 부재하고, 딥페이크 영상임을 표시하지 않을 경우에 영상의 진위여부의 식별이 불가하며, 행정기관의 관련 업무 기능들이 분산되어 있어 신속한 처리와 대응이 어렵다는 문제가 여전히 과제로 남아 있는 상황이다.
 이에 본 연구에서는 딥페이크 기술의 합법·불법 사용을 명확히 구분하기 위한 법률상 정의 규정 신설, 자동 추적이 가능한 워터마크 의무화, 범부처 협의체 구성과 국제 협력 강화를 제안하였다. 딥페이크 기술의 역기능에 집중하기보다 기술과 인류가 공존할 수 있는 균형적인 법·제도적 대응방안을 마련하는 것이 중요하다.

디지털 기술의 발전으로 딥페이크 기법은 변조된 음성을 생성하여 디지털 통신의 무결성에 심각한 위험을 초래하고 있다. 이러한 문제를 해결하기 위해 본 논문에서는 암호학적으로 안전한 워터마크를 오디오 파일에 직접 삽입하는 디지털 오디오 워터마킹 기법을 제안한다. 본 접근법은 암호화 해시 함수를 활용하여 비인가된 수정에 극도로 민감한 고유 워터마크를 생성한다. 이 워터마크는 딥페이크 조작이 발생할시, 즉시 파괴되어 변조의 명확한 표시를 제공한다. 신호 대비 잡음비 (Signal-to-Noise Ratio)과 원본과 워터마킹된 오디오의 상호 상관 (Cross Correlation) 평가 지표를 사용하여 워터마킹 시스템의 성능을 평가한 결과, 본 워터마크 방식은 높은 수준의 오디오 무결성을 보장한다. 또한 StarGAN 음성 변환, PPG 음성 변환 등 실제 딥페이크 공격에 대해 테스트를 거친 결과, 제안기법으로 워터마킹이 삽입된 음성은 딥페이크 변조 후 즉시 파괴됨을 검증했다. 본 연구 결과는 오디오의 무결성과 딥페이크 저항성을 크게 필요로 하는 미디어, 법률, 안전한 통신 등 다양한 분야에 적용 가능할 것으로 기대된다.

최근 딥러닝기반 생성형 모델들의 급격한 발전으로 인해 AI (Artificial Intelligence) 합성 음성 모델들도 사람이 합성 음성과 사람 음성을 구분하기 어려울 정도로 빠르게 발전하였고 이를 이용한 다양한 음성 생성 서비스들도 등장하였다. 그러나 이러한 최신 AI 기술을 악용하는 보이스 피싱과 투자 사기, 선거 가짜 뉴스 등이 등장하면서 AI 합성 음성을 악용하는 딥페이크 (DeepFake) 음성이 새로운 실질적 위협으로 떠 오르고 있다. 이러한 새로운 위협에 맞춰 본 논문에서는 각 국가별 법적 대응책과 이를 실현하기 위한 탐지 기술들을 상세히 분석하고 현재의 기술 수준을 알아 본다. 또한 이러한 AI 합성 음성 탐지를 우회하는 적대적 공격과 이에 대한 대응책도 소개한다. 마지막으로 실시간으로 제공되는 영상 및 음성 컨텐츠의 AI 생성 여부를 표시하는 실시간 워터마크 기술을 분석하여 AI 합성 음성을 탐지하고 표시하는 전체 대응 기술들을 소개한다.

최근 이른바 서울대 N번방 사건을 계기로 다시 주목받기 시작한 딥페이크 성범죄는 주로 텔레그램에서 성범죄물이유포되고 있는데 대학생 등 성인은 물론 초중고등학생을 합성한 성범죄물도 다수 존재한다고 알려져 사회에 큰 충격을안겨주고 있다. 경찰은 총력을 기울여 수사하고 있으며 텔레그램도 과거와 달리 적극적으로 협조를 약속하고 있다.
 또한 관련 법률도 최근 개정되었다. 그러나 대안의 하나로 주장되었던 위장수사는 결국 도입되지 않았다. 본고는 성인대상 딥페이크 성범죄에 대하여 현재 청소년성보호법에 따라 실시되고 있는 신분비공개수사와 신분위장수사의 도입여부를 검토하였다. 물론 성인 대상 딥페이크 성범죄는 아동·청소년 대상 디지털 성범죄와 죄질 면에서는 큰 차이가있다. 그러나 현실적으로 범죄자들은 두 범죄를 같이 저지르고 있으며 수사기관이 현장에서 두 범죄를 구분하기도 매우어렵다. 또한 수사기법은 매우 다양한 기준에 따라 허용된다는 점을 고려할 필요가 있다. 우선 신분비공개수사를허용하면서 신분위장수사에 있어서는 신분위장 관련 제도만을 우선 도입하는 방법이 있을 수 있다. 또한 온라인만의위장수사를 도입하는 방법도 가능할 것이다.

이 글의 목적은 딥페이크 성범죄에 대한 대안으로 제시되는 다양한 법/제도적 제안이 젠더구조의 성차별적 특성을 반영하지 않은 채로 구성되고 있는 데 대해 문제 제기하고자 하는것이다. 현재 한국에서 디지털 성범죄로 개념화되어 있는 온라인 상의 여성 대상 폭력들은 온라인은 물론 오프라인의 폭력과도 연속선상에 있다. 그러나 현재의 법규제 제도는 이를 범죄유형별로 파편화하여 다루는 문제가 있다. 또한, 온라인 괴롭힘을 근간으로 하는 딥페이크성범죄를 비롯한 다양한 온라인 폭력의 문제를 성차별의 구조적 문제로 다루지 못하고 있다.
 딥페이크 성범죄를 비롯한 기술 매개 젠더 기반 폭력의 연속성과 구조적 차원을 살펴보는 것이필요하다. 이러한 상황에서 법제도적 개선안 및 디지털 성범죄 예방 교육의 강화가 대안으로제시되지만, 이러한 한계로 이해 기술 매개 젠더 기반 폭력 문제를 개인적 책임으로만 환원할 수있는 문제를 안고 있다. 이 글은 성평등 관점에서 딥페이크 성범죄 문제에서 대응할 필요성을논의하면서, 기술 매개 젠더 기반 폭력의 문제를 다루는 인식의 전환이 필요함을 주장하였다.

본 연구는 딥페이크 기술의 발전과 그로 인한 디지털 성범죄, 특히 딥페이크 포르노 문제에 대한 예방적 대응 방안을 모색하고자 한다. 딥페이크 기술은 인공지능을 기반으로 발전했으며, 최근에는 연예인뿐만 아니라 일반인도 피해자가 되는 등 사회적 문제로 대두되었다. 본 연구는 딥페이크 범죄의 초기 징후(약신호)를 사전에 탐지하여 사회적 혼란을 예방할 수 있었는지를 분석하고, 텍스트 마이닝을 활용한 약신호 탐지 방법론을 검증하였다. 약신호 탐지는 특정 키워드의 빈도와 확산 정도를 분석해 범죄 발생 가능성을 조기에 예측하는 방법으로, 본 연구에서는 2022년 상반기부터 2024년 상반기까지의 뉴스 기사 데이터를 바탕으로 딥페이크 범죄 관련 신호를 분석하였다. 분석 결과, 딥페이크 포르노와 관련된 약신호가 '인스타그램', '도용', '포르노' 등 오늘날 딥페이크 문제 상황을 예견하는 키워드로 구성되어 있었음을 확인했으며, 이를 통해 딥페이크 포르노와 관련된 약신호를 사전에 감지할 수 있었다. 본 연구는 딥페이크 범죄와 같은 신기술 기반 범죄에 대한 선제 대응의 중요성을 강조하며, 향후 경찰과 정부 기관이 약신호 탐지 기법을 적극적으로 활용해 범죄 확산을 예방할 수 있는 정책적 기초 자료로 활용될 것으로 기대된다.

본 연구는 선행연구를 고찰하고 한국어교육에서 멀티리터러시 교육이 가지는 의미를 탐색하여 멀티리터러시 기반 한국어교육의 방향을 제안하였다.선행연구를 통해외국어 학습 과정에서 멀티리터러시 교육을 통하여 멀티리터러시와 언어능력의 향상됨을 확인할 수 있었다.그리고 한국어와 한국어가 사용되는 환경에 대해 탐색하여 한국어교육에 있어서 멀티리터러시 기반 교육의 필요성에 대해 제기하였다.이를 통해한국어 학습자에게 한국어의 맥락적 이해가 필요하며 담화와 함께 주어지는 다중양식에서 의미를 이해하고 또한 비판적으로 사고하는 능력이 필요함을 논하였다.그리고 여러 모달리티가 수집되어 하나의 정보를 표현하는 다중양식을 중점으로 멀티리터러시 기반 한국어 교육이 가지는 교육적 의미를 탐색하고 제시하였다.본 연구의 의의는 선행연구를 고찰하고 한국어와 한국어가 사용되는 환경에 대해 탐색하여 멀티리터러시 기반 한국어교육의 필요성과 교육적 의미를 제시하였다는 점에서 찾을 수있다.또한 후속 연구를 통해 체계적인 수업 설계와교수 방법 및 학습 활동의 설계,학습자의 멀티리터러시 및 학습 향상도를 평가할 기준의 제시가 필요하며 실제 수업에서의 학습 효과와 멀티리터러시와 한국어 능력의 통계적 분석을 통한 상관관계에 대한 검증이 필요함을 제안하였다는 점에서 의의가 있다.

2022년 11월말 OpenAI에 출시된 챗GPT는 우리 사회전반에 큰 파장을 일으키고 있다. 기존의 인터넷 검색 정도가 아닌 방대한 자료를바탕으로 새로운 자료를 만들어내고 마치 인간과 같이 대화가 가능한챗GPT는 교육, 의료, 과학 분야 등에서 폭넓게 활용되며 새로운 세계를 열고 있다. 이런 점에서 2023년 6월 독일에서 인공지능 챗GPT가만든 예배에 300여명의 사람들이 참여한 일은 결코 작은 사건이 아닐것이다. 물론 이에 대해 부정적 의견이 대부분이었다. 예배를 기획한사람도 인간이 만드는 예배를 대체하려는 의도가 아닌 실험적 예배임을 밝힌다. 그러나 이를 단지 실험적 예배로 치부할 수 있을까? 오늘날세대, 아니 앞으로 인공지능과 더불어 살아가야 하는 세대들에게 있어인공지능이 이끄는 예배는 어떠할까? 이와 같은 질문에 본 연구는 예배영성의 관점에서 챗GPT가 제공할 수 없는 하나님과 인간의 영적 교제의 장인 예배의 특징을 고찰하는데 그 목적이 있다. 물론 우리는 과학기술의 발전이 신자의 신앙 경건생활에 가져올 수 있는 유용성을 간과해서는 안 될 것이다. 누구에게나 쉽게 접근할 수 있는 챗GPT의 방대한 자료는 교인들로 하여금 그들 스스로 신앙적 궁금증을 해결하고자신의 영적 훈련을 위한 자료들을 쉽게 찾을 수 있다는 이점이 있다.
 특히나 사용자의 질문에 따라 알맞게 답과 정보를 제공하는 챗GPT의기능은 교인들 각자의 상황에 적절한 성경본문과 기도문을 제공받는데 도움을 줄 수 있을 것이다. 또한 챗GPT는 인공지능으로 신자들이 목회자에게 묻기 어려운 신앙의 문제들에 대해 익명성을 보장 받게 함으로 자유롭게 질문하고 상담할 수 있다. 그러나 이런 도움에도 불구하고기억해야 할 중요한 사실은 기독교 영성은 기계와의 대화가 아닌 하나님과의 교제를 바탕으로 한다는 점이다. 또한 기독교 영성은 신앙공동체를 기반으로 형성된다. 무엇보다 영성이란 신자 개인의 영적 목적만을 위함이 아닌 하나님의 초청에 대한 인간의 응답으로 이루어지는 자리이며 영성의 형성은 질문의 답을 얻는다고 해서 곧바로 완성되는 것이 아니다. 신자의 영성은 하나님과 다른 사람들과의 관계 속에 자신의 삶을 살아가며 완성되어져 간다. 이런 이해에서 비록 챗GPT의 자료 처리 능력과 언어 조합 능력이 인간이 가진 지적 능력을 압도한다고보여 질 수 있어도 영성은 챗GPT가 넘지 못하는 영역이다. 실제로 기독교 영성은 단지 정보 전달이나 이를 인지함으로