논문 146편

특허제도는 기술에 대한 윤리적 가치판단이 아닌, 기술이 갖는 효용을 판단함으로써 기술중립적 견지에서 심사하게 된다. 인공지능 기술의 발전은 사회적인 현상까지도 이끌고 있다. 인간에 의한 창작이, 기술에 의한 창작으로 주도권이 넘어가고 있는 모습도 보인다. 그렇지만, 기술은 선의로 개발되었다고 하더라도 그 이용과정에서 악용되는 경우도 있다. 기술에 의한 창작으로서 합성데이터 생성기술인 GAN 알고리즘을 이용한 딥페이크가 대표적이다. GAN 알고리즘을 악용하여 타인의 초상이나 음성을 음란물에 덧대어 거짓의 정보를 생성함으로써, 타인의 명예를 훼손하는 경우이다. 정치인의 경우에는 선거에 악용됨으로써, 여론을 호도하기도 한다. 이러한 부정한 이용을 포괄하는 딥페이크에 대해 성폭력 특별법이나 공직선거법 등 다른 법률을 통해 규제가 가능하지만, 원천적인 규제가 되기 어렵다. 또한, 지속적이고 반복적인 생성이 가능하기 때문에 인터넷서비스제공자(ISP)를 통한 삭제 등의 대응도 쉽지 않다. 이러한 이유가 기술관련 법제인 특허법의 적용가능성에 대한 고민하게 된 배경이다. 악의적인 사용으로 사회문제화 되고 있는 딥페이크 기술이 특허법상 공서양속에 위배되는 지에 대해 살펴보는 것은 의미있는 일이다. 구체적으로는 딥페이크 기술에 대한 심사과정이나 등록후에 공서양속 규정에 따라 대응할 수 있는지에 대해 살펴본다. 다만, 기술에 대한 가치판단은 중립적이어야 한다는 입장을 유지하면서 고찰하였다는 점을 밝힌다.

인공지능 기술의 급속한 발전은 우리 사회 전반에 혁신을 일으키고 있다. 효율성과 생산성의 극대화를 실현하는 인공지능 기술은 의료, 교육, 제조, 서비스 등 다양한 분야에서 인간을 돕거나 대체할 것이라는 기대를 모으고 있다. 그러나 기술의 발전과 함께 나타나는 부작용과 사회적 문제도 증가하고 있다. 그중에서도 심각한 문제는 인공지능이 진실과 구분하기 어려운 가짜 정보를 만들어 낸다는 점이다.
 지금 이 순간에도 대중의 관심을 끌기 위해 자극적인 가짜 정보가 인공지능 기술을 통해 만들어지고 있다. 이러한 콘텐츠에는 거짓된 정보를 담은 메시지나 개인의 얼굴, 신체를 합성한 음란 콘텐츠 등이 포함된다. 이러한 허위의 사진, 영상, 음성을 가공해내는 기술을 ‘딥페이크’라고 하며, 인터넷 플랫폼이나 앱을 통해 이용이 증가하고 있다.
 딥페이크 기술의 등장 초기에는 다양한 분야에서 유용한 용도로 활용될 것으로 기대되었다. 엔터테인먼트, 교육, 뉴스, 생활 정보 등 다양한 영역에서 창의적이고 흥미로운 콘텐츠를 생성하는 데 사용될 수 있다는 점이 큰 관심을 모았다. 그러나, 선거 시즌에 특정 후보가 등장하는 가짜 영상이 큰 사회적 혼란을 일으키고, 유명인의 명예를 훼손하는 음란 영상이 끊임없이 등장하고 있다.
 정부와 기업들의 문제 인식과 방지 노력에도 불구하고 딥페이크로 인한 사회적 문제는 여전히 증가하는 추세이다. 최근 몇 년 동안 이를 근절하기 위한 시도는 존재했으나 딥페이크 콘텐츠는 지금도 인터넷상에서 쉽게 공유되고 배포되며, 해외에서 유포된 경우는 신속한 삭제나 법적 조치가 어려운 경우가 많다. 이러한 문제를 해결하기 위한 방책은 간단하지 않다. 그러나 피해자의 증가와 사회적 혼란이 커지고 있는 상황에서 문제를 해결하기 위해 적절한 이용 절차의 마련과 음란물 및 가짜뉴스 생성을 위한 이용 제한 등이 고려되어야 한다.

이 연구의 목적은 2030세대 이용자들의 딥페이크 기술 경험에 나타난 다양한 쟁점들을 분석하고, 딥페이크 기술 사례의 문제점을 극복하기 위한 예술의 정치화 실천 가능성을 모색하는 데 있다. 이를 위해 이론적 논의로서 발터 벤야민(Walter Benjamin)의 아우라 붕괴 논의에서 파생된 ‘아우라변형’의 논의들을 재검토하고, 정치의 심미화, 예술의 정치화 사유를 토대로 딥페이크 사례의 쟁점을 탐색하였다. 사례분석 방법을 적용해 연구참여자들의 딥페이크 기술 경험을 통한 정치의 심미화와 유희·오락을 통한 예술의 정치화 사례를 분석하였다. 기술 경험은 제작 및 이용 경험으로 나타났고, 정치의 심미화 사례는 허위정보와 신뢰성, 사회적·윤리적 문제, 상업적 기만을 통해 나타났다. 유희·오락을 통한 예술의 정치화 사례는 적극적 이용과 신뢰성 회복, 윤리적·제도적 발전의측면에서 검토되었다. 이 연구의 의의는 딥페이크 기술 경험과 인식 사례에 접근하여 딥페이크 기술의 긍정적 활용 방안을 모색하기 위한 공론화 계기 창출에 있다.

생성형 AI가 대중적으로 활용되면서 제기되는 AI 윤리 문제 가운데 최근에 딥페이크 문제가 주목받고 있다. 딥페이크 음란물이 일반인들에 의해 유명인뿐만 아니라 일반인인 지인들을 대상으로 제작되어 유포되고 있을 뿐만 아니라, 딥페이크가 문화 영역을 넘어 정치 영역뿐만 아니라 경제 영역 등 전방위로 확장되어 사회 문제를 야기하고 있기 때문이다. 이에 대해 한국 사회에서는 법을 통해 대응하려는 분위기가 강하지만, 딥페이크가 초래하는 다양한 문제가 법만으로 해결이 가능한 것인지 의문이다. 딥페이크 문제에 대응하기 위해서는 법이 필요한 것은 분명하지만, 윤리 또한 필요하기 때문이다. 본 논문은 딥페이크 문제에 효과적으로 대응하기 위한 윤리 방안을 모색하고자 한다. AI 윤리 실현을 위해서는 서로 다르지만 밀접하게 연관된 윤리의 세 층위, 즉 이론 윤리 층위, 제도 윤리 층위, 개인 윤리 층위의 협업이 필요하다. 딥페이크 문제는 약한 AI 단계에서 제시되는 윤리 문제이기에 이론 윤리 층위에서 다양한 도덕 논의들이 중첩적으로 합의된 공통 도덕 논의가 적합해 보이며, 제도 윤리 층위에서는 AI 지침을 통해 딥페이크의 사회적 활용을 지도할 뿐만 아니라 소위 ‘딥페이크 윤리 위원회’를 통한 활용 계획에 대한 사회적 승인 과정을 거칠 필요가 있다. 개인 윤리 층위에서는 딥페이크가 대중화되었다는 점에서 사용자의 윤리가 필수적인데, 1인칭 관점의 규범성에 효과적인 ‘덕성 중심의 AI 사용자 윤리’가 필요하다. 이러한 세 층위의 윤리가 협업할 때, 딥페이크가 초래하는 윤리 문제를 피하면서도 사회 번영과 발전에 도모하는 윤리 실현을 이룰 수 있을 것이다.

코로나19로 기존 무용을 비롯한 공연예술에도 관객과 소통하기 위한 다양한 변화가 있었다. 비대면의 시대에 영상기술은 관객과의 관계를 이어주고 기술적 매개가 되어 공연예술 생태계에 공공연하게 자리 잡았다. 기술적 측면에서도 AI(인공지능)와 3D 모션 캡처, 딥페이크, 홀로그램, 음성합성 등의 기술을 결합하여 인간과 매우 흡사한 버추얼 휴먼이라는 가상 인물이 등장하면서 대중의 높은 관심을 불러일으키고 있다. 행동은 물론이며 말과 표정 모두 자연스러우며 심지어 즉각적인 대화가 가능할 정도다. 본 연구는 무용이 지닌 일회성과 현장성, 그리고 몸성과 관련하여 모방(미메시스, mimesis)가 지닌 재현의 가치를 중심으로 딥페이크를 비롯한 영상기술이 대체되는 현상을 살펴보는데 의미를 두었다. 이를 통해 딥페이크 기술이 무용예술적 측면에서의 순기능과 나아가 AI와 영상기술의 진화를 수용할 방안을 제시하였다. 방법적으로 본 연구에서는 사자(死者)를 영상 기술로 재현된 공연으로 관객과 소통하던 사례들을 살펴보았다. 더불어 실제 망자를 소환하여 산자와 만나게 한다는 측면에서 과거 망자 천도 의식과 매우 유사한 재현행위라는 점에서 매우 긍정적이나, 포르노로 제작 유통되거나 정치 선동을 위해 조작되는 역기능도 제시하였다. 이를 통해 본 연구는 딥페이크 기술을 비롯한 영상매체의 재현 기술을 아리스토텔레스의 미메시스 개념을 통해 살펴보고 그 가운데 복제가 원본을 능가하는 현상을 장 보드리야르가 제시한 시뮬라시옹 개념으로 살펴보았다. 결과적으로 우리는 무용이 지닌 육체성에 대해 다음과 같은 새로운 인식이 요구됨을 확인하였다. 첫째, 무용수 측면에서 관객의 인식 행위에 대한 새로운 인식이 요구된다. 카메라의 프레임을 통해 인식하는 시스템, 즉 무용수가 세계 속의 존재임을 인정하고 영상 기술에 대한 진화를 받아들여야 한다. 둘째, 딥페이크가 원본의 모방으로 비롯되지만, 여전히 가짜라는 복제물의 한계를 이해해야 한다. 그것을 인지하고 비도덕적 의도를 대응하는 방법이 필요하다. 셋째, 과거 소통 방식의 한계를 인정하고 디지털 체계 내에서의 소통과 소속감을 찾는 것이 요구된다. 나아가 과거 유명한 무용수나 그들의 안무를 복원할 때, 단순히 무보(score)에 그치지 않고 죽은 자를 소환시켜 재현한다는 점에서 장소적 한계 극복과 무용예술적 측면에서의 적용가능성을 살펴보았다.

본 논문에서는 빅데이터와 딥페이크 기반의 헤어스타일 추천 시스템 구현에 관해 연구하였다. 제안한 헤어스타일 추천 시스템은 사용자의 사진(이미지)을 바탕으로 얼굴형을 인식한다. 얼굴형은 타원형, 둥근형, 장방형으로 구분하며, 얼굴형에 잘 어울리는 헤어스타일을 딥페이크를 통해 합성하여 동영상으로 제공한다. 헤어스타일은 빅데이터를 바탕으로 최신 트랜드(trend)와 얼굴형에 어울리는 스타일을 적용하여 추천한다. 이미지의 분할 맵과 Motion supervised Co-Part Segmentation 알고리즘으로 같은 카테고리(머리, 얼굴 등)를 가지는 이미지들 간 요소를 합성할 수 있다. 다음으로 헤어스타일이 합성된 이미지와 미리 지정해둔 동영상을 Motion Representations for Articulated Animation 알고리즘에 적용하여 동영상 애니메이션을 생성한다. 제안한 시스템은 가상 피팅 등 전반적인 미용산업에 활용될 수 있을 것으로 기대한다. 향후 연구에서는 거울에 사물인터넷 기능 등을 적용하여 헤어스타일등을 추천해주는 스마트 거울을 연구할 예정이다.

디지털 성범죄는 n번방과 박사방 등 사이버 환경에서 발생하는 성착취물의 제작‧유포‧강요‧협박 사건 이래 우리사회에서 더 큰 경각심을 불러일으키고 있다. 이 연구에서는 최근 심각한 사회문제가 되고 있는 딥페이크 기술을 활용한 디지털 성범죄의 현재 실태를 고찰하고 그에 대한 효율적 대응방안을 제시하고자 하였다.
 딥페이크 기술을 활용한 디지털 성범죄의 최근 실태를 살펴보면 2020년 6월부터 2023년 8월까지방송통신심의위원회에 심의 요청된 딥페이크 기술을 활용한 성적 허위영상물이 9,006건에 달하는 것으로 나타났으나, 삭제 조치까지 이루어진 경우는 410건으로 전체 시정 요청건수의 단지 4.5%에 그쳤다.
 딥페이크 기술을 활용한 디지털 성범죄의 주요 사례를 살펴보면 기존에는 연예인을 대상으로 한허위영상물의 제작이 많았으나 최근에는 소위 ‘지인능욕’ 같이 가까운 지인의 사진이나 영상을 다른사람의 나체나 성관계 사진 및 영상과 합성하여 제작 및 유포하는 등 일반인을 대상으로 하는 쪽으로 이루어지고 있다.
 마지막으로 딥페이크 기술을 활용한 디지털 성범죄의 대응방안으로는 전문 수사 인력 및 지원 보강, 위장수사 제도 강화, 예방 교육 및 홍보 강화, 디지털 기기 사용 제한, 피해자 지원 강화, 국제 공조 강화를 제시하였다.

인공지능 기술이 빠르게 발전함에 따라, 딥페이크 기술은 우리 생활에 많은 영향을 미치게 되었다. 초기 딥페이크에 관한 이슈가 음란물에 관한 것이었다면, 근자엔 딥페이크 기술을 활용한 가짜 뉴스의 생성·유포 등, 딥페이크의 무기화가 국가안보에 심각한 위협이 되고 있다.
 우리나라는 딥페이크 기술을 이용한 음란물에 관한 별도의 처벌 규정 마련을 위해 「성폭력범죄의 처벌 등에 관한 특례법」을 일부 개정하였으며, 공직선거와 관련하여 중앙선거관리위원회는 2022년 1월 「딥페이크 영상 관련 법규운용기준」을 발표하였다. 또한 2022년 1월 13일 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’이 발의되어 소관위원회 심사가 진행되었다.
 이와 같이 딥페이크 규제를 활발하게 논의하는 시점에서 중국 국가인터넷정보판공실은 공업･정보화부, 공안부와 함께 2022년 11월 25일 「인터넷 정보 서비스 딥페이크 관리 규정」(「딥페이크 규정」)을 발표하였다. 과거 중국의 인터넷 콘텐츠 관리 등에 관한 규제에 관해 서방 전문가 그룹은 부정적인 의견이 대부분이었으나, 「딥페이크 규정」에 관하여는 기대와 우려가 교차하고 있다.
 이에 본고에서는 「딥페이크 규정」의 주요내용을 살피고, 우리나라에의 시사점을 도출하였다. 특히 중국의 데이터 3법과 「인터넷 정보 서비스 알고리즘 추천 관리 규정」 등, 중국의 데이터 관련 입법동향 및 거버넌스를 분석하여, 우리나라도 전통적 국가안보의 관점에서 데이터 안보로 그 시야를 넓혀야 할 시기임을 상기시켰다. 또한 이를 우리에 맞게 적용함으로써, ‘데이터 경제 활성화’와 ‘데이터 안보 강화’라는 두 가지 요소가 균형 잡힌 ‘K-데이터 법체계’를 구축해야 함을 제언하였다.

딥페이크(deepfake)는 적대관계생성신경망 (Generative Adversarial Networks, GAN)을 이용하여 원본 이미지 위에 다른 이미지를 결합해 새로운 이미지를 생성하는 기술로 미디어 산업에서 다양한 활용 가능성을 보여주고 있다. 하지만 딥페이크 기술의 악용사례가 빈번히 등장하면서 딥페이크 기술에 대한 사회적인 인식은 다소 부정적이다. 본 연구는 다른 환경에서 동일한 기술에 대한 인식과 논의가 어떻게 다른지 살펴보기 위하여 딥페이크와 관련된 국내외 언론 보도 기사(국내-1,576건, 국외-2,107건)를 수집하여 국내외 언론 보도의 경향성을 비교 분석하고자 하였다. 연구 결과, 국내 언론보도는 ‘n번방’과 특정 범죄 사건과 연관된 키워드와 토픽이 주를 이루었으며 국외 언론보도는 딥페이크 기술의 주요 키워드인 ‘video’, ‘fake’등의 키워드와 함께 소셜 미디어, 정치 등 좀 더 다양한 토픽이 등장하였다. 국내 언론이 딥페이크 기술을 범죄 사건과의 깊은 연관성 상에서 언급한 것과 달리, 국외 언론에서는 딥페이크로 만들어진 가짜 동영상 사건을 중심으로 이에 대한 대응방안, 기술적 설명 등으로 좀 더 다양한 시각을 보여주고 있었다.

최근 딥페이크 기술을 활용하여 영상저작물에 다른 얼굴을 합성하고, 이를 배포하는 사례가 발생하고 있다. 모바일 앱과 상용프로그램을 통해 영상저작물을 무단으로 변경하고 영상 공유 플랫폼에 게시할 경우, 저작권 침해 문제가 발생한다. 영상저작물을 이용하여 제작된 딥페이크 영상을 탐지하기 위해, 얼굴 탐지 기술을 활용한 탐지 시스템을 제안한다. 영상저작물과 딥페이크 영상의 화면 내 얼굴 비율을 얼굴 탐지 기술을 이용하여 측정하고, 두 값의 비교를 통해 딥페이크 영상이 영상저작물을 활용하여 제작되었는지 판단할 수 있다. 이를 통해, 영상 공유 플랫폼에 무분별하게 게시되고 있는 저작권 침해 딥페이크 영상을 효과적으로 탐지 가능하다.

딥페이크 기술은 전문가조차 구별하기 대단히 힘든 수준까지 발전했고 이 기술이 공직선거 영역에 악용된다면 민주공화국 대한민국의 근간을 흔드는 중차대한 범죄로 진행될 가능성이 농후하다. 그러나 우리 학계와 정치계의 공직선거 영역에서 딥페이크 기술의 악용에 대한 대비 논의는 거의 전무하다. 하지만, 공직선거 영역에서 딥페이크 기술은 충분히 악용될 수 있을 정도로 발전했고 이에 대한 선행적 논의는 이 순간 반드시 필요하다.
 ‘공직선거에서 딥페이크’란 “유권자가 후보자를 선택하는 ‘판단력’을 교란하는 일체의 행위”로 정의할 수 있다. 유권자가 후보자를 선택하기 위해서는 A 후보자를 A 후보자로 인식하는 행위가 필요한데 이것이 ‘후보자 정체성(candidate identity)’ 이고, 후보자의 정체성은 개인 정체성(personal identity)이 선거영역에서 발현된 것이다.
 공직선거에서 딥페이크의 악용 문제를 대비하기 위해서는 선거권자가 후보자 A를 A로 인식하는 개인정체성(personal identity)에 기인한 후보자 정체성(candidate identity)의 정의가 반드시 선행되어야 한다. 연구자는 17세기 서양 근대성의 특징 중 하나인 ‘개인’의 발견에 주목해 근대의 철학자들이 ‘개인’을 어떻게 정의내릴 것인지에 대한 논의를 원용하여 각 철학자의 개인 정체성 정의에 따른 딥페이크로 인한 정체성의 침해 가능성과 침해 양태를 도출했다.
 다음으로 공직선거에서 유권자가 후보자를 판단하는 기준 조사를 이용해 후보자 개인의 인물･능력･도덕성 영역과, 정책과 공약의 영역, 그리고 소속 정당 영역이라는 3가지 중요 영역에서 딥페이크가 악용될 부분을 예측했다. 대통령선거부터 지방선거까지 선거의 종류에 따라 딥페이크의 악용 가능성을 높음부터 낮은 수준까지 분류했다.
 학계와 정치계의 논의가 적은 우리와 다르게 실제 미국의 입법례를 분석하여 우리에게 필요한 시사점을 도출했다.
 딥페이크 기술은 하루가 다르게 급속도로 발전하고 있고 이 기술이 공직선거 영역에 악용된다면 민주공화국 대한민국의 근간을 흔드는 중차대한 범죄로 발전될 개연성이 농후하다. 본 연구가 우리나라 학계와 정치권이 공직선거 영역에서 딥페이크 기술의 악용의 위험성을 인식하고 적극 대응하는 첫 연구로 기능하기를 앙망한다.

최근 인공지능, 빅데이터, IoT 등의 다양한 컴퓨팅 기술이 발달하고 있다. 특히 콘텐츠 및 의료 산업 등 여러 분야에서 인공지능 기반의 딥페이크(Deepfake) 기술이 다양하게 활용되고 있다. 딥페이크 기술이란 딥러닝과 fake의 합성어로, AI의 핵심기술인 딥러닝을 통해 사람의 얼굴이나 신체를 합성하여 억양, 목소리 등을 따라 하게 만드는 기술이다. 본 논문은 딥페이크 기술을 활용하여 애니메이션 모델과 실제 인물사진의 합성을 통한 가상 캐릭터생성을 연구한다. 이를 통해 애니메이션 제작과정에서 일어나는 여러 가지 비용 손실을 최소화하고 작가들의 작업을 지원할 수 있다. 또한, 딥페이크 오픈소스가 인터넷에 퍼짐에 따라 많은 문제들이 나타나면서 딥페이크 기술을 악용한 범죄가 성행하고 있다. 본 연구를 통해서 딥페이크 기술을 성인물이 아닌 아동물에 적용하여 이 기술에 대한 새로운 관점을 제시한다.

최근 딥페이크 기술이 접목된 콘텐츠가 관심을 불러모으고 있다. 한 방송사는 사망한 가수의 과거 사진과 영상자료를 바탕으로 딥페이크 기술을 접목시켜 무대를 재현하였으며, 지난 광복절에는 유관순 열사가 살아 움직이는듯한 게시물이 SNS 플랫폼에 업로드되기도 하였다. 이처럼 딥페이크 기술이 다양한 활용성을 보유하고 있음에도불구하고, 이를 악용하는 사례가 빈번히 등장해 부정적인 기술로 인식되고 있다. 이에 본 연구는 언론보도 분석을실시하여 딥페이크 기술에 대한 사회적 담론의 현재를 살펴보고, 함의를 도출하고자 하였다. 보다 심층적 논의를도출하기 위해 수집된 기사 1,535건에서 총 18,622개의 키워드를 추출하여 토픽모델링과 언어네트워크분석을 실시하였다. 연구결과, 총 7개의 토픽이 도출되었고, 딥페이크 관련 기사 전반에서 피해자, 성범죄, 텔레그램 등 범죄와 관련된 단어들이 반복적으로 다루어지고 있는 것을 확인할 수 있었다. 시기ž언론별 주요 토픽을 분석한 결과최근 1년간 ‘텔레그램과 성착취물’에 관련된 기사가 주로 보도되고 있었으며, 기술 자체를 다룬 내용은 전문지에서 주로 보도되었음을 확인할 수 있었다. 단어 간의 연관도를 살펴보기 위해 빈도수 상위 60개의 단어를 추출하여 시각화한 결과 앞선 분석과 유사하게 ‘성범죄’ 관련 단어들이 주요하게 나타났다.

인공지능 기술이 발달함에 따라 진짜 같은 가짜 동영상을 만들 수 있게 되면서 예전에는 없었던 새로운 법적인 문제들이 생겨나고 있다. 2020년 말 엘리자베스 2세 영국 여왕이 크리스마스 인사를 하고 춤까지 추는 가짜 동영상이 공개된 적이 있었다. 딥페이크의 위험성을 경고하기 위해 2018년에는 오바마 전 미국 대통령이 “트럼프 대통령은 정말 쓸모없는 사람”이라고 말하는 가짜 동영상이 공개되기도 했다. 최근 우리나라에서도 선거가 얼마 남지 않은 시점에 어느 전직 대통령이 특정한 대선후보를 지지한다는 내용의 딥페이크 동영상이 여당의 공식 유튜브 채널에 게시되었다가 논란이 일자 삭제되는 일이 있었다.
 그런데 선거를 앞두고 후보자에 관한 가짜 동영상이 유튜브(YouTube)에 게시되면 유권자가 후보자를 선택하는 데에 부정적 혹은 긍정적 영향을 미치게 되고 이는 결국 선거의 공정성을 전제로 하는 대의민주주의에 중대한 위협이 된다. 이에 미국의 캘리포니아주와 텍사스주는 공직선거의 후보자나 선거결과에 영향을 미칠 수 있는 딥페이크 동영상을 규제하는 법률을 제정하여 시행하고 있다.
 가짜 동영상을 가리키는 “딥페이크(deepfake)”라는 단어는 “딥러닝(deep learning)”과 “가짜(fake)”의 합성어로서, “진짜처럼 보이기 위해 조작된 이미지, 오디오 또는 비디오”를 가리킨다. 그런데 캘리포니아주의 딥페이크금지법은 선거의 공정이라는 ‘긴절한 국가의 이익’을 달성하기 위하여 언론의 자유에 대해 최소한의 규제만을 하는 것이라고 하기 어렵고, 언론의 자유에 관한 연방대법원의 ‘현실적 악의’의 법리 때문에 동 법이 실제 사례에 적용되기 어렵다는 비판이 제기되고 있다. 따라서 이러한 비판적 견해에 의하면 딥페이크는 명예훼손법이나 저작권법 등을 통해 규율하는 것이 더 바람직하다고 한다. 한편 텍사스주의 딥페이크금지법은 ‘현실적 악의’의 법리를 규정하지 않고 있고, 패러디나 풍자를 동 법의 적용예외로 규정하고 있지 않으므로 연방 헌법에 위반된다는 주장이 제기되고 있다.
 최근 우리나라의 중앙선거관리위원회는 ‘딥페이크 영상 관련 법규운용 기준’을 제정하여, 딥페이크 영상을 이용한 선거운동은 가능하지만 “딥페이크 영상(AI OOO)”임을 표시하지 않는 경우 「공직선거법」 제250조에 위반된다는 유권해석을 내놓았다. 그러나 딥페이크 영상임을 표시해야 하는 법적인 근거가 명확하지 아니할 뿐만 아니라, 이

딥페이크 기술이란 사진이나 영상물에 등장하는 인물에 대하여 인공지능(AI)기술을 이용해 다른 인물의 안면 또는 몸을 합성하거나 특정 인물이 발언하는 영상물에 타인의 안면을 합성하여 마치 그 타인이 발언한 것처럼 편집 및 가공 등을 하는 기술로 알려져 있다. 이와 같이 딥페이크 기술에 의해 가공된 영상물은 다양한 형태로 사회적 문제를 발생시킬 수 있으며 특히 성범죄와 관련된 영상편집물들이 사회적으로 큰 파장을 일으키고 있다. 이러한 이유로 ‘성폭력범죄의 처벌 등에 관한 특례법’제14조의2가 신설되어 딥페이크 기술을 이용하여 영상물을 제작하는 행위를 처벌하게 되었다. 즉, 첨단기술의 발달로 인하여 실제와 분간이 어려운 영상물 중에서도 타인의 안면을 합성한 음란물로 인한 피해자를 보호하고 건전한 사회질서를 확립하기 위한 목적으로써 신설된 처벌규정이다. 문제는 이러한 영상물들이 실질적으로 ‘진짜’가 아닌 ‘허위’의 영상물이고 당사자의 신체를 실제 촬영한 영상물도 아니라는 점에서 형벌권의 개입이 타당한 것인지 근본적인 의문이 제기된다. 나아가 본죄는 성을 매개로 하는 행위유형으로서 성 관련 범죄의 보호법익으로 대표되는 성적 자기결정권이 본죄의 보호법익으로 작용할 수 있을 것인지에 관한 문제도 발생한다. 하지만 위 영상물은 실제와 구분이 어렵다는 점에서 영상물 등을 접하는 사람들로 하여금 실제 인물로 오인하게 될 가능성이 매우 높으므로 피해자의 명예, 잊혀질 권리를 침해할 위험성이 높다고 할 수 있다. 따라서 본죄의 보호법익은 넓게는 개인의 인격권, 구체적으로는 명예와 잊혀질 권리를 주된 보호법익으로 이해할 수 있고, 부차적인 법익으로서는 건전한 성도덕 또는 공공의 성적 혐오감 내지 불쾌감을 도출해 낼 수 있으므로 당벌성의 조건은 갖추었다고 할 수 있다. 위 규정들을 살펴보면, 우선 제14조의2 제1항 ‘반포 등을 할 목적’을 초과주관적 구성요건요소로서 요구하는 목적범의 형태로 구성한 것은 타당하다고 생각한다. 다만, ‘대상자의 의사에 반하여’라는 문구는 해석상 문제의 소지가 있으므로 ‘상대방의 동의 없이’로 수정하는 것이 타당하며, 나아가 실질적 위법성론의 입장에 부합할 수 있도록 ‘일반인으로 하여금 실제와 혼동하여 성적 욕망 또는 수치심을 유발할 수 있는 형태’라고 수정하는 것이 타당하다고 생각한다. 그리고 미수범은 제14조의2 제1항 및 제2항 모두 처벌할 수 있도록 규정하고 있는데, 제2항인 허위영상물 반포죄에 대

Recent development of deep learning techniques for image generation has led to straightforward generation of sophisticated deepfakes. However, as a result, privacy violations through deepfakes has also became increased. To solve this issue, a number of techniques for deepfake detection have been proposed, which are mainly focused on RGB channel-based analysis. Although existing studies have suggested the effectiveness of other color model-based analysis (i.e., Grayscale), their effectiveness has not been quantitatively validated yet. Thus, in this paper, we compare the effectiveness of Grayscale channel-based analysis with RGB channel-based analysis in deepfake detection. Based on the selected CNN-based models and deepfake datasets, we measured the performance of each color model-based analysis in terms of accuracy and time. The evaluation results confirmed that Grayscale channel-based analysis performs better than RGB-channel analysis in several cases.

본 논문은 초상권․저작권 및 사이버 폭력 등의 문제를 예방하고 대응하기 위하여 인공지능 기술을 활용한 딥페이크 앱 활용 윤리 교육 융합 프로젝트를 개발, 적용하였다. 상용 딥페이크 앱을 분석하고, 이를 활용한 초등교육과정에 적용 가능한 교과와 단원 내용을 프로젝트기반 융합·재구성하였다. 창의적 체험활동 중심의 융합 프로젝트는 UCC 제작 과정을 중점으로, 계획된 행동이론 기반의 정보통신 윤리 의식 측정 검사로 효과를 비교하였다. 사회 교과 중심의 융합 프로젝트에서는 화폐(금융)교육의 주제로 재구성하여 질적 분석하였다. 분석 결과, 인공지능 기술 앱 활용 융합수업은 정보통신 윤리 의식을 유의미하게 증진시키는 것을 확인하였다.

As Deepfakes phenomenon is spreading worldwide mainly through videos in web platforms and it is urgent to address the issue on time. More recently, researchers have extensively discussed deepfake video datasets. However, it has been pointed out that the existing Deepfake datasets do not properly reflect the potential threat and realism due to various limitations. Although there is a need for research that establishes an agreed-upon concept for high-quality datasets or suggests evaluation criterion, there are still handful studies which examined it to-date. Therefore, this study focused on the development of the evaluation criterion for the Deepfake video dataset. In this study, the fitness of the Deepfake dataset was presented and evaluation criterions were derived through the review of previous studies. AHP structuralization and analysis were performed to advance the evaluation criterion. The results showed that Facial Expression, Validation, and Data Characteristics are important determinants of data quality.
 This is interpreted as a result that reflects the importance of minimizing defects and presenting results based on scientific methods when evaluating quality. This stu

Even though the provision of punishment is newly established in terms of the “possession” of Deepfake porno, it is virtually impossible to arrest and punish those who possess Deepfake porno in advance. However, it is time to take countermeasures to legitimately punish a new crime that have not been committed before, such as ‘nth rooms’, which is very harmful.
 Next, for virtual child pornography with Deepfake, the vertifiability of reproduced composites with realism will have to be considered. Advances in technology make it difficult to distinguish between reality and something similar to reality, There is no confirmation that such imaginary images or composites reduce or stop sexual abuse against children.
 The legal interests to be protected from these Deepfake virtual child pornography should be perceived as ‘social legal interests’ beyond the scope of a child's personal legal interests, and appropriate legislation and judicial judgments accordingly should be followed.
 Finally, in measures, for advanced criminal such as AI technology, criminal policies should be sought in a way that the community can recognize the social burden of them and accept. There is no den

이 연구는 신종 디지털 성범죄에 대응하기 위한 정책변동이 공중의 이슈관심 변화에 따라 어떻게 영향을 받는지 이해하는 것을 목적으로 한다. 최근 언론의 관심을 받게 된 딥페이크 포르노를 연구의 대상으로 선정하였고, Downs의 이슈관심주기 이론을 적용하여 딥페이크 포르노라는 기존에는 공중의 관심에 존재하지 않았던 신종 범죄가 여론의 관심을 받게 되어 입법까지 이루어지는 과정을 추적해 보았다. 분석 결과, 딥페이크 포르노 방지법의 입법 과정에서 사회적 관심을 집중시킬 수 있는 유명인과 관련된 성범죄가 반복·돌발적으로 수회 발생하였고, 그때마다 언론의 폭발적인 보도와 공중의 관심이 고조되며, 정책 단계가 유의미하게 진전되는 것을 확인하였다. 이처럼 주요 사건으로 확산된 이슈가 정책변동의 기회로 작용한다는 점은, 향후 신종 디지털 성범죄 정책 수립 과정에서 경찰청 등 정부 기관이 각종 신종 범죄와 관련된 이슈 변화를 기민하게 관찰하여 공중과 전문가가 함께 참여할 수 있는 사회적 공론화의 장(場)을 적시에 마련하는 것이 근본적인 대책마련을 위해 소요되는 시간을 단축시켜 사회적 비용을 줄이는데 중요하다는 실무적 시사점을 준다.

딥페이크는 실제로 일어나지 않았지만 디지털화된 조작으로 가공된 극사실적 영상을 말하며, 인간의 특징을 그대로 따라할 수 있도록 훈련받아 일련의 정보 샘플을 분석하는 신경망을 근간으로 한다. 그 처리는 알고리즘의 딥러닝과 결부되는바, 소셜미디어로 급속히 전파되는 데 최적화되어 있는 까닭에 그 진위 여부가 쉽게 간파되기 않는 딥페이크 영상은 좀처럼 가짜로 생각되지는 않는다. 문제는 딥페이크가 사실로 검증된 뉴스를 허위조작정보로부터 걸러내려는 정론에 위압을 가하고, 선동적 주장과 선거개입의 유포로 국가안보를 위협하며, 공신력 있는 정보에 대한 신뢰를 저지할 뿐만 아니라, 사이버보안 이슈를 유발하기 때문에, 사회경제적･정치체제적 측면에서 주요한 위험요인이 된다는 점이다.
 주목할 것은 진실의 왜곡과 허위사실의 조작이라는 측면에서 딥페이크의 본질은 탈진실이라는 점이다. 탈진실은 ‘객관적 사실이 공론을 형성하는 데 개인적인 신념과 감정에 호소하는 것보다 영향력을 덜 끼치는 환경’을 뜻하는바, AI가 여론형성에 미치는 영향은 탈진실로 대변된다. 그리하여 탈진실 개념은 진실과 사실이 중요하지 않게 된 시대상황의 반영으로 비유되고 있으며, 디지털 정보에 대한 접근의 증대와 그 전달속도의 폭증은 인터넷을 통한 사적 담화가 권위 있는 담론이나 여론을 대체하면서 드러나기 시작했다.
 본고는 이와 같은 관점에서 딥페이크와 여론형성에 관한 문제가 다른 사안과 마찬가지로 바람직하지 못한 사회현상의 정상화 차원에서 검토되기 위한 법원리적 논제를 되묻고 더듬어보려 하였다. 그리하여 여전히 입법기술적인 차원에서의 법 제･개정 문제를 과제로 삼더라도 그 현안을 의제의 차원에서 숙고하면서 공감대를 형성하는 숙의민주주의의 실현이 병행되어야 함을 강조하고 있다. 그리고 간과하지 말고 경계해야할 주요쟁점 가운데 알고리즘의 권력화를 염두에 두어야 함을 유의하면서 법이념에 응축되는 법제도의 구체적 논의에서 되짚을 것을 제언한다.

인터넷 기술의 발달에 따라 우리의 삶은 과거와는 180도 변화한 삶을 살고 있다고 해도 과언이 아니다. 사람들은 매일 인터넷상의 그 무엇을 보고 검색하며, 알고자 하는 정보를 얻고 있다. 한편 인터넷은 이러한 편의성을 도모할 수 있다는 점도 있지만 익명성을 이용한 범죄 역시 빈번히 발생하고 있는 것도 사실이다. 이러한 최근의 인터넷 환경의 변화는 법률 구조에도 새로운 패러다임을 요구하고 있다.
 인터넷의 보급에 따라 우리 삶이 유익하게 변화한 것이 있는 것도 사실이지만 유해한 환경을 조성하고 있는 것도 사실이다. 그 중 대표적인 것이 음란물의 등장일 것이다. 인터넷상에는 셀 수 없을 정도의 유해한 음란물이 홍수를 이루고 있다 해도 과언이 아니다. 특히 이러한 음란물 중에서도 아동을 대상으로 한 음란물의 유해성은 극히 이루 말할 수 없을 정도이다. 이에 성착취물에 대해서는 이에 대한 법적, 기술적 규제방법, 청소년보호 등 다방면에서 예방적 활동과 법적 대응을 요구한다 하겠다.
 최근에는 컴퓨터 기술이 발달함에 따라 이른바 ‘딥페이크’ 기술을 이용하여 실재 사람에 대하여 컴퓨터 그래픽을 이용한 성착취물의 제작도 활발하게 이루어지고 있으며, 딥페이크 피해자의 25%가 한국의 여자연예인이란 분석도 있다. 이렇듯 딥페이크 기술은 범죄에 악용될 소지가 다분히 내재되어 있는 기술이라 볼 수 있다. 특히 기존의 성인물에 인기 연예인의 얼굴을 합성하여 그 연예인이 출연한 것처럼 만들거나, 헤어진 전 연인과의 성적 영상물에 딥페이크 기술을 이용하여 성적 영상물을 제작한다면 그 피해는 이루 말할 수 없을 것이다.
 우리 또한 5월 19일 성폭력범죄의 처벌 등에 관한 특례법 일부 개정이 있었고 개정안에는 제14조의2(허위 영상물 등의 반포 등)를 신설하여 6월 25일 시행예정에 있다. 한편, 일본은 이와 관련해 판례가 등장하였는데 이와 관련된 판례가 아직 나오지 않은 우리의 입장에서는 이에 주목할 필요가 있다. 이에 본 논문에서는 이제 막 국회에서의 법률 통과가 이루어진 우리의 입장에서 일본의 판례와 논의를 검토하여 봄으로서 향후 우리의 논의에 도움이 되고자 한다.

2020년 4월, 한국에서 국회의원선거가 마무리된 이후에도 여전히 최대 화두는 가짜뉴스이다. 이미 2016년 미국 대통령 선거에서 가짜뉴스는 세계적으로 주목을 받았다. 최근에는 IT와 인공지능(AI)기술이 급속도로 발전하고 이러한 기술이 선거과정에도 영향을 미치게 되면서 선거 시큐리티(election security)가 중요한 정치적 이슈로 등장하였다. 선거 시큐리티는 지금까지는 물리적인 사이버 공격에 대한 보안으로 이해되어 왔으나 최근에는 유권자의 투표행태에 영향을 미치는 요인들로부터 예방이라는 적극적인 의미로 사용되고 있다.
 선거 시큐리티와 관련하여 최근 크게 주목받고 있는 것이 딥 페이크(deep fake)이다. 딥 페이크라는 영상 조작으로 유권자들의 공정한 투표선택을 방해하고 있다. 이러한 현상은 정치참여와 민주주의를 왜곡시키는 결과를 낳고 있다. 이러한 위협에도 불구하고 현재 각국 정부들은 딥 페이크로 인한 선거 과정의 위협에 적극적으로 대응하지 못하고 있다.
 사례분석결과를 살펴보면, 미국의 경우, 2018년 이용자의 개인정보 유출 문제가 불거지면서 미국의회는 프라이버시침해에 대한 근본적인 대안을 요구하고 있다. 그러나 연방정부차원에서 추진되는 정책보다는 페이스북, 구글, 마이크로소프트 등 플랫폼 기업에 위임하는 형태이다. 이에 반하여 EU국가는 가짜뉴스나 SNS상에서 대규모로 유포되는 허위정보에 대한 규제는 직접적인 법, 제도적인 측면을 강조하고 있다는 점에서 차별적이다. 영국에서는 정당과 후보자가 사이버 공격을 받았을 경우, 국가기관이 무료로 즉각적인 기술 조언 및 지원이 이루어진다. 프랑스는 정치적 중립과 정당의 자율적인 정치활동을 보장하는 차원에서 정당이 요청하는 경우, 대통령선거운동관리위원회가 각 정당, 후보자를 지원하고 있다.

최근 유명 연예인 등에 의한 일련의 소위 디지털 성범죄가 발생함에 따라 다시금 카메라등이용촬영및 유포행위에 대한 문제의 심각성이 크게 대두되었다. 그러나 이러한 문제의 심각성에 대해서는 사건발생시 국회와 언론만 뜨겁게 반응했을 뿐, 아직 일반시민의 의식 저변을 변화시키는데 까지는 이르지못했음이 여실히 들어났다.
 이를 반증하는 것으로 최근 한국에서도 본격적으로 ‘가짜 연예인 음란 동영상’ 문제가 불거지고 있다. 이른바 ‘지인능욕’이라고 불리는 딥페이크(Deepfake) 포르노 문제가 바로 그러한데, 이는 인공지능(AI) 기술인 딥러닝을 활용하여 피해자의 음성과 얼굴을 위조하고 이를 통해 편집⋅영상합성된 포르노 영상물을 유포하는 것이다. 문제는 이러한 딥페이크 포르노가 기존의 보편화된 컴퓨터그래픽 기술에 인공지능(AI) 딥러닝기법으로 손쉽게 제작가능하다는 점과 이렇게 업로드되는 딥페이크 포르노영상을 완벽하게 필터링할 수 없다는 점, 더욱이 불법영상물이 급속도로 확산될 뿐만 아니라 완전히삭제되지 않아 피해자가 계속적으로 피해를 받아야 한다는 점에 있다.
 한편, 이에 대하여 현재 정보통신망법상 허위사실적시 사이버명예훼손죄나 사이버 음란물유포죄로형사처벌하고 있는데, 이는 실제 성행위 촬영이 이루지지 않다는 점에 근거하는 것이다. 이로 인해 불법촬영물 성폭력범죄에 비해 가해자 처벌 및 피해자 구제에 부족함이 나타나게 된다. 다만 이러한 딥페이크(Deepfake) 포르노 문제에 대하여 형사규제가 요구되더라도 그 적용에 있어서는 신중을 기해야한다는 점에서, 딥페이크 포르노 문제에 대하여 살펴보고, 또한 이러한 가해행위를 대법원 판례에 기초하여 성폭력처벌법 제14조의 카메라등이용촬영죄로 규율할 수 있는지 여부를 분석하고 더 나아가입법적 대안에 대해서도 검토한다.

딥페이크(Deepfake) 기술에 대한 우려가 커지고 있다. 딥페이크는 기계학습을 통해 원본 이미지나 동영상 위에 다른 이미지를 중첩함으로써 조작된 영상을 만들어내는 기술이다. 회화, 아날로그 사진, 디지털 이미지와 영상에 이르기까지 이미지를조작하는 기술은 과거에도 있었지만, 딥페이크는 조작 기법과 도구, 수행자 등의 측면에서 독특한 속성을 가진다. 특히 이미지 조작의 진정한 가내화를 야기한다는 점에서 과거의 조작 기술들과 근본적인 차이를 보인다. 이 글은 이를 ‘심층적 자동화’ 의 논리로 개념화하여 설명하고, 딥페이크의 문화적 의미를 ‘정체성의 도용과 사실의 위기’, ‘관계성에 기반을 둔 푼크툼의 생성’이라는 두 차원으로 제시하였다. 여기에 더해 알고리즘 기반의 이미지 조작 기술이 더 발전할 경우 야기되는 문제점을간략히 살피고 이에 대응할 수 있는 방안을 검토하였다. 이를 통해 일상 생활에 급격히 진입하고 있는 새로운 기술에 대한 이해를 높이고 사회적 관심을 환기하는 데 기여하고자 하였다.

The use of instant agar-free media in high school biology classes is discussed. The synthetic media are relatively inexpensive, heat stable, dependable, and time-saving. (Author/PEB)