딥페이크의 합리적 규제방안
Reasonable Approach of Deepfake Regulation
- 발행
- 2024 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 성균관대학교 법학전문대학원
- 출처
- 국내 KCI
- DOI
- 10.30933/KPLLR.2024.106.225
- 원문
- 원문 보기 ↗
개념
키워드
인공지능, 딥페이크, 규제, 가짜뉴스, 음란물, Artificial Intelligence, Deepfake, Regulation, Fake news, Pornography
초록
인공지능 기술의 급속한 발전은 우리 사회 전반에 혁신을 일으키고 있다. 효율성과 생산성의 극대화를 실현하는 인공지능 기술은 의료, 교육, 제조, 서비스 등 다양한 분야에서 인간을 돕거나 대체할 것이라는 기대를 모으고 있다. 그러나 기술의 발전과 함께 나타나는 부작용과 사회적 문제도 증가하고 있다. 그중에서도 심각한 문제는 인공지능이 진실과 구분하기 어려운 가짜 정보를 만들어 낸다는 점이다.
 지금 이 순간에도 대중의 관심을 끌기 위해 자극적인 가짜 정보가 인공지능 기술을 통해 만들어지고 있다. 이러한 콘텐츠에는 거짓된 정보를 담은 메시지나 개인의 얼굴, 신체를 합성한 음란 콘텐츠 등이 포함된다. 이러한 허위의 사진, 영상, 음성을 가공해내는 기술을 ‘딥페이크’라고 하며, 인터넷 플랫폼이나 앱을 통해 이용이 증가하고 있다.
 딥페이크 기술의 등장 초기에는 다양한 분야에서 유용한 용도로 활용될 것으로 기대되었다. 엔터테인먼트, 교육, 뉴스, 생활 정보 등 다양한 영역에서 창의적이고 흥미로운 콘텐츠를 생성하는 데 사용될 수 있다는 점이 큰 관심을 모았다. 그러나, 선거 시즌에 특정 후보가 등장하는 가짜 영상이 큰 사회적 혼란을 일으키고, 유명인의 명예를 훼손하는 음란 영상이 끊임없이 등장하고 있다.
 정부와 기업들의 문제 인식과 방지 노력에도 불구하고 딥페이크로 인한 사회적 문제는 여전히 증가하는 추세이다. 최근 몇 년 동안 이를 근절하기 위한 시도는 존재했으나 딥페이크 콘텐츠는 지금도 인터넷상에서 쉽게 공유되고 배포되며, 해외에서 유포된 경우는 신속한 삭제나 법적 조치가 어려운 경우가 많다. 이러한 문제를 해결하기 위한 방책은 간단하지 않다. 그러나 피해자의 증가와 사회적 혼란이 커지고 있는 상황에서 문제를 해결하기 위해 적절한 이용 절차의 마련과 음란물 및 가짜뉴스 생성을 위한 이용 제한 등이 고려되어야 한다.