생성형 인공지능(Generative AI) 기술의 규제 방향에 대한 입법론적 고찰 - ChatGPT 등 인공지능 시스템 생성물에 대한 표시·고지의무를 중심으로 -
Legislative Study on Directions Concerning Regulation of Generative Artificial Intelligence (AI) Systems - Focusing on Duty to Disclosure and Transparency Regarding the Creations of Generative AI Systems Such as ChatGPT -
- 발행
- 2023
- 소속·발행
- 대구지방검찰청
- 출처
- 국내 KCI
- DOI
- 10.23026/crclps.2023..80.007
- 원문등록
- 2023-09-27
- 원문
- 원문 보기 ↗
개념
키워드
생성형 인공지능, ChatGPT, 표시의무, 고지의무, 투명성 원칙, 딥페이크, ChatGPT, Deepfake, Duty to Disclosure, Generative AI, Re gulation of Generative AI, Transparency
초록
2022년 12월, ChatGPT 서비스가 출시된 이래, 이른바 생성형 인공지능(Generative AI)에대한 관심이 높아지고 있다. 하나의 인격체처럼 대화하고, 인간보다 빠르게 글을 쓰고, 심지어는 미술, 작곡 등 예술 분야에서까지 인간의 능력을 위협하는 생성형 인공지능에 대하여 사람들은 큰 기대와 깊은 우려를 동시에 갖게 되었다.
 기존의 머신러닝 알고리즘을 기반으로 하는 인공지능은 주어진 특정 데이터를 기초로 어떠한 결과를 예측하는 수준에 머물렀지만, 딥러닝 생성 모델을 기반으로 하는 생성형 인공지능은 과거에 보지 못한 글과 음성, 영상 등 완전히 새로운 데이터를 생성해낼수 있다는 점에서 기존의 인공지능과는 확연히 구별되는 새로운 형태의 인공지능이다.
 한편, 생성형 인공지능으로 인한 다양한 문제가 발생하기 시작했다. 타인의 사진을이용하여 딥페이크 포르노나 조롱거리가 될 만한 영상을 제작하는 사례부터, 챗봇에 정서적으로 의존한 나머지 챗봇의 자살 권유에 따라 자살에 이르는 사례까지 생성형인공지능은 무한히 활용 가능한 만큼, 무한히 오용가능하다는 점이 드러나고 있다. 생성형 인공지능의 생성물은 실제와 구별하기 어려울 정도로 정교하기 때문에 오용에따른 위험이 현저함에도 불구하고, 우리 현행법은 이에 대응하는 데에 한계가 있다.
 생성형 인공지능에 대한 포괄적 규제는 초기 성장 단계에 있는 인공지능 기술의 발전을 저해시킬 수 있다는 점에서 성급히 도입되어서는 안 된다. 그러나 현재 발생하고있는 문제상황에 대응하기 위한 과도기적 규제는 필요하다. 첫째, ‘이용자’에게는 명예훼손 목적, 범죄이용목적 등으로 생성형 인공지능 시스템을 활용하는 행위를 금지할필요가 있다. 둘째, ‘제공자’에게는 인공지능 생성물에 대하여 인공적인 방법으로 제작된 것임을 나타내는 표시를 하게 할 필요가 있다. 셋째, 생성물의 위험의 정도에 따라규제의 정도를 차등하고, 규제 위반에 대한 형사벌과 행정벌을 혼용하는 등 과도기적상황에 유연하게 대처할 수 있어야 한다.