범죄현상에 있어 생성형 AI의 명과 암
The Light and Shade of Generative AI in Crime
- 발행
- 2024 등록이 논문은 발행 시점을 확인하지 못해 원문 등록일을 적었습니다. KCI가 2005~2008년에 옛 논문을 몰아서 올린 탓에, 그 시기 등록분은 발행보다 평균 3~5년 늦습니다. 실제 발행연도는 더 이를 수 있습니다.
- 소속·발행
- 전주대학교
- 출처
- 국내 KCI
- 원문
- 원문 보기 ↗
개념
키워드
AI, 생성형 AI, 챗GPT, 웜GPT, 다크버트, AI, Generative AI, ChatGPT, WormGPT DarkBERT
초록
이 연구는 지난 2022년 이후 전 세계적으로 주목 받고 있는 생성형 AI에 관한 내용으로 구성되어 있다. 구체적으로 AI 및 생성형 AI에 관한 내용을 논의하고 이와 같은 생성형 AI의 범죄 악용 측면과 범죄 문제 해결 적용 측면을 구분하여 확인하는 내용으로 구성되어 있다. 연구 결과를 정리하면 다음과 같다.
 첫째, 생성형 AI의 범죄 악용 가능성 및 사례로 사이버 보안 위협 코드의 생성 및 딥페이크 문제를 제시할 수 있다. 이러한 문제점을 확인하기 위해 생성형 AI 중 대중적으로 가장 많이 활용되고 있는 ChatGPT를 실제로 활용하였고, 사이버 보안 위협 코드 제작에 활용될 수 있는 정보를 얻을 수 있었다. 다음으로 생성형 AI를 활용한 딥페이크 범죄 문제라고 간주되는 딥페이크 포르노와 인물 합성 등의 문제 및 사례를 확인하였다.
 둘째, 이와는 반대로 생성형 AI에 근거한 범죄 문제 해결 사례를 확인하였다. 확인 결과 NYPD에서 현재 활용 중인 성매매 방지 챗봇, 다크웹 상에서 발생하는 범죄 문제 해결을 위한 다크버트, 그리고 우리 나라 공공기관에서 활용하거나 도입 예정인 생성형 AI 기반 모델을 확인할 수 있었다.
 이와 같은 연구 결과를 바탕으로 생성형 AI에 기반한 범죄를 근절할 수 있는 방안을 제언하였다.