생성형 AI 보안 취약점의 위험 전이와 위험기반 다층 거버넌스 설계: LLM⋅RAG⋅딥페이크 분석 프레임워크를 중심으로
Risk Propagation of Security Vulnerabilities in Generative AI and the Design of Risk-Based Multilayer Governance: An Analytical Framework for LLMs, RAG, and Deepfakes
- 발행
- 2026 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 한국지능정보사회진흥원
- 출처
- 국내 KCI
- DOI
- 10.37793/ITPR.33.1.4
- 원문
- 원문 보기 ↗
개념
키워드
생성형 인공지능, 보안 취약점, LLM, RAG, 딥페이크, 정보화 정책, 규제 거버넌스, Generative AI, Security Vulnerability Large Language Models, RAG, Deepfake, Information Policy, Governance
초록
본 연구는 생성형 AI(Generative AI) 시스템의 확산과 함께 증가하는 보안 취약점과 규제적 대응의 필요성을 종합적으로 고찰한다. 대규모 언어모델(LLM), 검색증강생성(RAG), 딥페이크 기술을 중심으로 주요 보안 위협을 유형화하고, 이러한 취약점이 기술적⋅사회적 차원에서 초래하는 복합적 위험을 분석하였다. 분석 결과, 프롬프트 인젝션, 학습데이터 오염, 모델 추출, 개인정보 노출, 벡터 임베딩 역공격 등은 생성형 AI 생태계 전반에서 반복적으로 발생하는 핵심 위험이며, 특히 RAG 구조에서는 외부 데이터베이스의 취약성이 연쇄적 정보 노출로 이어질 가능성이 크게 나타났다. 딥페이크 기술은 금융사기⋅여론 조작⋅선거 개입 등 사회적 신뢰를 훼손할 수 있는 고위험 영역으로 평가되었다. 규제 분석에서는 미국⋅EU⋅한국의 정책체계를 비교해 AI 콘텐츠 표시, 딥페이크 규제, 위험기반 접근 등 규율 방식의 차이를 확인하였다. EU는 AI Act를 통해 포괄적 규율 체계를 마련한 반면, 미국은 문제별 분산형 법제, 한국은 AI 기본법 기반의 초기 단계 규제 체계를 갖추고 있는 것으로 나타났다. 이를 바탕으로 본 연구는 기술적 보호조치(데이터 최소화, 출력 검증, 동형암호 기반 개인정보 보호 등)와 법⋅제도적 조치(표시 의무화, 플랫폼 책임 강화, 국제 공조)의 통합적 보안 거버넌스를 제안한다. 본 연구는 생성형 AI 보안 위협을 단일 기능적 결함이 아닌 다층적 공격 벡터로 이해하고, 기술적 방어와 규제적 대응을 결합한 정책 방향을 제시함으로써 안전하고 책임 있는 AI 생태계 구축을 위한 분석틀을 제공한다.