생성형 AI와 하이프 머신은 어떻게 가짜 뉴스(Fake news)를 만들고 확산시키는가?
How do Generative AI and Hype Machines Create and Disseminate Fake News?
- 발행
- 2026 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 전북대학교
- 출처
- 국내 KCI
- 원문
- 원문 보기 ↗
개념
키워드
생성형 AI, 가짜 뉴스, 하이프 머신, 소셜 봇, 초연결성, Generative AI, Fake News, Hype Machine, Social Bots, Hyper-connectivity
초록
본 연구는 사회적 관계망 서비스(SNS)가 대중화된 초연결 사회에서 진실과 허구, 현실과 가상의 경계가 해체되어 가짜 뉴스 및 정보가 만연되고 있는 원인을 생성형AI(GenAI)과 하이프 머신(Hype machine)의 작동방식을 통해 분석하고자 한다. 특히, 하이프 머신을 기반으로 AI 알고리즘이 어떻게 인간의 감정과 사회적 관계망을 조작하여 가짜 정보 및 뉴스를 생성 및 확산시키며, 대중을 소비 기계이자 디지털 마케터로 전락시키고 있는지를 논의한다. 본 연구의 핵심 결과는 다음 세 가지이다. 첫째, 생성형AI는 실제와 구별하기 어려운 언어, 이미지, 영상을 쉽게 제작하게 하여 진실성 담보가어려운 초실재성을 양산하고, 소셜 봇은 자동화된 방식으로 감정을 조작하고 여론을형성하고 있다. 둘째, 하이프 머신은 AI 알고리즘을 기반으로 사용자 데이터와 감정 상태에 따라 콘텐츠를 선별하고 정보 흐름을 조작하여 최적화된 피드백 루프를 통해 가짜 정보의 생성과 확산을 주도한다. 셋째, 하이프 머신은 경제적 이익, AI 알고리즘, 사회적 규범, 정부 규제라는 네 가지 동력에 의해 움직이며, 특히 경제적 이익을 위해 AI 기반 심리 프로파일링을 통한 맞춤형 설득과 트렌드 생성을 이끌어간다. 결론적으로하이프 머신에 의해 구동되는 가짜 뉴스의 생성-확산 루프는 사회적 진실성 훼손, 개인의 독립적 사고 및 판단 침해, 비합리적 소비 문화 확산 등을 유발함으로써, 소셜 미디어 플랫폼 속에서의 건전한 사회적 관계성 형성에 영향을 미칠 수 있다는 것이다.