인공지능과 감정 반응: 디지털휴먼을 통한 혐오표현 감소 연구

Artificial Intelligence and Emotional Responses: A Study on the Reduction of Hate Speech through Digital Humans

발행

2024

소속·발행

㈜인공지능연구원

출처

국내 KCI

DOI

10.9728/dcs.2024.25.1.247

원문등록

2024-01-31

원문

원문 보기 ↗

개념

키워드

디지털 휴먼, 디지털 휴먼 표정, 혐오대화, 혐오표현, 혐오표현 감소, Digital Human, Digital Human Facial Expression, Hateful Conversation, Hate Speech, Reducing Hate Speech

초록

디지털 휴먼 기술의 중요성이 커지면서, 사람과 같은 대화의 필요성이 대두되었다. 이러한 맥락에서 개발된 챗봇 ‘이루다’는 혐오 표현 문제로 인해 사용자의 불쾌감을 야기했고, 혐오표현 탐지에 대한 여러 연구가 선행되었다. 하지만 온라인상에선 혐오표현 사용이 만연하다. 본 연구는 기존의 혐오표현 탐지와는 다른 측면에서 문제를 해결하려고 한다. 제안하는 방법은 혐오표현을 감지하고 사용자에게 거부감을 전달하여, 감정 전이를 이끌어내 혐오표현의 인지를 촉진시키는 것을 목표로 하는 디지털 휴먼 시스템을 제안한다. 효과성을 검증하기 위해 혐오표현과 디지털휴먼의 답변 영상을 제시하고 설문을 진행한 결과 5점중 3.95±0.65점을 획득했고, 혐오표현 문제 인식에 도움을 줄 수 있는 것을 확인했다. 연구결과를 토대로 소개하는 시스템이 혐오표현의 문제 뿐만 아니라 도덕적, 편향성, 범죄 문제에 대해서도 적용 가능하며, 사용자가 문제를 인지하는데 도움을 줄 것으로 기대된다.

같은 개념의 다른 논문

이 개념이 나오는 강연