인공적 도덕 행위자의 도덕 감정 설계에 대한 초등 도덕과 교과 토론 수업 적용 방안: 칸트, 밀, 콜버그를 중심으로
Application of Discussion-Based Instruction in Elementary Moral Education on the Moral Emotion Design of Artificial Moral Agents (AMA): Focusing on Kant, Mill, and Kohlberg
- 발행
- 2025 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 홍익대학교
- 출처
- 국내 KCI
- 원문
- 원문 보기 ↗
개념
키워드
인공적 도덕 행위자(AMA), 도덕 감정, 칸트, 밀, 콜버그, Artificial moral agent(AMA), Moral emotion, Kant, Mill, Kohlberg
초록
목적 본 연구는 초등 도덕과 교과에 나와 있는 인공지능 로봇과의 관계를 전달할 때 그것이 도덕 감정으로 윤리 원칙을 지키는 인공지능 로봇과의 상호작용을 의미하는지에 관한 토론 수업 활용 방안을 제안하기 위한 것이다.
 방법 도덕과 교과에 나오는 인공지능 로봇은 인공적 도덕 행위자(AMA)를 의미하며 도덕적 행위를 추구하는 가상 소프트웨어이자물리적 로봇이다. 본 연구는 도덕적 행위를 하는 AMA와의 관계 형성에 초점을 둔 토론 수업 방안에 대해 첫째, AMA의 표본인 인간이 이성만으로 도덕적 행동을 하기 어려우므로, 도덕 감정을 바탕으로 도덕 원칙을 준수함을 전제로 상호작용이 이루어짐을 다양한문헌 고찰을 통해 논의한다. 둘째, 도덕 감정이 설계된 AMA가 도덕 원칙을 지키면서 인간과 관계 형성을 이루듯이, 실제 트롤리딜레마 상황에서 도덕 감정으로 다수뿐만 아니라 소수 또한 희생하지 않는 대응을 하면서 인간과의 상호작용이 이루어짐을 논의한다. 셋째, 도덕 감정이 설계된 AMA가 트롤리 딜레마 상황에서 공리주의의 한계를 벗어나 소수인 나까지 보호하는 선택을 하므로, 이러한 AMA와 친구가 될 수 있는가에 관한 토론 활동을 제안한다.
 결과 도덕 감정을 토대로 도덕적 행위를 하는 인간과 같이, AMA는 감정을 정교하게 설계하는 기술로 인간의 즉각적인 감정 반응을간과하지 않는 상호작용을 한 결과 소수를 희생시키는 것이 아니라 보호하는 행위로 공리주의 한계를 극복할 수 있다. 이에 근거하여감정 보완을 통해 도덕적 행위를 실현하는 AMA가 소수에 해당하는 나 역시 희생시키는 결정을 내리지 않으므로, AMA와 친구가될 수 있는지에 관한 토론 수업 방안이 적용된다.
 결론 AMA와의 관계 형성에 관한 토론 수업의 의의는 AMA가 수학적 추상화에 의존해 사물을 식별하지 못한 결과 판단 오류가있기보다 도덕 감정으로 시스템 설계를 보완해 도덕법칙을 지킬 때 상호작용이 원만한지를 토의하는 수업 방안을 적용 가능하다는데 있다. 즉 트롤리 딜레마 상황에서 인간과 AMA 간의 교감을 한 결과 소수를 희생시키는 공리주의적 한계를 극복할 때 비로소 인공지능과 친구가 되는지에 대한 토론 수업 방안을 활용할 수 있다. 그러나 토론할 때 AMA에 감정을 설계해서 발생할 수 있는 지나친욕망에 대한 통제 방안을 제시하기 어렵고, 도덕 감정일지라도 문화 차이에 따라 다르게 해석된다는 한계가 있으므로, 이 점 역시보완하는 토론