성별의 알고리즘 편향성 감소를 위한 오토인코더 기반 딥러닝 모델

Deep Learning Model based on Autoencoder for Reducing Algorithmic Bias of Gender

발행

2019

소속·발행

연세대학교

출처

국내 KCI

DOI

10.5626/JOK.2019.46.8.721

원문등록

2019-08-14

원문

원문 보기 ↗

개념

키워드

알고리즘 편향성, 오토인코더, 잠재공간, 편향-분산 딜레마, 딥러닝, algorithmic bias, autoencoder, latent space, bias-variance dilemma, deep learning

초록

알고리즘 편향성은 알고리즘 설계과정에서 트레이닝 데이터에서의 편견이나 모델과 데이터의 특성 사이의 조합에 의해 모델에 반영되는 편향을 의미한다. 최근에는 이러한 편향성이 딥러닝 모델에서 나타날 뿐만 아니라 증폭된다는 연구가 진행되면서 편향성 제거에 관한 문제가 제기되고 있다. 본 논문에서는 성별에 의한 알고리즘 편향성을 편향-분산 딜레마의 관점에서 분석하며 편향성의 원인을 규명하였고 이를 해결하기 위해 심층 오토인코더 기반 잠재공간 일치모델을 제안한다. 우리는 딥러닝에서의 알고리즘 편향성은 모델 내부의 특징 추출부분에서 보호특징별 잠재 공간이 다르다는 것을 실험으로 보여주었다. 본 논문에서 제안하는 모델은 성별특징이 다른 데이터를 동일한 잠재공간으로 전사시킴으로써 추출된 특징의 차이를 줄여 저편향성을 달성하였다. 우리는 정량적 평가지표로 Equality of Odds와 Equality of Opportunity 를 사용하여 기존모델에 비해 편향성이 낮음을 입증하고 ROC 곡선으로 통해 성별사이의 예측결과의 편차가 줄어들었음을 확인하였다.

같은 개념의 다른 논문

이 개념이 나오는 강연