논문 21편

금융 분야에서 생성형 AI가 활용되기 시작하면서, 금융기관은 방대한 데이터를 빠르게 분석하여 신용평가나 맞춤형 상품 제안 등에 적용하고 있다. 이러한 변화는 금융기관의 의사결정 과정에 효율화를 가져올 수 있지만, 학습데이터에 편향이 포함되어 있다면 그 영향이 금융소비자의 거래조건에까지 확산될 수 있다는 우려도 함께 제기된다. 본 연구는 이러한 문제의식 아래, 생성형 AI 기반 금융거래 중 대출거래에서 발생할 수 있는 알고리즘 차별과 관련하여 금융소비자 보호 관점에서의 규제 개선 방안을 검토하였다.
 대출 알고리즘 차별 문제를 예방하기 위해서는 우선 차별금지 사유를 어떻게 정의하고 어떤 범위에서 적용할지를 명확히 할 필요가 있다. 아울러 여러 관련 법제가 중첩되는 영역이므로 규제 기준 사이의 정합성 역시 중요한 과제이다. 또한 생성형 AI를 금융에 적용하는 과정에서 다양한 형태의 데이터가 활용으로 개인정보보호 법익과의 충돌 가능성이 있기 때문에, 기술의 활용 범위를 넓히는 것과 정보주체의 권리를 보장하는 것 사이의 균형을 세심하게 고려해야 한다. 특히 자동화된 의사결정이 확대되는 상황에서는 정보주체가 결정 과정과 결과에 대해 충분히 설명을 요구할 수 있어야 하며, 영향평가 등을 통해 편향 가능성을 사전에 확인할 수 있는 장치도 마련될 필요가 있다. 정보주체가 데이터 활용에 동의하지 않거나 자동화 의사결정의 적용을 거부하는 경우, 그러한 선택이 불이익으로 이어지지 않도록 보호할 필요가 있다. 이를 위해서는 거부권 행사 시에도 적용할 수 있는 대안적 평가방식이 함께 준비되어야 한다. 알고리즘 기반 금융거래에 있어 본 연구에서 제시한 금융조건 비교 제시 방식은 알고리즘 기반 자동화 의사결정을 통해 산출된 거래조건과 전통적 방식으로 산정된 거래조건을 병행하여 제시함으로써 금융소비자가 알고리즘적 차별 여부를 간접적으로 판단하는데 도움이 될 수 있다. 금융소비자의 설명을 요구할 권리의 구체화는 금융기관의 알고리즘 활용에 있어 규범적 견제 장치로 작동하여, 알고리즘의 공정성과 투명성을 제고하고 차별적 편향을 풀어나가는데 기여할 수 있다. 알고리즘 의사결정 과정에서 발생하는 차별적 결과는 그 복잡성과 불투명성으로 인해 개인의 권리구제를 통한 해결에는 구조적인 한계가 존재하는 점을 감안하여 금융위원회가 단순히 사후적 분쟁조정자를 넘어 시장의 구조적 차별 요인을 제거하는 적극적 규제자로서 기능할 수 있도록 금융소비자보호법

본 연구는 인공지능(AI) 추천 알고리즘의 편향이 금융소비자의 선택결정에 미치는 영향을 기술적·행동경제학적·규제적 관점에서 고찰하였다. 문헌고찰을 통해 데이터 불균형, 모델 설계의 가치판단, 시스템 구조 등에서 다양한 형태의 편향이 발생함을 확인하였다. 이러한 편향은 금융소비자의 인지적 판단과 행동을 왜곡시켜 자동화 신뢰를 강화하고, 선택의 다양성을 제한하였다. 또한 SEC, FCA, IOSCO 등 주요 금융감독기관은 공정성(Fairness)·책임성(Accountability)·투명성(Transparency)을 중심으로 하는 FAT(Fairness–Accountability–Transparency) 프레임워크를 제시하며, 알고리즘 편향 완화를 위한 제도적 대응을 강화하고 있었다. 본 연구는 기술적 편향의 관리가 금융소비자 보호의 핵심 과제임을 제시하고, 투명한 알고리즘과 비판적 소비자, 협력적 규제체계 간의 균형이 금융생태계 신뢰 구축의 핵심임을 논의하였다.

본 논문에서는 2025년 연세대 학부대학･국어국문학과 대학원에서 개설되었던 <글쓰기> 및 <한국어로논문쓰기및발표하기> 수업을 바탕으로, ChatGPT를 활용한 키워드추출 사례를 제시하고 알고리즘 편향의 실제 및 이에 대응하기 위한 프롬프트 엔지니어링의 방법론을 제안했다. 본 논문은 ChatGPT를 활용한 하이브리드 글쓰기가 텍스트생산의 기술적 수단을 넘어, 인공지능-인간의 협업에 입각하여 새로운 윤리적 실천의가능성을 제시하는 매개체로 자리할 수 있음을 밝혔다. 특히 모성･이성애와 관련된 세계문학이나 퀴어 소설 독후감의 키워드 추출 사례를 통해 드러나는 알고리즘 편향은, 인공지능이 ‘중립성’의 명목하에 수행하는 비가시적 검열 구조를 인지하게 한다. 이는인공지능이 사회적 다수의 언어 규범을 내면화함으로써 주변화된 정체성을 ‘위험한 데이터’로 분류하거나, 윤리적 침묵의 형태로 소거하는 과정을 보여준다는 측면에서 주목할필요가 있다. 본 논문에서 제시한 프롬프트 엔지니어링은 이러한 문제에 대응하기 위한실천적 방안을 구체화한 것이다. 인공지능에게 스스로의 인식 기준을 설명･수정하게 하고, 사회적 다수의 규범 위주의 해석을 배제하며, “관찰되지 않는 특성(unobserved characteristics)”에 주목하도록 지시한 프롬프트는 인공지능의 해석 프레임을 윤리적으로 재구성하기 위한 시도이다. 이를 통해 학습자는 인공지능의 결과물을 수동적으로 소비하는 위치를 벗어나, 알고리즘의 규범적 전제를 비판적으로 교정하는 ‘주체적 참여자’로 자리매김할 수 있다. 이러한 윤리적 실천으로서의 하이브리드 글쓰기는 학문적 진실성과 타인의 고통에 대한 공감에 입각하여 “모든 존재를 위한 정의로운 디지털공동체”를 창출하고자 하는 AI 시대 읽기/쓰기 교양의 교육 목표와도 연관된다.

본 연구는 인공지능(AI) 알고리즘의 편향 문제를 기술적 결함이 아닌 사회 전반에 영향을 미치는 구조적 과제로 규정하고, 이를 해결하기 위한 통합적 거버넌스 전략을 제안한다. 먼저 데이터 및 알고리즘 단계에서 발생하는 편향의 개념과 유형을 정리하고, 형사 사법, 이미지 인식, 온라인 미디어 등 다양한 영역에서 나타나는 알고리즘 편향의 양상을 분석한다. 분석을 통해 알고리즘 편향이 개인의 기본권을 침해하고 사회적 불평등을 심화시킬 위험을 내포하며, 단일한 기술적 조치만으로는 해결이 어렵다는 점을 확인한다. 이에 따라 본 연구는 데이터 전처리, 공정성 제약 학습, 추론 단계의 검증 등 기술적 완화 기법과 함께 설명 가능성(XAI) 확보, 전문가 윤리 규범 제도화, 시민의 알 권리 보장 등을 포함한 제도적 대응 방안을 결합한 다층적 거버넌스 체계를 제시한다. 이러한 통합적 접근은 AI의 공정성과 신뢰성을 확보하고 지속 가능한 AI 활용 기반을 마련하는 데 기여한다.

본 연구는 공공부문에서 사용하는 인공지능(AI) 기반 알고리즘 시스템에서 나타난 편향 문제의 원인과개선 전략을 다차원적으로 분석하는 시론적 연구이다. 최근 10년간 전 세계적으로 주목받은 주요 알고리즘 편향 사례 11건을 선정하여, 기술적 편향, 절차적 정당성, 분배적 형평성, 정부의 대응 등 네 가지 차원의 분석 틀을 적용해 체계적으로 비교･분석하였다. 분석 결과, 공공부문의 AI 알고리즘 편향은 주로 데이터의 편향성, 모델 설계의 한계, 절차적 투명성의 부재 등 기술적･제도적 결함이 복합적으로 작용하여 사회적 약자에게 피해가 집중되는 공통된 양상을 드러냈다. 또한 알고리즘 공정성 확보를 위한 정책적･제도적 준비가 부족한 상황에서 알고리즘 도입이 확대되면서, 기존 사회의 구조적 불평등이 자동화된 의사결정과정에 그대로 반영되고 있음을 확인하였다. 본 연구는 공공부문의 AI 시스템 도입에 따른 구조적 문제를드러내고 공정성 개선을 위한 통합적 정책 및 제도적 구축 방향을 제안하였다는 점에서 의미가 있다.

Predictive analytics are increasingly pervasive in higher education. However, algorithmic bias has the potential to reinforce racial inequities in postsecondary success. We provide a comprehensive and translational investigation of algorithmic bias in two separate prediction models--one predicting c

This study investigates the role of generative artificial intelligence (AI) in music education, focusing on its dual function as a creative tool and a mechanism of algorithmic surveillance. Utilizing AI platforms such as Suno.AI, MusicFX, and Udio, the study examines AI's potential to foster creativ

Algorithmic bias is a pressing concern in educational data mining (EDM), as it risks amplifying inequities in learning outcomes. The Area Between ROC Curves (ABROCA) metric is frequently used to measure discrepancies in model performance across demographic groups to quantify overall model fairness.

Colleges and universities are increasingly turning to algorithms that predict college-student success to inform various decisions, including those related to admissions, budgeting, and student-success interventions. Because predictive algorithms rely on historical data, they capture societal injusti

Colleges and universities are increasingly turning to algorithms that predict college-student success to inform various decisions, including those related to admissions, budgeting, and student-success interventions. Because predictive algorithms rely on historical data, they capture societal injusti

Algorithms and machine learning models are being used more frequently in educational settings, but there are concerns that they may discriminate against certain groups. While there is some research on algorithmic fairness, there are two main issues with the current research. Firstly, it often focuse

AI 기술이 비약적으로 발전하면서 다양한 플랫폼에서 이용자 맞춤형의 ‘AI 추천 알고리즘’이 활용되고 있다. AI 추천 알고리즘은 서비스 이용자의 취향에 맞추어 적절하게 콘텐츠를 추천하는 기술로써 방대한 정보의 늪에서 ‘선택’을 위해 필수적으로 사용할 수밖에 없는 기술이기도 하다. 플랫폼은 프로파일링을 토대로 한 이용자 취향을 그 선택의 기준으로 삼고 맞춤형의 정보를 추출하여 제공하다 보니 이용자는 자신과 유사한 경향의 사람들과만 소통하게 되어 점점 에코 챔버(echo chamber) 현상에 빠질 수 있다는 우려의 목소리도 높아지고 있다. 이러한 문제는 UGC와 결합하여 코로나 19과 같은 사회 공통적인 현상에 대해 잘못된 사실관계나 정보를 통해 여론 양극화 현상으로 이어지고 있다.
 본 연구는 실험을 통해 유튜브의 AI 추천 알고리즘은 이용자가 허위거나 사실관계가 명확하지 않은 UGC 같은 영상을 시청하기 시작하면 계속해서 이런 UGC 위주로 추천함으로써 이용자가 공신력 있는 콘텐츠를 통해 정확한 정보를 받아들이기 어려운 상황에 빠져들 위험성에 노출되어 있다는 것을 확인하였다. 또한 AI의 부작용으로 인식되고 있는 편향성 발생 여부를 확인하기 위해 AI 추천 알고리즘 실태를 분석하고 이에 대한 해외 각국의 정책과 규제를 비교법적으로 탐색했다.
 우리나라를 비롯한 여러 국가들의 알고리즘 관련 규제안과 가이드라인을 분석한 결과 ‘이용자 중심’, ‘AI 알고리즘의 투명한 공개’ 등 상당한 부분에서 공통적인 내용을 찾아볼 수 있으며, 또한 비록 규범력에서 차이는 발견되고 있으나 규제안 제정에 이미 상호 영향을 미치고 있음을 확인하였다. 이를 기초로 본 연구는 AI 추천 알고리즘에 대한 우리나라의 정책과 규제 방향을 비교법적으로 분석하며 그 효과를 검토하고, AI 추천 알고리즘 편향성 문제를 해결하기 위한 대안으로 가이드라인의 구체화 방안과 이용자 선택권의 강화방안을 제시하였다.

As awareness of bias in educational machine learning applications increases, accountability for technologies and their impact on educational equality is becoming an increasingly important constituent of ethical conduct and accountability in education. This article critically examines the relationshi

In this paper, we review algorithmic bias in education, discussing the causes of that bias and reviewing the empirical literature on the specific ways that algorithmic bias is known to have manifested in education. While other recent work has reviewed mathematical definitions of fairness and expande

인공지능 기술이 다방면으로 활용되면서 그 효율성에도 불구하고 편향성에 대한 논쟁이 국내외에서 격화하고 있다. 국내 온라인 시장을 대표하는 업체가 알고리즘에 대한 인위적인 조작 혐의로 거액의 과징금을 부여받았는가 하면, 미국 의회는 구글 등 4대 디지털 기업에 대해 불공정 행위를 기소하였다. 제 1장에서는 인공지능 편향성과 관련된 주요 논쟁들이 지닌 특징을 소개하고자 한다. 제 2장에서는 인공지능 알고리즘에서 차별과 편향성이 등장하는 이유와 유형들을 데이터 마이닝의 특성과 연관지어 살펴보고자 한다. 3장에서는 컴퓨터 기술의 비가시성과 논리적 변용성의 관점에서 알고리즘 편향성에 대해 살펴보았다. 4장에서는 인공지능 기술 응용과정에서 등장하는 편향성과 관련하여 인공지능 전문가들의 역할 및 시민 사회의 공동 대응 방안을 제시하고자 하였다.

Decisions made by artificial intelligence algorithms have biases or potential errors. This is because machine learning takes in various biased elements located on the basis of an individual or society without ethical judgment. Current laws regulate the structure of algorithms, but this focuses only on privacy. Forced disclosure of artificial intelligence algorithms can result in the designers' freedom of economic activity and disregarding the property value of the algorithms. Thus, the software designer's self-regulatory, or ethical design, should precede. It should also be given the right to know how much artificial intelligence is used in human decision-making and refuse decisions based on artificial intelligence alone. In addition, if the use of algorithms results in significant damage to social values, the law needs to be amended to recognize the designer's fault for the illegal bias of algorithms.

인공지능 기술의 활용 영역이 다방면으로 급속하게 확대되면서, 과연 인공지능이 인간의 법적·사회적 규범 및 윤리적·도덕적 가치를 내면화할 수 있는지 여부에 대한 관심이 증대되고 있다. 많은 사례들을 통해 인공지능이 인종 및 성, 그리고 경제적 격차에 따른 차별과 편견 등 인간사회의 부정적인 관점 역시 학습할 수 있다는 위험성이 대두되면서 인공지능 기술에 기반한 자동화된 의사결정이 갖는 근본적인 문제점들이 지속적으로 제기되고 있다.
 인공지능의 윤리적 프로그래밍을 위한 다양한 방법론들이 제시되어 왔지만, 이는 여전히 대표적인 난제로 손꼽힌다. 또한 인공지능을 개발한 프로그래머조차도 인공지능의 의사결정이 어떠한 논증 과정을 거쳐 산출된 것인지를 정확히 파악할 수 없다. 명확하게 언어로 설명 가능한 분석 및 추론에 바탕을 두기보다는 일종의 블랙박스와 같다고 할 수 있는 인공지능 알고리즘의 의사결정체계로 인해, 인간사회의 규범적 가치가 인공지능의 의사결정과정에 개입할 여지는 극히 낮아지게 된다. 이에 따라 인공지능의 의사결정에 지나치게 의존하게 되면 법적 정당성 및 규범적 당위성을 계산적 확실성 및 수학적 합리성이 대체하게 되는 위험을 초래할 수도 있는 것이다.
 인공지능의 활용이 본격화되면서 인공지능의 윤리화와 알고리즘의 편향성에 대한 문제가 제기되고 있는 대표적인 영역은 바로 범죄예측 및 형사사법절차이다. 특히 빅데이터 기반 인공지능으로 인해 수사, 공판, 형집행 전(全) 단계는 물론 범행 전(前) 범죄예측 단계에서부터, 범죄 관련 데이터가 축적되고 이를 사법절차에서 활용할 가능성이 논의되면서, 절차상 보장되어야 할 인권과 절차적 정의는 그 어느 때보다도 강조된다고 할 것이다. 이러한 맥락에서 인공지능이 인간사회에서 보편적으로 승인된 도덕원칙을 내면화하고 이를 바탕으로 가치판단을 내릴 수 있는지 여부에 대한 법이론적 검토와 더불어 인공지능 알고리즘의 의사결정에 규범적 테두리를 설계하는 것이 앞으로의 과제가 될 것이다.
 본 논문에서는 특히 범죄예측 및 형사사법절차에서 인공지능 기술의 활용 가능성에 집중하여, 예측적 치안 및 재범 예측 분야에서 인공지능 알고리즘의 자동화된 판단이 수반하는 알고리즘 편향성을 검토하고, 이러한 편향성의 문제를 해결하기 위한 규범설계의 필요성을 확인한 후, 법치국가원칙을 보장하면서 알고리즘 투명성 및 책무성을 확보하기 위한 규범적 테두리를 구상해보고자 한다.

2019년 COVID-19로 인해 전례 없는 혼란과 펜데믹으로 인간의 삶에 많은 변화를 가져다 놓았다. 펜데믹으로 인해 비대면을 통해 인간의 생활이 이어지고 있다 보니, 4차 산업혁명의 기술들이 우리의 삶에 많은 영향을 미치고 있다.
 인공지능과 알고리즘이라는 새로운 기술로 사회 속의 차별은 과학기술과 결합하여 좀더 치밀하고 복잡하게 이루어져 우리의 삶은 그 어느 때보다 불안정하다. 최근 미국에서안면인식 알고리즘 프로그램으로 인해 무고한 아프리카계 미국인 남성을 강도로 오인하여긴급체포하는 사건이 있었다. 우리도 이런 인권침해의 피해자가 되지 않으리라는 보장이없다. 우리는 과학기술이라는 핑계로 그 결과를 쉽게 맹신한다. 하지만 그 과학기술은 인간이 만들었으며, 알고리즘도 인간이 만든다. 알고리즘을 누가 만드느냐에 따라 그 결과도달라질 수 있다. 그리고 그 누구도 알고리즘 차별문제에서 자유로울 수 없다. 현재 알고리즘 차별과 차별로 의한 피해 발생에 대해 형사벌 또는 경제벌로 처벌할 지에 대해서는 기술 개발과 산업진흥의 측면과 함께 고려해 봤을 때 좀 더 신중하게 접근할 필요는 있다.
 그러나 미국의 알고리즘 책임법과 같이 법으로 알고리즘 차별과 그로 인한 피해에 대한책임에 대해 명확하게 규정할 필요가 있다고 생각한다. 외국의 사례를 토대로 우리도 알고리즘 차별의 문제를 먼 미래의 일로 볼 것이 아니라 적극적으로 이 문제를 해결할 수 있는대응방안을 모색할 때라고 생각된다.

알고리즘 편향성은 알고리즘 설계과정에서 트레이닝 데이터에서의 편견이나 모델과 데이터의 특성 사이의 조합에 의해 모델에 반영되는 편향을 의미한다. 최근에는 이러한 편향성이 딥러닝 모델에서 나타날 뿐만 아니라 증폭된다는 연구가 진행되면서 편향성 제거에 관한 문제가 제기되고 있다. 본 논문에서는 성별에 의한 알고리즘 편향성을 편향-분산 딜레마의 관점에서 분석하며 편향성의 원인을 규명하였고 이를 해결하기 위해 심층 오토인코더 기반 잠재공간 일치모델을 제안한다. 우리는 딥러닝에서의 알고리즘 편향성은 모델 내부의 특징 추출부분에서 보호특징별 잠재 공간이 다르다는 것을 실험으로 보여주었다. 본 논문에서 제안하는 모델은 성별특징이 다른 데이터를 동일한 잠재공간으로 전사시킴으로써 추출된 특징의 차이를 줄여 저편향성을 달성하였다. 우리는 정량적 평가지표로 Equality of Odds와 Equality of Opportunity 를 사용하여 기존모델에 비해 편향성이 낮음을 입증하고 ROC 곡선으로 통해 성별사이의 예측결과의 편차가 줄어들었음을 확인하였다.

이 글은 인공지능에 의한 차별과 그 책임 논의를 철학적 차원에서본격적으로 연구하기에 앞선 예비적 고찰이다. 인공지능에 의한 차별을 철학자들의 연구를 요하는 당면 ‘문제’로 제기하고, 이를 위해 ‘인공지능에 의한 차별’이라는 문제의 성격과 원인을 규명하는 것이 이 글의 주된 목적이다. 인공지능은기존 차별을 그대로 반복하여 현존하는 차별의 강화 및 영속화를 야기할 수있으며, 이는 먼 미래의 일이 아니다. 이러한 문제는 현재 발생 중이며 공동체적대응을 요구한다. 그러나 철학자의 입장에서 그와 관련한 책임 논의를 다루기는쉽지 않다. 그 이유는 크게 인공지능의 복잡한 기술적 문제와 전통적 책임 개념의 한계라 할 수 있다. 여기서는 특히 인공지능과 관련된 기술적 개념을 중심으로 문제를 파악하고, 이와 관련하여 인간 행위자의 책임 및 그 역량을 규명한다.
 통칭 인공지능으로 이해되는 것은 알고리즘에 기반한 자동화 시스템이며, 알고리즘의 편향성이 인공지능에 의한 차별을 야기할 수 있다. 알고리즘이 겉보기에인간 행위자와 독립적으로 작동하는 것처럼 보일지라도, 인간 행위자가 그에개입하고 있음을 밝힌다. 인간 행위자가 편향된 입력 자료를 사용하거나 편향된설계를 할 수 있다는 점에서, 알고리즘의 편향성은 인간 행위자의 편향성과불가분의 관계이기 때문이다. 그러므로 인간 행위자는 인공지능에 의한 차별문제에 대응할 책임이 있으며, 책임 역량을 갖고 있다. 마지막으로 인공지능에의한 차별 논의를 위한 철학 연구의 추후 과제를 정리한다.

인공지능의 파급력은 대단하다. 법률 분야에서도 다양한 형태로 인공지능의 활용이 모색되고 있다. 특히 머신러닝이 인공지능의 대세가 되면서 법률분야의 파괴적 혁신을 주도하고 있는 양상이다. 인공지능이 인간의 지능을 초월하는 특이점 현상이 거론되기도 하고, 인공지능으로 인해 많은 직업이 사라지게 될 것이라거나, 또는 인공지능이 인류의 생존에 위협이 될 것이라는 우려 섞인 전망도 없지 않다. 그러나 인공지능은 이미 현실에서 작동되고 있으며 특히 인공지능이 인간의 의사결정을 대체하는 기능을 수행하고 있다는 사실은 간과하기 쉽다. 미국 경찰은 오래 전부터 인공지능 알고리즘을 이용한 범죄예측기법을 사용하여 범죄예방 활동을 벌이면서 범죄율 감소 등 상당한 성과를 거두고 있으며, 형사사법에서도 보호관찰이나 보석결정, 심지어 판결과정에서까지 재범의 위험성 예측을 위한 인공지능의 통계적 예측 기법이 널리 쓰이고 있다. 본고에서는 인공지능 알고리즘에 의한 법적 의사결정이나 예측 과정에서 나타날 수 있는 여러 가지 문제점에 대하여 논의해보고자 하였다. 인공지능 알고리즘에 의한 예측이나 의사결정은 주관이나 편견에 의해 좌우되는 인간의 결정과는 달리 객관적이고 편견에서 자유로울 것이라고 생각하게 마련이지만, 의외로 인공지능 알고리즘에 의한 의사결정은 오류가능성 뿐만 아니라 편향성과 차별적 결과를 보이고 있다는 것이 밝혀졌다. 이러한 인공지능 알고리즘에 의한 의사결정의 편향성과 그로 인한 차별적 결과는 차별금지라고 하는 사회적 가치를 훼손할 우려가 크다. 따라서 이러한 편향성 문제 등 인공지능 알고리즘에 의한 의사결정이 가지고 있는 여러 가지 문제점에 대한 대책으로는 차별적 결과를 시정하는 사후적 규율뿐만 아니라 인공지능 의사결정 도구의 설계와 구현, 성능 평가 과정에서 차별적 결과 생성을 사전에 차단하려는 사전 규제 방안을 모색할 필요가 크다. 특히 인공지능 알고리즘에 의한 법적 의사결정과 같은 공적 영역에서는 의사결정의 영향력이 광범위하고 어떤 급부의무나 부작위가 문제되는 사적 영역에서의 개별적 사후 구제와는 다른 방도가 필요한데, 이미 차별적 효과가 발생한 후 사후적 구제를 모색하기 보다는 의사결정 과정에서 차별적 효과를 가져 올 수 있는 알고리즘 요소를 원천 차단하는 것이 효율적일 것으로 보인다. 이러한 사전규제 방안 중 개발과정의 사전 통제와 사용승인을 통한 적법성 규제가 우선적 고려 대상이다. 개발과정의 사전 통제에는 윤리적 설