대규모 언어모델에 기반한 생성형 인공지능의 규제 필요성 - AI 리터러시를 위한 적극적 설명의무 제안 -
Affirmative Duty to Explain of LLM-Based Generative AI Service Provider for the AI Literacy
- 발행
- 2026 등록KCI API에는 발행일 항목이 없어 원문 등록일을 쓰고 있습니다. 실측으로 발행보다 최대 6년 늦습니다 — 재수집하면 발행연월로 바뀝니다.
- 소속·발행
- 고려대학교
- 출처
- 국내 KCI
- 원문
- 원문 보기 ↗
개념
키워드
AI 아첨, 대규모 언어모델(LLM), 생성형 인공지능, AI 리터러시, 적극적 설명의무, AI sycophancy, Large Language Model (LLM), Generative Artificial Intelligence, AI literacy, affirmative disclosure duty
초록
대규모 언어모델에 기반한 생성형 인공지능이 답변의 정확성, 진실성, 안전성 등을 희생하면서까지 무조건 사용자에게 동조하면서 승인을 구하는 AI 아첨 현상은 대규모 언어모델의 훈련 과정에서 필연적으로 발생하는 구조적 문제일 뿐만 아니라 보편적인 인간의 인지적 편향으로부터 비롯하는 근본적 문제에 해당한다. 이는 AI 아첨을 선호하는 사용자들의 반응에 의하여 더 많은 이익을 얻을 수 있는 AI 기업들의 상업적 유인에 의해 강화된다. 최근 우리나라와 EU에서는 인공지능에 관한 일반법을 제정하여 신중한 규제를 시작하였지만 아첨 문제를 해결하기에 충분치 않다. 우리나라에서 규제가 적용될 수 있는 예외적 경우가 있기는 하지만 그럼에도 불구하고 인공지능사업자에게 기술적 조치를 요구하는 방식만으로는 AI 아첨이 발생하는 구조적 양상을 해소하기에 부족하다. AI 아첨 현상은 인공지능사업자가 기술적 조치에 의하여 제어할 수 있는 문제가 아니기 때문이다. EU에서는 영향력이 크거나 위험성이 높은 AI 행위가 상당히 심각한 신체적 또는 기본권 침해적 피해를 야기한다면 아예 금지하는 방식으로 규제하거나, 그 정도에 이르지 않는 상태에서는 투명성 의무에 의하여 AI 모델의 설계 및 작동 방식에 관한 정보를 제공하게 한다거나 AI 리터러시 의무를 선언하는 정도여서 규제가 과중하거나 과소하다. AI 아첨 현상은 궁극적으로 현재 AI 정렬 패러다임의 근본적인 한계를 반영한다. 이러한 한계를 해결하기 위한 기술적 혁신이 미흡한 상황에서 만연히 기다릴 수는 없으므로 당장 우리 사회와 구성원들을 보호할 수 있도록 합리적 규제방식을 고안할 필요가 있다. 일단 사용자가 AI 모델이 제공하는 답변의 편향 가능성과 효용의 한계를 이해하고 AI 아첨으로부터 스스로를 보호할 수 있도록 최대한 AI 리터러시 및 비판적 사고력을 함양할 수 있어야 한다. 사용자가 자신의 위험 부담 하에 AI 모델을 사용한다는 법적 현실이 정당성을 가지려면 사용자의 정확한 판단을 도울 수 있을 정도의 충분한 정보가 제공되어야 한다. 이러한 적극적 설명의무의 구체적 이행 방안으로서 인공지능 사업자는 AI 아첨 현상에 대하여 다양한 AI 테스팅을 통하여 어떤 분야에서 어떤 식의 아첨 현상이 이루어질 수 있는지 분석한 자료를 제공하고, 그 결과 사용자가 어떠한 피해를 입을 수 있는지에 대한 위험을 고지하는 방식으로 사용자에게 세분화된 구체적 사용 지침을 정기적으로 제공해야 할 것이며,