인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
초록·키워드
본 연구는 인공지능(AI) 기반 신용평가 시스템에서 발생하는 편향과 불투명성 문제를 해결하기 위하여, 설명가능한 인공지능(XAI)과 책임 있는 인공지능(RAI), 그리고 인간 개입(HITL)을 통합한 평가 구조를 제안하였다. 우선 XAI 단계에서는 SHAP(Shapley Additive Explanations) 기법을 적용하여 변수별 기여도를 도출하고, 모델의 판단 근거를 시각적으로 제시함으로써 예측 과정의 설명가능성을 확보하였다. 이후 RAI 단계에서는 공정성 지표인 Equal Opportunity Difference(EOD)와 Disparate Impact(DI)를 활용하여 성능과 공정성 간 균형을 검토하였으며, 그룹별 임계값 보정(post-processing)을 통해 EOD를 감소시켜 공정성을 개선하였다. 마지막으로 HITL 단계에서는 예측 확률이 0.40~0.60 범위의 경계 사례(gray zone)에 대해 인간 심사자가 직접 검토 및 교정하는 시나리오를 시뮬레이션하였다.
연구 결과, XAI기반 설명력을 RAI와 HITL 구조에 통합하여 결합함으로써, 예측 성능의 손실 없이 공정성과 설명가능성을 동시에 확보할 수 있음을 확인하였다. 이는 신용평가와 같은 고위험 영역에서 알고리즘의 결정 과정을 투명하게 만들고, 인간의 개입을 통해 윤리적 통제력을 확보할 수 있는 현실적 접근임을 시사한다.
본 연구는 설명가능성(XAI)과 책임성 및 공정성(RAI), 인간 개입(HITL)을 통합적으로 고려한 신용평가 시스템의 설계방향을 제시함으로써, 고위험 영역의 AI 의사결정에서 인간 중심의 책임형(Responsible) 인공지능 구현을 위한 실질적 근거를 제공하기 위해 연구하였다.
연구 결과, XAI기반 설명력을 RAI와 HITL 구조에 통합하여 결합함으로써, 예측 성능의 손실 없이 공정성과 설명가능성을 동시에 확보할 수 있음을 확인하였다. 이는 신용평가와 같은 고위험 영역에서 알고리즘의 결정 과정을 투명하게 만들고, 인간의 개입을 통해 윤리적 통제력을 확보할 수 있는 현실적 접근임을 시사한다.
본 연구는 설명가능성(XAI)과 책임성 및 공정성(RAI), 인간 개입(HITL)을 통합적으로 고려한 신용평가 시스템의 설계방향을 제시함으로써, 고위험 영역의 AI 의사결정에서 인간 중심의 책임형(Responsible) 인공지능 구현을 위한 실질적 근거를 제공하기 위해 연구하였다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-151-26-02-095579449
