인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
개인구독
소속 기관이 없으신 경우, 개인 정기구독을 하시면 저렴하게
논문을 무제한 열람 이용할 수 있어요.
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
초록·키워드
인공지능의 발전에 따라, 인공지능 규제와 관련된 GDPR 제22조의 중요성이 커지고 있다. 자동화된 처리에만 근거한 결정에 따르지 않을 권리를 보장한 GDPR 제22조는 의사결정과정에 인간 개입이 있었는지에 따라 규제의 적용 여부가 결정되는 성격이 있다. 자동화 의사결정이 효율성, 일관성 등의 장점이 있음에도 알고리즘 결정에 인간 개입을 요구하는 것은, 알고리즘의 리스크를 감독하고 알고리즘이 반영하기 어려운 인간적 특성을 고려하기 위한 것일 수 있다. 그러나 GDPR 제22조에서의 인적 개입은 이러한 목적을 달성하지 못한 채 인공지능 환경에서 여러 한계를 보인다.
첫 번째 한계는 어느 정도로 인간이 개입해야 실질적인 인간 개입이 되는 것인지 그 기준이 불분명하다는 것이다. 두 번째로 하나의 최종 결정을 위해 여러 개의 인공지능의 판단이 연속되는 경우, 어느 단계에서 인간이 개입해야 하는지가 불분명하다. 세 번째는 정보 및 역량 등이 부족한 상황에서 실질적으로 인적 개입을 한다는 것이 현실적으로 가능한지에 대한 의문이다. 네 번째 한계는 의미 있는 인적 개입이 이루어졌는지 외부에서 감독하기가 힘들다는 것이다.
인공지능 시대에서 GDPR 제22조가 실효성을 갖기 위해서는 인간 개입을 둘러싼 한계를 극복할 필요가 있다. 첫째, 인간 개입이 실질적인지 명목적인지를 나누는 기준이 명확해야 한다. 이 논문은 이를 위해 자동화 결정과정에 대한 전반적 이해, 실제 검토행위의 존재, 최종 결정의 근거 및 과정에 대한 설명이라는 기준을 제시한다. 둘째, 여러 인공지능의 판단이 연속되는 경우, 각각의 인공지능 판단이 끝날때마다 인간이 개입하도록 하여 인적 개입 단계를 명확히 할 필요가 있다. 셋째, 실질적 인적 개입의 실효성을 강화하기 위한 방안을 강구해야 한다. 알고리즘 감사, 설명가능한 인공지능 등을 통해 인공지능 판단과정의 투명성을 높이고, 인간의 검토 역량을 기르기 위한 훈련을 강화해야 한다. 인공지능 프로그램의 개발조직과 활용조직이 다를 경우, 제3자 기관을 통한 감사, 계약 등을 통해 인간 개입의 실효성을 확보해야 한다. 넷째, 외부 감독기관에 대한 정보 제공 및 조사 직원 역량 강화 등을 통해 외부 감독기관이 인간 개입의 적절성을 제대로 판단하도록 하여 개인정보 관리자들이 명목적 인적 개입으로 규제를 회피할 가능성을 낮추어야 한다.
첫 번째 한계는 어느 정도로 인간이 개입해야 실질적인 인간 개입이 되는 것인지 그 기준이 불분명하다는 것이다. 두 번째로 하나의 최종 결정을 위해 여러 개의 인공지능의 판단이 연속되는 경우, 어느 단계에서 인간이 개입해야 하는지가 불분명하다. 세 번째는 정보 및 역량 등이 부족한 상황에서 실질적으로 인적 개입을 한다는 것이 현실적으로 가능한지에 대한 의문이다. 네 번째 한계는 의미 있는 인적 개입이 이루어졌는지 외부에서 감독하기가 힘들다는 것이다.
인공지능 시대에서 GDPR 제22조가 실효성을 갖기 위해서는 인간 개입을 둘러싼 한계를 극복할 필요가 있다. 첫째, 인간 개입이 실질적인지 명목적인지를 나누는 기준이 명확해야 한다. 이 논문은 이를 위해 자동화 결정과정에 대한 전반적 이해, 실제 검토행위의 존재, 최종 결정의 근거 및 과정에 대한 설명이라는 기준을 제시한다. 둘째, 여러 인공지능의 판단이 연속되는 경우, 각각의 인공지능 판단이 끝날때마다 인간이 개입하도록 하여 인적 개입 단계를 명확히 할 필요가 있다. 셋째, 실질적 인적 개입의 실효성을 강화하기 위한 방안을 강구해야 한다. 알고리즘 감사, 설명가능한 인공지능 등을 통해 인공지능 판단과정의 투명성을 높이고, 인간의 검토 역량을 기르기 위한 훈련을 강화해야 한다. 인공지능 프로그램의 개발조직과 활용조직이 다를 경우, 제3자 기관을 통한 감사, 계약 등을 통해 인간 개입의 실효성을 확보해야 한다. 넷째, 외부 감독기관에 대한 정보 제공 및 조사 직원 역량 강화 등을 통해 외부 감독기관이 인간 개입의 적절성을 제대로 판단하도록 하여 개인정보 관리자들이 명목적 인적 개입으로 규제를 회피할 가능성을 낮추어야 한다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-ECN-0101-2020-366-000855671
