형사사법에서의 인공지능 사용에 대한 유럽의회 결의안 - '인공지능에 의한 결정' 금지에 관하여 -

정소영

추천

검색

자료유형: 학술저널

저자정보: 정소영 (연세대학교)

저널정보: 한국형사정책학회 형사정책 형사정책 제34권 제2호

발행연도: 2022.7

수록면: 137 - 172 (36page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

인공지능의 객관성을 높이 평가하는 사람들은 형사사법에서도 인공지능이 순기능을 할 수 있다고 평가하고, 그동안 차별적 사법판단의 희생양이었던 유색인종 등사회적 약자들은 인간 판사보다 인공지능의 사법적 판단을 선호한다고 한다. 그러나인공지능이 머신러닝으로 학습하는 데이터들은 과거의 법집행 기록들을 모아놓은것에 불과하다. 즉 과거의 편견과 차별이 그대로 반영된 데이터인 것이다. 이런 데이터로 학습한 인공지능은 공정한 예측 결과를 도출하기 힘들며, 인공지능이 내린 결정을 형사사법에서 그대로 사용하는 것은 기술적·객관적·중립적 과학이라는 탈을쓰고 엄청난 불의를 행하는 것이 될 수도 있다. 2021년 10월의 유럽의회 형사사법 인공지능 결의안은 바로 이 지점에 위치하고있다. 즉, 투명성과 책임성을 탑재한 인공지능이 도입되어 시민의 기본권에 아무런해도 입히지 않는다는 것을 신뢰할 수 있을 때까지 형사재판에서 인공지능이 내린결정을 그대로 사용해서는 안 된다고 못박은 것이다. 또한 유럽의회의 이번 결의안은 기존의 유럽연합 개인정보보호법 체계를 형성하고 있는 GDPR과 법집행지침(LED)이 각각 제22조와 제11조에서 보장하고 있는‘자동화된 처리에만 의존하는결정의 대상이 되지 않을 권리’를 형사사법 분야에서 다시 한 번 확인하는 특별법적성격을 가지고 있다. 본고는 편견과 차별, 투명성, 책임성이라는 3가지 측면의 선결 과제들이 해결될 때까지는 형사사법에 인공지능이 도출한 결과를 사용하지 말아야 한다는 유럽의회의 결의안과 궤를 같이 한다. 이러한 결론은 편견과 차별로 오염된 데이터를 바탕으로 한 예측 치안(predictive policing) 인공지능이 인간의 존엄성과 무죄 추정에위배되므로 앞으로 제정될 유럽연합 인공지능법의 ‘금지되는 인공지능 관행(Prohibited Artificial Intelligence Practices)’에 추가되어야 한다는 2022년4월의 유럽의회 인공지능법안 수정안의 발표로 더욱 그 타당성이 뒷받침된다. 본고는 최근 발표된 일련의 문서들에 대한 검토를 통해 그동안 주로 가이드라인이나 인공지능 윤리 차원에서 인공지능을 규제했던 유럽연합이 이제는 법률을 통해강력한 규제를 꾀하고 있으며, 특히 현재로서는 형사사법에 인공지능에 의한 결정을도입해서는 안 된다는 결론을 최종적으로 내렸다는 점에 주목한다. 2021년 10월의유럽의회 형사사법 인공지능 결의안은 이러한 최종적 입장을 잘 드러낸, 주목할 만한 문서라 할 것이다.

As artificial intelligence(AI) is used in criminal justice, experts in the field of technology who value the objectivity of AI and people of color who have been victims of discriminatory judicial judgments have shown a preference for judicial decisions of AI over human judges. However, the data that AI learns through machine learning is nothing more than a collection of past law enforcement records. In other words, it is data that reflects the prejudice and discrimination of the past. AI learned from such data is difficult to derive fair prediction results. Therefore, using the output as it is without making any corrections poses a risk of doing great injustice under the guise of technical, objective, and neutral science. The European Parliament's Resolution 2020/2016(INI) of October 2021 is located at this point. It insisted that the decisions made by AI should not be used as it is in criminal matters until it can be trusted that AI with transparency and accountability does not harm the fundamental rights of citizens. Above all, EU citizens have the‘right not to be subject to decisions based solely on automated processing’by GDPR Article 22 and Law Enforcement Directive Article 11. This resolution of the European Parliament has a special legal character reaffirming this right in the field of criminal justice. However, in the long term, it is expected that the number of cases of AI support in the criminal justice system will increase due to lack of budget, human resources and delayed cases. So, what position should we take on the hybrid decision of machines and humans? The European Union is reluctant to follow the past cases that triggered legal and ethical problems with AI by entrusting it to self-regulation by private companies. They seek to protect the fundamental rights of citizens and align with the ideals of criminal justice by strengthening the transparency and accountability of AI through public intervention. The European Parliament resolution 2020/2016(INI) of October 2021 is a noteworthy document that sets out such a goal in the field of criminal justice.

#인공지능 #알고리즘 #유럽의회 결의안 2020/2016(INI) #형사사법 #자동화된 처리에만 의존하는 결정 #예측 치안 #투명성 #책임성 #artificial intelligence #AI #algorithm #European Parliament resolution 2020/2016(INI) #criminal justice #decision based solely on automated processing #transparency #accountability

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

정소영

소속기관 연세대학교

주요연구분야 사회과학 > 법학 의약학 > 기초의학 > 해부학

논문수 4 이용수 316

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

최근 본 자료

댓글(0)