인공지능 기반 자동화 행정행위와 민주적 법치국가 원리

김찬희

doi:10.35979/ALJ.2023.11.72.35

추천

검색

질문

자료유형: 학술저널

저자정보: 김찬희 (헌법재판소)

저널정보: 행정법이론실무학회 행정법연구 行政法硏究第72號

발행연도: 2023.11

수록면: 35 - 61 (27page)

DOI: 10.35979/ALJ.2023.11.72.35

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

‘인공지능 기반 자동화 행정행위’란, 인공지능 알고리즘에 의해 작동하는 자동화 시스템에 의하여 최종적인 의사결정까지 이루어지는 자동화 행정행위를 말한다. 인공지능 기반 자동화 행정행위는, 인공지능 알고리즘이 인간의 의사작용을 완전히 대체하고, 스스로 학습･판단･결정할 수 있는 자율성을 발휘함으로써 이루어지는데, 이는 현재 우리 공법체계가 전제하는 행정행위 개념이 정립되던 때에는 상상할 수 없었던 행정행위 유형이다. 이에 인공지능 기반 자동화 행정행위에는 전통적인 행정행위와는 다른 법적 평가와 의미 부여가 요구되고, 이를 고려한 독자적인 규율체계가 형성될 것이 요구된다.
위와 같은 인공지능 기반 자동화 행정행위를 통해 행정의 효율성 및 합리성이 크게 제고될 것으로 기대되기도 하지만, 다른 한편으로는 인공지능의 자율성과 불투명성 등의 특성으로 인해 인공지능 기반 자동화 행정행위가 기존의 법체계와 조화를 이루지 못하거나 헌법적 가치를 침해하는 부작용이 우려되기도 한다. 이에 인공지능 기반 자동화 행정행위에 관한 독자적 규율체계를 구축함에 있어서는, 인공지능기술의 이점을 추구하면서도 그 부작용이나 역기능을 최소화하기 위해 노력함으로써 양자 사이의 균형을 이루는 것이 요구되는데, 이때 민주적 법치국가 원리가 형량의 지침인 동시에 한계가 된다.
①인공지능이 자율성을 가지고 인간의 의사작용을 완전히 배제하는 것은 인간인 공무원의의사작용을 전제로 하는 조직적･인적 민주적 정당성 확보를 어렵게 하고, 인공지능 알고리즘의 불투명성은 행정행위의 내용이 국민의 의사로 소급되어야 인정되는 실질적･내용적 민주적 정당성 확보를 어렵게 하는 요인이 된다. 그리고 자율성과 불투명성을 특징으로 하는 인공지능기술의 복잡성은 ② 인공지능 기반 자동화 행정행위에 관한 법적 규율체계를 갖추는 것을 어렵게 하여 법치행정의 위기를 야기하며, ③ 절차적 정당성 확보를 어렵게 한다. 이러한 민주적 법치국가 원리 측면에서의 문제는 결국 인공지능 알고리즘의 투명성과 설명가능성, 그리고 이를 기반으로 한 통제가능성을 확보함으로써 해결될 수 있다. 따라서 인공지능 기반 자동화 행정행위에 관한 규율체계는, 민주적 법치국가 원리에 부합하는 범위 내에서, 인공지능 알고리즘의 투명성과 설명가능성 및 통제가능성이 확보되는 방향으로 구축되어야 할 것이다.

‘AI-based automated administrative acts’ refers to automated administrative acts in which the final decisions are made by an automated system operated by artificial intelligence(AI) algorithms. AI-based automated administrative acts are performed by AI algorithms that completely replace human decision-making and exercise autonomy to learn, judge, and decide on their own. This type of administrative act was unimaginable when the concept of administrative acts was established in our current legal system. Therefore, AI-based automated administrative acts require a distinct legal evaluation compared to traditional administrative acts, and a new regulatory system should be established with consideration of these differences.
AI-based automated administrative acts are expected to significantly improve the efficiency and rationality of administration. However, on the other hand, concerns arise due to the autonomy and opacity of AI, which may lead to disharmony with the existing legal system and violation of constitutional values. Therefore, in building a new regulatory framework for AI-based automated administrative acts, it is crucial to find a balance between harnessing the advantages of AI technology and minimizing its side effects. In this process, the principle of the democratic rule of law serves as both a guide and a constraint.
① The autonomy of AI, excluding human decision-making, poses challenges to securing organizational-personal democratic legitimacy, which is predicated on the decision-making of human officials. Furthermore, the opacity of AI algorithms complicates the achievement of substantial democratic legitimacy, which is recognized only when the contents of administrative acts are retroactively recognized as the will of the people. The complexity of AI technology, stemming from its autonomy and opacity, ② makes it difficult to establish a legal regulatory system for AI-based automated administrative acts, causing a crisis in the rule of law, and ③ makes it difficult to secure procedural legitimacy. The aforementioned problems from the perspective of democratic rule of law can ultimately be addressed by ensuring transparency, explainability, and controllability of AI algorithms. Therefore, the regulatory framework for AI-based automated administrative acts should be designed to ensure the transparency, explainability, and controllability of AI algorithms within the principle of the democratic rule of law.

#자동화 행정행위 #인공지능의 자율성 #인공지능의 불투명성 #민주적 정당성 #법치행정 #적법절차원칙 #automated administrative acts #autonomy of AI #opacity of AI #democratic legitimacy #rule of law #due process of law

국문초록
Ⅰ. 서론
Ⅱ. 인공지능 기반 자동화 행정행위의 의의
Ⅲ. 인공지능 기반 자동화 행정행위의 민주적 정당성
Ⅳ. 인공지능 기반 자동화 행정행위와 법치행정
Ⅴ. 인공지능 기반 자동화 행정행위와 적법절차원칙
Ⅵ. 결론
참고문헌
Abstract

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

김찬희

소속기관 헌법재판소

주요연구분야 사회과학 > 법학

논문수 2 이용수 569

이 논문과 함께 이용한 논문

인공지능 행정이 행정절차·행정소송에 미치는 영향에 대한 시론적 고찰

임성훈 행정법연구 2020 .08

인공지능 시대의 도래와 디지털화에 따른 행정자동결정의 법적 쟁점 ― 특히 행정기본법상 자동적 처분의 문제점을 중심으로 ―

鄭南哲 공법연구 2021 .12

국방 분야 인공지능 기술의 적용 사례 연구

차용준 , 조한얼 , 이상철 외 5명 한국통신학회 인공지능 학술대회 논문집 2024 .09

인공지능(AI) 단일법 제정 필요성과 행정법학의 과제

이효진 법학논총 2023 .02

행정기본법상 처분에 대한 불복제도의 쟁점

정연부 공법연구 2022 .10

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)