인공지능 관련 규범 수립의 국내외 현황과 과제

이숙연

추천

검색

자료유형: 학술저널

저자정보: 이숙연 (서울중앙지방법원)

저널정보: 법조협회 법조 법조 제72권 제1호

발행연도: 2023.2

수록면: 442 - 488 (47page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

인공지능은 단순반복작업에서 인간을 해방시켜 가고 있으며, 바둑과 같은 고차원적 영역에서도 인간을 능가하는 실력을 보여주었다. 2022년말 공개된 챗GPT는 인공지능의 신기원을 열며 기술 개발 경쟁을 촉발시켰다. 한편, 인공지능은 현실에 존재하는 차별이나 편향을 그대로 반영하고 있고, 인공지능을 탑재한 전쟁무기나 안면인식을 이용한 감시사회의 디스토피아적 미래도 그려진다. 국제기구 및 주요 국가와 기업들은 인공지능 관련 규범 마련을 위해 노력 중이며 유럽연합은 2021년 4월 ‘인공지능 법안’을 발의하기도 하였다. 우리 정부의 인공지능 준비지수는 세계 6위로 평가되었는데, 정부 부문과 데이터 및 인프라스트럭처 부문과 달리 기술부문에서는 낮은 평가를 받고 있다. 인공지능 기술 개발을 촉진하면서도, 다가올 위험을 미연에 방지하고 인공지능 기술 개발로 인한 편익을 사회가 골고루 누릴 수 있도록 지침이자 안전장치가 되는 규범의 설계가 요구된다. 인공지능에 관한 규범의 수립은 세 가지 방향으로 전개될 필요가 있다. 첫째, 사회 전체가 추구하여야 할 가치와 원칙을 정하여 공유할 필요가 있다. 2020년말 수립된 AI 윤리기준의 3대 원칙은 헌법이 추구하는 가치를 기반으로 구체적인 실천원칙으로 정련되어야 한다. 둘째, 공공영역에서 인공지능이 인간의 존엄성과 기본권을 침해하지 않도록 사전규제가 필요하다. 인간에 위해를 가할 우려가 있는 시스템 및 실시간 감시시스템의 개발, 사용은 제한되어야 한다. 인공지능은 급부행정이나 범죄예방 등에 유용하나, 과도한 개인정보 수집, 감시, 통제는 지양되어야 하고, 인간에 의한 감독, 거부권의 부여, 고지의무 및 설명의무 등을 입법화할 필요가 있다. 마지막으로, 민간분야에서는 기계학습을 위한 저작물 공정이용 조항이 시급하고, 공개된 개인정보는 정보주체의 사전 동의없이도 활용할 수 있어야 한다. 비식별 기술의 도입을 통해 데이터를 활용할 수 있도록 하는 개인정보보호법제의 정비도 시급하다. 판결문 등 공공 데이터는 활용가능한 형태로 민간에 개방되어야 하고, 기업들이 비식별화된 데이터를 공유, 거래, 교환 가능한 데이터 생태계를 구축할 수 있도록 법제를 마련하되, 재식별화 등 불법행위 방지 장치를 마련할 필요가 있다.

Artificial intelligence not only liberated humans from simple repetitive tasks, but also surpassed humans in high-level areas such as Go. The Chat GPT, which was released at the end of 2022, opened a new one of artificial intelligence and triggered the competition for technology development. On the other hand, artificial intelligence has revealed the problem of reflecting discrimination or bias that exists in reality due to the nature of machine learning. It also depicts the future of war weapons with artificial intelligence or surveillance society using facial recognition. International organizations, major countries and companies are striving to prepare norms related to artificial intelligence. The European Union's discussion has been the most comprehensive and consistent, and the 'Artificial Intelligence Act' prepared in April 2021 is expected to have a ripple effect comparable to GDPR. The Korean government is ranked 6th in the world in AI readiness index, but unlike the government sector and data and infrastructure sectors, it is evaluated low in the technology sector. While promoting the development of artificial intelligence technology, it is required to design norms that serve as guidelines and safety devices so that future risks can be prevented and society can enjoy the benefits of artificial intelligence technology development evenly. The establishment of norms for artificial intelligence needs to develop in three directions. First, it is necessary to set and share the values and principles that the nation and society as a whole should pursue. The three principles of AI ethical standards established at the end of 2020 need to be refined into specific practical principles according to the 10 key requirements, and it is desirable to base them on the principles and fundamental rights of the Constitution. Second, preliminary regulations are needed to prevent artificial intelligence from infringing human rights and dignity in public areas. Systems that may cause harm to the body or mind and real-time monitoring systems through facial recognition should be prohibited. Artificial intelligence is useful for benefit administration or crime prevention, but excessive personal information collection, monitoring, and control should be avoided. For automated decision-making systems, the data and algorithms should be checked by humans and notification and explanation to users and the right to opt-out should be legislated. Lastly, the use of copyrighted works for machine learning in the private sector must be legislated as fair use, and the use of disclosed personal information must be allowed without prior consent. Through the introduction of non-identification technology, a legal system that allows data to be utilized without conflicting with personal information protection must be established. Public data, such as court judgments, should be open to the private sector in a usable form. Legislation should be prepared to establish a data ecosystem that allows companies to share, trade, and exchange de-identified data, but it is necessary to prepare measures to prevent illegal activities such as re-identification.

#인공지능 #머신러닝 #인간의 존엄성 #차별금지 #공정성 #투명성 #설명가능성 #데이터 #개인정보보호 #고위험 인공지능 #Artificial intelligence(AI) #machine learning #human dignity #non-discrimination #fairness #transparency #explainability. data #privacy #high-risk AI

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이숙연

소속기관 서울중앙지방법원

주요연구분야 사회과학 > 법학

논문수 2 이용수 157

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

최근 본 자료

댓글(0)