인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
피인용 0
초록·키워드
본 연구는 생성형 AI 기술이 가짜뉴스나 혐오 표현 생성에 악용될 수 있다는 점에서 착안해 무력 충돌 상황에서 발생할 수 있는 쟁점을 국제인도법의 관점에서 분석하고 대응 방안을 모색하였다.
이를 위해 생성형 AI 기술의 특징을 살펴보았는데, 대량 생산의 용이성, 진위 구분의 어려움, 맞춤 제작 가능성, 딥페이크 등 명의 도용 범죄 가능성 등의 특성으로 인해 무력 충돌 상황에서 인지적 무기로 악용될 위험이 크다.
실제로, 미디어는 앞선 판례 등에서 인지적 무기로 악용된 사례들이 있는데, 르완다 대량학살, 유고슬라비아 내전, 케냐 선거 폭력, 미얀마 로힝야족 탄압 등 과거 미디어가 인도적 범죄에 개입했던 사례를 분석하여, 생성형 AI 시대에 예상되는 위험을 도출하고자 하였다.
이런 가능성들을 토대로 제네바 협약과 추가의정서의 주요 조항들이 AI 기반 허위 정보에 적용될 수 있는지 검토하였다. 구체적으로는 인격 및 명예 보호(제4협약 제27조), 민간인 대상 공포 위협 금지(추가의정서 I 제51조), 배신행위(perfidy) 금지(추가의정서 I 제37조), 인도주의 활동 방해 금지(제4협약 제30조, 추가의정서 I 제71조) 등의 조항들에 포섭될 수 있는 것으로 판단된다.
다만, 국제인도법 체계로 적용하는 데는 현실적인 어려움도 예상되는바 이를 극복하기 위한 대응 방안도 제시하였는데, 우선 국제관습법에 기반한 진화적 해석을 통해 기존 국제인도법 체계 내에서 규율하고자 하는 해석론적 접근을 들 수 있고, 둘째로는 ‘디지털 제네바 협약’과 같은 새로운 규범 체계를 마련하는 입법론적 접근을 제시하였다. 또, 실효성 확보를 위한 추궁 수단으로 국가책임, 개인의 형사책임, 비국가 행위자의 책임으로 나누어 다층적 책임 귀속 체계 구축 방안을 제안하였다.
연구 결과, 생성형 AI 기반 가짜뉴스는 기존 국제인도법 조항으로 일부 포섭 가능하나, 기술의 특수성과 책임 주체 특정의 어려움 등을 고려할 때 새로운 규범적 기반, 국제사회의 합의에 기반한 새로운 질서가 필요함을 확인하였다. 본 연구는 생성형 AI 시대에도 국제인도법의 핵심 가치인 인간의 존엄성과 생명 보호를 실현할 수 있는 법적･제도적 틀 구축에 기여하고자 한다.
이를 위해 생성형 AI 기술의 특징을 살펴보았는데, 대량 생산의 용이성, 진위 구분의 어려움, 맞춤 제작 가능성, 딥페이크 등 명의 도용 범죄 가능성 등의 특성으로 인해 무력 충돌 상황에서 인지적 무기로 악용될 위험이 크다.
실제로, 미디어는 앞선 판례 등에서 인지적 무기로 악용된 사례들이 있는데, 르완다 대량학살, 유고슬라비아 내전, 케냐 선거 폭력, 미얀마 로힝야족 탄압 등 과거 미디어가 인도적 범죄에 개입했던 사례를 분석하여, 생성형 AI 시대에 예상되는 위험을 도출하고자 하였다.
이런 가능성들을 토대로 제네바 협약과 추가의정서의 주요 조항들이 AI 기반 허위 정보에 적용될 수 있는지 검토하였다. 구체적으로는 인격 및 명예 보호(제4협약 제27조), 민간인 대상 공포 위협 금지(추가의정서 I 제51조), 배신행위(perfidy) 금지(추가의정서 I 제37조), 인도주의 활동 방해 금지(제4협약 제30조, 추가의정서 I 제71조) 등의 조항들에 포섭될 수 있는 것으로 판단된다.
다만, 국제인도법 체계로 적용하는 데는 현실적인 어려움도 예상되는바 이를 극복하기 위한 대응 방안도 제시하였는데, 우선 국제관습법에 기반한 진화적 해석을 통해 기존 국제인도법 체계 내에서 규율하고자 하는 해석론적 접근을 들 수 있고, 둘째로는 ‘디지털 제네바 협약’과 같은 새로운 규범 체계를 마련하는 입법론적 접근을 제시하였다. 또, 실효성 확보를 위한 추궁 수단으로 국가책임, 개인의 형사책임, 비국가 행위자의 책임으로 나누어 다층적 책임 귀속 체계 구축 방안을 제안하였다.
연구 결과, 생성형 AI 기반 가짜뉴스는 기존 국제인도법 조항으로 일부 포섭 가능하나, 기술의 특수성과 책임 주체 특정의 어려움 등을 고려할 때 새로운 규범적 기반, 국제사회의 합의에 기반한 새로운 질서가 필요함을 확인하였다. 본 연구는 생성형 AI 시대에도 국제인도법의 핵심 가치인 인간의 존엄성과 생명 보호를 실현할 수 있는 법적･제도적 틀 구축에 기여하고자 한다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-151-26-02-096051879
