ChatGPT’s security risk and its legal countermeasures

Liu Ruonan; Chen Liang

doi:10.31839/DALR.2025.02.106.401

추천

검색

질문

자료유형: 학술저널

저자정보: Liu Ruonan (Southwest University) Chen Liang (Southwest University)

저널정보: 동아대학교 법학연구소 동아법학 東亞法學第106號

발행연도: 2025.02

수록면: 401 - 446 (46page)

DOI: 10.31839/DALR.2025.02.106.401

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

인공지능 기술의 비약적 발전으로 새로운 과학기술 혁명을 도래하였다. ChatGPT는 생성형 인공지능의 이정표적 응용 사례로서, 우수한 자연어 처리기술은 인터넷 생태계 및 인간-기계 상호작용 모델에 획기적인 변화를 가져였다.종합적인 국가안보 관점에서 검토해보면, 고품질의 실질적 데이터와 인간 피드백에 기반한 강화 학습이라는 혁신적인 알고리즘을 기반으로 지원되는 ChatGPT는 인간과의 대화형식 상호작용으로 점차 “유사 인간 특징”을 나타내고 있다. 나아가 ChatGPT는 과거 대화 기록을 저장하는 기능을 보유하고 있을 뿐만 아니라, 과거 대화 내용에 대한 이해를 바탕으로 새로운 대화를 확장하고 심화하는 능력도 갖추고 있다. 그러나 ChatGPT의 실용성이 크게 강화된 동시에, 자연인의 권리 보호에 장애 요인으로 작용하고 있으며, 정치 및 경제 영역에서 안전상의 잠재적 위협을 내포하고 있다.
본 연구에서는 먼저 ChatGPT의 작동 원리를 기반으로 주요 특징을 정리하고, 이를 바탕으로 국민 안전, 정치적 안전 및 경제적 안전 차원에서 발생할수 있는 리스크를 분석하였다. 국민 안전 차원에서, 데이터 수집단계에서는 성과물 도용 행위가 발생하고, 데이터 저장 단계에서 데이터 유출 위험이 존재한다. 정치적 안전 차원에서, 기술 우위 국가가 기술 열위 국가를 대상으로 정보 수집 및 가치관 전파 도구로 악용될 가능성이 존재하며, 기술 방면의 대기업이 정부의 통치 권한을 대체할 위험을 초래한다. 경제 안전 차원에서, 알고리즘 적용 단계에서 적대적 공격(Adversarial Attack)으로 시장의 공정 경쟁을 저해할 위험이 존재하며, 알고리즘 보급 단계에서 기계적으로 반복되는 작업 노동자 및 고도로 규격화된 정신 노동자를 빠르게 대체하여 고용 안정성에 대한 압박이 가중될 우려가 있다. 이러한 위험을 예방하기 위해 정보 검색 분야의 데이터 처리 규범 제정, 온라인에서의 극단적 발언에 대한 관리·감독 강화, 기업 등급별 자율 점검 규정에 대한 세분화, 노동시장 내 대체 가능성 규모에 대한 사전 예측 등의 대안을 모색할 필요가 있다. 이를 통해 국민안전, 정치적 안전, 경제적 안전 및 국가 이익의 유기적 통합을 실현하고, 인공지능 산업의 발전과 안전 사이의 균형을 모색하는 데 있어 중국의 지혜를 기여하고자 한다.

The swift progress of artificial intelligence has ushered in an exciting new era of technological revolution. Innovations in this field are transforming industries, enhancing our daily lives, and reshaping how we interact with technology. ChatGPT, as a landmark application of generative artificial intelligence, has caused a disruptive change to the Internet ecosystem and human-computer interaction mode with its excellent natural language processing technology. From an overarching perspective on national security, ChatGPT utilizes high-quality, accurate data and innovative machine learning algorithms, posing challenges in safeguarding the rights of individuals and presenting security risks across political and economic domains. From an overarching perspective on national security, Supported by high-quality, accurate data and innovative algorithms based on human feedback and reinforcement learning, ChatGPT understands the user’s linguistic preferences, and its conversational interactions with humans gradually produce “human-like features.” ChatGPT not only has the function of storing historical conversations but also can expand and deepen new conversations with users based on the understanding of historical conversations. ChatGPT, while dramatically increasing its utility, also poses resistance to protecting the rights of natural persons and security risks in the political and economic spheres.
In this paper, we provide a detailed overview of the key features of ChatGPT, focusing on its underlying working principles. Following this, we will conduct an in-depth analysis of the potential risks associated with its use, examining the implications for individual security, political stability, and economic well-being. At the level of personal security, potential issues include the plagiarism of results during the data collection stage and the risk of data leakage during data storage. Regarding political security, there is a risk that it may serve as a tool for intelligence gathering and the export of values from technologically advanced countries to those less advanced, thereby increasing the likelihood of technology companies sharing governmental governance powers. Regarding economic security, the adversarial risks associated with algorithm applications may hinder fair market competition. The capability of ChatGPT to execute mechanically repetitive and highly structured tasks during the algorithm rollout phase raises concerns about job displacement and employment pressures. To mitigate these security risks associated with ChatGPT, it is essential to establish robust data processing norms in the information retrieval domain, strengthen oversight of extreme speech on the Internet, refine self-inspection protocols for enterprises, and anticipate the extent of labor market displacement. These measures promote a unified strategy for protecting individual security, maintaining political stability, ensuring economic integrity, and safeguarding national interests, contributing Chinese wisdom to exploring the balance between the development of the AI industry and safety.

#ChatGPT #generative artificial intelligence #a holistic approach to national security #adversarial risk #legal countermeasures #생성형 인공지능 #종합적 국가안보 관점 #적대적 공격(Adversarial Attack) 리스크 #법적 대응 방안 #生成式人工智能 #总体国家安全观 #对抗性风险 #法律对策

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문과 함께 이용한 논문

인공지능과 빅데이터 분석 기반 통합보안관제시스템 구축방안에 관한 연구

배재권 로고스경영연구 2020 .03

3D 컴퓨터 그래픽을 위한 생성형 AI의 활용에 관한 연구

이영헌 만화애니메이션 연구 2025 .03

A Study on the Derivation of Design Language Based on Neuroaesthetics and the Application of Artificial Intelligence

Wang , Geng Chen , Cho 외 1명 한국디자인문화학회지 2025 .03

금융부문 AI 규제 체계에 관한 연구: EU의 입법례를 중심으로

윤혜선 경제규제와 법 2024 .11

생성형 인공지능을 적용한 인테리어용 텍스타일패턴디자인 연구 - 미드저니 & 2024-2025 하임텍스타일 디자인 트렌드 중심으로 -

위우청 , 엄경희 한국디자인문화학회지 2024 .12

최근 본 자료

전체보기

UCI(KEPA) : I410-151-25-02-092497329

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)