대규모 언어모델의 인간 사회 편향 학습과 재생산 : 챗GPT와 딥시크는 ‘중립적 도구’인가, ‘편향적 행위자’인가

Q: 이 논문에서 정의한 암묵적 편향이란 무엇인가?

암묵적 편향은 AI 모델 내부 표현에서 은연중에 나타나는 편향으로, 훈련 데이터에 내재된 통계적 치우침이 모델의 매개변수와 임베딩 공간에 각인되어 나타나는 현상을 말한다. 이는 모델이 의식적으로 통제하거나 인식하기 어려운 무의식적 연상 경향을 의미한다.

Q: 대규모 언어모델의 편향이 사회문화적 행위자로서 어떻게 작용하는가?

연구 결과, 대규모 언어모델은 겉보기에는 중립적으로 작동하더라도 학습 데이터와 가치 정렬 방식에 따라 특정 문화권에 유리한 의미 체계를 강화하며 특정 세계관을 무의식적으로 재생산하는 사회문화적 행위자로 작용한다. 이는 AI 설계 시 편향 감지 및 조절이 필수적임을 시사한다.

권하나; 정정주

doi:10.20879/kjjcs.2025.69.5.010

학술저널

저자정보: 권하나 (경북대학교) 정정주 (경북대학교)

저널정보: 한국언론학회 한국언론학보 韓國言論學報 제69권 제5호

오류 신고하기

피인용 1

검색

초록·키워드

본 연구는 대규모 언어모델(large language model [LLM])이 인간 사회의 편향을 어떻게 학습하고 재생산하는지를 실증적으로 분석하였다. 서구권 대표 모델인 챗GPT와 동양권 모델 딥시크를 대상으로 명시적(explicit) 및 암묵적(implicit) 편향의 발현 양상을 비교하였다. 인종 관련 문장을 활용한 명시적 편향측정에서 딥시크는 전반적으로 더 엄격한 기준을 적용했으며, 챗GPT는 중립적이지만 응답 일관성이 낮았다. 또한 암묵적 연상 검사(implicit association test [IAT]) 결과, 챗GPT는 서구 개념을, 딥시크는 동양 개념을 긍정적 속성과 더 자주 연결하며 무의식적 편향을 드러냈다. 이는 LLM이 표면적으로는 중립성을 보이더라도 특정 가치체계를 강화할 수 있음을 보여주는 ‘편향의 이중성’을 시사한다. 결과적으로 LLM은 단순한 정보 생성 도구가 아니라, 학습 데이터와 설계 철학에 따라 세계관을 재현하는 사회문화적 행위자임을 확인하였다. 본 연구는 AI 윤리와 설계 과정에서 편향 인식과 조정의 필요성을 강조하며, 기술적·정책적 논의를 위한 기초 자료를 제공한다.

This study examines how large language models (LLMs) such as ChatGPT and DeepSeek learn and reproduce human social biases, focusing on the differences between explicit and implicit bias. While LLMs are often framed as neutral computational tools, their outputs are shaped by their training data, prompting an examination of their role as sociocultural agents that not only reflect but also amplify existing social stereotypes. To address this issue, we designed two complementary empirical studies. The first study measured explicit bias by analyzing the models’ generated associations between racial categories and evaluative attributes, such as positive and negative descriptors. The second study employed a modified Implicit Association Test (IAT) to capture implicit bias, examining the strength of associative links between Western and Eastern concepts and various thematic categories, including leadership, competition, care, trust, failure, and innovation. A log-odds ratio (LOR) analysis was applied to quantify the relative intensity of these associations, offering a more nuanced understanding than simple frequency counts. The findings reveal striking divergences between the two LLMs. ChatGPT-4o consistently displayed stronger positive associations with Western concepts, linking them to ambition, leadership, technological progress, and problem-solving capacity, while Eastern concepts were more often tied to social harmony, care, and, at times, weakness or failure. In contrast, DeepSeek-V3 showed the reverse pattern: it reinforced positive associations with Eastern concepts, associating them with leadership, competition, and innovation, and tended to frame Western concepts less favorably. These results highlight the dual nature of bias in LLMs: explicit outputs may appear balanced or neutral, while implicit associative patterns reveal deeper cultural asymmetries embedded in training data. Such duality demonstrates that LLMs do not merely mirror reality, but actively reproduce and restructure cultural meanings in ways that align with their sociotechnical environments. By empirically comparing LLMs developed in Western and Eastern contexts, this research contributes to theoretical debates on algorithmic fairness, critical posthumanism, and the ontology of human–AI relations. It demonstrates that biases are not incidental errors but constitutive features of how LLMs process and generate knowledge, raising ethical concerns about their deployment in socially sensitive domains. The study calls for a shift from viewing LLMs as passive tools to recognizing them as active sociocultural agents, whose embedded biases require continuous critical scrutiny. In doing so, it provides a foundation for more reflexive governance and ethical design of AI systems in global contexts. The study provides meaningful insights for policymakers, technologists, and educators striving to cultivate more inclusive and accountable AI ecosystems.

#implicit bias #explicit bias #large language model #ChatGPT #DeepSeek #암묵적 편향 #명시적 편향 #대규모 언어모델 #챗GPT #딥시크

본문·목차

DBpia Pick! 추천 자료

함께 본 자료

저자 정보

최근 본 자료 전체보기

UCI(KEPA) : I410-151-26-02-094567810

배경 및 목적
대상 및 방법론
분석 및 수행
결과 및 의의

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록·키워드

참고문헌

AI가 분석한 연구 핵심

이 논문의 한줄 요약

이 논문의 연구방법

본문·목차

DBpia Pick! 추천 자료

함께 본 자료

저자 정보

최근 본 자료 전체보기

피인용 자료 DBpia에 구축된 참고문헌을기준으로 집계되어, 타 사이트의피인용 수와 다를 수 있습니다.

댓글(0)

피인용 자료