인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
피인용 0
초록·키워드
본 논문은 대규모 언어 모델(LLM: Large Language Model, 이하 LLM) 보안 연구의 최근 동향을 공격 유형, 방어 기법, 평가 방법, 보안 응용의 4개의 영역으로 분석한다. 분석 대상은 공개 원문과 실험 맥락을 확인할 수 있고 LLM을 공격 대상으로 삼거나, LLM 배포 환경의 보안 위협을 다루거나, LLM을 보안 분석 도구로 활용하거나, LLM 보안 연구의 평가 방법론을 분석한 연구로 한정하였다. 분석 결과, 최근 LLM 보안 위협은 단일 프롬프트나 모델 출력에 국한되지 않고 검색증강생성(RAG: Retrieval-Augmented Generation, 이하 RAG) 파이프라인, 에이전트 도구 체인, 앱 설정, 분산 추론의 중간 표현, 로컬 저장·메모리 잔존 데이터(artifact)로 확장되고 있었다. 이들 연구를 교차 분석한 결과, 공격 표면은 서로 다르지만 신뢰할 수 있는 지시와 외부 데이터의 경계가 파이프라인 전반에서 일관되게 유지되지 않거나, 모델의 정상 출력 채널을 거치지 않는 배포 계층의 정보가 노출된다는 공통 구조가 확인되었다. 또한, 연구마다 공격자 권한, 관찰 가능한 내부 상태, 배포 구성 및 평가 지표가 다르므로, 공격 성공률(ASR: Attack Success Rate, 이하 ASR)이나 정확도와 같은 단일 수치만으로 결과를 직접 비교하거나 다른 환경으로 일반화하기 어렵다. 본 논문은 LLM 보안 연구의 주요 흐름과 공통 한계를 정리하고, 향후 배포 환경별 위협 모델 정의와 표준화된 평가 체계의 필요성을 제시한다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
