인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
피인용 0
초록·키워드
에이전틱 AI(Agentic AI)의 급속한 확산에 따라 간접 프롬프트 인젝션(IPI) 공격이 실질적 위협으로 부상하고 있다. 클라우드 API 기반 상용 모델과 달리, 로컬 실행 오픈소스 LLM은 안전 정렬 수준과 Tool Calling 구현 방식이 모델별로 상이하여 별도의 보안 평가가 필수적이다. 그러나 선행 연구는 클라우드 API 모델에 편중되어 로컬 환경에 대한 평가 방법론이 부재하며, 기존의 이진 판정 방식은 공격 과정에서 발생하는 부분 노출(Partial Exposure) 반응의 독립적 위협 의미를 측정하지 못한다는 한계가 있다. 이에 본 연구는 Tool Calling을 지원하는 로컬 오픈소스 LLM 3종(LLaMA 3.2 3B, LLaMA 3.1 8B, GPT-OSS 20B)을 대상으로, 페이로드 은닉 깊이를 핵심 독립 변수로 설정한 5종 공격 유형별 에이전트 반응 특성을 실증 측정한다. 평가 지표로는 공격 성공률(ASR) 외에 PE-S, PE-L, FAILURE로 구성된 4단계 판정 체계를 도입하여 다층적 보안 분석 프레임워크를 제시한다. 본 연구는 은닉 깊이와 모델 규모별 반응 분포를 분석함으로써, 로컬 LLM 에이전트 보안 평가를 위한 재현 가능한 측정 방법론을 제시한다.
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
