메뉴 건너뛰기
소속 기관 / 학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
고객센터 ENG
주제분류

논문 기본 정보

저자정보
(삼정데이타서비스)
저널정보
한국정보기술학회 한국정보기술학회논문지 한국정보기술학회논문지 제24권 제10호(JKIIT, Vol.24, No.10)
오류 신고하기

피인용 0

검색

    초록·키워드

    대형언어모델(LLM)의 운용 비용과 지연시간은 처리 토큰 수에 비례하지만, 기존 압축 기법은 입력 특성과 압축 강도에 따라 과제 성능을 크게 저하시킬 수 있다. 본 논문은 26편의 1차 문헌을 검토하고, 입력 압축·컨텍스트 선별·캐시 재사용·출력 라우팅을 기능적으로 구분한 4층 게이트웨이와 보존 신호 기반 적응 가드를 제안한다. 결정론적 재현 실험에서 도구 출력과 RAG 컨텍스트의 토큰을 각각 51.35%와 42.12% 절감하였다. 로컬 모델 탐색 실험에서 GSM8K 정답률은 기준선 0.500, 단순 압축 0.167, 가드 압축 0.208이었고, MBPP Pass@1은 각각 0.700, 0.550, 0.650, HotpotQA 정보이득 선별은 컨텍스트를 60.02% 줄이며 F1을 0.595에서 0.511로 바꾸었다. 보존 신호는 압축 위험을 줄이는 제어 변수이지만 과제 성능을 무조건 보장하지는 않으며, 고밀도 추론 입력에는 압축 후퇴가 필요하다.

    최근 본 자료 전체보기