인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
온디바이스 환경에서 UFS 저장장치를 활용하는 거대 언어 모델 추론 기법 On-Device Large Language Model Inference with UFS-Based Storage
논문 기본 정보
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers 한국정보과학회 학술발표논문집 한국정보과학회 2025 한국컴퓨터종합학술대회 논문집
- 발행연도
- 2025.7
- 수록면
- 1,667 - 1,669 (3page)
온디바이스 환경에서 UFS 저장장치를 활용하는 거대 언어 모델 추론 기법
초록·키워드
거대 언어 모델(LLM)의 온디바이스 추론은 네트워크 지연을 제거하고 사용자 정보를 보호할 수 있다는 장점이 있지만, 단말 장치의 메모리가 부족하여 전체 모델을 모두 적재할 수 없는 경우에 는 심각한 성능 저하가 발생한다. 본 연구에서는 제한된 메모리 자원을 바탕으로 메모리 사용을 최소화하며 저장장치의 처리 성능을 극대화하는 새로운 추론 ... 전체 초록 보기
본문·목차
인공지능 문자 인식 모델을 통해 추출된 텍스트로, 일부 오타나 오류가 포함될 수 있으나 지속적으로 개선 중입니다.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
오류를 발견하셨다면 해당 부분을 드래그한 후 ' 를 통해 신고해주세요.
최근 본 자료 전체보기
UCI(KEPA) : I410-151-25-02-093743071