지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
이용수
초록· 키워드
오류제보하기
온디바이스 AI(On-device AI)는 클라우드 중심 AI가 지닌 프라이버시, 지연 시간, 비용 등 본질적인 제약을 극복하기 위한 핵심적인 기술로써, 외부 네트워크로 민감한 정보가 유출되지 않아 프라이버시 보호 측면에서 뛰어나며, 데이터 전송으로 인한 네트워크 지연 없이 빠른 추론이 가능하다는 장점을 가진다. 온디바이스 AI 기술 구현을 위해선 MCU(Microcontroller Unit)부터 고성능 모바일 AP(Application Processor), NPU(Neural Processing Unit)에 이르는 하드웨어 플랫폼의 발전과, Tensorflow Lite와 같은 경량 추론 프레임워크와 최적화 라이브러리가 필수적이다. 또한, 자원 제약적인 임베디드 디바이스에 AI 모델을 탑재하기 위해 모델의 성능 저하를 최소화하며 크기와 연산량을 줄이는 모델 경량화 기법과 경량 딥러닝 모델 구조가 핵심 기술로 부각되고 있다. 본고는 이러한 기반 기술들에 대해 간략히 살펴본다. 이후 소개된 기술들을 바탕으로 구현된 경량 음성 인터페이스와 경량 영상 인식 시스템, 시계열 예측과 이상치 진단, 나아가 경량화된 대규모 언어 모델(Small Large Language Model, sLLM)의 적용 가능성에 대해 살펴보고, 구체적인 응용 사례들을 통해 온디바이스 AI의 가능성을 확인하고자 한다.
목차
요약
I. 서론
Ⅱ. 온디바이스 AI 기술과 플랫폼
Ⅲ. 온디바이스 AI 구현을 위한 경량화 기법
Ⅳ. 온디바이스 AI 주요 활용 사례
Ⅴ. 경량 sLLM 기반 온디바이스 AI
Ⅵ. 결론
참고문헌
참고문헌 (0)
참고문헌 신청최근 본 자료
댓글(0)
0