메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
배지훈 (한국전자통신연구원) 임준호 (한국과학기술원) 유재학 (한국전자통신연구원) 김귀훈 (한국전자통신연구원) 김준모 (한국과학기술원)
저널정보
대한전자공학회 전자공학회논문지 전자공학회논문지 제54권 제5호 (통권 제474호)
발행연도
2017.5
수록면
35 - 41 (7page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
본 논문에서는 지식추출(knowledge distillation) 및 지식전달(knowledge transfer)을 위하여 최근에 소개된 선생-학생 프레임워크 기반의 힌트(Hint)-knowledge distillation(KD) 학습기법에 대한 성능을 분석한다. 본 논문에서 고려하는 선생-학생 프레임워크는 현재 최신 딥러닝 모델로 각광받고 있는 딥 residual 네트워크를 이용한다. 따라서, 전 세계적으로 널리 사용되고 있는 오픈 딥러닝 프레임워크인 Caffe를 이용하여 학생모델의 인식 정확도 관점에서 힌트-KD 학습 시 선생모델의 완화상수 기반의 KD 정보 비중에 대한 영향을 살펴본다. 본 논문의 연구결과에 따르면 KD 정보 비중을 단조감소하는 경우보다 초기에 설정된 고정된 값으로 유지하는 것이 학생모델의 인식 정확도가 더 향상된다는 것을 알 수 있었다.
#Knowledge distillation #Hint training #Deep residual networks #Caffe

목차

요약
Abstract
Ⅰ. 서론
Ⅱ. 본론
Ⅲ. 실험 결과
Ⅳ. 결론
REFERENCES

참고문헌 (12)

참고문헌 신청
Y.-T. Park, “A comparative study of image recognition by neural network classifier and linear tree classifier”, Journal of The Institute of Electronics and Information Engineers-B, vol. 31, no. 5, pp. 141-148, 1994. S. Hong, W. Im, J. Park, and H.-S. Yang, “Deep CNN-based person identification using facial and clothing features”, in Proc. of Summer Conference on Institute of Electronics and Information Engineers (IEIE), pp. 2204-2207, June, 2016. Y. Shin, J.-H. Park, S. Shin, G. Lim, S. Song, C. Lee, and J.-M. Chung, “Improvement of image classification in augmented reality based on deep learning”, in Proc. of Summer Conference on Institute of Electronics and Information Engineers (IEIE), pp. 1771-1773, June, 2016. G. Hinton, O. Vinyals, and J. Dean, “Distilling the knowledge in a neural netwok”, arXiv prreprint arXiv:1503.02531, pp. 1-19, 2015. A. Romero, N. Ballas, S.E. Kahou, A. Chassang, C. Gatta, and Y. Bengio, “Fitnets: Hints for thin deep nets”, in Proc. of 5th International Conference on Learning Representations (ICLR), pp. 1-13, San Diego, May 7-9, 2015.

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

희소표현법과 딥러닝을 이용한 초고해상도 기반의 얼굴 인식
권오설 멀티미디어학회논문지 2018 .02
신재생에너지용 태양광 PCS 국내 기술기준 및 성능시험
윤용호 전기학회논문지 2018 .03
딥 러닝 기반 DASH 를 이용한 비디오 스트리밍 적용
김이슬 ,  문준우 ,  박경진 외 3명 한국HCI학회 학술대회 2018 .01
워드 임베딩 모델을 활용한 패션 트렌드 분석
이제원 ,  임훤 ,  임순범 한국HCI학회 학술대회 2018 .01
순환신경망(Recurrent Neural Network) 모델을 통한 음악 데이터 학습
정에스더 ,  서용덕 한국HCI학회 학술대회 2018 .01

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2018-569-000888438