인문학
사회과학
자연과학
공학
의약학
농수해양학
예술체육학
복합학
DBpia AI
AI 에이전트
AI 아이디어
AI 리더
AI 뷰어
Citeasy
크롬 서지관리 다운로드
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학위논문
- 저자정보
- 지도교수
- 박철수
- 발행연도
- 2021
- 저작권
- 광운대학교 논문은 저작권에 의해 보호받습니다.
이용수47
초록· 키워드
상세정보 수정요청해당 페이지 내 제목·저자·목차·페이지정보가 잘못된 경우 알려주세요!
스파이킹 뉴럴 네트워크(Spiking Neural Network, 이하 SNN)란 3세대 딥 러닝 네트워
크로 불리우는 모델로서 생물학적 뉴런들이 서로 스파이크라 불리 우는 전기적 신호를
주고받으며 학습이 일어나는 구조를 바탕으로 제안 된 모델이다. 따라서 SNN은 이진
화 된 스파이크 신호를 이용하며, 기존 딥 러닝 모델에서 빈번이 이용되는 오차 역전파
등의 비 생물학적 모델을 지양함으로 뉴로모픽 하드웨어에 특화된 구조로 낮은 연산량
대비 높은 성능을 보여주는 차세대 모델이다. 이와 같은 빠른 속도를 바탕으로 뉴로모
픽 하드웨어가 적용될 수 있는 임베디드 시스템 전반적인 산업 군에 이용될 수 있다는
장점이 있다. 뿐만 아니라 실제 인간의 뇌의 구조를 긴밀히 모방하여 만들어진 구조로
서 뇌인지 과학 측면에서도 의의를 가진다. 하지만 SNN은 여전히 기존 딥 러닝 대비
성능 면에서 뒤떨어진다는 단점과 학습을 위해 많은 데이터가 필요하다는 문제 또한
가지고 있다. 본 논문에서는 앞서 언급한 단점을 극복하기 위해 생물학적으로 타당한
모델인 억제량 조절, 시냅틱 와이어링, 베이지안 추론 방법들을 제안하고 적용하여 작
은 데이터량 대비 높은 성능을 보이는 딥 러닝 모델을 구현하였고 딥 러닝 모델의 성
능 지표로 빈번이 이용되는 MNIST 손글씨 데이터 셋을 이용하여 성능 평가를 진행하
였다. 먼저 학습 단계에서 이용한 억제량 조절 모델에서는 억제성 뉴런과 흥분성 뉴런
들 간의 상관관계를 이용하여 입력으로 들어오는 데이터에 대하여 반복적으로 함께 반응하는 뉴런들에 대한 억제량을 조절해 줌으로서 해당 뉴런들의 발화(spike firing)가
빈번하게 일어날 수 있게 도와주었고, 나아가서 반응하는 뉴런들의 발화가 지속적으로
증가하여 임계치를 넘을 경우 해당 뉴런들의 억제량을 양수로 바꾸어주어 입력에 대해
항상 반응할 수 있는 시냅틱 와이어링 모델을 제안하였다. 결국 시냅틱 와이어링으로
인해 만들어진 반복적으로 함께 발화하는 뉴런들 구조는 헵의 가정(Hebb’s postulate)
에 따르면 해당 뉴런들의 시냅스 연결을 의미한다. 추가적으로 발화된 뉴런들의 스파이
크들의 개수, MNIST 입력 데이터의 클래스, 모델의 학습 과정에서 도출된 각 클래스
별 학습된 뉴런들의 개수를 이용해 베이지안 추론을 적용하였다. 베이지안 추론모델에
서 PDF로는 생물학적 뉴런들의 스파이크 발생 패턴에 맞추어 포아송 PDF를 이용하였
다. 본 논문의 결과로는 전체 60,000개의 MNIST 학습 데이터 중 2,000개 만을 이용하
여 학습을 시키고 전체 10,000개의 검증데이터를 이용하여 검증을 진행하였을 때 최고
94.10%의 정확도 (3,000개의 뉴런을 이용)를 보여 생물학적 모델을 이용한 최고성능 모
델인 Diehl et al. 모델과 유사한 성능을 0.002%의 데이터를 이용하여 보여줌을 확인하
였다.
크로 불리우는 모델로서 생물학적 뉴런들이 서로 스파이크라 불리 우는 전기적 신호를
주고받으며 학습이 일어나는 구조를 바탕으로 제안 된 모델이다. 따라서 SNN은 이진
화 된 스파이크 신호를 이용하며, 기존 딥 러닝 모델에서 빈번이 이용되는 오차 역전파
등의 비 생물학적 모델을 지양함으로 뉴로모픽 하드웨어에 특화된 구조로 낮은 연산량
대비 높은 성능을 보여주는 차세대 모델이다. 이와 같은 빠른 속도를 바탕으로 뉴로모
픽 하드웨어가 적용될 수 있는 임베디드 시스템 전반적인 산업 군에 이용될 수 있다는
장점이 있다. 뿐만 아니라 실제 인간의 뇌의 구조를 긴밀히 모방하여 만들어진 구조로
서 뇌인지 과학 측면에서도 의의를 가진다. 하지만 SNN은 여전히 기존 딥 러닝 대비
성능 면에서 뒤떨어진다는 단점과 학습을 위해 많은 데이터가 필요하다는 문제 또한
가지고 있다. 본 논문에서는 앞서 언급한 단점을 극복하기 위해 생물학적으로 타당한
모델인 억제량 조절, 시냅틱 와이어링, 베이지안 추론 방법들을 제안하고 적용하여 작
은 데이터량 대비 높은 성능을 보이는 딥 러닝 모델을 구현하였고 딥 러닝 모델의 성
능 지표로 빈번이 이용되는 MNIST 손글씨 데이터 셋을 이용하여 성능 평가를 진행하
였다. 먼저 학습 단계에서 이용한 억제량 조절 모델에서는 억제성 뉴런과 흥분성 뉴런
들 간의 상관관계를 이용하여 입력으로 들어오는 데이터에 대하여 반복적으로 함께 반응하는 뉴런들에 대한 억제량을 조절해 줌으로서 해당 뉴런들의 발화(spike firing)가
빈번하게 일어날 수 있게 도와주었고, 나아가서 반응하는 뉴런들의 발화가 지속적으로
증가하여 임계치를 넘을 경우 해당 뉴런들의 억제량을 양수로 바꾸어주어 입력에 대해
항상 반응할 수 있는 시냅틱 와이어링 모델을 제안하였다. 결국 시냅틱 와이어링으로
인해 만들어진 반복적으로 함께 발화하는 뉴런들 구조는 헵의 가정(Hebb’s postulate)
에 따르면 해당 뉴런들의 시냅스 연결을 의미한다. 추가적으로 발화된 뉴런들의 스파이
크들의 개수, MNIST 입력 데이터의 클래스, 모델의 학습 과정에서 도출된 각 클래스
별 학습된 뉴런들의 개수를 이용해 베이지안 추론을 적용하였다. 베이지안 추론모델에
서 PDF로는 생물학적 뉴런들의 스파이크 발생 패턴에 맞추어 포아송 PDF를 이용하였
다. 본 논문의 결과로는 전체 60,000개의 MNIST 학습 데이터 중 2,000개 만을 이용하
여 학습을 시키고 전체 10,000개의 검증데이터를 이용하여 검증을 진행하였을 때 최고
94.10%의 정확도 (3,000개의 뉴런을 이용)를 보여 생물학적 모델을 이용한 최고성능 모
델인 Diehl et al. 모델과 유사한 성능을 0.002%의 데이터를 이용하여 보여줌을 확인하
였다.
목차
- 제 1 장 서론 ?????????????????????? 1제 2 장 관련 연구 ???????????????????? 4제 3 장 알고리즘설계 ???????????????????? 73.1 입력 뉴런 층 ???????????????????? 93.2 첫 번째 뉴런 층 ??????????????????? 103.3 두 번째 뉴런 층 ??????????????????? 123.3.1 억제량 변화 모델 ????????????????? 133.3.2 시냅틱 와이어링 ?????????????????? 153.3.3 추론 ??????????????????????? 18제 4 장 실험 결과 ???????????????????? 20제 5 장 고찰 ??????????????????????? 24제 6 장 결론 ??????????????????????? 25참고 문헌 ???????????????????????? 26
최근 본 자료
